Крупнейшие разработчики искусственного интеллекта начали координировать усилия по безопасности своих моделей на фоне растущих опасений по поводу рисков, которые несет развитие передовых систем. OpenAI, Anthropic и Google DeepMind уже несколько недель проводят переговоры, причем параллельно в США усиливается спор о том, нужно ли вообще замедлять развитие ИИ.

О сотрудничестве во вторник рассказал Крис Лихейн, руководитель глобальной политики OpenAI. Как сообщает TechCrunch со ссылкой на Bloomberg, сейчас он находится в Вашингтоне и работает с американскими законодателями над вопросами, связанными с потенциально катастрофическими рисками ИИ.

Конкуренты решили обсуждать безопасность вместе

О том, что крупнейшие AI-компании могут координировать действия, стало известно после выступления Дарио Амодеи, главы Anthropic. В эссе, опубликованном 12 сентября, он призвал разработчиков передовых моделей совместно снизить темп гонки за все более мощным ИИ, чтобы не допустить катастрофических последствий.

Идею поддержали руководители нескольких крупнейших компаний отрасли. Сэм Альтман из OpenAI заявил, что его компания готова последовать предложению Anthropic и внедрить сторонних специалистов, которые смогут независимо оценивать безопасность моделей. Демис Хассабис из Google DeepMind также поддержал инициативу. Свою поддержку высказал и Илон Маск.

Теперь выяснилось, что речь шла не только о публичных заявлениях. OpenAI, Anthropic и Google DeepMind действительно уже несколько недель обсуждают вопросы безопасности между собой.

При этом подобное сотрудничество создает для конкурентов неожиданную юридическую проблему. Компании, которые одновременно борются за лидерство на рынке ИИ, не могут без ограничений договариваться о совместных действиях: такая координация потенциально может вызвать вопросы с точки зрения антимонопольного законодательства.

Амодеи поэтому предложил создать специальное узкое исключение в законодательстве, которое разрешало бы AI-компаниям сотрудничать именно в вопросах безопасности. По словам Лихейна, OpenAI считает, что отдельная государственная оговорка для таких переговоров не нужна.

Компании хотят создать общие правила

Последние события показывают, что обсуждение может идти еще дальше. Ранее стало известно, что OpenAI, Anthropic и Google работают над созданием отраслевого органа, который занимался бы стандартами безопасности ИИ.

Идея заключается в том, чтобы у индустрии появились общие правила оценки наиболее мощных моделей. Альтман, как сообщалось, говорил сотрудникам OpenAI, что такой механизм должен появиться даже без участия правительства США.

Хассабис еще в июле призывал Вашингтон создать отдельный орган, который выполнял бы роль наблюдателя за развитием ИИ. Среди его возможных полномочий — проверка наиболее передовых моделей и координация замедления их разработки, если уровень опасности начнет расти.

Таким образом, речь идет уже не просто об обмене мнениями между конкурентами. Компании пытаются выработать механизм, который позволил бы отрасли устанавливать единые критерии безопасности для систем, возможности которых быстро приближаются к пределам, которые сами разработчики пока не всегда могут надежно оценить.

В Вашингтоне считают, что замедляться нельзя

При этом у этой идеи есть серьезный политический противник. Администрация Дональда Трампа выступает против ужесточения регулирования ИИ и предупреждений о возможных катастрофических рисках.

Сам Трамп называл опасения по поводу безопасности ИИ обманом и заявлял, что замедление развития отрасли может дать Китаю преимущество в технологической гонке. Его советник по вопросам ИИ Дэвид Сакс также говорил, что опасения по поводу экзистенциальных рисков искусственного интеллекта преувеличены.

Получается необычная ситуация: крупнейшие AI-компании, конкурирующие за лидерство в одной из самых быстрорастущих технологических отраслей, одновременно пытаются договориться о правилах, которые могут ограничить скорость этой гонки. А американские власти, напротив, опасаются, что подобные ограничения ослабят позиции США в противостоянии с Китаем.

OpenAI поддержала независимые проверки

На той же встрече во вторник Лихейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act, которое обязало бы крупнейшие лаборатории, разрабатывающие передовые AI-модели, допускать независимые организации для проверки безопасности их систем.

Это важное отличие от модели, при которой сами разработчики определяют, насколько безопасен созданный ими ИИ. Независимая проверка должна дать внешним специалистам возможность оценивать процесс разработки и выявлять потенциально опасные проблемы.

Пока неизвестно, приведут ли нынешние переговоры OpenAI, Anthropic и Google к формальным отраслевым правилам. Но сам факт их сотрудничества показывает, насколько серьезно крупнейшие разработчики стали воспринимать проблему: конкуренция за самые мощные модели продолжается, однако компании все чаще приходят к выводу, что некоторые вопросы безопасности невозможно эффективно решать в одиночку.