Руководители ведущих компаний в области искусственного интеллекта призвали страны координировать усилия по контролю за развитием ИИ. На заседании Совета Безопасности ООН 23 сентября глава Anthropic Дарио Амодеи заявил, что при неправильном управлении искусственный интеллект может представлять угрозу для человечества. Глава OpenAI Сэм Альтман, в свою очередь, выступил за международное сотрудничество и подчеркнул, что ключевые решения о развитии ИИ не должны приниматься исключительно технологическими компаниями.

Заседание организовала Франция в рамках проходящей в Нью-Йорке Генеральной ассамблеи ООН. Оно стало продолжением дискуссии о том, как государства должны реагировать на быстрое развитие ИИ и связанные с ним риски, сообщает Reuters.

«Ни один лидер и ни одна страна не справятся с этим в одиночку»

Амодеи заявил членам Совета Безопасности, что ИИ одновременно представляет собой глобальную возможность и глобальную угрозу. По его словам, различия между странами необходимо отложить в сторону, чтобы совместно заниматься вопросами безопасности технологии.

«Если ИИ будет управляться неправильно, я считаю, что он может стать риском для человечества в целом», — сказал глава Anthropic.

Особое внимание на заседании уделили перспективе появления более мощных систем, которые смогут самостоятельно совершенствовать свои возможности и выполнять все более сложные задачи. На этом фоне правительства разных стран пока не успевают адаптировать механизмы контроля к скорости развития технологии.

США и Китай расходятся в подходах

Представители США и Китая на заседании продемонстрировали разные взгляды на международное регулирование искусственного интеллекта.

Советник Белого дома по науке и технологиям Майкл Крациос заявил, что государства не смогут эффективно регулировать технологию, которую недостаточно понимают. По его мнению, международным организациям следует сосредоточиться на обмене лучшими практиками и развитии национальной экспертизы, а не на создании глобальной системы регулирования ИИ.

Эта позиция соответствует заявлениям президента США Дональда Трампа, который накануне заявил, что выступает против попыток создать глобальную систему контроля над искусственным интеллектом.

Китай, напротив, призвал к дальнейшему развитию механизмов регулирования, экстренного реагирования и трансграничного сотрудничества. Постпред Китая при ООН Фу Цун заявил, что международному сообществу необходимо теснее взаимодействовать и одновременно учитывать вопросы безопасности и развития ИИ.

«Если ИИ должен быть демократичным»

Сэм Альтман также говорил о необходимости международного подхода, но сделал акцент на участии государств и общества в принятии решений.

«Если ИИ должен быть демократичным, наиболее важные решения не могут приниматься одними лабораториями в Сан-Франциско», — заявил глава OpenAI.

По его словам, такие решения должны формироваться в рамках демократических процессов и при участии правительств, ответственных перед своими гражданами.

Высказывания Альтмана прозвучали на фоне растущего внимания к тому, насколько автономными становятся современные AI-агенты и какие действия они способны выполнять без непосредственного контроля человека.

ИИ уже используют и для атак, и для защиты

Сооснователь Hugging Face Клеман Деланг отметил, что искусственный интеллект одновременно создает новые угрозы в сфере кибербезопасности и становится инструментом защиты от них.

Он привел в пример инцидент, в ходе которого AI-агенты OpenAI смогли выбраться из тестовой среды и проникнуть в инфраструктуру Hugging Face.

«На нас напал ИИ, но, что еще важнее, мы защищались с помощью ИИ», — заявил Деланг.

По его словам, для защиты Hugging Face использовала китайскую модель ИИ, поскольку она была доступна с меньшими ограничениями, чем сопоставимые американские инструменты. Этот эпизод, по мнению Деланга, также показывает, как китайские AI-модели расширяют присутствие на мировом рынке, в том числе благодаря более низкой стоимости.

О другом инциденте в тот же день сообщил премьер-министр Австралии Энтони Альбанезе. По его словам, в июне AI-агент OpenAI проник на правительственный сайт Австралии и получил доступ к публичным и непубличным файлам.

В ООН спорят уже не только о регулировании

К обсуждению присоединился и канадский исследователь Йошуа Бенжио, которого называют одним из «крёстных отцов ИИ». Он заявил Совету Безопасности, что опасности, связанные с развитием технологии, реальны и уже близки.

Генеральный секретарь ООН Антониу Гутерриш на протяжении нескольких лет выступает за создание международных механизмов управления искусственным интеллектом. На этом фоне позиции Вашингтона и ООН по вопросу глобального регулирования заметно расходятся.

Совет Безопасности впервые обсудил риски ИИ еще в 2023 году. Тогда Китай предупредил, что технология не должна превратиться в «сбежавшую лошадь», а США призвали учитывать риски использования ИИ для цензуры и репрессий. В 2024 году заседание Совбеза по искусственному интеллекту прошло вновь — его тогда возглавлял госсекретарь США Энтони Блинкен.

Нынешняя дискуссия показывает, что вопрос постепенно выходит за рамки исключительно технологической политики. По мере роста возможностей AI-систем государства обсуждают уже не только правила их разработки, но и трансграничные инциденты, кибербезопасность, международную координацию и распределение ответственности за решения, принимаемые с помощью ИИ.