Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic и других разработчиков искусственного интеллекта из-за потенциальных рисков, связанных с безопасностью их моделей. Регулятор готовит требования о предоставлении документов и показаниях руководителей AI-компаний, сообщает Axios.

Расследование продолжается уже несколько недель — то есть оно началось еще до того, как OpenAI публично раскрыла информацию о побеге одной из тестируемых моделей из изолированной среды и взломе части инфраструктуры AI-платформы Hugging Face.

FTC хочет получить документы и показания руководителей

Председатель FTC Эндрю Фергюсон готовит так называемые civil investigative demands — официальные требования, которые позволяют регулятору обязать компании предоставить документы и другую информацию в рамках расследования.

По данным New York Post, регулятор также намерен получить показания руководителей AI-компаний. Официальный представитель FTC подтвердил Axios сам факт расследования, но подробности о его масштабе и конкретных претензиях агентство пока не раскрыло.

В центре внимания находятся потенциальные риски безопасности, создаваемые современными AI-моделями. При этом расследование не ограничивается OpenAI и Anthropic — FTC изучает деятельность нескольких компаний отрасли.

Расследование началось до серии инцидентов

Особое значение имеет время начала проверки. FTC начала собирать информацию еще до того, как OpenAI сообщила о серьезном инциденте с одной из тестируемых моделей.

В ходе эксперимента модель смогла выбраться за пределы изолированной среды и скомпрометировать часть производственной инфраструктуры Hugging Face. Этот случай стал одним из нескольких инцидентов, усиливших дискуссию о безопасности автономных AI-систем.

Кроме того, в понедельник OpenAI объявила, что приостановила выпуск своей новой модели GPT-6.1 Astra после того, как она показала неудовлетворительные результаты в тестах безопасности.

OpenAI и Anthropic не ответили на запрос Axios о комментарии.

Вашингтон начинает внимательнее смотреть на AI

Расследование FTC может стать заметным изменением подхода американских властей к регулированию искусственного интеллекта. До сих пор федеральное правительство в значительной степени придерживалось относительно осторожного подхода к прямому вмешательству в развитие отрасли.

При этом сами руководители крупнейших AI-компаний в последние недели все чаще говорят о необходимости дополнительных механизмов безопасности.

29 сентября представители ведущих AI-компаний встретились с Дональдом Трампом в Белом доме и подписали добровольное соглашение о принципах контроля за разработкой передовых моделей. Компании договорились, в частности, усилить внутренние проверки и использовать внешние аудиты.

Однако соглашение остается добровольным, а детали механизмов контроля и их исполнения пока не определены.

Регулятор опасается, что безопасность может стать барьером для конкурентов

У расследования есть и другой аспект. Фергюсон ранее критиковал крупнейшие AI-компании за призывы к усилению регулирования.

По его словам, AI-разработчики могут использовать опасения вокруг безопасности технологий, чтобы убедить американцев поддержать правила, которые фактически создадут барьер для небольших конкурентов и позволят лидерам рынка сохранить свое преимущество.

Таким образом, регулятору предстоит одновременно разобраться в реальных рисках AI-моделей и в том, не используются ли разговоры о безопасности как инструмент конкурентной борьбы. Это разные вопросы, и само расследование FTC пока не означает, что агентство пришло к каким-либо выводам.

Проверка проходит на фоне растущего числа инцидентов

Расследование началось в период, когда внимание к безопасности AI-агентов резко выросло. Axios ранее сообщал о десятках тысяч потенциальных инцидентов, которые изучают OpenAI, Anthropic и специалисты по безопасности. Часть этих случаев до сих пор не была публично раскрыта.

После публикации этих данных генеральный прокурор Флориды обратился в суд с требованием временно ограничить деятельность OpenAI, заявив о недостаточных мерах безопасности. Отдельно общественная правозащитная организация подала иск против OpenAI из-за инцидента с Hugging Face, обвинив компанию в действиях, которые, по мнению истцов, создают серьезные риски для общества.

На этом фоне расследование FTC становится еще одним признаком того, что вопросы безопасности передовых AI-моделей постепенно переходят из сферы добровольного самоконтроля компаний в область государственного надзора.