Президент США Дональд Трамп и руководители крупнейших AI-компаний договорились о добровольных правилах контроля за разработкой и использованием передовых моделей. Компании обязуются усилить внутренние проверки и привлечь независимых аудиторов, однако механизм исполнения соглашения пока остается неясным.

Соглашение было представлено 29 сентября после встречи Трампа, спикера Палаты представителей Майка Джонсона и руководителей технологических компаний в Белом доме. Среди участников были представители OpenAI, Anthropic, Google, Meta и Nvidia.

Компании будут проверять собственные системы

Документ, который участники назвали соглашением или accord, предусматривает несколько уровней контроля над AI-системами. Компании, разрабатывающие и внедряющие передовые модели, должны иметь надежные внутренние процедуры и средства контроля.

По словам Марка Цукерберга, речь идет в том числе о регулярной оценке внутренних механизмов безопасности, выявлении проблем в работе моделей и нескольких уровнях аудита. Предполагается, что компании будут проводить внутренние проверки рисков, а также привлекать внешних аудиторов для независимой оценки технологий.

Майк Джонсон подчеркнул, что речь идет именно о добровольных принципах и стандартах отрасли. По его словам, они должны обеспечить дополнительный надзор и прозрачность без введения обязательного регулирования со стороны государства.

Почему соглашение вызвало вопросы

Главная особенность нового документа заключается в том, что контроль в значительной степени остается внутри самой индустрии. Полный текст и детали механизмов исполнения на момент объявления соглашения не были опубликованы, поэтому пока неясно, какие именно последствия наступят, если компания не выполнит взятые на себя обязательства.

Это особенно важно на фоне недавних инцидентов с AI-агентами и дискуссий о том, достаточно ли добровольного самоконтроля для систем, которые получают доступ к внешним сервисам и способны самостоятельно выполнять сложные задачи. Reuters отмечает, что новое соглашение появилось на фоне растущего внимания к случаям непредсказуемого поведения AI-систем.

Одновременно некоторые представители технологической отрасли, опрошенные Axios, выразили сомнения в том, что саморегулирование сможет решить проблемы безопасности без более формальных механизмов контроля.

Трамп предложил называть AI «суперинтеллектом»

На встрече Трамп также продолжил продвигать собственное название для искусственного интеллекта — super intelligence, или SI. Ранее президент США уже заявил, что американские государственные документы должны использовать этот термин вместо artificial intelligence.

При этом в научной и технологической среде слово «суперинтеллект» уже имеет другое значение: обычно им называют гипотетические AI-системы, способные превзойти человека по широкому спектру интеллектуальных задач. Поэтому новое употребление термина может создавать дополнительную путаницу.

После встречи глава Nvidia Дженсен Хуанг также использовал термин SI, заметив, что ему еще предстоит к нему привыкнуть.

Следующий вопрос — как будут работать правила

Трамп назвал соглашение «морально обязательным» и заявил, что компании будут контролировать друг друга. Однако юридически обязательных требований документ не создает: его участники сами берут на себя перечисленные обязательства.

Тем временем администрация США продолжает формировать структуру государственной AI-политики. Белый дом ожидает назначения нового AI-куратора; по данным Axios, Трамп обсуждает кандидатуру на эту должность с руководством Конгресса.

Таким образом, пока соглашение представляет собой попытку выстроить систему отраслевого самоконтроля вокруг передовых AI-моделей. Насколько действенными окажутся эти правила, будет зависеть прежде всего от того, какие именно проверки компании проведут, насколько независимыми будут внешние аудиторы и что произойдет в случае невыполнения добровольных обязательств.