Глава OpenAI Сэм Альтман считает, что многомиллионные расходы AI-компаний и связанных с ними инвесторов на американскую политику не помогают улучшить отношение общества к искусственному интеллекту. В интервью POLITICO он также выступил за новые правила ответственности для разработчиков моделей, способных самостоятельно проводить кибератаки, и заявил, что готов поддержать более жесткое регулирование ИИ.

«Что-то явно не работает»

AI-индустрия в последние месяцы активно вкладывает деньги в американскую политику накануне промежуточных выборов. Однако, по мнению Альтмана, такой подход не решает главную проблему — негативное отношение части общества к искусственному интеллекту.

«Я понимаю, почему сейчас у ИИ очень негативная репутация», — сказал глава OpenAI. По его словам, тратить деньги на политику недостаточно, чтобы люди стали лучше относиться к технологии. Индустрии необходимо разобраться с реальными претензиями общества, тогда как многие представители AI-бизнеса сейчас, по его оценке, недостаточно чувствительны к этим вопросам.

Альтман также не считает, что переименование искусственного интеллекта в «суперинтеллект», которое недавно продвигала администрация Дональда Трампа, изменит отношение людей к технологии. Сам термин он считает более точным, но сомневается, что он будет восприниматься как менее пугающий.

OpenAI допускает некоторый вред ради пользы от ИИ

В интервью Альтман обозначил и отличие позиции OpenAI от подхода Anthropic к безопасности. По его словам, OpenAI готова мириться с некоторыми негативными последствиями использования ИИ, если общая польза технологии для общества будет значительно выше.

Речь, в частности, идет о мошенничестве, злоупотреблениях и других формах вреда, которые невозможно полностью исключить при широком распространении мощных моделей.

Альтман считает, что попытка гарантировать отсутствие любых серьезных злоупотреблений может привести к чрезмерно жесткому регулированию. При этом он отдельно подчеркнул, что потеря контроля над ИИ — уже другая категория риска. В отношении систем, которые могут получить слишком большую автономность, он призвал не торопиться с ускорением их развития.

Для автономных кибератак нужны новые правила ответственности

Одним из наиболее конкретных предложений Альтмана стала разработка нового механизма юридической ответственности для компаний, чьи модели способны самостоятельно проводить кибератаки.

Поводом стали недавние инциденты с автономными AI-системами, в том числе взлом инфраструктуры Hugging Face и атаки на государственные сайты. Альтман назвал подобное поведение «явно неприемлемым» и заявил, что разработчики должны нести определенную ответственность, если проблемы возникают с их моделями в процессе обучения.

При этом окончательная модель такой ответственности пока не определена. Альтман считает, что ее должны обсуждать законодатели, однако Конгресс США пока не пришел к единому подходу к регулированию ИИ.

Альтман готов к более жестким ограничениям

Глава OpenAI также поддержал подписанное недавно технологическими компаниями и администрацией Трампа добровольное соглашение о безопасности ИИ, назвав его хорошим началом. При этом он заявил, что приветствовал бы дополнительные меры регулирования.

Одновременно Альтман выразил обеспокоенность тем, что правила для AI-индустрии сейчас во многом формируются Белым домом и руководителями технологических компаний без полноценного участия Конгресса и общественного обсуждения.

По его мнению, чрезмерное регулирование тоже способно создать риск: если контроль над технологией окажется сосредоточен у небольшого числа компаний, людей или одной страны, это само по себе может привести к опасной концентрации власти.

OpenAI дистанцируется от части политических доноров AI-индустрии

На этом фоне Альтман старается отделить позицию OpenAI от инвесторов и технологических руководителей, выступающих за максимально быстрое развитие ИИ и активно финансирующих политические кампании против жесткого регулирования.

Он призвал сторонников ускоренного развития технологий осторожнее относиться к риску потери контроля над мощными системами. Президент OpenAI Грег Брокман также, согласно сообщениям СМИ, отказался от второго пожертвования в размере $25 млн в пользу политической сети Leading the Future и извинился перед сотрудниками компании за возникший вокруг этого вопроса отвлекающий эффект.

Таким образом, позиция Альтмана выглядит одновременно как попытка защитить более мягкий подход OpenAI к регулированию и как признание необходимости новых правил там, где автономные системы уже способны причинять реальный ущерб. При этом глава компании не поддерживает ни полное отсутствие ограничений, ни модель, при которой безопасность ИИ полностью определяется узким кругом технологических компаний и чиновников.