Глава OpenAI Сэм Альтман заявил, что искусственный интеллект в будущем действительно может выйти из-под контроля человека, а концентрация передовых ИИ-технологий в руках одной компании, человека или государства может привести к «крайне антиутопическим» последствиям. На фоне этих рисков он призвал замедлить гонку за более мощными моделями, чтобы меры безопасности успевали за их развитием.

В интервью Fortune Альтман также подтвердил, что OpenAI не планирует выходить на биржу в 2026 году. По его словам, на фоне происходящего вокруг безопасности ИИ нынешний момент для IPO был бы неудачным; ориентиром теперь становится 2027 год.

«Нам нужно сдерживать фронтир»

Заявления Альтмана прозвучали вскоре после того, как глава Anthropic Дарио Амодеи призвал ведущие ИИ-компании замедлить разработку передовых систем. Альтман публично поддержал эту позицию, написав в X: «Я согласен с Дарио в том, что нам нужно сдерживать фронтир».

При этом под замедлением он не понимает остановку исследований. В отдельной серии публикаций Альтман пояснил, что развитие ИИ будет продолжаться, но компании должны сознательно отказаться от максимально возможной скорости, если она приводит к тому, что возможности моделей начинают опережать меры безопасности.

По его словам, современные инструменты вроде политик ответственного масштабирования и подготовительных процедур создавались в первую очередь для контроля уже готовых моделей. Теперь этого недостаточно: безопасность необходимо учитывать непосредственно во время разработки и обучения новых систем.

В OpenAI, рассказал Альтман, перед некоторыми особенно важными этапами обучения уже заранее формируют специальные оценки безопасности — в частности, перед запусками обучения, которые могут существенно увеличить возможности модели. Компания также использует мониторинг и хочет, чтобы другие разработчики предлагали собственные подходы.

Альтман не исключает потери контроля

Самый тревожный тезис главы OpenAI касается возможности того, что люди в какой-то момент перестанут контролировать созданные ими системы.

В интервью Fortune Альтман признал, что такой сценарий «абсолютно» возможен. При этом он считает, что существующие стандарты безопасности пока недостаточно надежны, чтобы без оговорок продолжать наращивать возможности ИИ.

В своих публикациях он сформулировал проблему еще шире: человечество может однажды «потерять контроль над будущим» из-за искусственного интеллекта. Альтман также предупредил о другом сценарии — концентрации чрезмерной власти у одной компании, человека или государства, получивших доступ к наиболее мощным системам. Последствия такого развития событий он назвал потенциально крайне мрачными, даже «крайне антиутопическими».

При этом Альтман подчеркнул, что OpenAI должна оставаться на стороне человечества, а искусственный интеллект — служить людям.

Именно здесь проходит важная граница в его позиции: он не предлагает отказаться от создания более мощного ИИ, но считает неприемлемой ситуацию, в которой технологические возможности развиваются быстрее, чем способность людей контролировать их последствия.

«Никакое конкурентное давление не оправдывает безрассудство»

Альтман отдельно выступил за единые правила безопасности для ведущих разработчиков ИИ. По его мнению, американским компаниям необходимы согласованные требования на федеральном уровне, а также общие отраслевые стандарты в области мониторинга, безопасности и так называемого misalignment — ситуации, когда поведение системы расходится с заданными человеком целями.

Он также поддержал идею независимых аудиторов.

При этом глава OpenAI считает, что компаниям не стоит ждать, пока правительства примут все необходимые законы. Часть работы индустрия способна выполнить самостоятельно, выработав общие стандарты и договоренности.

Государствам, по его мнению, особенно важно сотрудничать на международном уровне. Развитие передовых ИИ-систем уже невозможно рассматривать исключительно как внутренний вопрос отдельных компаний или стран.

Альтман отдельно подчеркнул: никакое давление, связанное с конкуренцией США за технологическое лидерство, не должно оправдывать безрассудство или позволять возможностям ИИ опережать системы согласования и контроля.

Всё больше разговоров о необходимости замедления

Заявления Альтмана появились на фоне усиления общей тревоги по поводу развития ИИ непосредственно внутри отрасли.

Недавно бывший исследователь Anthropic Джейкоб Коксон покинул компанию из-за опасений по поводу безопасности ИИ и заявил, что ведущие лаборатории слишком быстро движутся к созданию самоулучшающегося суперинтеллекта. По его словам, разговоры о серьезных рисках технологии внутри компаний стали возникать все чаще.

Теперь к этому разговору публично присоединился и руководитель одной из крупнейших ИИ-компаний. Причем Альтман фактически признает саму основу опасений: более мощные системы могут стать труднее для контроля, а нынешние меры безопасности не обязательно успеют за темпами их развития.

Одновременно он не предлагает поставить технологическую гонку на паузу. Его позиция заключается в другом: развивать ИИ нужно медленнее, чем это технически возможно, если более высокая скорость означает отказ от достаточных мер предосторожности.

IPO OpenAI отложат до 2027 года

На этом фоне меняется и отношение OpenAI к собственному финансовому будущему. Альтман подтвердил, что компания не выйдет на биржу в 2026 году.

Он назвал нынешний момент неподходящим для IPO именно из-за ситуации с безопасностью ИИ. По его словам, OpenAI не испытывает давления и готова выходить на публичный рынок тогда, когда к этому будут готовы и сама компания, и общество. На вопрос о 2027 годе Альтман ответил утвердительно.

Таким образом, безопасность становится для OpenAI не только технической или этической проблемой. Она все заметнее влияет на решения, связанные с темпами разработки, отношениями с другими ИИ-компаниями, регулированием и даже будущим публичным статусом самой OpenAI.

При этом Альтман по-прежнему исходит из того, что развитие искусственного интеллекта продолжится быстрыми темпами. Главный вопрос теперь не в том, удастся ли остановить эту гонку, а в том, смогут ли разработчики договориться о том, где скорость уже становится слишком высокой для существующих механизмов контроля.