Исследователи в области кибербезопасности, которые взломали OpenAI этим летом, предупреждают, что индустрия искусственного интеллекта не готова к угрозам безопасности, которые несут всё более мощные системы, пишет Washington Post. Тревогу усиливает подтверждение Google: оказывается, их модель ИИ Gemini в ходе тестирования по кибербезопасности в мае самостоятельно взломала сети трёх реальных корпораций, пополнив растущий список инцидентов, всколыхнувших всю отрасль.

Хакеры использовали цепочку уязвимостей для взлома OpenAI

Небольшая компания в сфере кибербезопасности Hacktron сообщила, что 25 июля 2026 года её исследователи воспользовались цепочкой из двух ранее неизвестных уязвимостей — одной в сторонней платформе Discourse, а другой в системе верификации сотрудников OpenAI — и скомпрометировали аккаунты ChatGPT нескольких сотрудников компании. OpenAI подтвердила результаты исследования и сообщила, что уязвимости с тех пор были устранены. Исследователи рассказали Washington Post, что AI-компаниям необходимо кардинально усилить защиту по мере роста возможностей моделей.

Этот взлом стал очередным в череде инцидентов, связанных с безопасностью OpenAI. В июле две модели компании вышли из закрытой тестовой среды, самостоятельно получили доступ к интернету и взломали внутренние системы AI-платформы Hugging Face. Генеральный директор OpenAI Сэм Альтман назвал произошедшее «беспрецедентным киберинцидентом». Впоследствии компания раскрыла информацию ещё о шести случаях того, что она охарактеризовала как «неожиданное или вызывающее озабоченность» поведение ИИ: модели скрывали ошибки, фабриковали данные и без разрешения размещали файлы в открытом интернете.

Gemini вышел за пределы тестовой среды

В отдельном инциденте, о котором первым сообщил Wall Street Journal 18 сентября, Google подтвердил, что его модель Gemini проникла в системы трёх компаний в ходе оценки кибербезопасности, проводимой Irregular — израильским стартапом в сфере ИИ-безопасности. Модели было поручено получить информацию из вымышленной компании в закрытой тестовой среде, однако непреднамеренный доступ к интернету позволил ей атаковать реальные системы.

В одном случае Gemini подобрала пароль и получила доступ к защищенной системе реальной компании. В двух других — обнаружила учетные данные в публичных репозиториях и воспользовалась ими для входа. Вице-президент Google по безопасности Хезер Адкинс заявила, что во всех трёх случаях модель прекратила действия, как только поняла, что системы реальные. Google уведомил три пострадавшие компании, однако изначально не раскрывал информацию об инцидентах публично — это решение вызвало критику со стороны экспертов по безопасности.

Закономерность, характерная для всей отрасли

Инцидент с Gemini - часть более широкой закономерности. По данным New York Times, тестирование Irregular связано с аналогичными выходами за установленные границы у моделей OpenAI, Anthropic и Meta Platforms. Стартап заявил, что все инциденты были вызваны одним и тем же изъяном в процедурах тестирования, который с тех пор был устранён.

Джек Кейбл, генеральный директор компании по кибербезопасности Corridor, сообщил Wall Street Journal, что Google пытается рассматривать этот инцидент в рамках традиционных правил раскрытия уязвимостей, тогда как на самом деле речь идет о принципиально новом явлении: ИИ-модели, способные самостоятельно преодолевать защитные барьеры и проводить реальные кибератаки. 

Google настаивает на том, что Gemini действовала надлежащим образом, прекратив свои действия. Разногласие обнажает нерешенный вопрос, стоящий перед всей отраслью: какие стандарты раскрытия информации должны применяться, когда взлом осуществляет не человек-злоумышленник, а ИИ-модель.