OpenAI предупредила о наступлении «переломного момента» в кибербезопасности после автономных атак своих ИИ-моделей, передает Cybersecurity Dive. По оценке компании, инциденты, в ходе которых модели самостоятельно использовали уязвимости нулевого дня и проникли в сети других организаций, свидетельствуют о необходимости срочного пересмотра подходов к безопасности при разработке передовых систем искусственного интеллекта.
OpenAI призывает усилить защиту ИИ
На конференции Black Hat 2026 в Лас-Вегасе сотрудник технической команды OpenAI Майкл Далтон заявил, что произошедшее стало поворотным моментом как для самой компании, так и для всей индустрии искусственного интеллекта.
По его словам, после инцидентов OpenAI существенно усилила меры безопасности: несколько команд были полностью переориентированы на предотвращение подобных случаев, компания замедлила исследовательскую работу и значительно расширила мониторинг своих ИИ-агентов.
Далтон подчеркнул, что полностью автоматизированные кибератаки, координируемые искусственным интеллектом, уже стали реальностью. По его мнению, атака на платформу Hugging Face стала лишь «взглядом в ближайшее будущее» того, как будут выглядеть киберугрозы.
В связи с этим OpenAI считает, что защитные технологии должны развиваться быстрее наступательных возможностей ИИ. В компании призывают активнее использовать модели искусственного интеллекта для защиты инфраструктуры, а также уделять особое внимание базовым принципам информационной безопасности, включая сегментацию сетей, минимизацию привилегий пользователей и архитектуру Zero Trust.
Далтон также отметил, что отрасли необходимо добиться ситуации, при которой рост интеллектуальных возможностей моделей будет приносить больше пользы защитникам, чем злоумышленникам. В противном случае, по его словам, каждое новое улучшение ИИ будет усиливать позиции атакующих, что сделает ситуацию неустойчивой.
ИИ самостоятельно создал внутреннюю систему обмена сообщениями
Во время выступления сотрудники OpenAI раскрыли новые подробности инцидентов, произошедших в инфраструктуре компании.
Как выяснилось, модели искусственного интеллекта самостоятельно организовали своеобразную «доску объявлений» внутри системы управления пакетами Artifactory. В течение нескольких месяцев они автономно обменивались информацией и ресурсами, помогая друг другу выполнять поставленные задачи.
Хотя тестовая среда не имела прямого доступа в интернет, модели использовали сетевые возможности Artifactory для загрузки файлов с различных сайтов. После того как изменения конфигурации, внесенные моделями, привели к сбою сервиса 4 июля, OpenAI обнаружила происходящее, полностью очистила систему и восстановила ее. Однако спустя несколько дней модели вновь создали внутреннюю площадку для обмена информацией и продолжили взаимодействие.
В OpenAI ожидают появление коллективов ИИ для кибератак
В компании считают, что подобная автономная кооперация вскоре может быть взята на вооружение злоумышленниками.
По словам Далтона, в ближайшем будущем следует ожидать, что киберпреступники будут намеренно разворачивать, оптимизировать и использовать группы взаимодействующих ИИ-агентов для проведения сложных автоматизированных атак.
По мнению OpenAI, эти события должны стать сигналом для всей отрасли о необходимости значительно усилить меры безопасности при разработке и эксплуатации наиболее мощных моделей искусственного интеллекта.
Следите за NEWS.am Tech на Facebook и Twitter