OpenAI предложила международные стандарты безопасности искусственного интеллекта на фоне обсуждения между США и Китаем механизмов совместного реагирования на риски, связанные с развитием ИИ. Компания считает, что странам нужны единые подходы к классификации инцидентов, их отслеживанию и обмену информацией о проблемах с безопасностью моделей.

Предложения OpenAI появились после переговоров министра финансов США Скотта Бессента и вице-премьера Китая Хэ Лифэна. Стороны обсуждали возможность создания канала связи, по которому страны могли бы уведомлять друг друга об инцидентах с ИИ, достигших уровня угрозы национальной безопасности, передаёт Axios.

Единые правила для инцидентов с ИИ

OpenAI предлагает задействовать институты безопасности ИИ, работающие в разных странах, для выработки общих стандартов. Координировать этот процесс, по предложению компании, мог бы американский Центр безопасности и инноваций в сфере ИИ при Министерстве торговли США.

Речь идет не только о формальных правилах. OpenAI предлагает разработать общие международные показатели, с помощью которых можно было бы классифицировать инциденты с ИИ и определять их серьезность.

Компании и государственные структуры также должны использовать сопоставимые подходы к отслеживанию, документированию и устранению проблем, связанных с поведением моделей, которое не соответствует заданным целям.

По словам представителя OpenAI, международные стандарты должны охватывать как проблемы, выявленные до выпуска системы — например, во время тестирования, — так и реальные инциденты после ее внедрения.

США и Китай обсуждают прямой обмен информацией

Предложения OpenAI появились в момент, когда Вашингтон и Пекин рассматривают возможность более тесного взаимодействия в сфере безопасности ИИ.

На переговорах в выходные Бессент и Хэ Лифэн обсудили идею диалога США и Китая по вопросам рисков искусственного интеллекта. Один из рассматриваемых механизмов предполагает, что страны будут уведомлять друг друга, если произойдет инцидент, связанный с ИИ, который достигнет уровня угрозы национальной безопасности.

При этом конкретные параметры такого взаимодействия пока остаются предметом переговоров. Именно здесь, отмечает Axios, наиболее важны детали: необходимо определить, какие события считать критическими, какую информацию раскрывать и каким образом страны должны реагировать на такие случаи.

ИИ-индустрия готовится предложить свои правила

OpenAI рассчитывает представить свои предложения на международном уровне. Генеральный директор компании Сэм Альтман должен рассказать о них в среду на заседании Совета Безопасности ООН в Нью-Йорке.

Ожидается, что в ближайшие дни свои позиции будут активнее высказывать и другие разработчики ИИ. Особое внимание отрасли связано с предстоящими встречами президента США Дональда Трампа и председателя КНР Си Цзиньпина, а также с государственным ужином, на котором будут присутствовать руководители крупнейших технологических компаний.

Таким образом, вопрос международных правил для ИИ постепенно выходит за рамки дискуссии между отдельными технологическими компаниями. США и Китай одновременно обсуждают каналы связи для потенциально опасных инцидентов, а разработчики ИИ пытаются сформировать стандарты, которые могут стать основой будущего международного подхода к безопасности технологии.