Бывший исследователь безопасности Anthropic и OpenAI Джейкоб Коксон, недавно покинувший Anthropic из-за опасений по поводу искусственного интеллекта, заявил, что внутри ведущих ИИ-компаний все чаще обсуждают риски, связанные с развитием технологии. По его словам, индустрия движется слишком быстро, а времени на осмысление возможных последствий становится все меньше.

Коксон выступил с таким заявлением в интервью программе This Week, где также поддержал недавний призыв главы Anthropic Дарио Амодеи замедлить темпы разработки наиболее мощных систем искусственного интеллекта.

«Нужна пауза между теми, кто создает ИИ»

Как рассказывает Abcnews.com, Дарио Амодеи накануне опубликовал открытое письмо под названием «Мы должны контролировать темп развития передовых технологий», в котором призвал ИИ-компании снизить скорость разработки новых систем. По его словам, человечество должно попытаться сделать развитие технологии более безопасным.

Коксон назвал этот шаг важным и поддержал идею замедления гонки между компаниями, создающими наиболее мощные ИИ-системы.

По его мнению, необходима своего рода передышка между разработчиками разных моделей. Именно отсутствие такой паузы и постоянная конкуренция за создание более совершенного искусственного интеллекта вызывают у него серьезные опасения.

Уход из Anthropic и предупреждение о суперинтеллекте

Коксон привлек внимание к себе на прошлой неделе, когда объявил об уходе из Anthropic и опубликовал резкое заявление в X.

Он написал, что ни Anthropic, ни OpenAI, по его мнению, не действуют достаточно ответственно. Компании, по его словам, участвуют в гонке за созданием самоулучшающегося суперинтеллекта, фактически рискуя жизнью людей.

«Они гонятся за суперинтеллектом и играют нашими жизнями», — написал он.

Особенно широкий резонанс вызвало его утверждение о настроениях внутри самой индустрии. По словам Коксона, люди, непосредственно работающие над ИИ, всерьез допускают, что технология может привести к гибели человечества уже к концу этого десятилетия.

Сам исследователь признался, что не ожидал настолько масштабной реакции на свой пост. Он не рассчитывал привлечь к нему большое внимание, однако последовавший отклик, по его мнению, показал, что общество уже готово к серьезному разговору о рисках искусственного интеллекта.

О рисках говорят все чаще

В интервью Коксон также рассказал о том, как внутри компаний изменилось отношение к потенциальным угрозам, связанным с ИИ.

По его словам, разработчики постоянно испытывают нехватку времени, чтобы подробно анализировать возможные риски. Тем не менее в последние месяцы эта тема стала возникать значительно чаще.

Причем обсуждение, как утверждает бывший сотрудник Anthropic и OpenAI, уже не ограничивается специалистами по безопасности. Независимо от должности и подразделения, сотрудники компаний несколько раз в неделю сталкиваются с разговорами о наиболее серьезных рисках технологии.

Это, по мнению Коксона, говорит о растущем беспокойстве внутри самой индустрии — среди людей, которые непосредственно участвуют в создании новых ИИ-систем.

Призыв к замедлению выходит за пределы индустрии

Заявления Коксона особенно примечательны на фоне позиции Дарио Амодеи. Руководитель одной из ведущих ИИ-компаний публично призывает замедлить развитие наиболее мощных систем, а бывший исследователь безопасности этой же компании утверждает, что проблема уже активно обсуждается среди разработчиков.

При этом речь идет не о полном отказе от развития искусственного интеллекта. Главный вопрос заключается в том, успевают ли компании и общество оценивать последствия появления все более мощных систем.

Коксон считает, что сейчас индустрии необходимо «держать глаза открытыми». Его уход из Anthropic и последовавшая публичная дискуссия показывают, что разговор о безопасности ИИ становится все менее абстрактным даже для тех, кто находится в самом центре технологической гонки.

Пока одни компании продолжают соревноваться за создание более мощного искусственного интеллекта, другие все громче задаются вопросом, который еще недавно звучал преимущественно в академических дискуссиях: что произойдет, если скорость развития технологии окажется выше, чем способность людей ее контролировать?