Глава Anthropic Дарио Амодеи оказался в центре нового политического конфликта вокруг будущего искусственного интеллекта. Союзники президента США Дональда Трампа пытаются представить его одним из главных представителей движения, которое предупреждает о катастрофических рисках ИИ и выступает за замедление разработки передовых моделей.

Поводом стала записка, распространяемая среди представителей Белого дома. В ней движение эффективного альтруизма связывают с формированием современного движения за безопасность ИИ, а самого Амодеи называют одним из людей, стоявших у истоков этой сети. Документ подготовил политический советник Трампа, не работающий непосредственно в Белом доме, сообщает Axios.

Конфликт обострился после того, как Амодеи призвал технологическую отрасль снизить темпы развития передовых моделей и усилить меры безопасности. В сентябре его позицию публично поддержали, среди прочих, глава OpenAI Сэм Альтман и Илон Маск.

Эффективный альтруизм оказался в центре спора об ИИ

Эффективный альтруизм — философское и общественное движение, которое предлагает использовать данные и рациональный анализ, чтобы направлять время и деньги на решение наиболее значимых проблем человечества. Оно получило заметное влияние в университетской среде, благотворительности и Кремниевой долине.

Одним из направлений движения со временем стала безопасность ИИ. Его сторонники предупреждают, что развитие мощных систем может создавать не только экономические возможности, но и крайне серьезные риски, включая потерю контроля над ИИ.

Именно эта часть деятельности эффективного альтруизма сейчас подвергается политической критике со стороны сторонников Трампа. В распространяемой записке движение обвиняют в создании того, что авторы называют «конвейером ИИ-думеров», а его ценности противопоставляют политическому курсу администрации Трампа.

Axios отмечает, что эффективный альтруизм не является централизованной организацией и объединяет людей с разными взглядами и направлениями деятельности. При этом его влияние на развитие исследований безопасности ИИ действительно было значительным.

Почему в записке отдельно упомянут Амодеи

Авторы документа связывают с эффективным альтруизмом ранних сотрудников и сторонников Anthropic, а Дарио Амодеи называют одним из людей, участвовавших в формировании соответствующей сети.

При этом сам Амодеи отрицает свою принадлежность к движению. Президент Anthropic Даниэла Амодеи также публично дистанцировалась от термина «эффективный альтруизм», а внутри компании подчеркивали, что эта философия не является ее организационной идеологией.

Тем не менее ранняя история Anthropic действительно пересекается с сообществом эффективного альтруизма. Axios ранее отмечал связи движения с сотрудниками и инвесторами компании.

В новой записке эти связи объединены под названием «Anthropic knot» — «узел Anthropic». Авторы используют их как аргумент в пользу того, что позиция Амодеи по безопасности ИИ является частью более широкой идеологической системы.

При этом некоторые утверждения документа носят явно политический характер. Например, движение обвиняют в том, что оно якобы ставит интересы будущих поколений, животных или потенциальных машинных разумов выше интересов американцев. Это оценка авторов записки, а не установленный факт.

Амодеи действительно призывает замедлить развитие ИИ

Новая атака происходит на фоне заметного изменения публичной риторики руководителей ведущих AI-компаний.

12 сентября Амодеи опубликовал эссе, в котором призвал отрасль снизить темпы разработки передовых моделей. Он предупредил о риске потери контроля над системами ИИ, их использовании для кибератак и биотерроризма, а также о серьезных экономических последствиях. При этом глава Anthropic отдельно перечислил возможные позитивные эффекты технологии — от ускорения экономического роста до потенциального лечения многих тяжелых заболеваний.

Сам Трамп занял противоположную позицию. Президент заявил, что опасения по поводу того, что ИИ может выйти из-под контроля и уничтожить человечество, преувеличены, и выступил против попыток затормозить развитие американских AI-технологий.

Таким образом, спор касается уже не только того, насколько опасны отдельные модели. В его центре — принципиально разные представления о том, как США должны развивать передовой ИИ: максимально быстро наращивать технологическое преимущество или вводить дополнительные ограничения по мере роста возможностей систем.

Конфликт Anthropic и администрации Трампа продолжается

Новая атака на Амодеи стала очередным эпизодом в сложных отношениях Anthropic с администрацией Трампа.

В начале сентября министр торговли США Говард Латник заявлял, что администрация снова доверяет Anthropic и считает компанию вернувшейся «на правильную сторону». Однако в тот же период представитель Пентагона Эмиль Майкл заявил, что Anthropic по-прежнему имеет статус угрозы для цепочек поставок американского оборонного сектора.

При этом администрация продолжает нуждаться в ведущих разработчиках ИИ из-за их роли в технологической и национальной безопасности США. Поэтому противостояние вокруг Anthropic сочетает политические разногласия, вопросы регулирования и практическую зависимость государства от передовых AI-компаний.

Сейчас к этому добавился идеологический спор вокруг самого движения за безопасность ИИ. Амодеи оказался одной из наиболее заметных фигур этого конфликта — именно в тот момент, когда Anthropic готовится к потенциальному IPO, а дискуссия о том, насколько быстро должна развиваться индустрия, вышла далеко за пределы Кремниевой долины.