В индустрии искусственного интеллекта набирает силу спор о том, нужно ли замедлить развитие наиболее мощных моделей и кто вообще способен заставить компании это сделать. Глава Anthropic Дарио Амодеи предложил «задать темп» развитию передовых систем, а руководители OpenAI и другие представители отрасли поддержали идею более строгого контроля за безопасностью. Но участники подкаста TechCrunch Equity сомневаются, что за этими заявлениями последуют реальные ограничения.

Одним из самых заметных противников такого подхода стал глава Nvidia Дженсен Хуанг. Он публично заявил, что не допустит замедления развития ИИ, и поддержал позицию администрации Дональда Трампа, выступающей против дополнительных ограничений.

На этом фоне журналисты TechCrunch обсудили, действительно ли крупнейшие AI-компании готовы ограничить собственную гонку за более мощными моделями или речь пока идет преимущественно о декларациях.

Что именно предлагают замедлить

Амодеи в своем плане говорит не столько об остановке разработки ИИ, сколько о том, чтобы темпы развития технологий не опережали возможности систем безопасности. Среди предложений — независимые сторонние проверки, которые должны оценивать безопасность моделей и происходящие с ними инциденты внутри компаний.

Еще одна идея предполагает, что крупные AI-компании в демократических странах будут координировать подходы к безопасности и устанавливать определенные ограничения. Наконец, речь идет о международной координации в этой области.

При этом конкретных механизмов пока недостаточно, отмечают журналисты TechCrunch.

«Мы по-прежнему не понимаем многих деталей — не только того, почему эти люди считают определенные сценарии опасными, но и того, что именно они подразумевают под замедлением», — отметил журналист Шон О'Кейн.

По его мнению, само слово «замедление» может создавать впечатление более жестких ограничений, чем содержится в предложениях Амодеи. Если компании просто вводят дополнительные проверки и позволяют независимым специалистам следить за безопасностью, это еще не означает, что они обязуются выпускать новые модели медленнее, чем сейчас.

Почему поддержка отрасли вызывает вопросы

Журналист Энтони Ха отметил, что его удивила скорость, с которой представители индустрии начали поддерживать идею Амодеи. Еще до публикации его плана в соцсетях уже появлялись похожие предложения.

С одной стороны, это может свидетельствовать о формирующемся консенсусе вокруг необходимости дополнительных мер безопасности. По словам Ха, многие из этих идей давно обсуждались внутри сообщества специалистов по безопасности ИИ.

С другой стороны, столь быстрое объединение крупнейших компаний вокруг общих правил вызывает у журналистов вопросы о том, насколько далеко они действительно готовы зайти.

Кирстен Коросек обратила внимание еще на одну проблему: речь идет прежде всего о ведущих лабораториях, разрабатывающих наиболее мощные модели. Поэтому их договоренности между собой могут иметь неоднозначные последствия. С одной стороны, совместные стандарты безопасности способны упростить контроль за отраслью. С другой — координация крупнейших игроков потенциально может уменьшить конкуренцию между ними.

Почему Дженсен Хуанг выступает против замедления

Особое внимание участники подкаста уделили позиции Дженсена Хуанга. Коросек считает, что его публичное выступление на фоне дискуссии о замедлении особенно показательно: Nvidia напрямую выигрывает от дальнейшего роста вычислительных потребностей ИИ-компаний, поскольку именно ее ускорители используются для обучения и работы передовых моделей.

О'Кейн отметил, что Хуанг сейчас занимает необычное положение посредника между технологической индустрией и администрацией США. По его словам, еще несколько лет назад в подобной роли многие воспринимали главу Microsoft Сатью Наделлу, однако сейчас Хуанг стал одним из наиболее заметных представителей индустрии в диалоге с Вашингтоном.

Показательным журналисты считают эпизод на конференции All-In Summit, когда президент Трамп позвонил Хуангу прямо во время его выступления. По мнению Коросек, это выглядело довольно постановочно и одновременно подчеркнуло конфликт интересов: Nvidia получает прямую выгоду от максимально быстрого расширения AI-инфраструктуры.

Ха также обратил внимание на разницу в формулировках. Амодеи и Сэм Альтман действительно говорят о необходимости «задать темп» развитию ИИ, тогда как Хуанг использует более прямую формулировку — «мы не допустим замедления».

При этом сами предложения Амодеи не обязательно требуют фактического замедления разработки. Теоретически они могут привести к дополнительным проверкам и ограничениям, но сами по себе не устанавливают конкретную скорость, с которой должны развиваться модели.

Может ли рынок сам заставить компании быть осторожнее

Еще один вопрос — способны ли существующие законы и рыночная конкуренция самостоятельно обеспечить достаточный уровень безопасности.

В теории у компании, выпустившей опасный продукт, должны возникнуть серьезные проблемы: регуляторы могут вмешаться, а пользователи — отказаться от сервиса. Но О'Кейн считает, что рынок ИИ устроен сложнее.

Он указывает на слабость потребительского давления. Если крупная компания совершит серьезную ошибку, пользователям не всегда легко отказаться от ее услуг и перейти к конкуренту. Особенно это заметно на корпоративном рынке, где AI-сервисы становятся частью рабочих процессов.

Корпорации вряд ли массово откажутся от одного инструмента в пользу другого только из-за принципиальной позиции разработчика по какому-либо вопросу, считает журналист. Кроме того, крупнейшие AI-компании получают настолько значительные инвестиции, что потенциальные финансовые потери могут оказаться для них менее болезненными.

Поэтому рыночная конкуренция действительно может создавать стимулы для безопасной разработки, но, по мнению участников TechCrunch Equity, рассчитывать исключительно на этот механизм пока недостаточно.

Главный вопрос остается открытым: если ведущие лаборатории действительно считают дальнейшее развитие ИИ потенциально опасным, готовы ли они добровольно принять ограничения, которые могут замедлить их собственную гонку за более мощными системами. Пока заявления о необходимости «задать темп» существуют одновременно с активным наращиванием возможностей и инфраструктуры, а конкретные границы такого замедления остаются предметом спора.