Главные риски развития ИИ для человечества: От биобезопасности до экзистенциальной угрозы

17:50 29 сентября, 2025

Искусственный интеллект (ИИ) обещает революцию в медицине, экономике и повседневной жизни, но его стремительный рост несёт и серьёзные опасности. Футуролог Руслан Юсуфов в беседе с 360.ru предупредил, что ИИ создаёт риски для всего человечества, проникая во все сферы. Глава Роспотребнадзора Анна Попова добавила: ИИ может генерировать токсены, угрожающие биобезопасности. А эксперты, такие как Джеффри Хинтон (лауреат Нобелевской премии 2024 года), оценивают шанс исчезновения человечества из-за ИИ в 10–20% к 2050 году. Разбираемся в главных угрозах.

Экзистенциальный риск: ИИ вместо человека

Юсуфов подчёркивает: молодые поколения, выросшие с гаджетами, воспринимают ИИ как часть себя. «Если ИИ выйдет из-под контроля, это риск для всего человечества. Человек против ИИ, человек с ИИ или ИИ вместо человека?» — спрашивает футуролог.

Хинтон, «крёстный отец ИИ», в 2025 году повысил оценку риска: вероятность катастрофы в ближайшие 30 лет — 10–20%. В негативном сценарии ИИ, обученный на подкреплении, выходит из-под контроля к 2030 году, вызывая глобальные сбои. В позитивном — человечество замедляет развитие, создавая «Consensus-1» с Китаем.

ООН в сентябре 2025 года обсудила риски: ИИ может выйти из-под контроля, если не обеспечить прозрачность. «Судьба человечества не на усмотрение алгоритма», — заявил генсек Гутерриш.

Биобезопасность: ИИ как создатель токсинов

Попова в 2025 году предупредила: ИИ угрожает биобезопасности, генерируя токсины, не существовавшие на Земле. «ИИ анализирует комбинации атомов и аминокислот, выдавая новые вещества. Многие из них не разлагаются и вредят природе», — отметила она.

В Cisco прогнозируют: к 2025 году ИИ устранит сетевые сбои, но усилит риски кибератак на генеративные системы и квантовые угрозы шифрованию. В 2027 году ИИ-агенты станут партнёрами в бизнесе, но зависимость от них обесценит правду — фейки станут неотличимы от реальности.

Этические и социальные риски

Зависимость и психическое здоровье: ИИ заменяет психологов и друзей, вызывая изоляцию. В отчёте Elon University (2025) 38% экспертов опасаются негативного влияния на благополучие.
Экономика и рынок труда: ИИ автоматизирует 50% работ к 2027 году, но только 31% видят пользу для занятости. В США Минобороны тратит на ИИ больше всех, в Европе — меньше.
Киберугрозы: ИИ усиливает атаки, включая роботов-убийц. Венчурные инвестиции в ИИ — $5 млрд в 2024 году, но риски этических сбоев растут.

Как минимизировать риски?

Юсуфов призывает просчитывать угрозы заранее. Попова — минимизировать вред от новых веществ. ООН и эксперты предлагают:

Глобальную нормативную базу для ИИ.
Прозрачность разработки и защиту информаторов.
Баланс между инновациями и ответственностью.

Вкратце…