Существуют 20%-ная вероятность гибели человечества из-за ИИ — Илон Маск

Планомерное и постоянное развитие искусственного интеллекта может привести к гибели всего человечества, причем вероятность этого — около 20%. Такое мнение выразил глава SpaceX и Tesla, создатель стартапа xAI Илон Маск. При этом, он считает, что пойти на такой риск все-таки стоит.

Как рассказывает Business Insider, во время выступления на четырехдневной конференции Abundance Summit в Лос-Анджелесе, посвященной ИИ, Маск отметил, что согласен с оценкой ученого и одного из главных исследователей в области искусственного интеллекта Джеффри Хинтона.

«Я думаю, что есть некоторый шанс, что ИИ положит конец человечеству. Я, пожалуй, согласен с Джеффом Хинтоном, что этот риск составляет около 10% или 20% или около того».

Правда, как именно он подсчитал этот риск — непонятно.

«Я думаю, что вероятный позитивный сценарий перевешивает негативный сценарий», — добавил он.

Роман Ямпольский, исследователь безопасности ИИ и директор Лаборатории кибербезопасности в Университете Луисвилля, тоже считает, что ИИ может представлять экзистенциальную угрозу для человечества. Более того, по его мнению, этот риск выше, чем цифра, озвученная Маском.

В беседе с Business Insider он отметил, что к гибели человечеству может привести, например, контроль ИИ над человечеством, создание им нового биологического оружия или коллапс общества из-за масштабной кибератаки или ядерной войны. Ямплоский оценивает этот риск «в 99,999999%». По его словам, поскольку контролировать продвинутый ИИ будет невозможно, единственная надежда человечества — вообще не создавать такой ИИ.

«Не уверен, почему он (Илон Маск — прим. ред.) вообще считает, что развивать эту технологию — хорошая идея, — добавил Ямплоский. — Если он обеспокоен тем, что конкуренты доберутся туда первыми, это не имеет значения, поскольку неконтролируемый сверхинтеллект одинаково плох, независимо от того, кто его создал».

Стоит отметить, что и многие другие специалисты сегодня говорят о риске апокалипсиса из-за ИИ: называемые ими цифры колеблются между 5 и 50 процентами.