Илон Маск, Стив Возняк и тысячи специалистов призывают приостановить разработку продвинутого ИИ: Какие они видят риски?

Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и тысячи экспертов по искусственному интеллекту и руководителей отрасли призывают приостановить разработку продвинутого искусственного интеллекта. В слишком быстром развитии ИИ они видят серьезные риски для современного общества.

В открытом письме, опубликованном Future of Life Institute, специалисты просят ИИ-лаборатории подождать с обучением более мощных систем, чем GPT-4 от компании OpenAI, хотя бы 6 месяцев, пока не появятся общие протоколы безопасности. Если же не удастся достаточно быстро приостановить обучение ИИ, власти государств «должны вмешаться и ввести мораторий».

«Современные системы искусственного интеллекта успешно конкурируют с людьми в решении многих общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать любую работу, в том числе ту, что приносит людям удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, затмить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.

Авторы письма утверждают, что мощные системы искусственного интеллекта можно будет разрабатывать лишь тогда, когда мы будем уверены, что их влияние будет положительным, а риски — управляемыми.

Как сообщает Reuters, это письмо подписали также генеральный директор Stability AI Эмад Мостак, исследователи DeepMind (принадлежащей Alphabet) и известные исследователи в области ИИ Йошуа Бенжио (которого называют одним из «крестных отцов ИИ») и Стюарт Рассел (также один из первопроходцев в этой сфере). Полный список подписавшихся специалистов можно посмотреть под письмом.

При этом, генеральные директора Alphabet и Microsoft Сундар Пичаи и Сатья Наделла письмо не подписали. Исполнительный директор OpenAI Сэм Альтман также не стал его подписывать.

«ИИ меня напрягает», — сказал недавно Илон Маск, имя которого — одно из первых в списке подписавшихся под письмом.

Интересно, что он был одним из соучредителей компании OpenAI, разработавшей ChatGPT и новый GPT-4, а его компания Tesla активно использует ИИ в системе автопилота на своих электрокарах.

Некоторые специалисты, в том числе Джеймс Гриммельманн, профессор цифрового и информационного права в Корнельском университете, считают поведение Маска и его решение подписаться под вышеназванным открытым письмом лицемерным, учитывая, как активно он «боролся с тем, чтобы не брать на себя ответственность за дефектный ИИ в своих беспилотных автомобилях».

Другие специалисты отмечают, что письмо не идеально, слишком абстрактно изложено и «не воспринимает проблемы регулирования всерьез», однако посыл его правильный. По мнению Гэри Маркуса, профессора Нью-Йоркского университета, также подписавшего письмо, специалистам все же нужно притормозить, пока не станет понятнее, куда вся эта история с ИИ может нас привести.