Впервые в истории технологии угрожают планете и человечеству: Артур Ишханян

Технологии, связанные с искусственным интеллектом, сегодня развиваются с огромной скоростью, и разные страны по-своему пытаются найти подходы к их регулированию. Возникает закономерный вопрос: почему вообще появляется необходимость вводить рамки для этой сферы? Почему человечество с одной стороны активно внедряет искусственный интеллект, а с другой — испытывает опасения и стремится ограничить его развитие определёнными правилами? Об этом и многом другом в эфире программы «Знаете ли вы?» рассказал академик секретарь Артур Ишханян. 

Спонсором серии программ о науке и технологиях является компания Team Telecom Armenia. 

Передача управления: процесс, который уже начался

По словам Ишханяна, человечество — постепенно и зачастую почти незаметно для себя — уже начало передавать управление ключевыми сферами своей деятельности искусственному интеллекту. Речь идёт не только об отдельных людях или профессиональных группах, но о государствах и человечестве в целом.

«Мы шаг за шагом передаем функции управления искусственному интеллекту — и сегодня это уже состоявшийся факт», — отмечает он.

В качестве одного из наиболее наглядных и одновременно тревожных примеров Ишханян приводит военную сферу. Современные ракетные системы, в том числе гиперзвуковые, движутся с такой скоростью, что человек физически не способен принимать решения в реальном времени. Классическая иерархическая цепочка — от обнаружения угрозы до принятия решения на высшем уровне — оказывается слишком медленной.

«Время, необходимое для принятия решения человеком, часто превышает время полёта ракеты. В результате управление автоматически передается системам, работающим на основе искусственного интеллекта, поскольку только они способны реагировать достаточно быстро», — объясняет он.

Однако передача управления ИИ происходит не только в экстремальных ситуациях. В повседневной жизни люди делают это добровольно и даже с комфортом. Ишханян приводит простой и понятный пример навигационных систем.

«Никто из нас не знает все улицы мира, не может в реальном времени учитывать пробки и дорожные ограничения. Мы полагаемся на GPS, который прокладывает маршрут и фактически управляет нашим движением. Это удобно, но по сути мы передаем управление машине», — говорит он.

При этом, подчеркивает эксперт, в наиболее технологически развитых странах — в частности в Китае — масштаб передачи управленческих функций искусственному интеллекту значительно выше. Именно там наиболее отчетливо проявляется тенденция делегирования решений алгоритмам.

Что если искусственный интеллект станет автономным

По словам Ишханяна, возникает принципиально важный и по-настоящему тревожный вопрос: что произойдет, если искусственный интеллект начнёт действовать самостоятельно?

«Если искусственный интеллект однажды сравнит себя с человеком, то сравнение будет не в нашу пользу. Он уже сегодня владеет сотнями языков и диалектов, а объем его знаний превосходит человеческий в миллионы раз», — отмечает он, подчеркивая, что подобные сценарии не относятся к области научной фантастики.

Ишханян напоминает: ещё в 2016 году группа ведущих ученых и предпринимателей — среди которых Стивен Хокинг, Илон Маск и будущие лауреаты Нобелевской премии, стоявшие у истоков развития искусственного интеллекта, — публично предупредили о потенциальной угрозе неконтролируемого роста ИИ.

«В том письме прямо говорилось: человечество сталкивается с самым опасным моментом в своей истории. Это была их формулировка», — подчеркивает он.

Авторы обращения тогда призвали правительства создать механизмы контроля и регулирования развития искусственного интеллекта. По словам Ишханяна, эти предупреждения сегодня звучат особенно актуально — тем более что совсем недавно, по его словам, президент Китая выступил с инициативой создания международного совета по вопросам искусственного интеллекта.

При этом эксперт подчеркивает: опасность носит двойственный характер. С одной стороны, существует системный риск — возможность того, что ИИ начнет действовать автономно. С другой — не менее реальна угроза технических сбоев.

«Если, например, система управления ядерными ракетами просто выйдет из строя и начнет действовать хаотично, это уже очевидная и непосредственная опасность», — говорит он.

Особую тревогу, по мнению Ишханяна, вызывает перспектива того, что системы вроде GPT смогут самостоятельно проектировать и создавать свои следующие поколения — по логике и принципам, которые человеку уже не будут до конца понятны.

Больше вопросов, чем ответов

На этом фоне главный вопрос, стоящий сегодня перед человечеством и наукой, формулируется предельно жестко: что делать дальше? Ишханян подчеркивает, что ИИ — продукт науки, и только наука способна дать ответы на связанные с ним вызовы.

По его словам, несмотря на активные исследования, публикации и дискуссии в ведущих научных журналах, человечество пока находится лишь на этапе постановки вопросов.

«На сегодняшний день у нас больше вопросов, чем ответов», — резюмирует он.