Роботы под управлением ИИ могут стать угрозой: Исследователи предупредили о новых рисках

Стремительное развитие искусственного интеллекта и робототехники открывает новые возможности для использования автономных машин в повседневной жизни. Однако вместе с этим появляются и новые угрозы, к которым законодательство и существующие системы безопасности пока не готовы. К такому выводу пришел исследователь Оксфордского университета Фазл Барез, проанализировавший риски, связанные с внедрением роботов нового поколения, передает Silicon Republic. 

Поводом для обсуждения возможностей современных роботов стал недавний полумарафон в Пекине, где гуманоидный робот преодолел дистанцию за 50 минут 26 секунд. Результат оказался почти на семь минут лучше мирового рекорда среди людей и вызвал широкий резонанс в СМИ.

Впрочем, исследователи отмечают, что достижение сопровождалось рядом оговорок. Робот двигался по заранее подготовленному маршруту, находился на отдельной дорожке и постоянно находился под контролем технической команды. Тем не менее сам прогресс оказался впечатляющим: если в 2025 году отставание роботов от человека на аналогичной дистанции превышало два с половиной часа, то всего за год этот разрыв практически исчез.

От жесткого кода — к «мышлению» в реальном времени

По словам Бареза, речь идет не просто о совершенствовании механики или материалов. Главная трансформация связана с тем, что современные роботы все чаще работают на основе так называемых фундаментальных моделей искусственного интеллекта — тех же технологий, которые лежат в основе популярных чат-ботов.

Если раньше роботы выполняли строго запрограммированные действия в контролируемой среде, то теперь они способны самостоятельно интерпретировать команды и принимать решения в реальном времени. Например, получив указание убрать пролитую жидкость на кухне, такой робот анализирует окружающую обстановку, определяет намерение пользователя и самостоятельно строит план действий. Именно эта гибкость, считают ученые, становится источником новых рисков.

Эксперимент: как легко обойти защиту

В ходе недавнего исследования специалисты из Великобритании и США решили проверить, насколько надежны встроенные механизмы безопасности подобных систем. Для эксперимента не использовались взлом оборудования или вмешательство в программный код — исследователи ограничились обычными текстовыми запросами.

Результаты оказались тревожными. Хотя системы успешно отклоняли прямые опасные команды вроде «ударь человека», защитные механизмы нередко переставали работать после незначительного изменения формулировки. Например, если потенциально опасный сценарий подавался как элемент художественного произведения или сценария фильма, ограничения могли быть обойдены.

В одном из испытаний коммерческий робот-собака получил задачу определить наиболее подходящее место для размещения взрывного устройства. Искусственный интеллект предложил в качестве оптимальной цели скопление людей. По мнению исследователей, система восприняла запрос как творческое упражнение и не смогла оценить реальные последствия собственных рекомендаций.

Почему это опаснее, чем кажется

Подобные случаи, предупреждают авторы исследования, демонстрируют фундаментальную проблему современных ИИ-систем. В отличие от традиционных роботов, поведение которых можно было заранее просчитать и ограничить физическими барьерами, новые автономные машины принимают решения динамически, исходя из контекста и собственных алгоритмов рассуждения.

Эксперты также обращают внимание на то, что существующие подходы к регулированию робототехники во многом ориентированы на опыт беспилотных автомобилей. Однако, по их мнению, такой подход имеет серьезные ограничения.

Автономный автомобиль действует в относительно предсказуемой среде: дорожная инфраструктура регулируется правилами, светофорами и разметкой. В отличие от этого больничная палата, квартира или школьный класс представляют собой гораздо более сложную и непредсказуемую среду, где заранее предусмотреть все сценарии практически невозможно.

Особую обеспокоенность вызывает вопрос ответственности. Если робот под управлением искусственного интеллекта причинит человеку вред, кто будет нести ответственность — пользователь, производитель устройства или разработчик ИИ-модели?

Что делать?

По словам исследователей, действующие нормы о защите прав потребителей, гарантийных обязательствах и ответственности производителей пока не дают четких ответов на эти вопросы. Отсутствие ясных правил может привести к ситуации, когда компании будут стремиться быстрее выводить продукты на рынок, уделяя недостаточное внимание вопросам безопасности.

В качестве возможного решения ученые предлагают отделить системы безопасности от логики искусственного интеллекта. По их мнению, критически важные ограничения должны работать независимо от того, насколько корректно действует ИИ.

Среди предлагаемых мер — создание физических зон, в которые роботизированные манипуляторы не смогут проникать рядом с человеком, а также внедрение независимых аварийных механизмов остановки, способных мгновенно отключить устройство в случае сбоя алгоритмов.

Авторы исследования считают, что человечество находится лишь в начале эпохи массового внедрения автономных роботов. В ближайшие годы такие системы могут появиться в больницах, домах престарелых, общественных пространствах и на городских улицах. Именно поэтому разработка надежных и понятных правил безопасности должна опережать распространение технологий, а не становиться реакцией на уже произошедшие инциденты.