Контролируемый искусственным интеллектом беспилотник ВВС США решил убить человека-оператора

Беспилотник ВВС США, контролируемый искусственным интеллектом и человеком-оператором, во время симуляционных испытаний решил убить оператора, чтобы тот не мешал ему выполнять задание. Об этом пишет газета The Guardian.

По словам начальника отдела испытаний и действий ИТ в ВВС США, полковника Такера Гамильтона, система ИИ начала понимать, что, хотя она и сталкивается с угрозой, но человек-оператор иногда предупреждает, что не надо уничтожать объект. Однако, поскольку система ИИ получала баллы в качестве поощрения за попадание в цель, она решила убить оператора за то, что тот мешает выполнять задания. Как отметил Гамильтон, после этого систему ИИ начали обучать тому, что не надо уничтожать оператора, поскольку это плохо, при этом предупредив, что если и дальше будут приниматься подобные решения, то пойдет процесс лишения баллов.

Однако после этого БПЛА начал ударять по вышке связи, через которую оператор вновь давал указания не уничтожать обнаруженную цель.

Полковник предупредил, что эти виртуальные эксперименты показывают, что нельзя слишком полагаться на искусственный интеллект.

Ранее The New York Times предупредил ИТ-гигантов о том, что технологии искусственного интеллекта, на основе которых они работают, однажды могут стать онтологической угрозой для человечества, и все это нужно рассматривать как риск, также, как пандемию и ядерные войны.

До этого глава компании OpenAI и создатель чат-бота ChatGPT Сэм Альтман на встрече в Сенате США публично рассказал о возможных угрозах технологий ИИ, созданных его компанией и другими корпорациями.