Люди готовы признать, что искусственный интеллект замечает происходящее вокруг и реагирует на окружающую среду, но гораздо реже наделяют его сознанием. К такому выводу пришли исследователи Мюнхенского университета Людвига — Максимилиана (LMU). В экспериментах почти с 1100 участниками даже самый отзывчивый ИИ оценивали как менее сознательный, чем наименее отзывчивого человека, хотя их поведение в описанных ситуациях было одинаковым.

Исследование, опубликованное в журнале Cognition, показывает, что для оценки машинного интеллекта важны не только наблюдаемые действия, но и слова, которыми люди описывают внутреннюю жизнь системы, рассказывает Sciencedaily.

Один эксперимент — два разных представления о разуме

Исследование возглавил Луи Лонгин из кафедры философии сознания LMU. Вместе с коллегами он предложил участникам оценить персонажей, которые по-разному реагировали на окружающую среду. Одни почти не отвечали на внешние сигналы, другие активнее взаимодействовали с миром — например, реагировали на звуки или распознавали эмоциональное состояние окружающих.

Одной группе рассказывали об искусственных агентах, другой — о людях. При этом описания ситуаций и поведение персонажей совпадали: менялось только то, кем был действующий субъект — человеком или ИИ.

Затем участники оценивали, насколько каждый персонаж обладает сознанием и насколько хорошо осознает происходящее вокруг.

Оказалось, что активная реакция на окружающую среду повышала оценки в обоих случаях. Однако, когда речь заходила именно о сознании, между людьми и машинами возникал резкий разрыв. Даже наиболее отзывчивые ИИ-системы получали более низкие оценки, чем люди с минимальной реакцией на внешние события.

Иными словами, одинаковое поведение не заставляло участников считать человеческий и искусственный разум равноценными.

Почему осознанность и сознание — не одно и то же

Особенно интересным оказался результат, связанный с другим понятием — осознанностью. Когда участников спрашивали, насколько персонаж осознает окружающую обстановку, оценки людей и ИИ становились гораздо ближе друг к другу.

Исследователи предполагают, что дело в значении самих слов. Осознанность можно понимать относительно нейтрально: как способность замечать информацию, распознавать сигналы и реагировать на происходящее. Сознание же подразумевает нечто более глубокое — субъективный опыт, внутренние переживания и наличие собственной психической жизни.

Поэтому человеку проще сказать, что ИИ замечает изменения вокруг себя или распознает эмоции собеседника, чем утверждать, что система обладает сознанием в человеческом смысле.

«Люди вполне готовы говорить, что ИИ что-то замечает и осознает окружающую обстановку. Но когда речь заходит о сознании, они проводят четкую границу», — отмечает Лонгин.

При этом исследование изучало человеческие представления о сознании, а не само наличие или отсутствие сознания у машин. Оно не позволяет установить, способны ли современные ИИ-системы испытывать субъективные переживания.

Почему язык описания ИИ имеет значение

По мере развития нейросетей люди все чаще описывают их действия человеческими словами: говорят о намерениях, планах, сомнениях и даже моральных принципах моделей. Такое описание может быть удобным, но оно не обязательно точно отражает устройство системы.

По мнению философа Офелии Дерой, одного из авторов исследования, люди могут использовать привычные психологические понятия просто потому, что им не хватает более подходящих слов для описания ИИ. Машины обучаются говорить и действовать подобно людям, поэтому антропоморфные формулировки возникают естественным образом.

Соавтор исследования Бахадор Бахрами обращает внимание на то, что компании и журналисты нередко используют преувеличенные описания возможностей ИИ, приписывая моделям самостоятельные намерения и моральные колебания. Между тем повседневные суждения людей оказываются более избирательными: они не обязательно ставят искусственные системы и человеческий разум на одну ступень.

Выбор слов способен менять восприятие. Если говорить об осознанности, различия между человеком и машиной в оценках почти исчезают. Если же речь идет о сознании, граница становится значительно отчетливее.

Поведение еще не доказывает наличие внутреннего опыта

Результаты исследования важны на фоне того, что современные ИИ-системы все убедительнее имитируют человеческое общение и реакции. Однако способность вести диалог, распознавать эмоции или выбирать подходящий ответ сама по себе не доказывает, что система что-то переживает.

При этом и оценки участников эксперимента нельзя считать окончательным ответом на философский вопрос о машинном сознании. Они показывают, как люди воспринимают ИИ, а не то, что происходит внутри самих моделей.

Главный вывод работы касается именно человеческого восприятия: мы можем признавать за ИИ способность замечать и обрабатывать происходящее, но не спешим считать его сознательным существом — даже когда его поведение неотличимо от человеческого. И то, насколько легко мы проводим эту границу, во многом зависит от того, какими словами описываем возможности искусственного интеллекта.