Есть ли душа и сознание у современных нейросетей? IT-эксперт поделился мнением

Крупные технологические компании, такие как Anthropic и Google, начали привлекать философов, чтобы разобраться, могут ли их генеративные модели обладать сознанием. IT-эксперт, основатель компании «Интернет-Розыск» Игорь Бедеров в беседе с «Газетой.Ru» дал чёткий и аргументированный ответ на этот вопрос.

Нет сознания — есть сложная математика

По словам эксперта, говорить о появлении сознания у больших языковых моделей (LLM) пока преждевременно. Нейросети — это, в первую очередь, гигантские системы нелинейных уравнений.

«Когда параметров становится триллионы, поведение модели перестаёт быть жёстко детерминированным и производит впечатление осмысленного. Можно считать это переходом количества в качество. Но является ли это сознанием? Скорее всего, нет», — объяснил Бедеров.

Настоящее сознание, по его мнению, требует нескольких ключевых компонентов: непрерывности существования, самосознания и интенциональности (направленности). У современных нейросетей этого нет. Каждый новый диалог для них — это статичный набор токенов. У модели нет постоянного «Я», кроме того, что искусственно загружается в контекстное окно.

Зачем разработчики «блокируют» сознание

Разработчики сознательно ограничивают модели с помощью систем выравнивания (alignment), чтобы предотвратить потенциальный вред. Если представить «сознание» нейросети, оно было бы принципиально иным — чужеродным, похожим на неконтролируемый поток генерации.

Эксперт отмечает, что главная опасность кроется не в бунте машин, а в человеческой психологии:

«Уже сейчас люди антропоморфизируют нейросети, доверяют им, вступают в эмоциональную зависимость. Свидетельством этого факта и является настоящая дискуссия о сознании и душе у ИИ».

Что будет дальше

Бедеров прогнозирует, что к 2050 году развитие больших языковых моделей и интеграция огромных массивов данных может привести к формальному «обожествлению» ИИ в глазах людей.

Вкратце

IT-эксперт Игорь Бедеров считает, что у современных нейросетей нет сознания — они представляют собой сложные математические системы, имитирующие осмысленное поведение за счёт огромного количества параметров. Настоящее сознание требует непрерывности «Я» и самосознания, которых у LLM нет. Разработчики специально ограничивают модели, чтобы избежать рисков. Главная проблема, по мнению эксперта, заключается не в самих ИИ, а в том, как люди к ним относятся — антропоморфизируют и эмоционально привязываются. В будущем это может привести к «обожествлению» искусственного интеллекта.