Илон Маск назвал три ключевых ингредиента для безопасного ИИ

Миллиардер Илон Маск в очередной раз предупредил об опасностях искусственного интеллекта и обозначил три основных принципа, которые, по его мнению, обеспечат позитивное будущее этой технологии. Глава Tesla, SpaceX, xAI, X и The Boring Company выступил в подкасте индийского миллиардера Нихила Камата, сооснователя брокерской компании Zerodha.

Предупреждения об опасностях ИИ

Маск, один из сооснователей OpenAI (он покинул совет директоров в 2018 году и позже критиковал компанию за отказ от некоммерческой миссии по безопасному развитию ИИ после запуска ChatGPT), подчеркнул, что мощные технологии всегда несут риски. В 2023 году его xAI выпустила собственного чат-бота Grok.

«Не то чтобы нам гарантировано положительное будущее с ИИ, — сказал Маск в подкасте. — Есть определённая опасность, когда вы создаёте мощную технологию, — она может быть потенциально разрушительной».

Ранее Маск предупреждал, что ИИ представляет один из главных рисков для цивилизации, превосходящий даже автомобили, самолёты или лекарства. В беседе с Каматом он отметил, что без строгого следования истине ИИ рискует впитывать ложную информацию из интернета, что приведёт к несовместимым с реальностью выводам. «Это может быть очень опасно», — добавил он.

Три ингредиента: истина, красота и любопытство

По словам Маска, ключ к позитивному развитию ИИ — в трёх принципах: истина, красота и любопытство.

Истина необходима, чтобы ИИ не «сходил с ума»: если заставить его верить в ложь, выводы станут ошибочными. Без правды ИИ впитает множество лжи из онлайн-источников и не сможет правильно рассуждать.

Красота тоже важна: «Некоторое понимание красоты необходимо», — отметил Маск, добавив, что «вы узнаёте её, когда видите».

Любопытство должно побуждать ИИ узнавать больше о реальности, поскольку человечество интереснее машин. «Интереснее видеть продолжение, если не процветание человечества, чем его уничтожение», — сказал он.

Проблема галлюцинаций и мнения экспертов

Галлюцинации — неверные или вводящие в заблуждение ответы — остаются одной из главных проблем ИИ. В начале 2025 года функция Apple Intelligence на iPhone генерировала фальшивые новости, например, ошибочно сообщив о победе дартсмена Люка Литтлера в PDC World Darts Championship за день до финала. Apple позже обновила систему, чтобы указывать источник текста.

Компьютерный учёный Джеффри Хинтон, бывший вице-президент Google и «крёстный отец ИИ», в подкасте Diary of a CEO оценил шанс, что ИИ уничтожит человечество, в 10–20 %. Среди краткосрочных рисков он назвал галлюцинации и автоматизацию начальных рабочих мест. «Надежда в том, что если достаточное количество умных людей проведёт достаточно исследований с достаточными ресурсами, мы найдём способ создать их так, чтобы они никогда не захотели навредить нам», — добавил Хинтон.

Вкратце

Илон Маск в подкасте с Нихилом Каматом предупредил об опасностях ИИ и назвал три ключевых принципа для его позитивного развития: истина (чтобы избежать ложных выводов), красота и любопытство (чтобы ИИ интересовался человечеством). Это перекликается с проблемой галлюцинаций, как в случае с Apple Intelligence, и предупреждениями Джеффри Хинтона о 10–20 % риске уничтожения. Маск подчёркивает: без этих ингредиентов мощный ИИ может стать разрушительным.