Действительно ли OpenAI разрабатывает сверхинтеллект, представляющий угрозу для человечества? Сэм Альтман прокомментировал слухи

Сэм Альтман, глава OpenAI, в интервью The Verge прокомментировал сообщения о том, что компания разрабатывает искусственный сверхинтеллект, который может представлять потенциальную угрозу для человечества.

Информация об этом прорыве OpenAI появилась в СМИ вскоре после того, как Альтман был уволен с поста генерального директора. По данным Reuters, причиной увольнения стало именно то, что Альтман не сообщил о разработке совету директоров.

В беседе с The Verge Альтман не раскрыл подробностей о сверхинтеллекте, но назвал информацию об этом «досадной утечкой».

«Мы ожидаем, что прогресс в этой технологии будет по-прежнему быстрым, а также мы ожидаем продолжения очень напряженной работы, чтобы выяснить, как сделать это безопасным и полезным», — отметил он.

Альтман добавил, что для прогресса необходимо проводить исследования, и этот процесс неизбежно сопровождается различными трудностями. В настоящее время, по его словам, OpenAI стремится обсудить эти проблемы с обществом и определить, как двигаться дальше, чтобы все их усилия были максимально безопасными и полезными.

Напомним, что проект под названием Q* (произносится как Q-Star, «кью-стар»), разрабатываемый OpenAI, по мнению некоторых специалистов, может стать прорывом в поиске так называемого общего искусственного интеллекта (AGI): Q* удалось решить некоторые математические задачи, и хотя сделано это было лишь на уровне учеников школы, сам факт успешного выполнения этих задач говорит о многом.

Что, собственно, особенного в модели, решающей математические задачи?

По словам многих исследователей, математика — это передовой рубеж развития генеративного ИИ. В настоящее время ИИ умеет писать тексты и переводить, и ответы на один и тот же вопрос у него могут сильно различаться. Но освоение способности решать математические задачи, в которых есть только один правильный ответ, подразумевает, что ИИ будет обладать большими способностями к рассуждению и станет больше похож на человеческий интеллект. Его тогда можно будет использовать, например, в новых научных исследованиях.

В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать. Правда, какие именно риски в этом могут таиться — пока непонятно.