Перед увольнением Альтмана совет директоров OpenAl получил письмо: В нем говорилось об опасном прорыве в области ИИ

Перед увольнением Сэма Альтмана из OpenAl совет директоров получил письмо, в котором несколько исследователей компании сообщали о прорыве области искусственного интеллекта, который, по их словам, может угрожать человечеству. Об этом изданию Reuters сообщили два человека, знакомые с ситуацией.

По данным источников издания, это письмо стало одним из факторов в длинном списке недовольств совета директоров, приведших к увольнению Альтмана. Также у них были опасения по поводу коммерциализации достижений компании до понимания последствий. Однако с текстом самого письма Reuters не удалось ознакомиться, а сотрудники, написавшие его, не ответили на запросы о комментариях.

По словам одного из источников, после того, как агентство Reuters связалось с представителями OpenAI, которые также отказались от комментариев, во внутреннем сообщении для сотрудников компании признали наличие проекта под названием Q* и письма, который совет директоров получил незадолго до выходных, когда был уволен Альтман. Представитель OpenAI рассказал, что сообщение, отправленное исполнительным директором Мирой Мурати, предупреждало сотрудников об определенных сообщениях в СМИ, при этом не комментируя их достоверность.

Некоторые в OpenAI считают, что Q* (произносится как Q-Star, «кью-стар») может стать прорывом в поиске так называемого общего искусственного интеллекта (AGI), сообщил агентству Reuters один из собеседников. OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.

Новая модель, получившая огромные вычислительные ресурсы, смогла решить некоторые математические задачи, сообщил источник Reuters на условиях анонимности, поскольку он не был уполномочен говорить от имени компании. По словам источника, несмотря на то, что Q* пока что решает математические задачи лишь на уровне учеников школы, успешное выполнение этих задач вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.

Что, собственно, особенного в модели, решающей математические задачи?

Исследователи считают, что математика — это передовой рубеж развития генеративного ИИ. В настоящее время генеративный ИИ умеет писать тексты и переводить, и ответы на один и тот же вопрос у него могут сильно различаться. Но освоение способности решать математические задачи, в которых есть только один правильный ответ, подразумевает, что ИИ будет обладать большими способностями к рассуждению и станет больше похож на человеческий интеллект. Его тогда можно будет использовать, например, в новых научных исследованиях, считают исследователи ИИ.

В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.

В своем письме совету директоров исследователи отметили мощь ИИ и его потенциальную опасность. При этом, источники Reuters не указали на конкретные проблемы безопасности, о которых сообщалось в письме.