OpenAI сформировала независимую консультативную группу при Институте перспективных исследований в Принстоне, чтобы привлечь математиков к обсуждению своих исследований в области ИИ. Решение последовало после публикации компанией результатов, вызвавших неоднозначную реакцию математического сообщества.

Новая группа получила название Advisory Group on Mathematics and Artificial Intelligence. Ее задача — стать связующим звеном между OpenAI и математическим сообществом, а также давать оценку значимости новых результатов компании и участвовать в организации их публикации.

Создание совета произошло вскоре после того, как OpenAI неожиданно заявила о решении задачи Навье — Стокса, входящей в список семи задач тысячелетия. Вместе с объявлением о новой группе компания сообщила, что та же внутренняя модель якобы решила еще более 100 открытых математических задач в большинстве областей математики.

Математики требуют больше контроля

Стремительный темп, с которым AI-компании публикуют результаты решения известных математических задач, вызвал критику со стороны ученых.

Ранее в сентябре 25 лауреатов Филдсовской премии подписали открытое письмо, в котором предупредили, что гонка между AI-лабораториями за громкими математическими результатами создает угрозу для интеллектуальной работы математиков.

На этом фоне OpenAI решила формализовать взаимодействие с научным сообществом. В компании говорят, что новая группа даст математикам возможность участвовать в обсуждении того, как публиковать и оценивать результаты ИИ.

При этом совет не станет частью самой OpenAI. Его участники не будут получать от компании вознаграждение, смогут самостоятельно высказывать публичные позиции и давать OpenAI рекомендации по собственной инициативе. Кроме того, состав группы находится под контролем самих ее участников.

Совет не сможет замедлить исследования OpenAI

Несмотря на заявленную независимость, полномочия группы ограничены консультативной функцией.

Она сможет оценивать значение полученных результатов и участвовать в координации их публикации, однако не получит права влиять на темпы или направление внутренних математических исследований OpenAI.

Компания прямо заявляет, что совет не будет отвечать за рекомендации относительно того, как «задавать темп» собственному прогрессу OpenAI в математике.

Институт перспективных исследований отдельно подчеркнул это ограничение. В институте отметили, что группа может давать советы, но не имеет полномочий принимать решения в AI-компаниях, а ответственность за решения остается у самих разработчиков.

Таким образом, создание совета не означает, что математики получили возможность остановить или замедлить публикацию спорных результатов OpenAI. Их роль заключается прежде всего в экспертной оценке и консультациях.

В совет вошли девять математиков

Первоначальный состав группы включает девять известных математиков. Примечательно, что только один из них — Камилло Де Леллис из Института перспективных исследований — ранее подписал открытое письмо 25 лауреатов Филдсовской премии.

Это означает, что новый совет не является прямым продолжением инициативы математиков, выступивших против нынешней гонки AI-компаний за решениями известных задач.

Тем не менее OpenAI теперь получает постоянный канал связи с профессиональным математическим сообществом именно в тот момент, когда ее заявления о возможностях ИИ в математике вызывают все больше вопросов о проверке, значимости и порядке публикации таких результатов.