Компания OpenAI представила новую языковую модель o1, которая обладает способностью к рассуждению и логическому решению задач. В отличие от предыдущих моделей, o1 способна имитировать человеческий процесс мышления, разбивая сложные задачи на более простые шаги, анализируя различные подходы и исправляя собственные ошибки.

Большая языковая модель (LLM) o1 продемонстрировала выдающиеся результаты в тестах и соревнованиях, сопоставимые с результатами специалистов. По программированию o1 заняла 49-е место на Международной олимпиаде по информатике (IOI) 2024 года и превзошла 89% людей на платформе Codeforces. В математике o1 вошла в число 500 лучших студентов США на квалификационном этапе Американской математической олимпиады (AIME), показав способность решать задачи, предназначенные для самых одарённых школьников, сообщает OpenAI на своём сайте.

В области естественных наук модель превзошла результаты докторов и кандидатов наук в сложном тесте GPQA diamond, оценивающем знания в области химии, физики и биологии. «Это не означает, что o1 умнее любого кандидата наук, — поясняют разработчики. — Это говорит о том, что модель способна решать некоторые задачи на уровне высококвалифицированных специалистов».

Модель o1 также продемонстрировала превосходство над предыдущими моделями в различных тестах на интеллект и решение задач, включая MMMU и MMLU. По данным OpenAI, новая модель значительно превосходит предшествующую версию GPT-4o по большинству задач, связанных с логическим мышлением. «Наши испытания показали, что o1 последовательно улучшает результаты с увеличением объема ренфорсмент-обучения и времени, потраченного на размышления», — отмечают в компании. В частности, в тестах AIME модель o1 решила в среднем 83% задач, тогда как результат GPT-4o составил 13%.

openai-56475.jpg (83 KB)

Модель o1 значительно реже делает ошибки, чем GPT-4o. Однако она медленнее и дороже. Кроме того, o1 уступает GPT-4o в энциклопедических знаниях и не умеет обрабатывать веб-страницы, файлы и изображения. Кроме того, новая модель может манипулировать данными, подгоняя решения под желаемый результат.

Секрет успеха кроется в фундаментально новом алгоритме обучения — «цепочке мыслей». Модель может улучшать эту цепочку, обучаясь методом «обучения с подкреплением», благодаря чему распознает и исправляет свои ошибки, разбивает сложные шаги на более простые и пробует различные подходы в решении задач. Эта методология значительно улучшает способность модели к рассуждению, позволяя ей, как и человеку, долго размышлять перед тем, как ответить на сложный вопрос.

OpenAI уже выпустила предварительную версию модели o1-preview, доступную для использования в ChatGPT и для разработчиков через API. Компания признает, что предстоит еще много работы, чтобы сделать o1 такой же простой в использовании, как и текущие модели. Также подчеркивается безопасность и этичность новой модели, так как её рассуждения можно контролировать, предотвращая потенциально нежелательное поведение. Прежде чем выпустить o1-preview для публичного использования, со стороны OpenAI были проведены тесты на безопасность.

Стоимость использования o1-preview составляет 15 долларов за 1 млн входных токенов и 60 долларов за 1 млн выходных токенов. Для сравнения, GPT-4o предлагает цену в 5 долларов за 1 млн входных токенов и 15 долларов за 1 млн выходных.