Было ожидаемо, что сложные модели можно создать, затрачивая меньше ресурсов, и если для создания первого ChatGPT 4 были внедрены определенные ресурсы, то в дальнейшем на создание следующих версий тратилось меньше ресурсов, хотя это не публикуется. Об этом в беседе с корреспондентом NEWS.am Tech заявил руководитель научной группы машинного обучения ЕГУ Грант Хачатрян.
При этом интересно, что в отсутствии публикаций, китайским компаниям удается найти соответствующий метод, затратив меньше ресурсов. Удивляют также скорости. Несмотря на санкции против Китая, технологии каким-то образом попадают в Китай, возможно через Европу, Индию или как-то еще.
Можно сделать вывод, что DeepSeek имеет больше чипов, чем заявляет, но все же не так много, как крупные американские компании. Дефицит ресурсов вынуждает совершенствовать инновации, поэтому китайская компания сделала то, что не сделал Open AI.
В силу острой конкуренции крупные компании, такие, как Open AI, идут по пути минимизации рисков. Для менее известных компаний риски более оправданы и идут они на это охотнее, поэтому китайской компании удалось добиться такого успеха.
При этом очень сложно получить какую-то модель именно в первый раз, поэтому у второго есть преимущество. Но почему это удается именно китайским компаниям, а например, европейским компаниям – нет. Здесь есть также социальные и культурные вопросы, связанные с трудолюбием китайцев и их амбициями. Кроме того, Китай не хочет быть придатком и просто использовать американские технологии.
DeepSeek опубликовал коды
Google и другие крупные компании до 2023 года почти все публиковали, и именно в этом они конкурировали между собой. Но затем, когда Open AI стал закрывать, он получил ChatGPT и сгенерировал экономическую ценность. После этого Google тоже стал закрывать многое и меньше публиковать что-либо о крупных продуктах. Но те компании, которые отставали от крупных, попытались выровнять отставание именно своей открытостью.
Facebook сейчас пытается быть максимум открытым. Той же самой политики придерживаются китайские компании. При этом многое зависит также от бизнес-модели отдельных компаний.
Пример DeepSeek показал, что тактика закрытия не очень оправдана, и многие американские говорят, что DeepSeek становится тем, чем обещала стать Open AI. Команда DeepSeek принадлежит компании, которая занимается финансовой деятельность и ИИ не является их основным бизнесом.
При этом DeepSeek смог получить лучше модель, чем разработал Facebook, затратив в 10 раз меньше (6 млн. долларов)
Китайская компания использовала алгоритмы более оптимально и лучше использовала возможности чипов. При этом, по всей видимости, компания проводила другие эксперименты на несколько миллионов долларов, чтобы добиться успеха по части модели, которая потом отдельно обошлась в 6 млн. долларов
Мы должны сконцентрироваться на тех задачах, над которыми не работают крупные компании
Нам нет необходимости работать над разработкой армянской модели DeepSeek, потому что модель уже создана.
Мы должны сконцентрироваться на тех задачах, над которыми не работают крупные компании. Мы уже 4 года пытаемся создать системы наподобие ChatGPT, но чтобы они могли делать какие-то интересные вещи в химии, чтобы можно задавать про молекулы и дать задачу или чтобы появился такой ИИ, который очень хорошо понимал бы космические снимки и мог бы вывести информацию.
ИИ может внести революционные изменения и в других сферах.
Сейчас пытаемся сформировать человеческие ресурсы для успехов в тех направлениях, где мы можем быть конкурентными. Сейчас в ЕГУ есть самых новых 8 чипов и 8 чипов чуть старее. Еще 64 чипа, которые мы получим, позволят попробовать стать конкурентными в сфере обработки космических снимок, учитывая, что для обучения модели в этой сфере используют не более 100 чипов. Для исследования получаем снимки с армянского спутника, и их довольно много.
Мы надеемся, что наша модель будет распознавать снимки, сделанные в разных оптических спектрах.
Летом 2024 года по части молекул мы достигли успехов. Мы фокусируемся на мелких органических молекулах. При этом стоит задача также быстро довести успехи до научного сообщества, потому что конкуренция велика и можно не успеть. Для решения этой задачи нужны чипы и финансовые ресурсы, чтобы можно привлечь кадры.
Пока не видно того, когда у ученых появится AI-ассистент
Прогнозирую, что в обозримом будущем появятся модели, понимающие видео. Несмотря на разговоры о сложностях в этой сфере, думаю, это удастся добиться.
Кроме того, Армен Агаджанян работает над созданием модели, которую можно внедрить в робота, способного воспринимать физическое пространство и безопасно двигаться. Эта модель может быть внедрена в течение 1-2 лет.
ChatGPT4o в 60 раз дешевле, чем цена самого первого ChatGPT4, хотя разница между их выпусками всего 15 месяцев. Это означает, что темп удешевления в 10-20 раз в год сохранится, то есть модели для бизнеса могут быть более доступными. Самые дорогие модели в мире сегодня выдают качественный армянский язык, и это тоже станет дешевле и проще.
При этом пока не видно, в каких еще сферах получится применить такие логические суждения кроме сферы программирования. Можно ли получить ИИ, который сможет работать, как биолог, проводить экспертизу и делать умозаключение. Сложно также сказать, когда удастся программиста заменить на ИИ.
Партнером серий интервью о науке и технологиях является Team Telecom Armenia.
month
week
day