Чат-бот Bard от Google допустил фактическую ошибку во время первой же демонстрации: Ошибка обошлась компании в $100 млрд

Google показала небольшой рекламный ролик, в котором хотела продемонстрировать возможности своего чат-бота Bard, считающегося на данный момент главным конкурентом ChatGPT. Астрономы и астрофизики, однако, сразу же заметили в ответе чат-бота фактическую ошибку: ИИ написал, что телескоп Джеймс Уэбб сделал самые первые снимки экзопланеты за пределами Солнечной системы. На самом же деле первое изображение экзопланеты было сделано в 2004 году с помощью комплекса Very Large Telescope (VLT).

Эта ошибка дорого обошлась компании: акции материнской Alphabet, которой принадлежит Google, упали более чем на 7%, снизив рыночную стоимость компании на 100 млрд долларов.

Чат-бот Bard ошибся в ответе на первый же вопрос

В опубликованном Google ролике чат-бота попросили рассказать о недавних открытиях, сделанных с помощью телескопа Джеймс Уэбб — так, чтобы было понятно 9-летнему ребенку. В своем ответе чат-бот рассказал о трех открытиях, в том числе — о первом фото экзопланеты за пределами Солнечной системы.

Ответ чат-бота разочаровал многих ученых, в том числе астронома Брюс Макинтоша и астрофизика Гранта Тремблея. По их словам, специалисты Google должны были хотя бы проверить ответы Bard перед тем, как демонстрировать их общественности.

«Не хочу показаться сволочью, и Bard наверняка будет впечатляющим, но для протокола: Джеймс Уэбб не сделал «самое первое изображение планеты за пределами нашей Солнечной системы», — написал в Twitter астрофизик Грант Тремблей. 

«Говорю как человек, сфотографировавший экзопланету за 14 лет до запуска Джеймса Уэбба: возможно, вы должны были найти более удачный пример для демонстрации возможностей чат-бота?» — написал Брюс Макинтош, директор обсерватории Калифорнийского университета в Санта-Круз.

По иронии судьбы, если вы зададите вопрос про «первое изображение экзопланеты» в поисковике Google, он даст вам правильный ответ.

«Забавно, что Google, разворачивая свою огромную многомиллиардную игру в этом новом пространстве, не проверила факты на своем собственном вебсайте», — сказал Тремблей в беседе с New Scientist.

Ошибка стоимостью в 100 млрд долларов

Когда стало известно об ошибке, допущенной чат-ботом Bard, акции материнской компании Alphabet упали более чем на 7%, что привело к снижению рыночной стоимости компании на 100 млрд долларов.

Как отмечает BBC, инвесторов презентация компании о ее планах по внедрению искусственного интеллекта в свои продукты также не впечатлила.

Инвесторы, видимо, ожидали большего от презентации Google, особенно на фоне растущей конкуренции с Microsoft, которая недавно внедрила явно более успешный ChatGPT в свои поисковик Bing.

Мир еще не готов к чат-ботам с ИИ?

Многие спецалисты считают, что ИИ-инструменты еще не готовы к интеграции в поисковые системы, а потому не стоит спешить в этом вопросе.

Карисса Велиз из Оксфордского университета считает, что эта история еще раз показывает, что переход к использованию чат-ботов с искусственным интеллектом для предоставления результатов веб-поиска происходит слишком быстро, а это означает, что вероятность распространения дезинформации огромна.

«Это прекрасно показывает самую главную слабость статистических систем. Эти системы предназначены для того, чтобы давать правдоподобные ответы в зависимости от статистического анализа — они не предназначены для того, чтобы давать правдивые ответы, — отметила она. — Мы определенно не готовы к тому, что грядет. Компании финансово заинтересованы в том, чтобы первыми разработать или внедрить определенные виды систем, и они просто торопятся. Поэтому мы не даем обществу времени поговорить об этом и подумать об этом, да и сами компании не думают об этом достаточно тщательно, как видно на примере этой рекламы».