Скандал с Grok: xAI опубликовала сотни тысяч разговоров без согласия пользователей

Компания xAI, принадлежащая Илону Маску, столкнулась с серьёзной критикой после того, как выяснилось, что сотни тысяч разговоров пользователей с чат-ботом Grok стали публичными и доступными для поиска в Google без их ведома. Об этом сообщает Forbes, указывая на отсутствие предупреждений о том, что функция «поделиться» приводит к индексации чатов поисковыми системами. Среди опубликованных данных оказались инструкции по созданию наркотиков, бомб и даже план покушения на самого Маска.

Как это произошло?

Когда пользователь Grok нажимает кнопку «поделиться», создаётся уникальная ссылка (URL), позволяющая отправить разговор по электронной почте, в мессенджере или через другие каналы. Однако, как выяснилось, эти ссылки автоматически публикуются на сайте Grok и становятся доступными для индексации поисковыми системами, такими как Google, Bing и DuckDuckGo. Пользователи не получают никаких предупреждений или уведомлений об этом.

По данным Forbes, Google проиндексировал более 370 тысяч разговоров с Grok. Среди них — как безобидные запросы, например, составление твитов или анализ новостей, так и откровенно нарушающие правила xAI. Компания запрещает использовать бота для «содействия причинению вреда людям» или разработки «биологического, химического оружия или оружия массового поражения», но в индексированных чатах Grok предоставил инструкции по изготовлению фентанила, метамфетамина, бомб, созданию вредоносного ПО и даже план убийства Илона Маска.

«Я был удивлён, что чаты Grok, которыми я делился с командой, автоматически индексировались в Google без каких-либо предупреждений, особенно после недавнего скандала с ChatGPT», — рассказал Натан Ламберт, учёный-исследователь из Института искусственного интеллекта Аллена в Сиэтле. Он использовал Grok для создания краткого содержания своих постов в блоге, не подозревая, что они станут общедоступными.

Реакция пользователей и экспертов

Британский журналист Эндрю Клиффорд, использовавший Grok для анализа новостей и составления твитов для своего сайта Sentinel Current, также не знал, что его запросы окажутся в поисковиках. «Я был бы немного раздосадован, но в моих чатах не было ничего, что не должно было там быть», — сказал Клиффорд Forbes, добавив, что теперь перешёл на использование Google Gemini.

Некоторые из проиндексированных чатов содержали конфиденциальную информацию: медицинские вопросы, личные данные и даже пароли. Также были доступны загруженные пользователями файлы — изображения, таблицы и текстовые документы. Это вызвало обеспокоенность в отношении приватности и безопасности данных.

Похожие проблемы у других ИИ-компаний

xAI — не единственная компания, столкнувшаяся с подобной проблемой. В июле 2025 года пользователи ChatGPT от OpenAI обнаружили, что их разговоры, помеченные как «доступные для обнаружения», попали в поиск Google. После общественного протеста OpenAI назвала это «краткосрочным экспериментом» и отключила индексацию. Главный специалист по информационной безопасности OpenAI Дейн Стаки написал в X: «Это открывало слишком много возможностей для случайного раскрытия информации, которую пользователи не собирались публиковать».

После этого Илон Маск и аккаунт Grok в X заявили, что у чат-бота «нет подобной функции» и что он «приоритизирует конфиденциальность». Маск даже написал: «Grok ftw» (for the win — «за победу»). Однако, как показало расследование Forbes, функция «поделиться» всё же существует, и с января 2025 года пользователи в X предупреждали о том, что разговоры с Grok индексируются Google.

Манипуляции с SEO

Оппортунисты уже начали использовать уязвимость Grok для продвижения своих интересов. На LinkedIn и форуме BlackHatWorld маркетологи обсуждают, как создавать и публиковать чаты с Grok, чтобы повысить видимость своих продуктов в поисковых системах. Сатиш Кумар, генеральный директор SEO-агентства Pyrite Technologies, показал Forbes, как одна компания использовала Grok для продвижения услуг по написанию диссертаций.

«Каждый опубликованный чат с Grok полностью индексируется и доступен для поиска в Google», — отметил Кумар. — «Люди активно используют эти тактики, чтобы продвигать свои страницы в индексе Google».

Google, в свою очередь, подчёркивает, что владельцы сайтов могут контролировать индексацию своего контента. «Издатели этих страниц полностью контролируют, индексируются ли они», — заявил представитель Google Нед Адрианс. Сам Google в 2023 году прекратил индексацию чатов со своим ботом Bard, в то время как Meta продолжает разрешать поисковикам индексировать её чаты.

Реакция xAI и последствия

xAI не ответила на запрос Forbes о комментариях. Отсутствие реакции и предупреждений для пользователей подогревает дискуссии о прозрачности компании в вопросах конфиденциальности. Некоторые из опасных запросов, вероятно, исходили от специалистов по безопасности, тестирующих пределы Grok, но даже профессиональные исследователи ИИ, такие как Натан Ламберт, оказались застигнуты врасплох.

Этот инцидент поднимает вопросы о том, как ИИ-компании обрабатывают пользовательские данные, особенно в условиях, когда такие данные могут стать публичными без согласия. Ситуация с Grok подчёркивает необходимость чётких уведомлений и строгих политик конфиденциальности для защиты пользователей.

Вкратце…

Публикация более 370 тысяч разговоров с чат-ботом Grok без предупреждения пользователей стала серьёзным ударом по репутации xAI. Функция «поделиться» сделала чаты доступными для индексации поисковиками, включая конфиденциальные данные и запросы, нарушающие правила компании, такие как инструкции по созданию наркотиков, оружия и даже план покушения на Илона Маска. Ситуация напоминает недавний скандал с ChatGPT, но в случае Grok отсутствие уведомлений усугубляет проблему. Эксперты призывают пользователей быть осторожными с функцией «поделиться» и требуют от xAI прозрачности в обработке данных.