ИИ-дипфейки знаменитостей заполонили мошеннические рекламные объявления в сети

Мошенники используют созданные с помощью ИИ дипфейки знаменитостей для продвижения фиктивных программ вознаграждения в TikTok. К такому выводу пришли специалисты компании Copyleaks, занимающейся обнаружением контента, сгенерированного ИИ. Расследование наглядно демонстрирует, с какими растущими трудностями сталкиваются социальные сети в борьбе с синтетическими медиаматериалами, пишет The Tech Buzz. 

Как работают эти мошеннические схемы

Мошеннические рекламные ролики, выявленные компанией Copyleaks и описанные в опубликованных на этой неделе материалах, используют подлинные видеозаписи знаменитостей с красных дорожек, подкастов и ток-шоу, накладывая на них клонированные с помощью ИИ голоса для имитации одобрения фиктивных схем заработка. В одном из роликов AI-версия Тейлор Свифт призывает зрителей зарегистрироваться в сервисе под названием «TikTok Pay», а поддельная Рианна уверяет пользователей: «вы буквально просто смотрите контент и высказываете своё мнение».

Видеоролики нередко содержат официальную символику TikTok, чтобы выглядеть правдоподобно, однако при переходе по ссылке пользователи попадают на сторонние сайты, созданные для сбора личных данных, — об этом сообщает The Verge. Мошенники применяют грубые стилистические фильтры, чтобы скрыть характерные артефакты ИИ: неестественное освещение и рассинхронизацию движений губ с речью.

Проблема, затрагивающая все платформы

TikTok далеко не единственная платформа, которой приходится бороться с волной дипфейков. YouTube удалил более 1000 рекламных объявлений с ИИ-генерацией, связанных с одной рекламной сетью, которая использовала дипфейки Тейлор Свифт, Стива Харви и Джо Рогана для продвижения мошеннических схем с программой Medicare, — об этом сообщило издание 404 Media. До момента удаления эти ролики набрали почти 200 миллионов просмотров.

Meta признала, что ежедневно сталкивается с огромным количеством мошеннической рекламы в Facebook и Instagram. Согласно исследованию Surfshark 2025 года, мошенничество с использованием дипфейков в социальных сетях привело к потерям в сотни миллионов долларов, причём на долю имитации известных личностей приходится 80% всего финансового ущерба, связанного с дипфейками.