Как злоумышленники используют выдаваемые ИИ фантомные домены для фишинга

Крупные языковые модели продолжают «придумывать» несуществующие веб-адреса. Теперь этим активно пользуются киберпреступники: они первыми регистрируют такие домены и размещают на них фишинговые страницы или вредоносный контент. Жертвы приходят сами — их приводят доверенные ИИ-инструменты, передает на The Hacker News.

Исследователи подразделения Unit 42 компании Palo Alto Networks назвали эту тактику Phantom Squatting. Согласно их новому отчету, прием уже активно используется в реальных атаках.

Как работает атака

Когда ИИ отвечает на запрос, он нередко генерирует ссылки на несуществующие сайты. Эти домены ещё свободны, имеют нулевую репутацию и не занесены в черные списки. Злоумышленник быстро регистрирует такой домен и размещает на нём фишинговую страницу или вредоносное ПО. Пользователь, доверяющий ИИ, переходит по ссылке и попадает в ловушку — без единого вредоносного письма.

В рамках исследования Unit 42 две популярные ИИ-модели ответили на 685 339 вопросов о 913 известных брендах из разных отраслей. В результате модели сгенерировали более 2,1 миллиона ссылок. Около 250 000 из них оказались полностью вымышленными и на момент исследования ещё не зарегистрированными.

Реальные примеры

В одном случае исследователи предсказали генерацию домена, похожего на онлайн-магазин национальной почтовой службы. Через 23 дня атакующий зарегистрировал именно этот домен и развернул на нем продвинутый фишинговый кит. В другом случае фейковый домен был захвачен через 51 день после прогноза и использовался для распространения вредоносного Android-приложения.

Почему это опасно? Новые домены имеют «чистую историю», поэтому традиционные средства защиты их не блокируют. Разные модели часто придумывают одни и те же несуществующие домены. Повышение креативности модели только увеличивает количество галлюцинаций.

Как отмечают эксперты, это структурная особенность архитектуры больших языковых моделей, которую крайне сложно полностью устранить.

Что делать пользователям и компаниям

Никогда не переходить по ссылкам от ИИ без самостоятельной проверки официального домена. Запретить ИИ-агентам автоматически открывать или скачивать файлы по сгенерированным ссылкам. Воспринимать ответы моделей как черновик, а не как проверенный источник.

Phantom Squatting — яркий пример того, как злоумышленники быстро адаптируются к новым технологиям. Пока ИИ продолжает «выдумывать» интернет, это окно возможностей для атакующих остается открытым.

Кто первым займет эти «фантомные» домены — защитники или преступники — во многом определит уровень угроз в ближайшие годы.