Крупные языковые модели продолжают «придумывать» несуществующие веб-адреса. Теперь этим активно пользуются киберпреступники: они первыми регистрируют такие домены и размещают на них фишинговые страницы или вредоносный контент. Жертвы приходят сами — их приводят доверенные ИИ-инструменты, передает на The Hacker News.
Исследователи подразделения Unit 42 компании Palo Alto Networks назвали эту тактику Phantom Squatting. Согласно их новому отчету, прием уже активно используется в реальных атаках.
Как работает атакаКогда ИИ отвечает на запрос, он нередко генерирует ссылки на несуществующие сайты. Эти домены ещё свободны, имеют нулевую репутацию и не занесены в черные списки. Злоумышленник быстро регистрирует такой домен и размещает на нём фишинговую страницу или вредоносное ПО. Пользователь, доверяющий ИИ, переходит по ссылке и попадает в ловушку — без единого вредоносного письма.
В рамках исследования Unit 42 две популярные ИИ-модели ответили на 685 339 вопросов о 913 известных брендах из разных отраслей. В результате модели сгенерировали более 2,1 миллиона ссылок. Около 250 000 из них оказались полностью вымышленными и на момент исследования ещё не зарегистрированными.
Реальные примерыВ одном случае исследователи предсказали генерацию домена, похожего на онлайн-магазин национальной почтовой службы. Через 23 дня атакующий зарегистрировал именно этот домен и развернул на нем продвинутый фишинговый кит. В другом случае фейковый домен был захвачен через 51 день после прогноза и использовался для распространения вредоносного Android-приложения.
Почему это опасно? Новые домены имеют «чистую историю», поэтому традиционные средства защиты их не блокируют. Разные модели часто придумывают одни и те же несуществующие домены. Повышение креативности модели только увеличивает количество галлюцинаций.
Как отмечают эксперты, это структурная особенность архитектуры больших языковых моделей, которую крайне сложно полностью устранить.
Что делать пользователям и компаниямНикогда не переходить по ссылкам от ИИ без самостоятельной проверки официального домена. Запретить ИИ-агентам автоматически открывать или скачивать файлы по сгенерированным ссылкам. Воспринимать ответы моделей как черновик, а не как проверенный источник.
Phantom Squatting — яркий пример того, как злоумышленники быстро адаптируются к новым технологиям. Пока ИИ продолжает «выдумывать» интернет, это окно возможностей для атакующих остается открытым.
Кто первым займет эти «фантомные» домены — защитники или преступники — во многом определит уровень угроз в ближайшие годы.
Следите за NEWS.am Tech на Facebook и Twitter