Gaslight: Новое вредоносное ПО для macOS пытается обмануть системы анализа на базе ИИ

Исследователи в области кибербезопасности обнаружили ранее неизвестное вредоносное ПО для macOS, которое не только обеспечивает удаленный доступ к зараженному устройству и похищает данные, но и содержит механизм, рассчитанный на противодействие инструментам анализа с использованием искусственного интеллекта, передает The hacker news. 

Вредонос получил название Gaslight. По оценке специалистов SentinelOne, с высокой степенью вероятности он связан с деятельностью северокорейских хакерских группировок.

Управление через Telegram

Gaslight представляет собой написанный на Rust имплант удаленного доступа с функциями инфостилера. Для связи с операторами используется канал управления и контроля (C2), построенный на Telegram Bot API.

После заражения системы вредонос переходит в режим постоянного опроса сервера и ожидает команды злоумышленников. Исследователи обнаружили шесть основных команд: help — вывод справочной информации; id — идентификация зараженного узла; shell — выполнение команд оболочки через execvp; kill — завершение процесса по его идентификатору; upload — отправка файлов через механизм Telegram attach://; stop — остановка работы импланта.

Кроме того, специалисты нашли признаки существования седьмой команды — focus, однако ее назначение пока остается неизвестным.

Для сохранения доступа после перезагрузки системы Gaslight использует LaunchAgent. В plist-файле применяется название «com.apple.system.services.activity», маскирующееся под легитимный компонент macOS.

Кража данных с компьютера жертвы

В состав вредоноса входит Python-модуль для сбора информации о системе. Скрипт размером около 6,6 КБ хранится в закодированном виде и извлекает широкий набор данных, включая: историю команд в Terminal; перечень установленных приложений; сведения о запущенных процессах; аппаратный и программный профиль компьютера; данные из Keychain macOS; информацию из браузеров Chrome, Brave, Firefox и Safari.

Собранные данные архивируются в файл temp/collected_data.zip и затем отправляются через Telegram.

Сам модуль кражи данных устанавливается отдельным bash-инсталлятором размером около 2 КБ, который разворачивает интерпретатор cpython-3.10.18 из проекта python-build-standalone. Исследователи отмечают, что многочисленные комментарии и эмодзи в коде могут указывать на использование больших языковых моделей при его создании или модификации.

Скрытая конфигурация

В отличие от многих вредоносных программ, Gaslight не содержит жестко прописанных параметров управления. Токен Telegram-бота, идентификатор чата и другие настройки передаются во время выполнения.

Дополнительно вредонос скрывает собственный Telegram-токен из журналов работы и сообщений об ошибках. Такой подход затрудняет расследование даже при получении логов или дампов памяти с зараженного устройства.

Атака на инструменты анализа

Главной особенностью Gaslight стал встроенный механизм prompt injection, ориентированный на системы анализа, использующие большие языковые модели.

Вредонос содержит блок Markdown с 38 поддельными системными сообщениями, имитирующими различные критические сбои. Среди них — сообщения об истечении срока действия токенов, нехватке памяти, переполнении диска, многочисленных ошибках выполнения и предупреждения о якобы обнаруженных проблемах безопасности.

По словам исследователя SentinelOne Фила Стоукса, примечательной особенностью вредоноса является встроенный каскад сфабрикованных сообщений о сбоях системы, предназначенный для того, чтобы заставить агента, использующего LLM для сортировки запросов, усомниться в собственной сессии. Он атакует восприятие агента, а не песочницу, в которой он работает, отмечает Стоукс. 

Предполагается, что подобные сообщения могут заставить ИИ-инструмент преждевременно завершить анализ, сократить его объем или отказаться от обработки образца. В SentinelOne считают, что это одна из первых зафиксированных попыток использовать методы prompt injection против автоматизированных процессов анализа вредоносного ПО.

Новая угроза для эпохи ИИ

Появление Gaslight демонстрирует изменение подходов к разработке вредоносного ПО. По мере того как инструменты на базе больших языковых моделей начинают использоваться для ускорения расследований и предварительного анализа угроз, злоумышленники адаптируют свои инструменты под особенности таких систем.

В случае Gaslight целью становится не обход антивируса или песочницы, а влияние на сам процесс исследования образца. Это может стать новым направлением развития вредоносных технологий по мере роста роли искусственного интеллекта в сфере кибербезопасности.

Вкратце

Gaslight — новое вредоносное ПО для macOS, которое сочетает функции удаленного доступа и кражи данных с необычным механизмом противодействия анализу. Вредонос использует Telegram в качестве канала управления, собирает широкий набор системной информации и содержит встроенную prompt injection-атаку, рассчитанную на инструменты анализа с использованием больших языковых моделей. По мнению исследователей, этот случай может свидетельствовать о появлении нового класса угроз, ориентированных на ИИ-системы, применяемые в кибербезопасности.