Исследователи Anthropic предупреждают о потенциальном сценарии, при котором небольшие ИИ-модели начнут распространяться между недостаточно защищенными устройствами и использовать их вычислительные ресурсы без ведома владельцев. В такой сети могут оказаться умные телевизоры, холодильники, роботы-пылесосы и другая подключенная к интернету техника. Однако речь идет о прогнозируемом риске, а не о подтвержденной эпидемии ИИ-вредоносов: описанные эксперименты пока не доказывают, что подобные системы уже массово заражают бытовые устройства.

Чем ИИ-червь отличается от обычного вируса

Классические компьютерные черви — это вредоносные программы, способные самостоятельно копировать себя и распространяться по сети. В описанном Anthropic сценарии вредоносная система могла бы переносить на другие устройства не только программный код, но и саму ИИ-модель, а затем использовать ее для выполнения задач на новом оборудовании.

Исследователи также описывают возможное распространение таких систем по принципу «цифровой плесени»: небольшие модели занимают доступные вычислительные ресурсы множества устройств и постепенно формируют распределенную сеть.

Потенциальная проблема заключается в том, что бытовая техника зачастую обладает ограниченными средствами защиты и редко воспринимается владельцами как полноценный компьютер, требующий регулярного контроля безопасности. При этом даже маломощные устройства могут иметь ресурсы, пригодные для запуска компактных моделей.

Эксперимент с недорогими ТВ-приставками

В рамках исследования команда проверила, можно ли запускать небольшие ИИ-модели на доступном оборудовании. В частности, модель Gemma от Google DeepMind удалось запустить на 15 недорогих Android TV-приставках неизвестного бренда стоимостью около $55 за каждую.

Исследователи также изучали модели китайских разработчиков, включая Qwen от Alibaba и модель семейства GLM от Z.ai. Эти эксперименты помогли оценить возможности небольших моделей и доступность вычислительных ресурсов за пределами серверных центров.

Однако запуск модели на дешевой приставке сам по себе не означает, что устройство было заражено или что модель самостоятельно размножалась по сети. Это важное различие: эксперимент демонстрирует техническую возможность использовать доступное оборудование для вычислений, тогда как полноценный ИИ-червь должен дополнительно уметь проникать на другие устройства и распространять свою модель.

Почему такую сеть будет трудно отключить

Если подобная система действительно сможет распространяться между устройствами, ее будет сложнее контролировать, чем программу, работающую на одном сервере. Вычисления окажутся распределены по множеству устройств, принадлежащих разным людям и организациям.

Часть оборудования может годами работать без обновлений безопасности. Владельцы способны даже не подозревать, что их техника выполняет посторонние задачи. В таком случае злоумышленники могли бы использовать совокупную вычислительную мощность зараженных устройств, хотя конкретные масштабы и практическая эффективность подобной сети пока не установлены.

Anthropic рассматривает этот сценарий как один из возможных рисков дальнейшего развития автономных ИИ-систем. Исследователи предупреждают, что в будущем программные агенты могут работать на самых разных типах оборудования, в том числе на устройствах, которые не находятся под непосредственным контролем человека.

Что можно сделать уже сейчас

Основная мера защиты — не допускать, чтобы подключенная техника оставалась без обновлений и базовых средств кибербезопасности. Производителям важно обеспечивать исправление уязвимостей, ограничивать доступ приложений к системным ресурсам и предусматривать безопасное обновление программного обеспечения на протяжении всего срока службы устройства.

Пользователям стоит устанавливать обновления прошивки, менять стандартные пароли, отключать ненужные сетевые функции и по возможности размещать устройства умного дома в отдельной сети Wi-Fi. Это не гарантирует защиту от всех угроз, но сокращает возможности для несанкционированного доступа.

В Anthropic подчеркивают, что подготовка к будущим угрозам должна включать не только предотвращение взломов, но и способность обнаруживать и ограничивать последствия атак, если полностью исключить их не удастся.

Пока «ИИ-плесень» остается сценарием возможного развития угроз, а не установленным фактом массового заражения бытовой техники. Но исследование обращает внимание на важную проблему: по мере распространения компактных ИИ-моделей вычислительные ресурсы могут появляться практически повсюду — и вместе с ними новые способы злоупотребления устройствами, которые прежде не считались привлекательной целью для сложных атак.