Исследователи изучили, могут ли небольшие модели искусственного интеллекта создавать самораспространяющиеся заражения для устройств интернета вещей. Такие программы могли бы самостоятельно работать на взломанной технике по принципу традиционных сетевых червей, включая Mirai, который устанавливает код для DDoS-атак и другие вредоносные компоненты. При этом ИИ-черви представляли бы более серьёзную угрозу, поскольку способны подбирать эксплойты и полезную нагрузку под конкретную цель.
Anthropic сообщила, что подобная программа могла бы переносить веса своей модели вместе с заражением или загружать их из открытого репозитория. После этого модель запускала бы обработку данных непосредственно на скомпрометированном устройстве, а её веса фактически становились частью вредоносной программы.
В Anthropic назвали такие системы автономными репликаторами на основе весов модели. Их агенты получали доступ к распространённым инструментам эксплуатации, включая обратные оболочки. Цепочка атаки включала поиск целей, получение возможности выполнять код, настройку среды для работы модели и распространение на новые устройства.
Преимуществом ИИ-червей могла стать способность учиться в процессе атаки. Если репликатору не удавалось взломать устройство определённого типа, он мог оставлять следующим копиям сведения о неудачных запросах, коде и предпринятых действиях. Это позволяло бы не повторять неэффективные шаги.
Наиболее сложной частью процесса Anthropic считает настройку среды для работы модели на конкретном оборудовании. Она требует подобрать совместимое программное обеспечение, установить зависимости и устранить ошибки, связанные с особенностями платформы. «Эти шаги зависят друг от друга, а после сбоев восстановление затруднено», — заявили в компании.
Проведённый эксперимент показал, что небольшие модели постепенно лучше справляются с такими задачами самостоятельно. Однако протестированные облегчённые модели пока не могут полностью пройти весь цикл: найти новые устройства, использовать уязвимость, установить полезную нагрузку, настроить сервер вывода и повторить заражение. Процесс остаётся крайне медленным: Gemma4-26B-A4B, распределённая между 15 приставками Android TV, работала со скоростью 0,39 токена в секунду, а полная настройка занимала от 71 до 150 часов; для Qwen3.5-9B этот показатель составлял от 29 до 51 часа. По данным Anthropic, крупная модель GLM-5.2, вероятно, уже способна стабильно выполнять такую задачу.