Специалисты по кибербезопасности долгие годы отслеживали различные виды вредоносных программ и выявляли возможные заражения с помощью цифровых отпечатков, что позволяло распознавать хакерские инструменты и наблюдать за их применением. Поскольку злоумышленники всё чаще включают в свои инструменты компоненты агентного искусственного интеллекта (ИИ, действующего самостоятельно), исследователи из Cisco Talos в понедельник представили открытую платформу, которая, как они рассчитывают, получит широкое применение для классификации и анализа вредоносного ПО с интегрированным ИИ. У них также есть доказательства того, что разработка уже работает.
Платформа получила название Cognitive Artifact Intelligence Research Network, или CAIRN, в честь каменных пирамидок, которые туристы складывают на тропах, чтобы обозначить путь или отметить особенности местности. По мере того как авторы вредоносных программ расширяют использование ИИ-сервисов, исследователи Cisco Talos с помощью CAIRN выявили хакерский инструмент с полностью автономной инфраструктурой командования и управления. Получивший имя CLOSEDQUORUM, этот вредоносный код планировал свои действия внутри целевой системы, опрашивая до четырёх больших языковых моделей (LLM) о том, что ему делать, и получая указания от этого коллективного разума.
«Основная идея в том, что интеграция ИИ оставляет следы, своего рода отпечатки, — говорит Райан Феттерман, исследователь безопасности в Cisco Talos, руководивший разработкой CAIRN. — Это даёт нам сигнал, который можно использовать для отслеживания таких образцов, их классификации и наблюдения за происходящим. Что пытаются делать злоумышленники? Какие новые модели поведения мы видим? Это ценный ресурс для сообщества защитников по мере того, как подобные вещи становятся всё более распространёнными».
В июле 2025 года украинское подразделение реагирования на киберинциденты CERT-UA предупредило о фишинговой кампании, в которой использовалось вредоносное ПО под названием LAMEHUG. Этот имплант связывался с языковой моделью Qwen2.5-Coder-32B-Instruct через API Hugging Face, чтобы получать команды. «Тогда я подумал: «Вау, это потрясающе. Будет настоящий бум вредоносного ПО с ИИ, и ландшафт полностью изменится»», — вспоминает Феттерман. Однако год спустя, когда он летом занялся ретроспективным анализом вредоносных программ с ИИ, то был поражён: ему удалось найти лишь несколько задокументированных примеров. «Там действительно было немного. Кажется, я насчитал всего около девяти различных именованных семейств вредоносного ПО», — и некоторые из них были концепциями, созданными для исследований, говорит он. «Это было не то, чего я ожидал, и мне также было трудно поверить, что такова реальность. Поэтому я захотел копнуть глубже».
Результатом стал CAIRN, предназначенный для выявления признаков и атрибутов интеграции ИИ по метаданным и использования этого для классификации и маркировки образцов вредоносного ПО, по сути, уникальным идентификатором. Затем система анализирует каждый артефакт в контексте всего, что есть в библиотеке CAIRN, и группирует их по различным признакам, чтобы показать возможные тенденции и связи. Феттерман утверждает, что за несколько месяцев работы с CAIRN он обнаружил ещё около 20 примеров вредоносного ПО с интегрированным ИИ. «Так что, хотя я по-прежнему считаю, что для злоумышленников это в значительной степени экспериментально, ландшафт гораздо сложнее и разнообразнее, чем сообщалось публично, — говорит он. — Там много всего происходит, и это даёт ценный ранний сигнал о том, что будет дальше».
Хакерский инструмент CLOSEDQUORUM, выявленный с помощью CAIRN, представляет собой вредоносное ПО для Windows, которое советуется с DeepSeek, Qwen, Mistral и Google Gemini, чтобы выработать консенсус о своих следующих шагах. Даже если один ИИ-сервис недоступен, вредоносная программа продолжает опрашивать остальные, создавая достаточную избыточность, чтобы система была полностью замкнутой и не имела механизма для вмешательства человека. Исследователи Cisco Talos заметили некоторые связи этого ПО с киберпреступными форумами о мошенничестве с кредитными картами, восходящими к 2025 году, и оно предназначено для кражи учётных данных для входа и криптовалюты. При этом исследователи не смогли подтвердить, кто разработал вредоносную программу, и использовалась ли она в реальных атаках. «Изначально все видели в ИИ инструмент повышения производительности, верно? — говорит Мэтт Олни, старший директор по анализу угроз в Cisco Talos, имея в виду как легальную работу, так и вредоносный взлом. — Теперь мы видим, что его начинают операционализировать. Для злоумышленников это позволяет проводить больше кампаний, охватывать больше пространств, управлять большим числом разных компьютеров, потому что у них есть этот очень умный блок на бэкенде, который может задавать вопросы и давать ответы».