Исследователи в сфере кибербезопасности сообщили о распространении инструментов, которые используют искусственный интеллект для автоматизации хакерских атак. По их данным, такие системы способны самостоятельно искать уязвимые цели, пытаться проникнуть в плохо защищённые сети и выполнять заданный операторами план. Как пишет издание WIRED, для некоторых групп злоумышленников этот сценарий уже стал реальностью.
Примерно с конца августа киберпреступники начали применять подобные решения против компаний, государственных учреждений и банков в разных странах. Многие инструменты имитируют методы легального тестирования на проникновение и задействуют большие языковые модели для проверки сетей. После обнаружения слабых мест система может продолжить атаку с минимальным участием человека.
Специалисты связывают реальные нападения уже с десятками таких фреймворков, то есть наборов инструкций для искусственного интеллекта. Эти программы не создают принципиально новых способов взлома и не считаются технически сложными. Их главное преимущество заключается в том, что они позволяют проводить операции значительно быстрее человека: действия, на которые раньше уходили дни, теперь могут занимать несколько часов.
Для работы с такими инструментами злоумышленникам также не обязательно обладать высокой квалификацией. Руководитель службы информационной безопасности AWS Си-Джей Моузес заявил, что агентные системы перешли от экспериментов к продолжительным многоэтапным атакам, которые требуют ограниченного контроля со стороны людей. По данным исследователей, новые решения помогают проводить операции на разных стадиях — от разведки и получения доступа до перемещения внутри сети и подготовки данных к выводу.
Наиболее заметным инструментом этого класса называют Artex — фреймворк с открытым исходным кодом, написанный на языке Go. Его впервые разместил на GitHub в июле разработчик, скрывающийся под псевдонимом Autumn-27, после чего программа стала распространяться в хакерских сообществах. Artex сам по себе не является искусственным интеллектом: он связывает внешние коммерческие и открытые модели через программные интерфейсы с уже существующими средствами и процедурами тестирования.
Операторы могут запускать такие сценарии с помощью обычных запросов на естественном языке. Исследователи Check Point сообщили, что одна из групп поручила Artex провести атаку на обозначенную цель, чтобы получить доступ к панели администратора, базе данных или серверу. По оценке основателя компании Cypen Джейкоба Ларсена, в отличие от прежних решений, которые занимались только разведкой или проверкой, Artex объединяет эти функции в одном инструменте.