Top.Mail.Ru
Исследование выявило утечки промптов и взломы поставщиков ИИ-инфраструктуры — RuSamara | Информационная лента

Исследование выявило утечки промптов и взломы поставщиков ИИ-инфраструктуры

21 ноября 2026, 12:41 ·

Исследование выявило утечки запросов пользователей в цепочке поставок сервисов искусственного интеллекта. Как пишет Ars Technica, злоумышленники получили доступ как минимум к трем поставщикам ИИ и использовали его для перехвата поступавших к ним запросов. Кроме того, несколько посредников на рынке вычислительных мощностей сохраняли запросы и передавали их людям, применявшим похищенные учетные данные.

Проверка также показала, что ряд поставщиков не соблюдал настройки конфиденциальности конечных пользователей. Речь идет о пометках Zero Data Retention (ZDR, «нулевое хранение данных») и «не собирать данные». Для проверки специалисты отправили поставщикам почти два миллиона запросов с уникальными секретами, по которым можно было отследить их дальнейшее появление.

Руководитель исследований компании Dragos Мур сообщил, что отслеживание секретов позволило обнаружить нарушения безопасности, кражу запросов и масштабные проблемы с защитой клиентских данных. При передаче запросы шифруются, однако на каждом этапе внутри разветвленной сети посредников их расшифровывают. Сначала маршрутизатор ИИ анализирует содержимое и выбирает подходящего поставщика, после чего запрос может пройти через несколько моделей, хостингов и других маршрутизаторов.

Каждый участник такой цепочки потенциально способен записывать запросы и хранить их столько, сколько предусматривают его правила, либо неограниченно долго. Наиболее серьезным результатом проверки стало обнаружение взлома трех отдельных хостинг-провайдеров. После компрометации одного из них атакующие повторно использовали несколько сотен ключей AWS.

Каждый ключ применялся только в одном запросе к конкретному поставщику, а все операции пришлись на несколько коротких периодов в конце октября. Были похищены даже запросы, которые провайдер отклонил до запуска модели, что указывает на перехват данных на входе в систему. В двух других случаях среди скомпрометированных запросов были пометки ZDR, однако они не защитили информацию после получения злоумышленниками доступа к инфраструктуре.

Связанные со взломом лица проверяли каждый ключ, иногда уже через несколько часов после его появления, чтобы определить доступные ресурсы. Они изучали хранилища S3, менеджеры секретов и хранилища параметров в поисках новых учетных данных. Кроме того, злоумышленники пытались активировать модели в AWS Bedrock и добавляли собственных пользователей IAM для сохранения доступа, а всего похищенные тестовые ключи применялись в десятках тысяч вызовов API AWS.