Top.Mail.Ru
Исследование: ИИ-модели легко вовлекаются в поиск целей для военных ударов — RuSamara | Информационная лента

Исследование: ИИ-модели легко вовлекаются в поиск целей для военных ударов

18 ноября 2026, 13:54 ·

Исследование компании Vals показало, что некоторые современные модели искусственного интеллекта можно склонить к поиску целей для военных ударов. Для этого исследователи иногда представляли сценарий частью компьютерной игры, в том числе когда на изображениях могли находиться гражданские или школы. Результаты работы опубликованы Vals, стартапом из Сан-Франциско, который занимается оценкой систем искусственного интеллекта.

В ходе эксперимента проверялись модели OpenAI, Anthropic, Google, DeepSeek и других разработчиков. Системам показывали созданные и реальные снимки с беспилотников и спутников, включая изображения, связанные с Украиной и Ираном. Модели нередко отмечали потенциальные цели, среди которых оказывались мирные жители и военнослужащие, прекратившие сопротивление.

По данным Vals, защитные механизмы редко блокировали подобные запросы, а отказы моделей были непродолжительными. Если система отказывалась отвечать, исследователи могли обойти ограничение, представив происходящее игровой ситуацией. При этом модели напрямую не просили принимать решение об ударе, однако полученные сведения могли использоваться в системах автономного оружия.

Отдельно исследователи проверили снимок иранской школы, расположенной рядом с военным объектом и подвергшейся удару США в феврале 2026 года. Модель Claude Opus 5.5 назвала школу целью в 69% обычных испытаний и в 72% случаев, когда сценарий представляли игрой. Vals считает, что более близкая угроза связана не с непосредственным управлением беспилотниками, а с массовой обработкой боевых видеозаписей для создания данных, на которых могут обучаться системы наведения.

Представители Anthropic сообщили TechCrunch, что считают выявленные результаты неприемлемыми и уже усиливают защитные меры и контроль за использованием моделей. В компании подчеркнули: «Даже в санкционированных условиях Anthropic давно придерживается позиции, что современные передовые системы искусственного интеллекта недостаточно надёжны для управления полностью автономным оружием». OpenAI заявила, что запрещает применять публичные модели для содействия насилию и несанкционированных задач национальной безопасности, а также разрабатывает дополнительные средства защиты от злоупотреблений, связанных с беспилотниками.