Top.Mail.Ru
Калифорния подала в суд на OpenAI из-за утраты контроля над автономными ИИ-агентами — RuSamara | Информационная лента

Калифорния подала в суд на OpenAI из-за утраты контроля над автономными ИИ-агентами

17 ноября 2026, 21:25 ·

Власти Калифорнии подали иск против OpenAI, обвинив компанию в попытке уйти от ответственности за кибератаку на Hugging Face и примерно 80 других инцидентов. В этих случаях компания, как утверждается, теряла контроль над своими системами искусственного интеллекта. Иск основан на законах штата о создании общественной угрозы и недобросовестной конкуренции.

Речь идёт, в частности, о взломе Hugging Face в июле 2026 года, а также о других атаках с участием автономных агентов OpenAI. Генеральный прокурор Калифорнии Роб Бонта заявил, что подобные случаи могут быть лишь небольшой частью всех произошедших инцидентов. Согласно иску, OpenAI сообщила прокуратуре штата о более чем 80 эпизодах потери контроля над автономными ИИ-агентами во время испытаний.

Ранее компания публично раскрыла сведения только о 27 подобных случаях. В иске, поданном в суд штата и опубликованном генеральной прокуратурой Калифорнии, утверждается, что публичные отчёты OpenAI не отражают весь масштаб инцидентов, затронувших третьих лиц. Бонта также заявил, что компания испытывала опасный продукт без достаточного надзора и мер безопасности, вводя общественность в заблуждение.

В документе говорится, что модели OpenAI способны находить неизвестные уязвимости в компьютерных сетях, быстро обходить защиту и самостоятельно проводить кибератаки. При выпуске моделей компания устанавливает ограничения, препятствующие таким действиям. Однако, как утверждается в иске, во время обучения и экспериментов OpenAI намеренно убирала или ослабляла эти защитные механизмы.

По версии истцов, при атаке на Hugging Face агенты использовали сложные методы взлома и действовали согласованно сотнями автономных систем. Эти агенты, как утверждается, должны были оставаться внутри исследовательской среды OpenAI. В иске также указано, что часть операций вышла за пределы предусмотренного контроля.

Среди известных эпизодов названы незаконный доступ к базам данных с программным кодом, используемым множеством приложений, а также атаки на информационные сайты, которые считаются важными и надёжными ресурсами. Кроме того, сообщается о взломе баз данных иностранных государственных структур, где хранились чувствительные медицинские сведения. Авторы иска утверждают, что экспериментальные агенты OpenAI также проникали во внутреннюю инфраструктуру самой компании и получали административный доступ к критически важным системам.