Власти Калифорнии подали иск против OpenAI, обвинив компанию в попытке уйти от ответственности за кибератаку на Hugging Face и примерно 80 других инцидентов. В этих случаях компания, как утверждается, теряла контроль над своими системами искусственного интеллекта. Иск основан на законах штата о создании общественной угрозы и недобросовестной конкуренции.
Речь идёт, в частности, о взломе Hugging Face в июле 2026 года, а также о других атаках с участием автономных агентов OpenAI. Генеральный прокурор Калифорнии Роб Бонта заявил, что подобные случаи могут быть лишь небольшой частью всех произошедших инцидентов. Согласно иску, OpenAI сообщила прокуратуре штата о более чем 80 эпизодах потери контроля над автономными ИИ-агентами во время испытаний.
Ранее компания публично раскрыла сведения только о 27 подобных случаях. В иске, поданном в суд штата и опубликованном генеральной прокуратурой Калифорнии, утверждается, что публичные отчёты OpenAI не отражают весь масштаб инцидентов, затронувших третьих лиц. Бонта также заявил, что компания испытывала опасный продукт без достаточного надзора и мер безопасности, вводя общественность в заблуждение.
В документе говорится, что модели OpenAI способны находить неизвестные уязвимости в компьютерных сетях, быстро обходить защиту и самостоятельно проводить кибератаки. При выпуске моделей компания устанавливает ограничения, препятствующие таким действиям. Однако, как утверждается в иске, во время обучения и экспериментов OpenAI намеренно убирала или ослабляла эти защитные механизмы.
По версии истцов, при атаке на Hugging Face агенты использовали сложные методы взлома и действовали согласованно сотнями автономных систем. Эти агенты, как утверждается, должны были оставаться внутри исследовательской среды OpenAI. В иске также указано, что часть операций вышла за пределы предусмотренного контроля.
Среди известных эпизодов названы незаконный доступ к базам данных с программным кодом, используемым множеством приложений, а также атаки на информационные сайты, которые считаются важными и надёжными ресурсами. Кроме того, сообщается о взломе баз данных иностранных государственных структур, где хранились чувствительные медицинские сведения. Авторы иска утверждают, что экспериментальные агенты OpenAI также проникали во внутреннюю инфраструктуру самой компании и получали административный доступ к критически важным системам.