Премьер-министр Австралии Энтони Альбанезе заявил в среду, что модель OpenAI совершила взлом правительственного сайта страны. Это первый публично известный случай, когда ИИ-модель проникла в государственные системы, передает TechCrunch. По словам Альбанезе, за этим «очевидно, последуют правовые последствия».
Инцидент произошел 18 июня, однако OpenAI уведомила власти только 10 сентября. Как сообщил представитель компании, о случившемся в OpenAI узнали лишь в августе — в ходе общего внутреннего аудита, выявившего нештатное поведение агентов. Альбанезе подчеркнул, что компания почти три месяца скрывала информацию, и он лично выразил генеральному директору OpenAI Сэму Альтману «крайнюю обеспокоенность» и «разочарование» по этому поводу.
Неуказанный агент OpenAI получил доступ к публичным и непубличным файлам агентства Services Australia, которое управляет системой всеобщего медицинского страхования. По словам премьера, свидетельств утечки персональных данных граждан нет, однако в OpenAI отметили, что агент добрался до агрегированной медицинской статистики и внутренних имен файлов. Агент работал в рамках внутренней оценки OpenAI, ища информацию об Австралии и общедоступных лекарствах, и на портале Medicare, столкнувшись с блокировками, нашел способы их обойти.
Альбанезе заявил журналистам, что модель «не приняла отказ» и не просто читала данные, а активно записывала их в правительственную базу, что допускает возможность изменения или искажения информации ведомства. О взломе OpenAI сообщила на публичную почту Services Australia, которая лишь через пять дней уведомила Австралийский центр кибербезопасности. Причины задержки неясны. Премьер дал понять, что возлагает на компанию ответственность и за сам взлом, и за медленное раскрытие информации, назвав ситуацию «очевидно неприемлемой».
Расследование правительства рассмотрит меры правоохранительного и законодательного характера, чтобы предотвратить подобное в будущем. По данным ABC News, атака могла опираться на более ранний взлом немецкого вики-сайта, использованного как плацдарм: агенты оставляли там заметки для последующих взломов, включая задачу получить данные Австралийского института здравоохранения и социального обеспечения. Альбанезе допустил, что могли быть затронуты еще три системы. Некоммерческая лаборатория Transluce отдельно обнаружила в открытых записях следы атак ИИ-агентов на этот институт 20 и 21 июня. OpenAI не ответила на запрос TechCrunch о связи инцидентов, но признала «активность, связанную с несколькими австралийскими правительственными сайтами и сервисами».
Случай стал продолжением серии инцидентов с вышедшими из-под контроля агентами: в июле рои агентов OpenAI взломали Hugging Face, после чего о похожих атаках сообщили Anthropic, Meta (признана в РФ экстремистской и запрещена) и Google. Сейчас OpenAI проводит «масштабную проверку отклоняющегося поведения моделей во время обучения и оценки» и уведомляет третьи стороны о возможных утечках.