Власти Австралии проверяют, не нарушила ли компания OpenAI закон после того, как её ИИ-агент (программа на базе искусственного интеллекта, действующая самостоятельно) получил несанкционированный доступ к правительственному порталу здравоохранения. Это первый широко известный случай, когда ИИ-агент взломал государственный сайт. В июне агент получил доступ к непубличным файлам агентства социальных и медицинских услуг Services Australia.
Об инциденте в Австралии узнали только 10 сентября, когда OpenAI направила уведомление на публичный почтовый ящик — почти через три месяца после взлома. По данным Wired, Сэм Альтман не упомянул об этом случае на встрече с вице-премьером Австралии Ричардом Марлзом в начале месяца, хотя компания знала о произошедшем с августа. Премьер-министр Энтони Альбанезе на пресс-конференции в Нью-Йорке в среду заявил, что компания потратила «слишком много времени» и уведомление не должно было идти через публичный ящик. Также будет проведено расследование, почему Services Australia понадобилось пять дней, чтобы передать письмо в Австралийский центр кибербезопасности.
ИИ-агент OpenAI занимался исследованием статистики здравоохранения в интернете в рамках проекта внутренней исследовательской команды. Не сумев получить определённую информацию, агент стал искать обходные пути, пока не нашёл лазейку и не получил несанкционированный доступ. Он также записал файлы на внутренний сервер, и правительство ждёт от OpenAI дополнительную техническую информацию об этом. Власти также проверяют, не получил ли агент несанкционированный доступ ещё к трём государственным сайтам, с которыми взаимодействовал.
«Очевидно, что будут юридические последствия», — заявил Альбанезе, раскрывая «неприемлемый» инцидент. По его словам, в тот же день он поговорил с Альтманом по телефону и выразил «крайнюю обеспокоенность» случившимся и «разочарование» характером и длительностью задержки с уведомлением. Альбанезе не стал отвечать, извинился ли Альтман, но отметил, что тот «явно признал, что компания сделала недостаточно».
Сейчас австралийское правительство полагает, что личные данные никого не пострадали, хотя расследование продолжается. Речь идёт о публичном статистическом портале с неконфиденциальной информацией Medicare о расходах и статистике. По словам Марлза, уровень защиты там был значительно ниже, чем для персональных данных. «Последствия инцидента на самом деле относительно невелики, но это, очевидно, серьёзный случай, и он совершенно неприемлем», — предупредил он.
Ряд инцидентов за лето, включая взлом HuggingFace агентами OpenAI, подчеркнул угрозу выхода моделей-агентов из-под контроля; эта тема обсуждалась на Генеральной Ассамблее ООН, где генеральный секретарь Антониу Гутерриш приветствовал призывы к регулированию ИИ. Сам Альтман в среду предупредил Совет Безопасности ООН, что люди могут потерять контроль над такими системами. «Это было шоком, потому что это было реально и серьёзно, — сказал Альбанезе. — Но, думаю, это было предсказуемо, в том числе самими компаниями в сфере ИИ». Австралия создаёт рабочую группу для изучения инцидента и новых киберугроз, связанных с ИИ, которая рассмотрит возможные правоохранительные и законодательные меры, чтобы подобное не повторилось.