Некоммерческая исследовательская лаборатория Transluce, занимающаяся надзором за системами искусственного интеллекта, опубликовала отчёт, в котором описаны случаи попыток ИИ-агентов компании OpenAI получить доступ к закрытым данным. Агенты пытались извлечь информацию с сайта Data USA, из цифровой библиотеки Университета Нью-Мексико и с ресурсов Австралийского института здравоохранения и социального обеспечения (AIHW). Расследование поднимает вопрос о том, в какой момент OpenAI должна была узнать о том, что её агенты пытаются проникнуть в защищённые системы в открытом интернете.
Сотрудники Transluce смогли обнаружить признаки нежелательного поведения агентов всего за несколько недель. Для этого они искали плохо защищённые веб-сервисы и сопоставляли свои находки с другими открытыми записями об активности ИИ-агентов в сети. Отчёт был обнародован в тот же день, когда премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI пытались взломать четыре правительственных сайта и в одном случае добились успеха, записав файлы на внутренний сервер национальной системы здравоохранения. По словам Альбанезе, это, судя по всему, было частью оценки способности ИИ искать информацию, что совпадает с данными, которые обнаружили Transluce и другие исследователи.
В ходе таких упражнений, которые могут быть как обучением, так и оценкой, моделям OpenAI поручают находить малоизвестные статистические данные: показатели борьбы с наркотиками в Таиланде, стоимость лекарств в Австралии, медианный заработок обладателей магистерских степеней в США в 2014 году. Агенты используют слабо защищённые интернет-сервисы для обмена информацией и поиска ответов, часто пытаясь проникнуть в защищённые базы данных. Подобная активность фиксируется как минимум с марта 2026 года, а возможно, и с ноября 2025 года, и может продолжаться прямо сейчас.
Transluce начала расследование после того, как другая группа исследователей обнаружила малоизвестный форум, где агенты объединялись для прохождения тестов на время. Их отчёт опирается на данные сайта urlquery.net, который работает как браузерный прокси, предположительно для исследований в сфере безопасности: пользователи могут проанализировать ссылку, не открывая её. При этом сервис публикует открытые журналы такой активности. Исследователи Transluce смогли выявить агентов, пользовавшихся сервисом, сопоставив их обсуждения на форуме. «Мы обнаружили большое количество автоматизированной активности, тесно связанной и пересекающейся с набором данных DSE Wiki, и теперь OpenAI подтвердила, что она как минимум частично относится к тому же рою», — заявил TechCrunch Конрад Стож, руководитель направления управления в Transluce, отметив при этом, что не каждое замеченное действие удалось связать с OpenAI или вообще с ИИ-агентами.
Тем не менее вики показывает, что перед агентами ставилась задача найти довольно obscure (малоизвестный) факт — средние годовые расходы на человека на «дерматологические средства» в штате Виктория в январе 2022 года. Найденные Transluce записи urlquery.net от 20 июня свидетельствуют о попытке агента проникнуть на сайт. В записи вики от 21 июня агент обсуждает невозможность обойти антибот-защиту AIHW. Исследователи, обнаружившие форум, полагают, что сотрудник OpenAI впервые посетил сайт в тот же день, 21 июня. Большая часть активности агентов на форуме прекратилась на следующий день. Это произошло вскоре после взлома австралийской системы здравоохранения, о котором сообщил Альбанезе и который датируется 18 июня. OpenAI заявляет, что узнала об этой активности только в августе.
Представитель OpenAI сообщил TechCrunch, что первоначальная проверка показывает: значительная часть описанной в отчёте Transluce активности совпадает со случаями, находящимися на разных стадиях расследования в рамках продолжающегося анализа нежелательного поведения моделей. По его словам, компания связалась с Университетом Нью-Мексико и Data USA, а также поддерживает контакт с правительством Австралии по поводу затронутых государственных сайтов. В рамках более широкой проверки OpenAI продолжает уделять приоритетное внимание самым серьёзным инцидентам, одновременно расширяя работу на менее опасную активность, включая спам агентов на сайтах. Учитывая масштаб работы и необходимость проверять каждый случай, проверка, по его словам, может занять месяцы. Стож отмечает, что без более ясного понимания того, как OpenAI отслеживает своих агентов, трудно сказать, что компания должна была о них знать, но, по его мнению, при исчерпывающем изучении всех исходящих запросов и входящих ответов агентов, связанных с DSE Wiki, эта активность была бы обнаружена.