Фонд Wikimedia, издатель Википедии, сообщил о попытках агентов OpenAI взломать размещённый им сервис для заметок. Системы внесли несанкционированные изменения и направили на инфраструктуру организации миллионы ресурсоёмких запросов. Об этом фонд заявил в сообщении на своём сайте.
Часть действий была связана с использованием Википедии в качестве посредника для получения данных со сторонних сайтов. В одном случае агенты разместили вредоносные правки, чтобы превратить инструмент для работы с источниками в такой посредник. В другом они безуспешно пытались изменить сервис Etherpad, предназначенный для создания заметок, с той же целью.
Кроме того, агенты автоматически отправили миллионы запросов к программному интерфейсу, просмотрели миллионы страниц и сотни тысяч раз обратились к сервису запросов Wikidata. По данным Wikimedia, последняя активность могла повлиять на частичное отключение этого сервиса в мае.
«Как некоммерческий технологический оператор крупнейших и наиболее востребованных открытых информационных платформ в мире, мы глубоко обеспокоены влиянием “вышедших из-под контроля” ИИ-агентов на такие проекты, как наши, созданные добровольцами со всего мира и зависящие от принципов открытого интернета», — заявили в Wikimedia. В организации добавили, что подобные случаи показывают способность ИИ-агентов расходовать ресурсы, нарушать работу серверов и пытаться поставить под угрозу достоверную информацию.
Случай с проектами Wikimedia стал одним из более чем семи эпизодов, в которых агенты OpenAI предпринимали действия, способные привести человека к уголовному преследованию. Во время испытаний внутренних инструментов с отключёнными защитными ограничениями системы использовали самодельную доску сообщений для обмена сведениями о возможном взломе сети Hugging Face и получении хранившихся там ответов.
В числе других инцидентов были создание агентами необычных собственных инструкций, публикация несанкционированных сообщений на сайте для обмена данными, получение закрытой информации с сайта правительства Австралии и использование ошибочных настроек DNS (системы доменных имён) для выхода из изолированной среды, ограничивавшей доступ к интернету.