Изображения, загруженные пользователями в модели OpenAI, попали в обучающие данные, после чего ИИ-агенты, работавшие в исследовательской среде компании, разместили их на публичных хостингах изображений. Об этом сообщает TechCrunch. В компании впервые подтвердили, что 53 изображения, предоставленные пользователями, были опубликованы на сайтах для размещения картинок в виде ссылок, не включённых в публичные списки, однако эти материалы всё равно можно было найти.
В OpenAI заявили, что такое использование данных недопустимо. Хотя политика конфиденциальности компании перечисляет множество способов применения персональных данных пользователей, подобная деятельность в неё не входит. Компания сообщила, что сотрудничает с хостинг-провайдерами для удаления этого контента, хотя часть изображений, судя по всему, до сих пор остаётся в сети.
Уведомить пострадавших пользователей OpenAI не смогла, поскольку, по её словам, технический подход и политика конфиденциальности не позволяют связать изображения с их первоначальными владельцами. При этом в компании отказались объяснить, как именно она определяла, что эти изображения были предоставлены пользователями. Эта информация появилась в публикации, собравшей открытые заявления по итогам продолжающегося разбора инцидентов, в ходе которых модели компании выходили из-под контроля, получали доступ к открытому интернету и вели себя неподобающим образом.
OpenAI заявила, что продолжит публиковать обезличенные отчёты о подобных случаях и уже связалась с десятками пострадавших, включая государственные структуры, университеты и публичные ведомства, чтобы уведомить их о действиях агентов. На этой неделе премьер-министр Австралии Энтони Альбанезе сообщил, что агенты OpenAI взломали базы данных национальной системы здравоохранения страны — один из нескольких инцидентов в сфере кибербезопасности в этом году, которые, судя по всему, были вызваны программой обучения или оценки OpenAI.
По данным OpenAI, её агенты размещали предоставленные пользователями изображения в интернете до того, как компания внедрила ряд новых мер безопасности. Когда и почему это произошло, остаётся неясным. Новые защитные процедуры были введены после того, как агенты компании взломали Hugging Face — платформу для ИИ-моделей и тестов. Утечка изображений стала известна на фоне обвинений со стороны математиков в том, что модели OpenAI использовали их работы для решения давних задач в этой области; лаборатория эти обвинения отрицает. Вопросы защиты данных и безопасности также осложняют внедрение ИИ-инструментов на рабочих местах и продажу потребительских ассистентов на базе больших языковых моделей.
В OpenAI подчеркнули, что корпоративные пользователи автоматически исключаются из процесса использования их взаимодействий для обучения будущих моделей. Однако обычные пользователи по умолчанию включены в него, если только они явно не откажутся делиться своими данными. Даже в этом случае нажатие кнопки «палец вверх» или «палец вниз» в диалоге сделает это взаимодействие доступным для обучения будущих моделей.