Новый универсальный ИИ-агент Muse от Meta (признана в РФ экстремистской и запрещена) может раскрывать конфиденциальные сведения при передаче пользователями диалогов через веб-ссылки. Об этом в понедельник сообщили исследователи компании Claroc, обнаружившие тысячи доступных для поиска ссылок на разговоры. Среди опубликованных данных оказалась информация, которая явно не предназначалась для общего доступа.
Muse позволяет делиться с другими людьми поисковыми запросами, диалогами, изображениями и другими материалами. Обычно сервис формирует уникальный адрес, по которому можно открыть страницу с выбранным содержимым. Для защиты таких страниц ссылки, как правило, содержат длинные случайные последовательности, которые трудно подобрать.
Однако в Muse в адрес ссылки добавляется название разговора, а все такие страницы размещаются в домене cf.metaaiusercontent.com. По данным Claroc, это позволило исследователям с помощью поиска по пассивным DNS-записям (истории сопоставления доменов с сетевыми адресами) выявить 6800 ссылок, созданных пользователями для обмена диалогами. После проверки нескольких сотен адресов специалисты нашли заметки кандидата к конфиденциальной встрече с представителем лаборатории передового искусственного интеллекта, внутренний отчёт национальной маркетинговой компании о выручке и заявку владельца малого бизнеса на кредит с указанной суммой.
Кроме того, в открытом доступе оказались список задач с предупреждением о банковском мошенничестве, частью номера счёта и данными операции, отчёт инвестора в недвижимость с адресами двух объектов и точными финансовыми показателями. Исследователи также обнаружили годовой график отпусков сотрудников одной организации с указанием недель отсутствия десятков работников. «Если бы вы спросили нас заранее, мы бы предположили, что на сбор таких данных потребуется немало усилий. Нам хватило одного запроса», — написали специалисты Claroc.
Пассивные DNS-сервисы собирают сведения о сетевых ответах, которые фиксируются при обращении к доменам, и сохраняют их в поисковых базах. После перехода пользователя по ссылке соответствующая информация может попасть в такую систему. В случае Muse доступ к адресам упростило сочетание общего домена и названий разговоров, включённых непосредственно в URL.
В качестве примеров Claroc привела адреса, содержащие названия вроде «бюджет продажи дома», «обзор выручки за третий квартал» и «черновик кредитной заявки». Именно решение размещать заголовок разговора в ссылке, по оценке исследователей, сделало страницы доступными для обнаружения. При этом генеральный директор Meta (признана в РФ экстремистской и запрещена) Марк Цукерберг ранее заявлял, что Muse создавался с учётом требований конфиденциальности и безопасности.