У нового ИИ-помощника Muse от Meta (признана в РФ экстремистской и запрещена) обнаружили уязвимость нулевого дня. Она позволяет приложениям, установленным на компьютере, и командам терминала получить полный контроль над агентом, работающим локально. На фоне этого заявления основателя и генерального директора компании Марка Цукерберга о том, что Muse «с самого начала создан с учетом конфиденциальности и безопасности», вызвали вопросы.
Компания Meta (признана в РФ экстремистской и запрещена) представила Muse несколько недель назад. Помощник умеет записывать пользователей на прием, заполнять формы, взаимодействовать со службой поддержки и самостоятельно выполнять поручения. Кроме того, он может совершать покупки, создавать изображения и документы, а также подключаться к приложениям и онлайн-сервисам.
Приложение выпустили для macOS, при этом версии для Windows нет. Muse получает доступ к WhatsApp, электронной почте, календарю и социальным сетям пользователя. Если для выполнения задачи требуется отсутствующий инструмент, помощник способен создать его самостоятельно.
Для работы сервису необходимы учетные данные и разрешения на использование системных ресурсов компьютера. Пользователь должен предоставить приложению доступ к файлам, микрофону, камере, геолокации и календарю. Уязвимость позволяет обойти ограничения macOS, которые обычно не дают приложениям и командам терминала свободно обращаться к таким ресурсам.
Исследователь Патрик Уордл сообщил, что ошибка дает любой локальной программе или команде доступ к токену, подтверждающему учетную запись Muse. Разработчики оставили возможность менять ряд скрытых настроек независимо от выданных приложению разрешений. Среди них есть параметр, который перенаправляет расшифровку речи с серверов Meta (признана в РФ экстремистской и запрещена) на адрес, выбранный злоумышленником, после чего тот получает токен и полный контроль над аккаунтом.
Дополнительные вопросы к безопасности Muse появились после того, как Amazon в воскресенье начала блокировать помощника на своем сайте. Об этом сообщило издание Ars Technica, опубликовавшее сведения об уязвимости и ограничениях, связанных с работой приложения.