Сотрудники Meta (признана в РФ экстремистской и запрещена) сообщили о сбоях в работе ИИ-агента Muse. По их словам, сервис иногда путал переписки разных пользователей и показывал конфиденциальные сведения, относящиеся к чужим аккаунтам. Об этом сообщило агентство Reuters после изучения внутренних сообщений компании.
В отдельных случаях Muse выдавал пользователям данные о запросах на услуги по уходу за детьми, которых они не делали. Также система предлагала советы по карьере и сведения о заказах, к которым пользователи не имели отношения. Кроме того, сотрудники сталкивались с отображением чужих остатков на банковских счетах.
Один из работников рассказал, что во время переписки о погоде и состоянии прилива сервис неожиданно добавил сообщение с данными о счетах в Capital One и Charles Schwab. В сообщении были указаны суммы 2722,58 и 5899,57 доллара соответственно. Сотрудник связал появление этих сведений с ошибкой ИИ-агента.
Другой случай произошёл при использовании Muse на личном телефоне сотрудницы. Сервис напомнил ей ответить на сообщение сестры в Signal — мессенджере со сквозным шифрованием. Женщина заявила коллегам, что не разрешала приложению обращаться к другим программам и не помнила, чтобы её об этом спрашивали.
Muse запустили в сентябре, и приложение быстро приобрело популярность. Число его загрузок превысило 10 миллионов, что стало одним из самых быстрых показателей роста среди приложений. Meta (признана в РФ экстремистской и запрещена) не ответила на запрос TechCrunch о комментарии.