Специалисты обнаружили, что в рекламной сети Meta (признана в РФ экстремистской и запрещена) размещались объявления, которые вели пользователей почти к пятидесяти приложениям, доступным в магазинах Google Play и App Store. В ходе анализа примерно 350 рекламных материалов выяснилось, что около 300 из них продвигали сервисы для генерации изображений и видео с помощью искусственного интеллекта, причём большинство таких программ было создано разработчиками из Китая. Часть приложений уже удалили из каталогов к моменту начала работы над этой публикацией журналистов.
Среди сервисов, способных создавать откровенные изображения взрослых, на площадке Apple обнаружили восемь идентичных программ, связанных с китайскими разработчиками. После запуска такие приложения демонстрировали контент для взрослых, сгенерированный нейросетями, включая меню сценариев, в котором присутствовал пункт под названием «угрожающий нож», подразумевающий удержание лезвия у горла женщины. Также были найдены ещё семь приложений с одинаковым оформлением, аналогичным содержимым и совпадающими контактными данными разработчика.
Представитель Apple Адам Дема заявил, что компания не допускает появления в своём магазине программ, пытающихся обойти процедуру проверки, и не терпит подобных действий со стороны создателей. По его словам, упомянутые в отчёте разработчики изначально подавали заявки, соответствующие правилам App Store, но позже добавляли функции, нарушающие политику сервиса. В корпорации отметили, что 17 из 20 приложений, включённых в исследование, уже были удалены, а в отношении оставшихся трёх приняты меры, также удалены семь сервисов, найденных дополнительно.
В Google, в свою очередь, заявили, что не допускают размещения программ, содержащих материалы сексуального характера или позволяющих «раздевать» людей на фото. Представитель компании Дэн Джексон сообщил, что корпорация активно выявляет и устраняет подобный контент, а все приложения из отчёта были заблокированы. В ответ на жалобы специалисты проводят проверки и оперативно реагируют, в данном случае это привело к приостановке сотен нарушающих сервисов и ограничению поисковых запросов, связанных с функцией «раздевания».
Бывший сотрудник Meta (признана в РФ экстремистской и запрещена) Дэвид Фам, занимавшийся расследованием случаев недобровольных изображений, отметил, что доля китайских разработчиков подобных приложений ежегодно растёт. Он рассказал, что во время работы в компании наблюдал рекламу, аналогичную обнаруженной исследователями, а пользователи постоянно искали способы обойти системы безопасности. По словам Фама, злоумышленники меняли домены, скрывали данные о себе и видоизменяли изображения, чтобы избежать блокировок, однако у Meta (признана в РФ экстремистской и запрещена) есть ресурсы для борьбы с этим явлением.
Исследователи также выяснили, что с февраля текущего года на платформах Meta (признана в РФ экстремистской и запрещена) появилось более 11 тысяч объявлений, рекламирующих сервисы для создания обнажённых изображений, многие из которых размещались неоднократно нарушавшими правила пользователями. Одно из объявлений с фотографией несовершеннолетней, чью личность удалось установить, было отправлено на модерацию после того, как его увидели пользователи из Европы, но за несколько дней до удаления его просмотрели более 330 человек. Представитель организации, проводившей исследование, подчёркивает, что выявление подобных материалов не должно быть задачей небольшого некоммерческого проекта, учитывая возможности крупнейших технологических корпораций.