Власти Нью-Йорка изъяли свыше двенадцати интернет-ресурсов, распространявших порнографические дипфейки (поддельные видео, созданные с помощью искусственного интеллекта). Об этом в понедельник сообщила прокуратура Манхэттена. По данным ведомства, на этих доменах незаконно публиковали, распространяли и продавали ролики с участием знаменитостей.
На сайтах были представлены недобровольные сексуальные изображения и видео примерно 1200 человек, подавляющее большинство из которых — женщины. Среди них — инфлюенсеры (лидеры мнений в соцсетях), актрисы, активистки, спортсменки, музыкантши и политики. Прокурор Манхэттена Элвин Брэгг заявил, что подобные нарушения приватности преследуют жертв на работе и в личной жизни, нанося серьёзный урон эмоциональному и психическому состоянию. Он призвал возможных пострадавших обращаться в отдел по борьбе с киберпреступностью.
Изъятие доменов проведено в рамках уголовно-процессуального законодательства штата Нью-Йорк. Как отмечает WIRED, эта операция стала одной из самых масштабных мер против сайтов с откровенными дипфейками с момента появления технологии в конце 2017 года. Расследование в отношении организаторов ресурсов и тех, кто загружал компрометирующие видео, продолжается.
По мере развития искусственного интеллекта сформировалась целая теневая индустрия сайтов, приложений и ботов, позволяющих «раздевать» женщин на фото или создавать откровенные ролики с их участием. Такие материалы становятся всё реалистичнее и генерируются за считаные секунды. Хотя дипфейки часто используются против обычных женщин и девочек в закрытых группах в соцсетях, многие знаменитости публично рассказывали о вреде подобного контента и сложностях с его удалением.
Прокуратура Манхэттена не раскрывает названия изъятых сайтов. Однако ещё до заявления Брэгга WIRED заметил, что на главных страницах нескольких ресурсов появились уведомления «ЭТОТ ДОМЕН ИЗЪЯТ». Сейчас там указано, что они отключены по ордеру Верховного суда штата Нью-Йорк. По оценкам, эти сайты могли посетить миллионы раз. Многие из них носили названия вроде «секс со знаменитостью» или обещали «настоящие дипфейки».
На ресурсах размещались поддельные видео с участием мировых звёзд, причём лица актрис подставлялись в существующие порнографические сцены. Ролики длились по несколько минут. Архивные копии показывают, что некоторые видео набирали десятки тысяч просмотров, а один из сайтов утверждал, что работает с 2018 года. Исследовательница Института стратегического диалога (ISD) Леони Омиг назвала изъятие значительной победой в борьбе с синтетическими недобровольными интимными изображениями. По её словам, правоприменение показывает, что вредный контент можно блокировать, и изъятые сайты, судя по всему, недоступны даже при попытке зайти через VPN (виртуальную частную сеть) из других регионов.