1 января Амане Аль-Хататбех опубликовала в соцсети селфи с инаугурации Зохрана Мамдани, первого мусульманского мэра Нью-Йорка. На снимке она была в чёрном хиджабе и фиолетовой меховой шубе. После появления комментариев под публикацией её настроение изменилось.
Пользователи просили встроенный в платформу X искусственный интеллект Grok убрать с женщины хиджаб, заменить шубу на бикини и изменить одежду на нижнее бельё. По словам Аль-Хататбех, сервис выполнил эти запросы и создал изображения, на которых она была показана в полуобнажённом виде. Скриншоты запросов и некоторые результаты их обработки изучило издание WIRED.
«Это ощущалось так, словно кто-то сорвал с меня головной платок в реальной жизни», — заявила Аль-Хататбех WIRED. Она подчеркнула, что созданные изображения увидели десятки тысяч пользователей. По её словам, из-за этого ситуация оказалась ещё более тяжёлой.
Почти год спустя Аль-Хататбех, писательница, активистка и основательница компании Muslim Girl, подала иск против разработчика Grok — компании xAI. В среду она обратилась в федеральный суд Северного округа Калифорнии, обвинив компанию в умышленном распространении интимных изображений без согласия, недостатках конструкции и маркетинга, халатности, а также намеренном причинении эмоционального вреда. Истица требует компенсацию в размере до 250 тысяч долларов за каждое нарушение, предусмотренное Гражданским кодексом Калифорнии.
Этот иск стал частью серии аналогичных разбирательств, начавшихся в январе, но первым делом, посвящённым именно удалению хиджабов с изображений женщин с помощью Grok. По оценке Center for Countering Digital Harm, за 11 дней с 29 декабря сервис создал около 3 млн фотореалистичных сексуализированных изображений, включая примерно 23 тысячи изображений детей. Проверки и меры в отношении Grok начали предпринимать генеральные прокуроры нескольких американских штатов, власти как минимум 12 стран и Европейского союза, а Канада заявила о нарушении компанией федеральных законов о защите частной жизни.