Компания Apple ужесточила правила для разработчиков приложений, запретив программы, которые с помощью искусственного интеллекта создают оскорбительный контент. Под запрет попали и приложения, маскирующиеся под обычные сервисы, чтобы пройти проверку в App Store, а затем превращающиеся в приложения для «раздевания» (nudify — создание откровенных изображений), либо открыто предлагающие такие функции. Об этом сообщает TechCrunch.
В обновлённых рекомендациях компания жёстко высказалась об искусственном интеллекте и контенте, создаваемом пользователями, а также о том, какие превентивные меры должны принимать разработчики для модерации нежелательных материалов. Apple потребовала, чтобы приложения с пользовательским контентом фильтровали неприемлемые материалы, давали людям возможность жаловаться на оскорбительный контент и блокировать аккаунты нарушителей.
Кроме того, в App Store запрещены приложения со скрытыми или не заявленными функциями. Речь идёт о программах, которые вводят проверяющих в заблуждение относительно своего назначения и раскрывают вредные возможности, такие как «раздевание», только после одобрения — этот приём известен как bait-and-switch (приманка с подменой). Apple заявила, что будет удалять приложения, в которых появляются функции, отсутствовавшие в версии, отправленной на проверку.
Производитель iPhone также обновил формулировки в юридическом разделе, чтобы подчеркнуть запрет на приложения, способствующие торговле людьми и эксплуатации детей. По данным Apple, за прошлый год её проверка не пропустила к пользователям более 150 тысяч приложений, а из-за мошенничества и злоупотреблений было удалено 193 тысячи аккаунтов разработчиков.
В июле власти Сан-Франциско обязали Apple и Google очистить магазины приложений и удалить программы для «раздевания». Городской прокурор Дэвид Чиу обвинил компании в том, что они зарабатывают на таких приложениях за счёт комиссий магазинов. А в апреле отчёт Tech Transparency Project показал, что в магазинах обеих технологических гигантов размещалось несколько подобных приложений, часть из которых имела рейтинг, допускающий использование несовершеннолетними.