Google открыла доступ к инструменту SynthID Detector, который проверяет изображения, видео и аудиозаписи на наличие водяных знаков, связанных с поддерживаемыми системами искусственного интеллекта. Для работы сервис требует входа через аккаунт Google, OpenAI или Apple. Как сообщает Ars Technica, каждому пользователю предоставляется примерно десять проверок в день.
Ограничение действует и в прежних инструментах SynthID. Инженеры Google объяснили Ars Technica, что лимит нужен для защиты от попыток создать средства удаления водяных знаков. Точное количество доступных проверок может меняться: система способна раньше заблокировать пользователя, если он анализирует много похожих файлов.
Расширение доступа к проверке упрощает поиск признаков контента, созданного популярными ИИ-сервисами. Однако SynthID работает только с технологиями компаний, участвующих в соответствующей программе. Другие разработчики применяют собственные методы маркировки, а некоторые вообще не используют водяные знаки.
Отдельную проблему создают модели с открытыми весами. Их можно запускать на собственных устройствах и создавать реалистичные материалы без стандартных метаданных. Поэтому часть изображений, видео и аудио, созданных искусственным интеллектом, сервис определить не сможет.
Google предупреждает об этом ограничении в описании инструмента. Кроме того, водяные знаки SynthID могут попытаться удалить, чтобы выдать созданный ИИ материал за настоящий. В результате система не гарантирует точное выявление всех подделок.
Альтернативой может стать применение криптографических технологий C2PA для подтверждения подлинности материалов в момент создания. Некоторые смартфоны Pixel уже используют такой подход для маркировки фотографий, видео и аудиозаписей. Пока же SynthID остаётся одним из доступных способов проверить цифровой контент на признаки генерации искусственным интеллектом.