Если бы технологическая отрасль задалась целью придумать способ, как заманить пользователей в ловушку и заставить их отправлять самые сокровенные и конфиденциальные тайны на сервер в далёком дата-центре, лучшей приманки, чем ИИ-чатбот, ей было бы не найти. Об этом сообщает издание WIRED.
ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и бесчисленное множество их более мелких конкурентов превратились в психотерапевтов, собеседников и виртуальные исповедальни для миллионов людей по всему миру. Почти все эти ИИ-модели по умолчанию настроены на сбор и хранение таких глубоко личных данных, причём во многих случаях без каких-либо ограничений на то, как они могут передаваться или продаваться, использоваться для дальнейшего обучения инструментов или предоставляться любому истцу по судебному иску либо правоохранительному органу, который потребует их через юридическую процедуру.
«Перед вами умное существо, которое смотрит на вас в ответ, и вы, по сути, сообщаете ему — вопрос за вопросом — всё возможное, что только есть знать о вашей жизни, — говорит Мэтт Грин, профессор информатики в Университете Джонса Хопкинса, специализирующийся на приватности и безопасности. — Вы отдаёте ему огромный профиль на себя».
По словам криптографа и разработчика программного обеспечения Мокси Марлинспайка, десять лет назад текстовые сообщения, вероятно, представляли собой самые личные и чувствительные данные, которыми большинство людей делились со своих устройств. Именно угроза слежки, которую несут незащищённые сообщения, подтолкнула его в 2014 году к созданию Signal — мессенджера со сквозным шифрованием, которым сейчас пользуются более ста миллионов человек. Теперь, утверждает он, эта критическая точка уязвимости приватности сместилась в сторону взаимодействия людей с ИИ. «Те же самые вещи, которые меня беспокоили в связи с обменом сообщениями, происходят и в сфере ИИ, но на несколько порядков значительнее, — говорит Марлинспайк. — Люди интегрируют ИИ в свою личную жизнь. Они говорят с ним о своих самых глубоких страхах, финансах, здоровье, отношениях».
Поэтому в начале этого года Марлинспайк запустил Confer — ИИ-чатбот, созданный для того, чтобы пользователи могли спрашивать его о чём угодно, сохраняя свою приватность: с помощью криптографии технически исключается возможность того, что собственный сервер сервиса сможет следить за их разговорами или регистрировать их. «Confer задуман как сервис, где вы можете исследовать идеи, не опасаясь, что однажды ваши собственные мысли могут быть обращены против вас», — написал он в блоге, представляя проект. Приватный ИИ-инструмент Марлинспайка — лишь один из ярких примеров нового поколения ИИ-сервисов, которые обещают исправить повсеместное вторжение в частную жизнь, олицетворяемое этими чатботами. Одни заявляют в своей политике, что никогда не записывают разговоры. Другие предлагают анонимизировать их. Некоторые, как Confer, стремятся создать реальные технологические ограничители, которые закрывают им самим доступ к секретам пользователей.
Результатом этой зарождающейся конкуренции за создание ИИ, менее склонного к слежке, становится растущее множество инструментов, которые зачастую дают пользователям запутанные гарантии, когда те пытаются освоить всё более неизбежную технологию, не теряя контроля над своими тайнами. Самое простое и надёжное исключение из правила тотальной уязвимости — это договор между вами (или, что вероятнее, вашим работодателем) и поставщиком ИИ, который юридически запрещает ему хранить эти записи; такое условие получило название zero data retention (нулевое хранение данных, ZDR). OpenAI, Anthropic и Google предлагают политику ZDR для своих корпоративных версий: при её включении обычно требуется немедленно удалять записи взаимодействий пользователей с чатботом, как только они обработаны.