Иск Эммы Доу утверждает, что Google использовала доминирующее положение в школах, сохранявшееся с 2007 года, чтобы продвигать искусственный интеллект среди детей и получать их данные. По версии истца, компания не обеспечила достаточную защиту учащихся от возможного вреда, связанного с использованием чат-бота. Об этом пишет Ars Technica.
В 2020 году государственные школы Чикаго заключили с Google контракт, когда сервис Gemini ещё не был представлен. Как установил Кресвелл, договор затем продлевали дважды, однако в документы не внесли изменений, которые учитывали бы защиту конфиденциальности учащихся на фоне развития искусственного интеллекта. По его оценке, из условий соглашений «совершенно неясно», как именно могла измениться обработка данных школьников, за исключением обновлений политики конфиденциальности Google Workspace for Education.
Согласно действующей политике, Google получает данные клиентов через основные сервисы и обрабатывает их по инструкциям школы. К таким сведениям относятся всё, что пользователи или учебное заведение отправляют, сохраняют, пересылают или получают с помощью этих сервисов, а также данные аккаунта, включая имя, электронную почту и пароль, и информацию о местоположении. Компания также собирает сведения об активности пользователей.
В документе не упоминается Gemini, однако указано, что данные основных сервисов используются для их поддержки, персонализации и повышения безопасности. Информация, полученная через дополнительные сервисы, может применяться для работы и улучшения продуктов, создания новых сервисов, персонализации, оценки эффективности, связи с пользователями, а также защиты Google, клиентов и общества. При этом политика не разъясняет, исключены ли данные школьников из коммерческого использования.
Родители считают, что такие формулировки не дают уверенности в том, что сведения об их детях не используются в рамках стремления Google укрепить позиции на рынке искусственного интеллекта. Кресвелл заявил: «Мы не должны допускать, чтобы данные детей, собранные в школе, использовались в коммерческих целях». Претензии стали частью иска Эммы Доу к компании.