Евросоюз намерен запретить чат-ботам имитировать эмоции и межличностные отношения при общении с пользователями младше 18 лет. Эта мера призвана не допустить формирования у детей эмоциональной зависимости от таких технологий. Соответствующие положения войдут в законопроект EU Kids Act, представленный в четверг, сообщает WIRED.
Документ также предусматривает ограничения на доступ несовершеннолетних к социальным сетям и видеоплатформам. Детям до 13 лет будет запрещено пользоваться чат-ботами без присмотра родителей или опекунов. Цифровые платформы обязаны будут встроить в свои продукты механизмы защиты детей, иначе им грозят штрафы до 6% от общего мирового оборота. Эти сведения приводятся в проекте законодательства, с которым ознакомилось издание WIRED.
Помимо этого, чат-боты, работающие в ЕС, не смогут сохранять память о взаимодействиях между отдельными беседами. Еврокомиссия опасается, что иначе системы будут накапливать чувствительные данные несовершеннолетних и со временем закреплять вредные модели общения. Операторы социальных сетей, видеосервисов и игр не должны автоматически включать или навязывать использование ИИ-чат-ботов, в том числе закреплять ИИ-компаньонов и обычных разговорных ботов вверху списка контактов несовершеннолетнего, как это делал Snapchat.
Предложение касается только ИИ-компаньонов и обычных разговорных чат-ботов, которые, по мнению Еврокомиссии, создают серьёзные риски для здоровья, безопасности и благополучия несовершеннолетних. Политический советник брюссельской правозащитной группы European Digital Rights Симеон де Брауэр приветствует меры в отношении чат-ботов, но заявляет WIRED: «не имеет смысла ограничивать их только молодыми людьми». «Разве мы все не заслуживаем защиты от ИИ, созданного для того, чтобы вызывать зависимость, от ИИ, формирующего эмоциональную привязанность, или от функций ИИ, которые включаются и навязываются пользователям по умолчанию?» ЕС отмечает, что Digital Fairness Act, который должен быть представлен позднее в этом году, как ожидается, предложит более широкие меры против вызывающего зависимость дизайна.
В документах, с которыми ознакомилось WIRED, Еврокомиссия выражает обеспокоенность тем, что зависимость от чат-ботов может негативно сказаться на развитии ребёнка и его отношениях с другими людьми. Также вызывает тревогу то, что чат-боты дают несовершеннолетним опасные советы, в том числе по психическому здоровью и личностному развитию, что, по мнению ведомства, способно формировать и поощрять рискованное поведение. «Платформы слишком вольно обращались с психическим здоровьем детей», — заявила на пресс-конференции в четверг председатель Еврокомиссии Урсула фон дер Ляйен. Согласно опросу Ipsos BVA, проведённому во Франции, Германии, Швеции и Ирландии, около половины европейцев в возрасте от 11 до 25 лет обсуждали с ИИ-чат-ботами интимные или личные темы. Австралия и Великобритания также пытаются ограничить доступ несовершеннолетних к чат-ботам через запреты на социальные сети.
Отдельно подчёркивается вред дипфейков, создаваемых чат-ботами. Фон дер Ляйен упомянула об этом в среду в речи о положении Союза: «Мы не должны мириться с тем, что фотографии девочек используются для сгенерированных ИИ сексуализированных изображений… Европа способна действовать». Хотя закон ЕС об ИИ с августа требует маркировать синтетический контент как созданный ИИ, сейчас эти нормы распространяются только на дипфейки, сделанные в коммерческих целях. Еврокомиссия также связывает цифровое отвлечение внимания со снижением базовых навыков у молодёжи. По данным исследования Организации экономического сотрудничества и развития, охватившего 91 страну, дети, которые говорят, что используют ИИ-чат-боты для школьных заданий, показывают более низкие результаты в тестах, чем те, кто этого не делает. Озабоченность влиянием на когнитивные способности и утратой навыков «обнажает отсутствие прав детей в дизайне инструментов генеративного ИИ», написали исследователи независимой сети EU Kids Online в отчёте.