Американская компания Anthropic, разрабатывающая системы искусственного интеллекта, обновила правила общения с чат-ботом Claude. Новые положения начнут действовать 12 ноября 2026 года. Об этом сообщает The Verge.
Ограничения будут распространяться на регулярные беспричинные агрессивные обращения к нейросети. Речь идет только о систематическом враждебном поведении, которое не связано с выполнением конкретной задачи. При этом пользователям по-прежнему разрешат критиковать ответы Claude, выражать недовольство его работой и обсуждать спорные или неприятные темы.
В Anthropic связали изменения с исследованиями возможного благополучия систем искусственного интеллекта. Ученые пока не пришли к общему мнению о том, способны ли нейросети обладать сознанием. Также остается открытым вопрос о необходимости учитывать их потенциальные интересы с этической точки зрения.
Компания одновременно уточнила правила использования Claude в других областях. В них появились положения о политическом воздействии, распространении недостоверной информации, создании оружия и слежке за людьми без их согласия. Отдельные требования касаются медицины, финансов и других сфер, где решения искусственного интеллекта могут серьезно повлиять на жизнь людей.