В американской Флориде 30-летнюю женщину привлекли к расследованию после сообщений чат-боту Claude о намерении устроить стрельбу в офисе шерифа. Об этом сообщил телеканал WINK News.
По данным следствия, женщина использовала сервис искусственного интеллекта как личный дневник. 26 сентября она написала о планах открыть огонь в здании шерифа, а на следующий день упомянула о приобретении нового оружия.
Система безопасности Claude определила переписку как возможную угрозу. После дополнительной проверки специалистами сведения передали правоохранителям, которые установили личность пользовательницы и задержали ее в доме.
Женщине предъявили обвинение в письменной угрозе применения насилия. Рассмотрение дела продолжается, сообщили американские СМИ.
Разработчик чат-бота, компания Anthropic, предупреждает, что сообщения пользователей могут проверяться автоматическими системами безопасности. Правила компании предусматривают передачу данных правоохранительным органам в чрезвычайных ситуациях, когда существует угроза неминуемой смерти или серьезного физического вреда.