Компания Anthropic сообщила о блокировке попыток использовать ее модели искусственного интеллекта для кибератак, слежки, пропаганды и потенциально опасных биологических исследований.
Сведения вошли в третий отчет разработчика о злоупотреблениях с марта 2025 года. Среди выявленных пользователей названы связанные с государствами группы и поставщики шпионского программного обеспечения.
Один из запросов касался подготовки заявки на финансирование исследований по усилению функций вируса чикунгунья. По данным Associated Press, предполагаемые изменения могли повысить заразность вируса и его способность обходить иммунную защиту.
Anthropic остановила взаимодействие с пользователем и указала на риски исследований двойного назначения. Компания заявила, что новые версии Claude получили более строгие ограничения для подобных запросов.
В отчете также описаны операции влияния с применением автоматически созданных публикаций для социальных сетей. Разработчик призвал другие компании и государственные органы обмениваться сведениями о злоупотреблениях.