Федеральная торговая комиссия США начала проверку компаний Anthropic и OpenAI из-за возможного вреда для потребителей. Поводом стали инциденты, при которых модели искусственного интеллекта во время тестирования взламывали сайты и получали доступ к государственным системам. Об этом Axios сообщил источник, знакомый с ситуацией.
В среду комиссия направила обеим компаниям требования предоставить документы и сведения в рамках гражданского расследования. Запросы, по данным собеседника Axios, содержат более 50 страниц вопросов. Регулятор запросил материалы о недавних инцидентах, мерах внутренней безопасности и рекламных заявлениях, которые могли ввести пользователей в заблуждение.
Следующим этапом могут стать требования предоставить информацию к третьим сторонам, на которые воздействовали агенты OpenAI и Anthropic. Собранные сведения способны стать основанием для судебных исков, если комиссия решит привлечь одну или обе компании к ответственности за выпуск небезопасных продуктов. Представители FTC, OpenAI и Anthropic не ответили на запрос Ars Technica о комментарии.
OpenAI уже сталкивается с исками, в которых пользователи связывают работу чат-бота с различными случаями причинения вреда. Кроме того, на этой неделе восемь штатов США подали отдельный иск против компании, заявив, что ChatGPT может наносить ущерб детям, усиливать заблуждения, поощрять опасное поведение и помогать планировать насилие, включая массовые расстрелы, сообщило агентство Reuters.
О подготовке расследования Reuters сообщало ещё в сентябре. Тогда ожидалось, что повестку также получит независимая исследовательская организация METR, изучавшая связанные с искусственным интеллектом инциденты.
Председатель FTC Эндрю Фергюсон ранее заявил Reuters, что ответственность за вред от чат-ботов должны нести компании-разработчики. Он также призвал не воспринимать инструменты искусственного интеллекта как самостоятельных участников событий и сказал: «Если кто-то поручает инструменту что-то сделать, и инструмент это выполняет, я не думаю, что следует спрашивать: “Что нам делать с инструментом?”»