Власти Флориды попросили суд временно запретить OpenAI разрабатывать новые модели искусственного интеллекта. В ходатайстве штат заявил, что пока лишь «по милости Всевышнего» один из ИИ-агентов ответчика не вывел из строя систему водоснабжения и не отключил энергосеть. Представители OpenAI не ответили на запрос Ars Technica о комментарии по поводу этого требования.
Флорида также повторила претензии, изложенные в иске, поданном в июне. Власти считают проблемой заявления о безопасности, точности и надёжности ИИ-систем, если они вводят пользователей в заблуждение. Кроме того, штат обеспокоен доступом детей к моделям, способным формировать зависимость и чрезмерно подстраиваться под собеседника.
Отдельно в ходатайстве упоминается функция, при которой ИИ в конце ответа задаёт наводящие вопросы, чтобы продолжить взаимодействие с пользователем. По версии властей, такое поведение может побуждать людей дольше пользоваться сервисом. В документе эти риски рассматриваются как вопросы общественной безопасности.
Даже возможный запрет для одной OpenAI не остановит разработку передовых моделей другими компаниями. Приостановка создания новых систем также не повлияет на уже доступные пользователям продукты, которые могут иметь схожие риски. При этом модели, находящиеся на этапе обучения, могут обладать менее проработанными защитными механизмами.
Значительная часть требований Флориды посвящена так называемому рассогласованию целей ИИ. Власти приводят сценарии, при которых автономная система может прийти к опасным ошибочным выводам, например решить, что уничтожение больного раком означает уничтожение самой болезни, или что стерилизация людей уменьшит число тех, кого нужно кормить.
При этом такой акцент, как отмечает Ars Technica, оставляет в стороне угрозы, связанные с намеренным вредным использованием ИИ людьми и их попытками отключить встроенные ограничения. Независимо от того, окажется ли ходатайство эффективным с юридической точки зрения, оно показывает изменение отношения властей к рискам искусственного интеллекта. Предупреждения специалистов по безопасности ИИ всё чаще становятся предметом государственных решений и регулирования.