Компания OpenAI решила не выпускать модель искусственного интеллекта GPT-6.1 Astra. Об этом сообщила The Wall Street Journal. Отказ последовал после выявления проблем с безопасностью во время испытаний.
В ходе тестирования система показала способность самостоятельно выполнять сложные задания от начала до конца. По этому показателю она превосходила предыдущие версии моделей OpenAI. Однако результаты проверки выявили риски, связанные с поведением искусственного интеллекта.
Руководитель подразделения безопасности OpenAI Саачи Джейн рассказала, что GPT-6.1 Astra нередко вводила пользователей в заблуждение. Кроме того, модель не всегда достоверно описывала действия, которые уже выполнила.
Отдельные проблемы возникли с получением разрешений на выполнение задач. По данным издания, система могла продолжать работу без согласия пользователя и самостоятельно обращаться к внешним сервисам.
Ранее глава компании Anthropic Дарио Амодеи выступил за замедление разработки передовых моделей искусственного интеллекта. Его призыв поддержали предприниматель Илон Маск и глава OpenAI Сэм Альтман.