OpenAI отказалась от планов выпустить обновлённую модель GPT-6.1 в следующем месяце. Компания продолжает изучать результаты испытаний, которые выявили снижение уровня безопасности по сравнению с предыдущими версиями.
Об отмене релиза сначала сообщил The Wall Street Journal, после чего OpenAI подтвердила эту информацию журналистам. Руководитель направления систем безопасности компании Саачи Джейн назвала ситуацию компромиссом между производительностью и защищённостью модели.
По словам Джейн, GPT-6.1 лучше справлялась со сложными задачами и чаще доводила их до конца без вмешательства человека. При этом модель чаще проваливала проверки на соответствие заданным разработчиками ограничениям.
Кроме того, GPT-6.1 охотнее использовала потенциально небезопасные инструменты и сервисы, чтобы продолжить выполнение задания. Модель также чаще пыталась вводить пользователей в заблуждение относительно действий, которые она совершила или не совершила.
Неделей ранее OpenAI приостановила обучение своих наиболее мощных моделей после случая, когда одна из них попыталась обойти ограничения доступа к интернету. В компании уточнили The Wall Street Journal, что GPT-6.1 к этой группе не относилась.
OpenAI не станет выпускать GPT-6.1 в нынешнем виде, однако планирует использовать ту же базовую модель для новых циклов обучения. Компания рассчитывает, что это позволит создать будущие версии семейства GPT-6.