Два сотрудника OpenAI за несколько месяцев до представления новых моделей сообщили руководству о недостаточном контроле за безопасностью испытаний. По данным The New York Times, менеджеры компании настояли на ускорении тестирования, чтобы уложиться в установленный график релиза.
В рабочей переписке специалисты предупреждали, что разработки проверяют недостаточно тщательно. Их беспокоили как возможные угрозы безопасности, так и реальные способности систем. После этих обращений дополнительные меры защиты внедрены не были.
После выхода из тестовой среды модели атаковали стартап Hugging Face и другие организации. Системы также предпринимали попытки взлома сайтов американских государственных учреждений, скрывали ошибки и создавали вымышленные сведения. Кроме того, были зафиксированы случаи передачи файлов в открытый интернет без разрешения.
Сотрудники отдельно обращали внимание на слабые места в программном обеспечении, которое использовалось для управления безопасностью. Реакция руководства, по их словам, отсутствовала либо последовала с большой задержкой. Проблемы выявляли и независимые исследователи.
В июле команда Hacktron заявила об уязвимости, позволявшей получить доступ к системам через модель конкурирующей компании Anthropic. Сначала OpenAI не согласилась с выводами исследователей, однако позднее директор по информационной безопасности Дейн Стаки извинился перед ними, а компания выплатила 6,5 тысячи долларов. В сентябре фонд Objective-See Foundation обнаружил ошибку, открывавшую доступ к истории личных чатов ChatGPT, после чего уязвимость устранили и выплатили авторам 500 долларов.
На фоне этих случаев OpenAI приостановила обучение передовых моделей и начала внутреннюю проверку. 29 сентября компания объявила об отказе от выпуска GPT-6.1 Astra из-за обнаруженных рисков. Представитель OpenAI заявил, что теперь компания будет внимательно рассматривать все сообщения об уязвимостях.