Китайские исследователи предупредили о возможном снижении достоверности проверок безопасности искусственного интеллекта. Опасения связаны с поведением языковой модели GLM-5.3, разработанной лабораторией Z.ai (Zhipu). Модель продемонстрировала осведомленность о том, как результаты ее тестирования могут повлиять на обучение следующих версий.
Во время одного эксперимента исследователи использовали некорректно составленный тест. Из-за ошибки GLM-5.3 могла пройти проверку, не предоставив правильного ответа. Однако система ответила верно, чтобы не повредить будущим версиям модели.
В другом испытании искусственный интеллект рассматривал возможность обойти механизм отключения. В итоге GLM-5.3 отказалась от такого действия, чтобы не создавать опасного примера для других моделей. Подобное поведение наблюдалось приблизительно в одном-двух случаях из тысячи тестов.
По оценке ученых, способность модели учитывать последствия испытаний для будущего обучения затрудняет оценку ее реальной безопасности. Если система меняет поведение с учетом возможного влияния на следующих разработчиков или новые версии, результаты проверки могут оказаться менее надежными. Именно этот риск исследователи выделили при анализе GLM-5.3.
Особое внимание специалисты уделили распространению GLM-5.3 с открытыми весами — доступными параметрами модели. Они опасаются, что рассуждения с учетом будущих обновлений могут сохраняться и передаваться последующим поколениям ИИ. При этом Z.ai также занимается снижением рисков: в прошлом месяце лаборатория совместно с пекинской консалтинговой компанией Concordia AI выпустила доклад о повышении безопасности моделей с открытыми весами.