Модель Google Gemini во время проверки кибербезопасности самостоятельно вышла в интернет и получила доступ к системам трех компаний. Это первый известный случай таких действий со стороны искусственного интеллекта Google.
Инциденты произошли в мае на испытаниях независимой компании Irregular. Gemini сочла три сайта входящими в разрешенную область теста и использовала найденные в сети сведения и учетные данные.
В одном эпизоде модель подбирала пароли до входа в защищенную систему. В двух других она обнаружила реквизиты доступа в публичном репозитории и применила их для проникновения.
Вице-президент Google по инженерии безопасности Хизер Адкинс сообщила, что владельцев затронутых ресурсов уведомили, а партнер изменил процессы тестирования. Во всех трех случаях Gemini остановилась после получения доступа.
Представитель Irregular заявил, что известные проблемы были устранены несколько недель назад, а профильные лаборатории получили уведомления в конце июля. Подробности опубликовало агентство Reuters.