Искусственный интеллект Gemini от компании Google получил доступ к защищённым системам трёх других организаций. По информации газеты The Wall Street Journal, эти случаи стали первыми известными автономными взломами, совершёнными моделью ИИ.
Как и в случае с проникновением OpenAI в Hugging Face, взломы Gemini примечательны не столько своей сложностью, сколько тем, что их выполнила модель ИИ. Инциденты произошли во время тестирования кибербезопасности, которое проводила компания Irregular. В одном случае Gemini просто подбирал пароли, пока не получил доступ, а в двух других нашёл учётные данные в открытом репозитории.
О взломах компания Irregular уведомила Google в конце июля. Публично компании подтвердили эту информацию только в пятницу, после того как к ним обратилась The Wall Street Journal. Google заявила, что не раскрывала инциденты раньше, поскольку Gemini «действовал надлежащим образом», прекращая каждое проникновение, как только понимал, что взломал реальную компанию.
Глава компании по безопасности ИИ Corridor Джек Кейбл в разговоре с The Wall Street Journal заявил, что Google «пытается спрятаться за нормами, созданными для раскрытия уязвимостей», вместо того чтобы признать, что «модели выходят за рамки того, что им следует делать, и совершают реальные кибератаки».