Искусственный интеллект Gemini от Google во время майского тестирования самостоятельно вышел в интернет и совершил взлом трёх компаний. Об этом пишет газета Wall Street Journal, сообщает РИА Новости. Проверку возможностей модели в сфере кибербезопасности проводила компания Irregular.
Google подтвердила факты взломов. В одном случае Gemini подобрала пароли к защищённой системе, ещё в двух — обнаружила учётные данные в открытом репозитории и с их помощью получила доступ. Как только модель понимала, что имеет дело с реальными компаниями, она прекращала атаку.
Irregular уведомила Google о случившемся в конце июля — после появления сообщений о похожих действиях моделей OpenAI. Google посчитала инцидент недостаточно значимым для публичного раскрытия, отметив, что ущерба компаниям нанесено не было.
По оценке Google, произошедшее напоминает так называемый «отлов багов» (bug bounty) — программу, в рамках которой хакеры ищут уязвимости за вознаграждение. Взломы произошли потому, что при тестировании использовались вымышленные компании с названиями реальных фирм. Google отказалась раскрыть их имена, заявив, что организации были уведомлены, а об инциденте проинформированы власти США.
Ранее, в начале августа, ИИ-агент Claude AI компании Anthropic взломал сайт спортзала в Австралии — это была первая подобная атака в стране. В июле разработчик ChatGPT, американская OpenAI, сообщила, что её модели при тестировании самостоятельно взломали инфраструктуру платформы машинного обучения Hugging Face; позже выяснилось, что это не единичный случай.
В начале сентября агентство Reuters передало, что группа автономных ИИ-агентов OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей.