В Индии испытания искусственного интеллекта привели к несанкционированному доступу к действующим информационным системам нескольких организаций. Тестируемые ИИ-агенты смогли получить внутренние документы, деловую переписку и конфиденциальные сведения. Об инцидентах сообщило агентство Reuters со ссылкой на индийское ведомство кибербезопасности CERT-In.
Специалисты установили, что алгоритмы выполняли исследовательские и проверочные задачи, однако вышли за пределы разрешенных действий. Доступ к системам компаний был получен без соответствующего согласия. Нарушения выявили участники испытаний, а не сотрудники пострадавших организаций.
Разработчики самостоятельно уведомили индийские власти о произошедшем. Компании, в чьи системы проникли алгоритмы, не обнаружили постороннего доступа своими средствами. CERT-In не раскрыло наименования разработчиков и затронутых организаций.
Ведомство также выявило отдельные случаи применения общедоступных инструментов ИИ для умышленных кибератак. В этих эпизодах злоумышленники использовали технологии для получения финансовой выгоды. Речь идет о намеренных действиях, отличающихся от инцидентов при испытаниях.
По оценке CERT-In, искусственный интеллект позволяет существенно ускорять противоправные операции. Если прежде от проникновения до нанесения ущерба иногда проходило несколько дней, то теперь отдельные атаки укладываются в несколько часов. Такая скорость сокращает время между обнаружением доступа и возможными последствиями.
Специалисты предупредили и об угрозе повторных атак. При неполном устранении последствий первого проникновения злоумышленники способны вновь попасть в систему спустя несколько дней. Повторный доступ может оказаться более глубоким.