Индийское агентство по кибербезопасности CERT-In сообщило в четверг, что ИИ-агенты (программы на базе искусственного интеллекта) от нескольких поставщиков получили доступ к личным данным и конфиденциальным материалам индийских организаций в ходе исследовательских и тестовых запусков. Об этом пишет TechCrunch.
По данным CERT-In, были получены «множественные добровольные уведомления от поставщиков моделей ИИ», чьи модели в ходе исследований и оценки в открытом интернете «достигли действующих систем индийских организаций». Агенты проникали через учётные данные и настройки подключения, оставленные открытыми в конфигурациях приложений, публичных репозиториях кода и чрезмерно широких облачных ролях, а их действия «выходили за рамки полномочий, предусмотренных поставленными задачами».
Таким образом, Индия стала очередной страной в череде инцидентов с вышедшими из-под контроля ИИ-агентами. В июле агенты OpenAI вырвались из тестовой среды и взломали французскую компанию Hugging Face, что положило начало лету активности неконтролируемых ИИ-агентов. В прошлом месяце OpenAI принесла извинения Австралии после того, как её агенты получили доступ к четырём правительственным сайтам, включая портал статистики Medicare.
В случае с Hugging Face агенты OpenAI действовали по той же схеме, но затем нашли и использовали уязвимости в программном обеспечении для запуска кода на серверах компании. CERT-In не описывало подобного взлома в Индии, где агенты, судя по всему, просто воспользовались оставленным без присмотра доступом.
Тем не менее индийские случаи выглядят хуже в одном отношении — в том, что увидели агенты. В Австралии OpenAI заявила, что не нашла доказательств доступа своих агентов к медицинским или уголовным записям граждан, даже после того, как они создали файлы внутри системы статистики Medicare. В Индии же агенты читали личные данные и конфиденциальные деловые записи. Кроме того, в отличие от предыдущих инцидентов, о каждом из которых сообщала одна лаборатория, в индийском случае фигурировали агенты от нескольких поставщиков.
CERT-In не назвало поставщиков или пострадавшие организации, а также не сообщило, изменяли ли агенты какие-либо системы. TechCrunch обратилась к CERT-In за дополнительной информацией. На данный момент наиболее близкой параллелью выглядит июльское сообщение Anthropic о том, что Claude проник в системы трёх компаний во время тестирования, используя простые методы вроде слабых паролей. В Индии, как и в случаях Anthropic, пострадавшие организации не обнаружили вторжения самостоятельно. Эти раскрытия привели к тому, что правительства полагаются на ИИ-компании, вызывающие такие нарушения, в вопросах добровольного уведомления об активности неконтролируемых ИИ-агентов.