Top.Mail.Ru
Ученые нашли способ обмануть искусственный интеллект через прозрачность картинок — RuSamara | Информационная лента

Ученые нашли способ обмануть искусственный интеллект через прозрачность картинок

28 ноября 2024, 20:24 ·

Американские учёные обнаружили серьёзную уязвимость в системах искусственного интеллекта, которые анализируют изображения. Специалисты Техасского университета в Сан-Антонио выявили, что разработчики ИИ часто не учитывают альфа-канал — компонент изображения, отвечающий за прозрачность.

Исследовательская группа под руководством доцента Гвиневры Чэнь разработала метод атаки AlphaDog для демонстрации этой уязвимости. Они создали 6500 тестовых изображений и проверили их на 100 различных моделях ИИ, включая 80 систем с открытым кодом и 20 облачных платформ.

Особую опасность представляет возможность манипуляции изображениями в оттенках серого. Это может привести к серьёзным последствиям в нескольких областях. В медицине под угрозой оказываются системы анализа рентгеновских снимков, МРТ и КТ, где неверная интерпретация может привести к ошибочному диагнозу.

В сфере автономного транспорта уязвимость позволяет искажать восприятие дорожных знаков системами автопилота, что создаёт риск аварийных ситуаций. Кроме того, метод AlphaDog может нарушить работу систем распознавания лиц, что ставит под угрозу безопасность охраняемых объектов.

Исследователи уже начали сотрудничество с крупными технологическими компаниями, включая Google, Amazon и Microsoft, для устранения выявленной уязвимости и повышения безопасности систем искусственного интеллекта.