Источник фото: Ars Technica
Спамеры начали применять метод ASCII smuggling (скрытая передача символов), который ранее использовался для маскировки вредоносных запросов при атаках на ИИ-агентов. Теперь эта технология помогает обходить фильтры почтовых сервисов, выявляющие нежелательные массовые рассылки. Об этом сообщила компания Microsoft.
Метод получил известность около двух лет назад как способ скрывать prompt injection (внедрение инструкций в запросы) для больших языковых моделей. Вредоносные команды в письмах и другом непроверенном содержимом записываются не обычным текстом, а специальными символами Unicode (стандарт кодирования символов). Например, код U+E0041 соответствует букве A, а U+E0061 — строчной букве a.
Набор из 128 таких кодов почти повторяет часть ASCII (американский стандартный код для обмена информацией). При этом закодированные знаки распознаются компьютерами, но практически не видны человеку. Благодаря этому языковая модель может прочитать скрытые инструкции, тогда как получатель письма их не заметит.
В начале февраля Microsoft зафиксировала резкий рост спама с использованием этой техники. Microsoft Defender for Office сначала обнаруживал около 21 тысячи подобных сигнатур в сутки, однако затем их число превысило 1,3 миллиона. За четыре дня показатель достиг 2,5 миллиона, а высокий поток таких сообщений сохранялся несколько месяцев и заметно снизился в середине мая.
Как пояснили в Microsoft, невидимые для человека символы существуют на уровне обработки текста и позволяют маскировать ключевые слова до проверки письма защитными системами. Принцип работы остаётся схожим со скрытой передачей инструкций для моделей ИИ, однако теперь его используют для обхода антиспам-фильтров. При этом у получателя не возникает дополнительных подозрений.