Невидимые символы превращают письмо в текст, который человек читает нормально, а алгоритм — уже нет. Microsoft обнаружила новый виток этой техники: приём, которым раньше обманывали системы ИИ, теперь используют против защиты.
Это блок из 128 символов Unicode. Для человека он незаметен, компьютер его распознаёт. Раньше такие символы добавляли в письма со скрытыми инструкциями: человек видел безобидный текст, а модель получала другой сигнал.
Теперь схема работает наоборот. Спамеры разрывают невидимыми символами слова вроде «кредит», «срок» или денежные суммы. Письмо выглядит прежним, но фильтр не видит признаков рассылки.
Масштаб оказался серьёзным. В начале февраля Microsoft Defender for Office зафиксировал рост таких писем с 21 тыс. до 1,3 млн в сутки. Через четыре дня показатель достиг 2,5 млн. Поток продолжался несколько месяцев и резко сократился в конце мая.
Получился парадокс: средство машинного чтения текста стало способом скрывать текст от машин. В Microsoft предупредили, что традиционные фильтры могут не справляться, и предложили рекомендации для обнаружения ASCII-подмены. Один из вариантов защиты — оптическое распознавание символов, которое проверяет сообщение так, как его видит человек.
Для рынка это означает, что борьба со спамом больше не сводится к поиску подозрительных слов. Бизнесу придётся учитывать способ записи текста, а развитие таких методов может ускорить создание более устойчивых фильтров.
