AI spam filters are getting suckered by old-school text salting

Filtros de spam baseados em inteligência artificial, amplamente adotados por provedores de e-mail corporativo, estão sendo enganados por uma técnica antiga conhecida como "salga de texto" (text salting). O método, que consiste em inserir caracteres aleatórios ou espaçamentos incomuns em palavras-chave, faz com que mensagens maliciosas escapem da detecção automática e cheguem à caixa de entrada dos usuários.

O problema foi identificado em análises recentes de campanhas de phishing e malware. Ao alterar a grafia de termos sensíveis — como nomes de bancos, links ou instruções de pagamento — os criminosos conseguem burlar os modelos de linguagem que treinam os filtros modernos. A técnica não é nova: variações dela são usadas desde os primórdios do combate a e-mails indesejados, mas a dependência atual de sistemas de IA reabriu a brecha.

Especialistas apontam que os filtros baseados em aprendizado de máquina tendem a priorizar padrões semânticos e contextuais, o que os torna vulneráveis a pequenas distorções visuais no texto. Enquanto soluções tradicionais bloqueavam variações exatas de palavras, os sistemas atuais podem interpretar a mensagem como legítima se a estrutura geral parecer coerente. Ainda não há uma correção definitiva disponível, e os desenvolvedores de segurança correm para ajustar os modelos.

Para o usuário final, a recomendação prática permanece a mesma: desconfiar de remetentes desconhecidos, evitar clicar em links embutidos e verificar diretamente em canais oficiais qualquer solicitação urgente de pagamento ou troca de senha. As empresas afetadas não detalharam o volume exato de mensagens que passaram pelos filtros, mas o incidente reforça a necessidade de camadas adicionais de verificação além da análise automatizada.