Fraudes, deepfakes e o verdadeiro risco da IA — que não é o apocalipse 

Nas últimas semanas, pesquisadores, executivos e investidores ligados a algumas das principais empresas de inteligência artificial do mundo, como Anthropic e OpenAI, passaram a defender publicamente uma postura mais cautelosa em relação ao avanço da tecnologia. Dario Amodei, cofundador e CEO da Anthropic, defendeu uma desaceleração no desenvolvimento dos modelos mais poderosos até que existam salvaguardas mais robustas. Depois, Sam Altman, CEO da OpenAI, admitiu que a empresa considera desacelerar o desenvolvimento de IA de ponta, e o principal cientista da companhia, Jakub Pachocki, publicou um alerta sobre os perigos da tecnologia, defendendo que as empresas coordenem uma desaceleração "conforme necessário".

Para especialistas ouvidos pelo InfoMoney, as preocupações merecem atenção, mas os riscos mais concretos não estão nos cenários futuristas frequentemente associados à inteligência artificial. Eles já aparecem hoje em áreas como fraude digital, cibersegurança e automação de ataques. "Estamos vendo um desenvolvimento acelerado da IA. Isso é fato. Agora o que vai acontecer entra no âmbito da especulação", afirma Leonardo Tomazeli Duarte, professor titular da Faculdade de Ciências Aplicadas da Unicamp e coordenador científico do Centro de Pesquisa Aplicada em Inteligência Artificial BI0S. Segundo ele, há um "fundo de verdade" nos alertas, mas parte do debate incorpora elementos de espetacularização.

Eliomar Araújo, coordenador de projetos de P&D do Centro de Excelência em Inteligência Artificial (CEIA) da Universidade Federal de Goiás, avalia que, a curto e médio prazo, os riscos mais concretos envolvem vieses dos modelos, alucinações e, principalmente, a segurança cibernética, que ganha nova escala com a IA. Dados da Kaspersky ilustram o problema: apenas no segundo trimestre de 2025, a empresa bloqueou mais de 142 milhões de cliques em links de phishing. Em 2024, suas soluções impediram mais de 67 milhões de ataques do mesmo tipo, enquanto sistemas baseados em IA passaram a identificar mais de mil páginas de phishing por dia.

Para Sachin Kulkarni, cofundador e CTO da Oscilar, empresa especializada em gestão de risco para bancos e fintechs, a IA reduziu drasticamente o custo de produção de fraudes e tornou possível comprar vozes clonadas, documentos falsos e identidades sintéticas completas por valores relativamente baixos. O principal desafio, porém, não é a qualidade desses materiais, e sim a escala. Em um caso acompanhado pela empresa, uma campanha fraudulenta criou milhares de sessões com identidades sintéticas ao longo de cerca de duas semanas. Nenhuma regra tradicional de detecção foi acionada e um sistema de biometria comportamental classificou todas as sessões como humanas. A fraude só foi descoberta quando as atividades passaram a ser comparadas entre si.

A empresa estima que entre 5% e 7% das perdas classificadas por bancos como inadimplência ou perdas de crédito possam, na realidade, ser fraudes nunca identificadas como tal. María Isabel Manjarrez, pesquisadora sênior do Global Research and Analysis Team (GReAT) da Kaspersky, afirma que a dificuldade não está em reconhecer um golpe isolado, mas em correlacionar centenas de sinais ao mesmo tempo. "O futuro da detecção de fraudes não é humano versus inteligência artificial. É IA maliciosa versus IA defensiva, com seres humanos supervisionando suas ações", diz. Segundo Tomazeli, o Brasil ocupa posição peculiar: é altamente digitalizado e adota rapidamente novas tecnologias, mas participa pouco do desenvolvimento das ferramentas que utiliza e não tem um marco regulatório de IA.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.