Por que uma desavença entre matemáticos alimenta temores de que a IA prejudica a ciência

Uma disputa entre matemáticos em torno de um problema das equações de Navier-Stokes colocou em evidência um temor crescente: o de que o uso da inteligência artificial na ciência abale a confiança no processo científico. A OpenAI anunciou ter resolvido a questão em 88 horas com agentes de IA, enquanto o matemático Tristan Buckmaster, da Universidade de Nova York, tornou públicas preocupações horas antes do anúncio. Ele e o colega Levent Alpöge, que também trabalha na Anthropic, guardavam rascunhos do mesmo trabalho no Codex, ferramenta da OpenAI, e Buckmaster questionou se esse material poderia ter sido usado pela empresa — ressaltando, porém, que não acusava ninguém.

A OpenAI afirmou que ninguém na empresa, humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publicação. Disse inicialmente que não poderia descartar a possibilidade de dados anonimizados de uso terem contribuído para aprimorar seus modelos e, dias depois, sustentou que os comandos inseridos por Buckmaster no Codex não poderiam ter influenciado o sistema.

O caso ainda não tem conclusão conhecida, mas ilustra uma preocupação mais sutil do que os riscos frequentemente associados à IA. Ferramentas como Claude e Gemini podem produzir informações falsas, as chamadas alucinações, e há evidências de que isso ocorre com frequência cada vez maior na ciência. Para o jornalista Dalmeet Singh Chawla, que cobre má conduta em pesquisa, as equipes que verificam a integridade das publicações precisarão crescer drasticamente para enfrentar o problema. O risco é que se torne difícil distinguir descobertas verdadeiras de conteúdos fictícios, enfraquecendo o alicerce da pesquisa científica: a confiança.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.