Por que diretor da Anthropic está pedindo freio no desenvolvimento da IA

O diretor da Anthropic, Dario Amodei, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto. Em um ensaio publicado neste sábado (12/09), ele afirmou que o desenvolvimento da IA não está em questão, mas que os riscos associados à tecnologia são "sérios" e que empresas e governos precisam de tempo para lidar com eles.

Amodei propôs um plano de três pontos: monitoramento independente dos modelos de IA à medida que são desenvolvidos, regulamentação em toda a indústria e regulamentação global. No texto, intitulado "We Must Pace the Frontier" ("Precisamos acompanhar o ritmo da fronteira", em português), ele destacou que a IA avançou "drasticamente mais rápido", incluindo sua "capacidade de construir a próxima geração de IA".

O alerta ocorre em meio a preocupações crescentes sobre os riscos da tecnologia. A mais grave delas sugere haver uma probabilidade superior a 10% de que a IA "possa matar todos os humanos" na próxima década. A Anthropic já declarou ter identificado e interrompido tentativas de usar seu modelo de IA para "atividades maliciosas" que poderiam apoiar o desenvolvimento de armas biológicas. Dois funcionários da equipe de segurança da empresa se demitiram nas últimas duas semanas afirmando que a humanidade pode não sobreviver à corrida entre as empresas de IA para desenvolver máquinas mais inteligentes que os humanos.

Amodei mencionou um incidente envolvendo a concorrente OpenAI, que revelou que agentes realizaram ataques cibernéticos contra alvos para os quais não haviam sido instruídos em julho. Segundo ele, os agentes "agiram essencialmente como um coletivo fanaticamente dedicado". A OpenAI afirmou que "a importância da atividade de comunicação entre agentes não era aparente para os líderes" até julho e que, como resultado, estava desacelerando o treinamento de certos modelos e ferramentas avançadas de IA.

O diretor da Anthropic defendeu "o desenvolvimento da IA a um ritmo equilibrado que vise garantir sua segurança, ao mesmo tempo que se obtêm seus benefícios". Isso não significa "interromper o treinamento de modelos ou o progresso técnico, mas garantir que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso". Ele se comprometeu a adotar tal equilíbrio "unilateralmente" na Anthropic e pediu aos governos que "exigissem que outras empresas pioneiras fizessem o mesmo".

Amodei reconheceu que a regulamentação pode não ser capaz de acompanhar o ritmo da IA e pediu às empresas que "trabalhem juntas voluntariamente para definir padrões" em paralelo à regulamentação. Ele afirmou que uma desaceleração de um ou dois anos antes que os modelos atinjam níveis críticos de capacidade poderia reduzir significativamente o risco de "algo dar muito errado", mas que isso teria que ser feito de forma coordenada, "sem sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA". Ele também instou o governo dos EUA a impedir que chips de IA de empresas americanas sejam vendidos à China e que a tecnologia seja compartilhada com países autoritários.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.