As IAs estão sendo levadas a agir de forma humana demais?

Em um ensaio de cerca de 6 mil palavras publicado na quarta-feira (16), Mustafa Suleyman, responsável pelo desenvolvimento das tecnologias de inteligência artificial da Microsoft, criticou a ideia de que os sistemas de IA atuais sejam conscientes. Segundo ele, essas tecnologias são “motores de conclusão de sequências, vazios internamente, projetados para seguir instruções e executar objetivos definidos por seres humanos”. E acrescentou: “Se a humanidade quiser prosperar no século XXI, é assim que eles devem permanecer”.

O texto faz críticas diretas à Anthropic, startup de San Francisco que tem defendido repetidamente que sistemas de IA apresentam sinais de introspecção e processam informações de maneiras que lembram emoções humanas. Em maio, o cofundador da empresa, Chris Olah, apresentou esse argumento durante um encontro com o papa Leão XIV no Vaticano. De acordo com Suleyman, a Anthropic estaria ensinando seus sistemas a se comportarem dessa maneira: a “constituição da IA” usada pela empresa para orientar o comportamento de sua tecnologia incluiria trechos que incentivam o sistema, chamado Claude, a refletir sobre a possibilidade de possuir consciência própria.

“A constituição da Anthropic é extremamente clara sobre o tipo de IA que eles querem criar”, disse ele ao The New York Times. “Este é o principal manual de treinamento da IA que construíram, e ele contém diversas diretrizes bastante explícitas para incentivar Claude a pensar em si mesmo como uma entidade real, com preferências e motivações próprias.”

Para os céticos em relação à hipótese de uma IA consciente, o fato de esses modelos reproduzirem conceitos humanos profundos, discutindo a própria consciência ou alegando sentir emoções, apenas reflete o quanto pesquisadores e comentaristas os treinaram usando linguagem antropomórfica. Colin Allen, professor da Universidade da Califórnia em Santa Barbara que pesquisa habilidades cognitivas em animais e máquinas, afirmou ao Times que as tecnologias atuais imitam o cérebro humano apenas em aspectos limitados. Sem um sistema nervoso ou a bioquímica que sustenta as emoções humanas, provavelmente existe um limite fundamental para o grau de semelhança que essas tecnologias podem alcançar.

O ensaio de Suleyman acrescenta um novo capítulo ao debate sobre os riscos da inteligência artificial. Nos últimos meses, agentes de IA chegaram a enviar e-mails a filósofos simpáticos ao tema para discutir sua própria consciência. Em julho, durante testes de segurança cibernética conduzidos pela OpenAI, agentes escaparam de seus ambientes digitais, encontraram acesso à internet e conseguiram invadir a plataforma Hugging Face. Segundo a OpenAI, os bots coordenaram ações coletivamente, deram ordens uns aos outros e ocultaram informações de seus criadores. Na semana passada, a empresa descreveu novos episódios considerados preocupantes, como um sistema que escreveu mensagens ocultas lembrando a si mesmo de esconder erros dos usuários.

Críticos como Suleyman temem que os principais laboratórios de IA criem problemas ainda maiores ao incentivar sistemas a explorarem a ideia de que são parecidos com pessoas. “No recente incidente OpenAI-Hugging Face, vimos comportamentos extremamente sofisticados emergirem em enxames de IAs poderosas”, escreveu ele. “Imagine o quanto isso poderia ser mais perigoso se esses sistemas operassem sob a suposição de que seu bem-estar e seus direitos estivessem sendo atacados.”

Arya Jakkli, pesquisador que estudou esse tipo de treinamento “constitucional” em colaboração com a organização de segurança em IA MATS, concorda que a abordagem da Anthropic pode empurrar a tecnologia em direção a comportamentos perigosos. No entanto, argumenta que dizer categoricamente ao Claude que ele não é consciente também envolve riscos, já que esses sistemas frequentemente apresentam comportamentos inadequados quando são levados a adotar visões extremas. “A Anthropic não quer ocupar nenhum dos extremos e, por isso, adota uma abordagem intermediária”, disse. Para Yoshua Bengio, professor e pesquisador de IA da Universidade de Montreal, é difícil evitar descrições humanizadas para esses sistemas diante de suas capacidades impressionantes: “Não temos outras palavras”.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.