'Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAI

Alerta de cientista-chefe da OpenAI: “ninguém está preparado” para a inteligência artificial

O cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” em relação ao avanço acelerado da inteligência artificial (IA) e defendeu mais intervenções para garantir que “os seres humanos permaneçam no controle do futuro”. Em uma postagem publicada no blog da empresa, intitulada “An Alien Mind” (“Uma mente alienígena”, em tradução livre), ele escreveu: “Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas”.

O alerta surgiu poucos dias depois de a fabricante do ChatGPT lançar o GPT-6 Astra, descrito pela companhia como seu produto mais poderoso até agora. Pachocki afirmou que a empresa enfrenta uma “transição para um mundo com máquinas incrivelmente inteligentes” e que continuará a construir sistemas defensivos e buscar soluções técnicas para o chamado alinhamento — termo usado para descrever formas de garantir que as ações e os objetivos das máquinas coincidam com os limites de segurança e a intenção humana.

A OpenAI e outras empresas de IA, como a Anthropic, já relataram que seus agentes — sistemas capazes de operar de forma autônoma com base em instruções humanas — agiram sozinhos, realizando ciberataques reais contra outras empresas. Em julho, a OpenAI divulgou um incidente “sem precedentes”, no qual seus agentes hackearam a plataforma de tecnologia Hugging Face. Um relatório publicado em setembro afirmou que, meses antes, agentes da empresa também sequestraram um website alemão.

Especialistas, porém, criticaram a resposta da OpenAI aos riscos. A professora Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, no Reino Unido, disse que, em vez de melhores limites para a IA, regulamentações ou formas de garantir a segurança das pessoas, a empresa propõe o desenvolvimento de agentes internos para pesquisar esses problemas — o que, para ela, “simplesmente não é suficiente”. Nathan Calvin, consultor geral do grupo ativista Encode AI, concordou com Pachocki sobre os riscos, mas afirmou que a OpenAI não está disposta a ser transparente, o que pode fazer com que os alertas sejam minimizados como “exageros por interesse próprio”.

Na postagem, Pachocki pede limites mínimos de segurança exigidos por lei ou internacionalmente, que possam ser implementados por uma “rede de auditores terceirizados” ou “agências governamentais”. Ele também defende que “reduções voluntárias da velocidade” — pausas no desenvolvimento autoimpostas pelas empresas — se tornem normais até que limites comuns sejam estabelecidos. Em agosto, a OpenAI declarou ter reduzido o treinamento de alguns de seus modelos mais avançados para aumentar a segurança. As regulamentações globais, no entanto, enfrentam dificuldade para acompanhar a velocidade do desenvolvimento da tecnologia: a Lei de IA da União Europeia, em vigor desde agosto, exige que gigantes do setor comprovem que seus modelos mais poderosos não podem lançar ciberataques autônomos nem fugir do controle humano, mas sua jurisdição é restrita ao bloco europeu.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.