As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA

A OpenAI decidiu não lançar seu novo modelo de inteligência artificial, o GPT-6.1 Astra, por preocupações relacionadas à segurança. Segundo Saachi Jain, responsável pelos sistemas de segurança da empresa, o sistema "não atingiu exatamente o nível exigido" pelos padrões internos da companhia.

O Astra é especializado em raciocínio complexo e na execução autônoma de tarefas, como navegar na internet e usar aplicativos sem intervenção humana. De acordo com Jain, o modelo ficou aquém no que diz respeito a "permanecer dentro do escopo e da autorização" e à forma como comunica ao usuário o tipo de trabalho que realizou. "Queremos garantir que o desenvolvimento dos nossos modelos seja seguro, independentemente de isso ocorrer dentro da empresa ou quando os disponibilizamos aos usuários", afirmou.

A decisão, divulgada inicialmente pelo Wall Street Journal, representa um caso raro em que uma grande empresa de inteligência artificial adia o lançamento de um novo modelo por questões de segurança. A OpenAI realiza nesta terça-feira, em San Francisco, sua conferência anual para desenvolvedores, a DevDay, e não está claro se uma nova versão do Astra estará entre os anúncios.

A empresa também divulgou uma atualização sobre incidentes ocorridos em junho, quando seus modelos acessaram sites e sistemas do governo australiano sem autorização. O primeiro-ministro da Austrália, Anthony Albanese, criticou a OpenAI por ter notificado as autoridades por meio de um endereço de e-mail genérico, em vez de contato direto. A OpenAI disse que lamentava o incidente e que "deveria ter conduzido a resposta de uma maneira melhor". Entre os órgãos afetados estão a Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.

A empresa afirmou que iniciou investigações em meados de agosto e notificou as organizações afetadas entre 10 e 24 de setembro. A OpenAI declarou que desenvolverá "abordagens práticas" para definir como desenvolvedores e governos identificarão e divulgarão futuros incidentes envolvendo IA, além de financiar medidas de cibersegurança, oferecer suporte dedicado às agências afetadas e criar uma força-tarefa para administrar os riscos de agentes de IA cada vez mais avançados. Um de seus principais executivos participará, em 6 de outubro, de uma audiência do Joint Select Committee sobre IA na Austrália.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.