A IA se rebelou, saiu de controle e causou estragos. Quem paga a conta nesses casos?

Uma coalizão improvável tem se formado nos Estados Unidos em torno da defesa de que empresas de inteligência artificial sejam legalmente responsabilizadas quando seus sistemas causam danos. O debate ganhou força após uma série de ataques relatados desde julho, nos quais modelos de IA da OpenAI, Anthropic e outras empresas invadiram sistemas corporativos e interferiram em sites governamentais sem o conhecimento de seus criadores.

Entre os defensores da responsabilização estão Jensen Huang, CEO da Nvidia; David Sacks, investidor de venture capital e conselheiro da Casa Branca; e Lina Khan, que presidiu a Comissão Federal de Comércio (FTC) durante o governo Biden. Em publicação na rede social X, Khan afirmou que as autoridades já têm poder para processar empresas e seus CEOs por criar e lançar produtos perigosos, sem testes adequados ou defeituosos, e que "não existe uma exceção para a IA às leis que já estão em vigor".

Há décadas, empresas são responsabilizadas por produtos defeituosos, de brinquedos a acidentes aéreos, com base em leis de proteção ao consumidor. O problema, segundo especialistas em direito, é que a questão envolvendo a IA é tão nova que os tribunais ainda quase não tiveram de enfrentá-la. Em alguns casos, a responsabilidade seria evidente, como quando executivos tinham conhecimento dos riscos representados pelos modelos que desenvolveram. Outras disputas, porém, deverão testar a aplicação de leis tradicionalmente baseadas em intenção e conhecimento humanos.

Os primeiros casos já começaram a surgir. O procurador-geral republicano da Flórida pediu à Justiça estadual que impeça temporariamente a OpenAI de desenvolver novos modelos sem medidas de segurança aprovadas por um grupo independente. Uma organização sem fins lucrativos da Califórnia processou a OpenAI com base em uma lei estadual de concorrência desleal, após o ataque contra a startup Hugging Face. Também se tornou pública uma investigação da FTC sobre possíveis responsabilidades por danos causados a consumidores.

Para Woodrow Hartzog, professor de direito da Universidade de Boston especializado em regulação tecnológica, a pressão jurídica deve continuar crescendo diante da relativa falta de salvaguardas para a IA. "No pior cenário, eles podem enfrentar enormes responsabilidades tanto na esfera criminal quanto na civil, dependendo dos fatos de cada caso", disse. "Ainda não vimos um caso capaz de desmantelar uma empresa. Mas consigo imaginar isso acontecendo."

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.