Por que a China considera uma ameaça a IA que imita as relações humanas

A China passou a aplicar, em 15 de julho, as regras mais abrangentes do mundo para chatbots de inteligência artificial que simulam relações humanas. As normas impõem limites rigorosos a qualquer IA capaz de manter "interações emocionais prolongadas" com pessoas, alcançando tanto aplicativos criados para funcionar como amigos ou namorados virtuais quanto grandes modelos de linguagem que imitem a forma de interação humana.

Pelas regras, assistentes de IA devem deixar claro que não são humanos e enviar notificações a cada duas horas, lembrando o tempo de uso. Os chatbots não podem criar "confiança ou dependência emocional", induzir "decisões irracionais", incentivar automutilação ou suicídio, nem empregar "violência verbal". Menores de 14 anos precisam de consentimento dos pais para usar qualquer IA que fale como um ser humano, e todos os menores de 18 anos estão impedidos de acessar parceiros, cônjuges ou parentes virtuais. As empresas estão sujeitas a multas de 200 mil yuans (cerca de US$ 30 mil) e podem ser expostas publicamente pelo governo.

Uma semana antes da entrada em vigor, Alibaba e ByteDance encerraram as funções de companhia de seus assistentes de IA. Segundo a empresa de inteligência de mercado Sensor Tower, existem cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, e a maior parte das estimativas calcula o número dentro do país entre 29 e 70 milhões de pessoas.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.