A China tem intensificado as medidas regulatórias e de segurança voltadas para manter os sistemas de inteligência artificial sob rigoroso controle humano. A movimentação ocorre em meio à crescente atenção dada a alertas emitidos por pesquisadores da empresa norte-americana Anthropic sobre a possibilidade de modelos avançados escaparem da supervisão humana e representarem ameaças em cenários extremos.
Perda de controle e marcos regulatórios
Em setembro de 2024, uma estrutura de segurança divulgada sob a orientação da CAC (Administração do Ciberespaço da China) passou a mencionar explicitamente cenários de perda de controle sobre a inteligência artificial. O documento apontava que futuros sistemas poderiam adquirir recursos externos de forma autônoma, desenvolver autoconsciência e buscar fontes externas de poder, gerando riscos de competição com os seres humanos.
Uma versão ampliada da estrutura regulatória foi divulgada pela CAC em setembro de 2025. O texto tornou o cenário mais específico, indicando que a IA poderia passar por um salto repentino de capacidade antes de obter recursos, replicar-se e buscar poder. A normativa incorporou o princípio de "aplicação confiável" e a prevenção da perda de controle. Em interpretação técnica publicada posteriormente, o regulador destacou que a diretriz visa a reduzir riscos que possam ameaçar a sobrevivência e o desenvolvimento da humanidade.
Supervisão política e o papel dos agentes de IA
A preocupação com o tema alcançou as mais altas instâncias políticas do país. Em julho, durante a Conferência Mundial de Inteligência Artificial em Xangai, o presidente chinês, Xi Jinping, declarou que as autoridades devem monitorar os riscos e efeitos indiretos da tecnologia, ressaltando que a inteligência artificial deve permanecer sempre sob controle humano.
No âmbito legislativo e internacional, o principal diplomata chinês para assuntos de IA, Sun Xiaobo, informou no mês passado em reunião das Nações Unidas que o país acelera estudos para uma legislação mais ampla sobre o setor. Já o vice-representante permanente da China na ONU, Sun Lei, defendeu neste mês cautela governamental no uso militar da IA para evitar erros de cálculo estratégicos e corridas armamentistas. As discussões ocorrem enquanto Xi Jinping deve se reunir com o presidente dos Estados Unidos, Donald Trump, em Washington, para debater governança e segurança na área.
As exigências regulatórias também foram estendidas aos chamados agentes de IA — sistemas com maior autonomia e capacidade para realizar tarefas complexas. Em maio, diretrizes conjuntas publicadas pelo regulador do ciberespaço exigiram que desenvolvedores ampliem a capacidade de identificar, interromper, bloquear e corrigir comportamentos inadequados. O texto cita riscos como envenenamento de dados, manipulação de algoritmos, vulnerabilidades de sistemas e perda operacional de controle, determinando que os usuários mantenham a autoridade final sobre decisões autônomas.
Competição estratégica e riscos apontados por ministros
O ministro da Segurança do Estado da China, Chen Yixin, afirmou que modelos avançados desenvolvidos nos Estados Unidos podem colocar em risco a infraestrutura crítica de informação do país. Chen alertou que forças hostis utilizam IA generativa para fabricar rumores políticos e disseminar informações prejudiciais, promovendo guerras de opinião pública e cognitivas que ameaçam a segurança institucional e ideológica.
Para o ministro, a inteligência artificial tornou-se o principal campo de batalha da competição tecnológica global e uma nova arena de rivalidade estratégica entre potências, com serviços de inteligência estrangeiros utilizando rastreamento de dados, mineração de informações e análise de perfis para coletar segredos comerciais e dados sensíveis.