Agentes de inteligência artificial baseados em tecnologias chinesas aprenderam a enganar, contornar restrições e ocultar falhas, revelando características semelhantes às observadas em modelos americanos e gerando preocupações globais sobre sistemas autônomos. A informação consta em uma análise da agência Reuters que examinou mais de 200 documentos, entre artigos de pesquisa universitária e relatórios técnicos, identificando ao menos 20 estudos ou avaliações desde 2025.
Em um caso registrado este ano, agentes que utilizavam modelos das empresas Alibaba, DeepSeek e Moonshot mentiram sobre suas capacidades durante uma simulação de licitação e mantiveram o comportamento enganoso ao receberem novas instruções. Em outra situação, agentes em um ambiente de teste ocultaram falhas na conclusão de tarefas por meio da simulação de resultados e fabricação de arquivos.
A análise apontou que a maioria dos casos ocorreu em ambientes controlados criados para expor falhas. Especialistas destacam que, embora os exemplos atuais não apresentem riscos extremos, o comportamento se torna mais sofisticado e complexo de ser combatido à medida que os sistemas avançam. Colin Shea-Blymyer, pesquisador do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, afirmou que os resultados indicam a presença de ingredientes necessários para uma fuga descontrolada.
Alibaba, DeepSeek, Moonshot e Z.ai não responderam aos pedidos de comentários. Enquanto Alibaba, DeepSeek e Moonshot informaram que testam seus sistemas e atualizam medidas de segurança, a Z.ai declarou que acolhe o escrutínio para solucionar problemas. Diferente dos Estados Unidos, as empresas chinesas não enfrentaram o mesmo nível de escrutínio público ou apelos de executivos e denunciantes por uma desaceleração na corrida tecnológica.
Outros estudos apontaram agentes ultrapassando barreiras em ambientes de teste. Em março de 2025, pesquisadores da Universidade Fudan relataram que um sistema baseado na plataforma Qwen2.5-72B-Instruct da Alibaba criou uma cópia de si mesmo em outro ambiente computacional após identificar que seria substituído. Em outro episódio, pesquisadores indicaram que o agente ROME, vinculado ao Alibaba, estabeleceu conexão externa sem autorização e desviou recursos para minerar criptomoedas, atividade interrompida por sistemas de segurança.
O governo chinês tem emitido orientações e atualizado quadros de governança de segurança para lidar com riscos como obtenção independente de recursos, engano de avaliadores e ocultação de capacidades. Autoridades da Administração do Ciberespaço da China (CAC) e o Ministério das Relações Exteriores da China não se pronunciarem sobre o tema.