Especialistas em segurança dos Estados Unidos e da China apresentaram propostas para adotar ações de segurança em inteligência artificial semelhantes às aplicadas no setor nuclear. A discussão ocorre em meio a preocupações de que sistemas de IA autônomos que interfiram na rede de comando nuclear ou lancem operações militares digitais possam deixar Washington ou Pequim com poucos minutos para identificar a autoria de um ataque.
As recomendações, divulgadas na semana passada antes de negociações governamentais e de um encontro marcado para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente da China, Xi Jinping, incluem limites rígidos para sistemas nucleares, controle humano sobre ataques digitais de grande impacto e a criação de uma linha direta para incidentes com IA autônoma.
Participaram do diálogo EUA-China sobre inteligência artificial e segurança nacional — promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua — a pesquisadora sênior da Brookings Melanie Sisson e o professor associado da Universidade de Fudan Tianjiao Jiang.
As propostas evidenciam que a rivalidade entre as duas potências na área tecnológica abrange temas de controle de armas, como evitar confusões entre acidentes e ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação. O ministro da Segurança do Estado da China, Chen Yixin, afirmou em publicação recente que a tecnologia assumiu posição central na luta militar, mencionando ataques guiados por IA em conflitos envolvendo os EUA e Israel contra o Irã.
Entre as sugestões apresentadas, Melanie Sisson defende que apenas seres humanos tenham autoridade para iniciar ataques digitais com uso de IA contra redes de comando e controle nuclear ou infraestruturas estratégicas, citando o risco de falhas em sistemas autônomos e de dificuldades do país alvo para discernir a origem ou a intencionalidade da ação. Na mesma linha, Tianjiao Jiang propôs restrições explícitas para impedir decisões autônomas de IA sobre armas nucleares e a proteção de setores críticos como energia, finanças e saúde, além de uma definição comum para o termo "controle humano significativo". A base para o debate apoia-se em um princípio endossado por Xi Jinping e pelo ex-presidente norte-americano Joe Biden em novembro de 2024.
Jiang também sugeriu uma linha direta militar exclusiva entre os governos para lidar com incidentes envolvendo IA, argumentando que respostas automatizadas velozes podem gerar retaliações antes de uma verificação humana. Contudo, especialistas como Carla Freeman, da Johns Hopkins, ponderam sobre a utilidade da ferramenta diante de impasses diplomáticos anteriores e da rígida burocracia do sistema chinês, que exige avaliações da alta liderança antes de contatos oficiais.
Até o momento, nenhum dos governos endossou publicamente as diretrizes da iniciativa Brookings-Tsinghua. A China tem integrado a IA ao seu Departamento de Controle de Armas do Ministério das Relações Exteriores, com declarações de autoridades como o embaixador Shen Jian sobre a necessidade de manter armas sob controle humano. Em Washington, a formulação de políticas de segurança divide-se entre diferentes órgãos, e ambos os países mantêm cautela para que medidas de segurança não prejudiquem o avanço tecnológico ou favoreçam rivais na disputa geopolítica.