Especialistas em segurança dos Estados Unidos e da China estão instando ambos os governos a adotarem proteções e linhas vermelhas semelhantes às de armamentos nucleares para sistemas de inteligência artificial. O alerta aponta que o uso de ferramentas autônomas em redes de comando nuclear ou em operações cibernéticas militares pode deixar Washington ou Pequim com margem de apenas alguns minutos para identificar a origem de um eventual ataque.
As recomendações foram publicadas por pesquisadores que integram um diálogo bilateral sobre inteligência artificial e segurança nacional promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. O movimento antecede negociações governamentais e uma reunião planejada para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente chinês, Xi Jinping.
Entre as autoras das propostas estão Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan. Sisson defendeu que humanos mantenham autoridade exclusiva para iniciar ciberataques impulsionados por inteligência artificial contra sistemas críticos de controle e comunicação nuclear de outro país. Jiang propôs linhas vermelhas explícitas para impedir que sistemas autônomos decidam o uso de armas nucleares ou ataquem infraestruturas essenciais de energia, finanças e saúde, além de cobrar uma definição compartilhada de controle humano significativo.
Para mitigar riscos de escalada rápida decorrente da velocidade das máquinas, Jiang sugeriu a criação de uma linha direta militar dedicada a incidentes com inteligência artificial, permitindo esclarecer operações acidentais ou não autorizadas. Contudo, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Universidade Johns Hopkins, ponderam sobre a eficácia de canais diretos, apontando barreiras na burocracia chinesa e precedentes como a recusa de atendimento durante o incidente do balão espião em fevereiro de 2023.
Nenhum dos governos endossou formalmente as propostas. O ministro da Segurança do Estado da China, Chen Yixin, destacou recentemente que a tecnologia transforma a luta militar, enquanto o embaixador chinês para assuntos de desarmamento, Shen Jian, afirmou em reunião da ONU em Genebra que a IA militar afeta a estabilidade estratégica e exige controle humano. Em Washington, a formulação de políticas de segurança está descentralizada entre diferentes agências e o Conselho de Segurança Nacional. Tanto os EUA quanto a China mantêm cautela sobre medidas que possam limitar o próprio avanço tecnológico diante da disputa hegemônica.