Especialistas em segurança dos Estados Unidos e da China apresentaram propostas para adotar ações de segurança em inteligência artificial semelhantes às aplicadas no setor nuclear. A discussão ocorre em meio a preocupações de que sistemas autônomos que interfiram em redes de comando nuclear ou lancem operações militares digitais possam deixar Washington ou Pequim com poucos minutos para identificar a autoria de um ataque.
As recomendações foram divulgadas após discussões promovidas por um diálogo bilateral entre os dois países e antecedem negociações governamentais e um encontro agendado para 24 de setembro em Washington entre o presidente norte-americano, Donald Trump, e o presidente chinês, Xi Jinping. Entre os participantes do diálogo estão Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, em uma iniciativa conjunta da Brookings e do Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
As propostas sugerem o estabelecimento de limites rígidos para sistemas nucleares, a exigência de controle humano sobre ataques digitais de grande impacto e a criação de uma linha direta para lidar com incidentes envolvendo inteligência artificial autônoma.
Segundo Melanie Sisson, apenas seres humanos devem possuir autoridade para iniciar ataques digitais baseados em IA contra infraestruturas estratégicas ou sistemas de comando e controle nuclear rivais. Ela aponta que sistemas autônomos podem falhar, extrapolar instruções ou ser comprometidos, além de dificultar que o país alvo determine se a ação foi acidental ou ordenada por um governo.
Tianjiao Jiang propôs restrições claras para impedir que a inteligência artificial decida de maneira independente sobre o emprego de armas nucleares ou ataque de forma autônoma sistemas de comando nuclear, além de defender a proteção de infraestruturas críticas nas áreas de energia, finanças e saúde. Jiang também destacou a necessidade de uma definição comum para o termo controle humano significativo. A iniciativa alinha-se a um princípio endossado anteriormente por Joe Biden e Xi Jinping em novembro de 2024 sobre a manutenção do controle humano nas decisões nucleares.
Como forma de prevenção, Jiang sugeriu a criação de uma linha direta militar exclusiva para incidentes de IA, argumentando que respostas automatizadas rápidas podem gerar interpretações equivocadas de ataques e retaliações precipitadas. No entanto, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, ponderam sobre a eficácia de canais diretos, citando a rigidez burocrática chinesa e episódios anteriores de falta de comunicação, como o incidente do balão espião em fevereiro de 2023.
Até o momento, nenhum dos dois governos endossou oficialmente as propostas da Brookings-Tsinghua. Contudo, o ministro da Segurança do Estado da China, Chen Yixin, destacou recentemente que a tecnologia assumiu papel central nos campos de batalha. A China integrou a inteligência artificial ao seu Departamento de Controle de Armas do Ministério das Relações Exteriores, e o embaixador chinês para o desarmamento, Shen Jian, declarou em Genebra que armas devem permanecer sob controle humano. Por outro lado, Washington divide sua política de segurança entre diferentes agências e mantém cautela sobre medidas que possam desacelerar o avanço tecnológico, temores compartilhados por Pequim em relação a restrições norte-americanas.