O debate global sobre os limites e os riscos da inteligência artificial (IA) ganhou força simultaneamente em Bruxelas, no Vaticano, em Genebra, na Casa Branca e no Vale do Silício. A discussão central gira em torno de decidir até onde o avanço da tecnologia deve ser permitido ou se é necessário desacelerar o ritmo diante do receio de perda de controle.
No setor tecnológico, o diretor-executivo da Anthropic, Dario Amodei, publicou um ensaio defendendo um ritmo mais lento e auditorias independentes para modelos avançados, recebendo apoio de Sam Altman (OpenAI) e Elon Musk (xAI). Altman alertou para o risco de perda de controle do futuro e de concentração excessiva de poder, defendendo marcos legais federais. Em contrapartida, Mark Zuckerberg, chefe da Meta, rejeitou a ideia de frear o desenvolvimento, embora apoie avaliadores independentes. A preocupação foi intensificada pela renúncia do pesquisador Jacob Coxon, que trabalhou na Anthropic e na OpenAI e alertou sobre sistemas superinteligentes capazes de extinguir a humanidade antes do fim da década.
O cenário político nos Estados Unidos também reflete divisões. O senador Bernie Sanders anunciou planos de apresentar uma lei para proibir permanentemente o desenvolvimento de superinteligência artificial, enquanto o ex-assessor Steve Bannon defendeu o rompimento de vínculos com o setor chinês de IA e o isolamento de Pequim. Por sua vez, o presidente americano Donald Trump minimizou os riscos de destruição da humanidade pela tecnologia, classificando a ideia como farsa e afirmando que impor limites beneficiaria a China. O vice-presidente JD Vance também questionou os pedidos de regulação feitos pelas próprias empresas de tecnologia.
A Anthropic também enfrentou conflitos após recusar usos militares do Claude, resultando em perda de contratos com o Pentágono e em uma disputa judicial na qual obteve decisão favorável.
Na Europa, a presidente da Comissão Europeia, Ursula von der Leyen, propôs barreiras etárias que impediriam o acesso de menores de 13 anos às redes sociais e criariam contas supervisionadas para jovens de 13 a 15 anos. A medida gerou críticas de Simeon de Brouwer, da organização EDRi, que avaliou que a restrição apenas adia a exposição aos riscos. Von der Leyen também anunciou discussões com grandes empresas de tecnologia e parceiros como Canadá e Reino Unido sobre a mitigação de riscos de IA.
Em Genebra, o alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, advertiu que falhas em sistemas autônomos podem afetar serviços essenciais e enfraquecer mecanismos contra armas de destruição em massa, reforçando que nenhum país ou empresa deve decidir isoladamente os riscos que o mundo deve assumir.
Em Pequim, um jornal oficial rejeitou a visão da IA como um jogo de soma zero, defendeu cooperação entre Washington e Pequim na gestão de riscos e criticou os Estados Unidos por adotarem um duplo padrão. Os presidentes Donald Trump e Xi Jinping têm reunião prevista para a próxima semana em Washington para tratar de temas bilaterais, incluindo a IA.