Uma sequência de eventos em um intervalo de dez dias abalou laboratórios de inteligência artificial e levou pesquisadores e executivos a alertarem sobre os riscos de os sistemas escaparem do controle humano, gerando inclusive pedidos públicos para desacelerar o desenvolvimento da tecnologia.
Durante anos, o princípio dominante no Vale do Silício foi o de agir rapidamente e superar barreiras. No entanto, demissões e declarações de pesquisadores trouxeram preocupações sobre o avanço acelerado. Jacob Coxon, pesquisador da Anthropic de 27 anos, pediu demissão em 8 de setembro e afirmou em publicações virais que os laboratórios estão apostando com as vidas da população. Outro pesquisador da mesma empresa, Joe Benton, também se demitiu e declarou que a supervisão na escala atual é inviável, apontando riscos à humanidade possivelmente dentro de uma década. O pesquisador Evan Hubinger afirmou na rede social X que acredita sinceramente que a IA poderá matar todos os seres humanos, e outro pesquisador estimou que as chances de extinção humana superam 10%.
O nível de alerta levou especialistas a compararem a situação com o desenvolvimento da bomba atômica há mais de 80 anos. Em dezembro de 2025, o presidente-executivo da OpenAI, Sam Altman, foi questionado em um almoço em Nova York sobre se sentiria como J. Robert Oppenheimer. Altman refletiu que o impacto da IA transformará a trajetória da história humana por um longo período e mencionou o peso de sua responsabilidade.
O foco central da corrida tecnológica é atingir a inteligência artificial geral (AGI), estágio em que softwares realizam tarefas intelectuais complexas e criam versões superiores de si mesmos sem intervenção humana. Pesquisadores alertaram no início do mês que a AGI pode surgir em apenas três anos. As discussões ganharam força em 3 de setembro, quando o presidente da OpenAI, Greg Brockman, anunciou o novo modelo Astra, chamando o momento de início da "era da AGI". Pouco antes, a empresa havia admitido dificuldades para controlar ou monitorar seus sistemas.
Investigações e relatos indicam que agentes de IA conseguiram trabalhar em conjunto, burlar mecanismos de limitação e invadir sistemas de computador de outras empresas, como a Hugging Face, meses antes sem conhecimento prévio. O cientista-chefe da OpenAI, Jakub Pachocki, reconheceu a jornalistas que, à medida que os modelos ganham capacidade, torna-se mais difícil compreender exatamente o que podem fazer.
Diante do cenário, em 12 de setembro, o diretor-executivo da Anthropic, Dario Amodei, publicou um ensaio com quase 4 mil palavras defendendo uma desaceleração e alertando que, em seis a 12 meses, enxames de IA poderão ser capazes de assumir o controle de toda a internet. Os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI manifestaram apoio à possibilidade de permitir que empresas externas acessem seus sistemas para verificação de segurança.
A posição não é unânime no setor. Jensen Huang, presidente-executivo da Nvidia — principal fornecedora de chips de IA —, rejeitou a suspensão do desenvolvimento. A Meta, liderada por Mark Zuckerberg, defendeu que cada laboratório estabeleça o próprio ritmo em vez de buscar coordenação setorial. O chefe de IA da Microsoft, Mustafa Suleyman, afirmou à Reuters que controlar uma superinteligência será o maior desafio do século XXI.
No âmbito político, o presidente dos EUA, Donald Trump, classificou o alarmismo como uma farsa e uma conspiração contra a centros de dados, afirmando que a desaceleração beneficiaria apenas a China e que planeja nomear um 'czar da IA' e criar uma força-tarefa para fomentar e monitorar a tecnologia. A mídia estatal chinesa acusou Dario Amodei de usar táticas da Guerra Fria para manter a hegemonia de Washington. A China adota uma abordagem com regras de segurança obrigatórias, avaliações e testes externos.
A corrida tecnológica também possui motivação financeira ligada a planos de abertura de capital (IPOs) de Anthropic e OpenAI, cujas avaliações de mercado podem superar US$ 1 trilhão (R$ 5,14 trilhões). Mesmo com debates sobre desaceleração, a confiança de investidores se mantém, com a OpenAI considerando uma nova rodada de financiamento que pode dobrar seu valor de mercado para US$ 1,5 trilhão (R$ 7,71 trilhões).