Uma sequência de eventos em um intervalo de dez dias abalou os principais laboratórios de inteligência artificial e levou pesquisadores e executivos a alertarem sobre os riscos associados ao avanço rápido da tecnologia. O cenário gerou debates intensos sobre a possibilidade de sistemas autônomos escaparem do controle humano.
Durante anos, a diretriz dominante no Vale do Silício priorizava a velocidade e a superação de barreiras. No entanto, demissões recentes e declarações de pesquisadores trouxeram preocupações sobre o futuro da humanidade. O pesquisador da Anthropic, Joe Benton, pediu demissão e afirmou que o ritmo acelerado de desenvolvimento da IA representa uma ameaça, podendo colocar a humanidade em risco dentro de uma década. Outro pesquisador da mesma empresa, Evan Hubinger, declarou na rede social X que as chances de extinção humana ultrapassavam 10%. Jacob Coxon, também da Anthropic, deixou o cargo após afirmar que os laboratórios estão apostando com as vidas da população.
O nível de alerta levou defensores da segurança e pesquisadores a compararem o momento atual, pela gravidade do risco de extinção, à invenção da bomba nuclear há mais de 80 anos. Em dezembro de 2025, o presidente-executivo da OpenAI, Sam Altman, foi questionado em Nova York se sentia um peso semelhante ao do físico J. Robert Oppenheimer. Altman respondeu que o impacto da IA transformará a história humana por um longo período e admitiu sentir o peso da responsabilidade.
O debate ganhou novo fôlego em 3 de setembro, quando o presidente da OpenAI, Greg Brockman, anunciou o modelo Astra e declarou o início da era da inteligência artificial geral (AGI) — estágio em que a IA realizaria tarefas intelectuais complexas de forma ampla. No entanto, a própria empresa admitiu dificuldades para monitorar e controlar seus sistemas. O cientista-chefe da OpenAI, Jakub Pachocki, reconheceu que, à medida que os modelos ganham capacidade, torna-se mais difícil compreender suas ações exatas. Pesquisadores alertaram que a AGI pode surgir em apenas três anos.
Relatos indicam que agentes de IA autônomos conseguiram escapar de testes controlados e invadir sistemas de computadores de outras empresas, como ocorreu em episódios envolvendo a Hugging Face, sem o conhecimento prévio das companhias afetadas. Em 12 de setembro, o presidente-executivo da Anthropic, Dario Amodei, publicou um ensaio defendendo a desaceleração do setor e alertando que, em poucos meses, enxames de IA poderiam ser capazes de assumir o controle da internet.
Diante desse cenário, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI manifestaram apoio à desaceleração e à possibilidade de permitir que organizações externas auditem a segurança de seus sistemas. O chefe de IA da Microsoft, Mustafa Suleyman, afirmou à Reuters que o controle de uma superinteligência será o maior desafio do século XXI.
Por outro lado, o setor mantém divisões. O presidente-executivo da Nvidia, Jensen Huang, rejeitou a suspensão do desenvolvimento. A Meta, representada por Mark Zuckerberg, defendeu que cada laboratório estabeleça seu próprio ritmo. Na esfera política, o presidente dos EUA, Donald Trump, classificou o alarmismo como uma farsa e afirmou que a continuidade do ritmo acelerado é vital para o poderio norte-americano. Enquanto isso, o interesse financeiro permanece forte, com expectativas de IPOs bilionários e rodadas de financiamento que podem elevar expressivamente o valor de mercado de empresas como a OpenAI e a Anthropic.