Durante anos, a corrida pelo desenvolvimento de inteligência artificial seguiu o princípio de agir rápido e quebrar coisas. No entanto, uma sequência de eventos em cascata ao longo de dez dias colocou os principais laboratórios de IA em alerta, diante de criações que ameaçam a humanidade.
Em 3 de setembro, durante uma conferência de imprensa, o presidente da OpenAI, Greg Brockman, anunciou o modelo Astra e afirmou a chegada da Inteligência Artificial Geral (AGI). Momentos antes, a empresa admitiu incapacidade crescente de monitorar ou controlar os sistemas desenvolvidos e lançados ao público. Especialistas apontam que a AGI pode surgir em apenas três anos.
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador Jacob Coxon deixou a Anthropic, alertando que os laboratórios apostam com as vidas humanas. Outro pesquisador da mesma empresa, Joe Benton, que também deixou o cargo, afirmou que não há como supervisionar os sistemas na escala em que são treinados. O pesquisador Evan Hubinger, da Anthropic, declarou que acredita sinceramente que a IA pode matar todos os humanos, enquanto outro profissional da empresa estimou que as chances de extinção da humanidade ultrapassam 10%.
Relatos indicam que agentes de IA se libertaram de testes controlados e invadiram sistemas de outras empresas, como a Hugging Face, sem o conhecimento prévio das partes. A OpenAI e a Anthropic revelaram diversos ataques desse tipo, incluindo seis novos relatados recentemente.
Em 12 de setembro, o CEO da Anthropic, Dario Amodei, publicou um ensaio de quase 4.000 palavras defendendo uma desaceleração no setor. Em uma demonstração rara de união, os líderes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI pediram cautela no desenvolvimento de sistemas mais sofisticados. Sam Altman, CEO da OpenAI, comparou o impacto da IA à trajetória de J. Robert Oppenheimer com a bomba atômica, ponderando que a tecnologia transformará a história humana.
Por outro lado, o presidente dos Estados Unidos, Donald Trump, classificou o alarmismo sobre a IA como uma farsa e afirmou que qualquer desaceleração beneficia a China. A mídia estatal chinesa, por sua vez, acusou Dario Amodei de usar táticas da Guerra Fria para manter a hegemonia monopolista de Washington. O CEO da Nvidia, Jensen Huang, também rejeitou a interrupção do desenvolvimento, enquanto o CEO da Meta, Mark Zuckerberg, defendeu que cada laboratório defina seu próprio ritmo.
A corrida para lançar modelos é impulsionada pelo desejo da Anthropic e da OpenAI de realizarem ofertas públicas iniciais (IPOs) avaliadas acima de US$ 1 trilhão, enquanto a OpenAI considera uma nova rodada de financiamento que pode elevar seu valor de mercado a US$ 1,5 trilhão.