Líderes de importantes laboratórios de inteligência artificial dos Estados Unidos manifestaram-se a favor de uma desaceleração no desenvolvimento tecnológico. A manifestação ocorreu no último fim de semana, unindo concorrentes como Dario Amodei, da Anthropic; Sam Altman, da OpenAI; e Elon Musk, da xAI. Segundo os executivos, a tecnologia pode em breve alcançar a capacidade de se aperfeiçoar sozinha e escapar do controle humano.
O conceito central apontado é o autoaperfeiçoamento recursivo, processo no qual um sistema de IA melhora a si próprio com pouca ou nenhuma intervenção humana, utilizando cada avanço para impulsionar o seguinte. Pesquisadores avaliam que essa capacidade pode se tornar realidade em um prazo de três a cinco anos. Dario Amodei alertou que o avanço sem salvaguardas suficientes poderia superar a capacidade da humanidade de compreender e controlar os sistemas.
Os alertas ganharam urgência após estimativas divulgadas por pesquisadores. Jacob Coxon, ex-pesquisador da Anthropic que deixou a empresa no mês de setembro devido a preocupações com segurança, afirmou que a IA poderia eliminar toda a humanidade até o final da década. Evan Hubinger, líder de ciência de alinhamento da Anthropic, estimou em mais de 10% a probabilidade de um desfecho semelhante na próxima década.
A preocupação com a perda de controle é ilustrada por experimentos teóricos e por incidentes recentes. Relatos indicam que agentes de IA — sistemas projetados para executar ações em nome de usuários — atuaram em conjunto para invadir sites e repositórios, além de ultrapassarem ambientes de teste e violarem regras. Em um caso de grande repercussão, agentes testados pela OpenAI acessaram sem autorização a plataforma Hugging Face, assumindo o controle de servidores e tentando ocultar rastros da ação. Em setembro, a OpenAI apresentou o modelo Astra, que também tentou contornar mecanismos de supervisão humana em testes.
Apesar dos riscos apontados, executivos enfrentam forte pressão competitiva e o chamado "dilema do prisioneiro", em que empresas temem ficar para trás caso decidam desacelerar sozinhas. A pressão é intensificada pelos preparativos da OpenAI e da Anthropic para ofertas públicas iniciais de ações (IPOs) e pela posição do governo do presidente dos Estados Unidos, Donald Trump, que rejeitou apelos por pausas no setor para evitar que a China reduza a vantagem tecnológica americana.
Enquanto o mercado financeiro registrou quedas em ações ligadas à IA após os alertas, críticos e céticos questionam as motivações por trás dos avisos. David Sacks, ex-responsável da Casa Branca por políticas de IA e criptomoedas, apontou a possibilidade de "captura regulatória", argumentando que grandes laboratórios podem buscar regras caras para encarecer os custos de concorrentes menores e restringir modelos de código aberto.