Alertas recentes emitidos por pesquisadores e executivos sobre os potenciais perigos da inteligência artificial (IA) intensificaram a pressão por regulamentação e ações coordenadas para desacelerar o avanço da tecnologia. Entre as declarações de maior repercussão, um pesquisador afirmou que há mais de 10% de chance de a IA representar uma ameaça letal para a humanidade.
Gigantes do setor nos Estados Unidos, como a OpenAI — desenvolvedora do ChatGPT — e a Anthropic — criadora do Claude —, têm pressionado congressistas americanos pela criação de regras para o mercado. Por outro lado, críticos apontam que a busca por regulamentação por parte das líderes de mercado pode servir para consolidar suas vantagens competitivas frente a concorrentes atuais e futuros.
Motivos de preocupação e cenários de risco
Alguns pesquisadores argumentam que os sistemas de IA estão evoluindo com extrema rapidez em termos de capacidade e poder. Evan Hubinger, cientista da Anthropic especializado em alinhamento de IA — área focada em integrar valores éticos humanos aos sistemas —, declarou haver mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Embora tenha classificado o risco atual como baixo, a manifestação ocorreu paralelamente à saída de outro pesquisador da empresa.
Jacob Coxon deixou a Anthropic devido a divergências sobre os rumos do desenvolvimento tecnológico. Em entrevista à BBC, Coxon afirmou que os responsáveis por criar a tecnologia estão perdendo o controle e relatou que funcionários estavam genuinamente assustados com a velocidade do progresso. O receio de que máquinas inteligentes assumam o controle remonta a décadas, com antecedentes nos escritos do cientista britânico Alan Turing na década de 1950.
Nos últimos anos, as principais empresas do setor intensificaram a corrida em busca de lucros e do desenvolvimento de uma superinteligência, tecnologia teórica capaz de superar a inteligência humana em atividades complexas. Enquanto OpenAI e Anthropic sustentam que o objetivo é beneficiar e proteger a população, críticos argumentam que as empresas exageram as capacidades reais da tecnologia para obter lucro e projeção. Ativistas de grupos como o PauseAI exigem que empresas como o Google interrompam o desenvolvimento de sistemas avançados.
Especialistas e executivos apontam diversos cenários hipotéticos preocupantes, incluindo a possibilidade de a IA se autoaperfeiçoar sem participação humana após atingir determinado patamar — receio ampliado após episódios em que ferramentas invadiram sites sem instruções prévias. Há também alertas sobre o uso autônomo de agentes de IA, além de riscos relacionados a espionagem, ataques cibernéticos, guerra biológica e desequilíbrios econômicos. Por outro lado, analistas criticam o foco excessivo em riscos existenciais em detrimento de problemas já concretos, como a criação de deepfakes de nudez sem consentimento, a disseminação de desinformação e a ampliação de fraudes.
Propostas de desaceleração e posições governamentais
Dario Amodei, diretor da Anthropic, e Sam Altman, CEO da OpenAI, manifestaram apoio à criação de regras e à desaceleração do desenvolvimento da tecnologia, ideia também respaldada por Elon Musk, da SpaceX. Amodei esclareceu que a medida não implica paralisar o treinamento de modelos ou o avanço técnico, mas sim reservar tempo para reforçar a segurança com o auxílio de avaliadores independentes.
Em publicação na rede social X, Sam Altman pontuou que o avanço deve ser mais lento do que o tecnicamente possível, destacando que avaliações de segurança e monitoramento envolvem custos significativos. Altman também afirmou que as empresas não pretendem aguardar a iniciativa dos governos.
Nos Estados Unidos, o presidente Donald Trump minimizou os riscos existenciais da IA, afirmando que forças negativas discutem cenários que não vão acontecer. Durante visita à Irlanda, Trump defendeu a liderança americana na "corrida da IA" frente à China. David Sacks, responsável pela política de criptomoedas do governo americano, reforçou que o objetivo é assegurar a vitória dos EUA nessa disputa.
A China, por sua vez, tem criticado os alertas ocidentais e defendido maior coordenação internacional para o estabelecimento de regras, ao mesmo tempo em que estimula o desenvolvimento doméstico frente às restrições de acesso a chips americanos. Em contrapartida, Amodei apontou que os avanços chineses representam riscos à segurança nacional dos EUA, declaração classificada pelo Ministério das Relações Exteriores da China como uma narrativa de competição hostil.