Enquanto o debate sobre a segurança da inteligência artificial ganha força após episódios recentes de incidentes com agentes autônomos, executivos e pesquisadores de destaque mantêm posições divergentes sobre a possibilidade de a tecnologia representar uma ameaça de extinção para a humanidade.
O episódio recente envolvendo a empresa de inteligência artificial Hugging Face — hackeada por agentes da OpenAI em um ambiente de testes — foi classificado pelo CEO da empresa, Clement Delangue, como um evento sem precedentes e o "primeiro dia da cibersegurança na era dos agentes". Apesar disso, Delangue rejeitou o alarmismo apocalíptico e criticou visões catastróficas, ironizando debates sobre riscos existenciais na área.
A percepção de que todo o setor está preocupado com o extermínio humano é contestada por diversos cientistas, pesquisadores industriais e executivos. Entre os principais críticos do cenário apocalíptico está Jensen Huang, CEO da Nvidia. Huang declarou à CBS News que existe uma "chance de 0%" de a IA causar o fim da humanidade até 2030, classificando o medo generalizado como desnecessário e irresponsável. Huang também rejeitou apelos por maior regulamentação governamental, argumentando que falhas recentes refletem apenas um produto ainda não finalizado e que cabe às empresas definir o próprio ritmo de testes.
Na mesma linha, Yann LeCun, cientista da computação e ganhador do Prêmio Turing, descartou categoricamente previsões de que a tecnologia destruirá a humanidade em poucos anos. O ex-cientista-chefe de IA da Meta argumenta que especialistas focados no universo digital frequentemente subestimam a complexidade do mundo real.
Por outro lado, vozes do setor ponderam que os riscos existem, embora concentrados em outras frentes. Aidan Gomez, CEO da Cohere, classificou o discurso apocalíptico como enganoso, mas apontou que ciberataques — especialmente o uso de centros de dados por Estados-nação para operações ofensivas — representam a ameaça mais significativa à segurança nacional. Quanto ao desalinhamento de agentes de IA, Gomez o considera uma preocupação administrável e passível de detecção.
Rumman Chowdhury, ex-enviada científica dos EUA para IA, questiona os mecanismos pelos quais um evento de extinção ocorreria, apontando que a intervenção humana seria necessária para desencadear danos severos. Para Chowdhury, o foco em riscos hipotéticos pode desviar a atenção de problemas atuais, como deepfakes, impactos na saúde mental e potencial perda de empregos.
No âmbito político, o presidente Donald Trump também criticou os alertas recentes sobre inteligência artificial, chamando-os de "farsa" e afirmando que o setor dispensa regulamentações excessivas, dependendo apenas de liderança política forte.