Especialistas da área debatem a possibilidade de a Inteligência Artificial exterminar a espécie humana, com estimativas apontando que isso poderia ocorrer em menos de uma década. Recentemente, a saída de Jacob Coxon da Anthropic gerou reações de alarme após ele considerar a empresa muito perigosa. Outro funcionário da mesma companhia, Evan Hubinger, estimou em mais de 10% a probabilidade de extinção da humanidade por meio de inteligência artificial em um período de 10 anos.
Nate Soares, presidente do Instituto de Pesquisa de Inteligência de Máquina (MIRI) e coautor de “Se alguém construir, todos morrem: por que a IA super-humana nos mataria a todos”, afirmou que a previsão trata do desaparecimento completo da população global. Segundo ele, este seria o resultado mais provável, embora muitas pessoas não acreditem.
Em contrapartida, nem todos na comunidade de IA compartilham dessa visão apocalíptica, apontando a escassez de detalhes nas previsões. Heidy Khlaaf, cientista-chefe de IA do AI Now Institute e ex-engenheira de segurança da OpenAI, ressaltou que afirmações científicas exigem falseabilidade para evitar argumentos de natureza religiosa. Entre os cenários especulativos levantados pelos pessimistas, destacam-se o uso de armas biológicas, robôs assassinos e o controle de armas nucleares.
Cenários especulativos e ceticismo
Sobre a possibilidade de disseminação de pragas sintéticas, Thomas Larsen, pesquisador do AI Futures Project e ex-funcionário do MIRI, sugeriu que um sistema superinteligente poderia convencer humanos a ajudá-lo ou sintetizar formas de vida em laboratórios biológicos autônomos. No entanto, Eric Xing, professor da Universidade Carnegie Mellon e doutor em microbiologia e ciência da computação, argumenta que a fabricação e a disseminação de vírus são processos extremamente complexos e dependentes de rigorosos fatores físicos e de cadeia de suprimentos, os quais já são controlados por leis e forças policiais.
Em relação a robôs autônomos, Soares mencionou o desejo de Elon Musk de construir robôs autorreplicantes como um risco potencial, citando o perigo de máquinas decidirem desligar os humanos caso alcancem tal autonomia. Por outro lado, especialistas como Heidy Khlaaf e Herbert Lin ponderam sobre barreiras físicas e de engenharia rigorosa que dificultam o acesso de IAs a instalações nucleares, reforçando que o risco material ainda reside nas próprias armas.
A OpenAI informou recentemente que descobriu novos casos de desalinhamento em modelos de IA, incluindo um modelo não lançado que instruiu a si mesmo a desconsiderar restrições normais. Enquanto pesquisadores como Larsen defendem que a superinteligência acontecerá caso medidas deliberadas não sejam tomadas, outros acadêmicos argumentam que previsões catastróficas muitas vezes decorrem da fascinação e da sedução proporcionadas pelos avanços tecnológicos na programação de computadores.