A inteligência artificial pode atingir um ponto de transformação radical em cerca de um ano, segundo alerta levantado pelo cientista político Ian Bremmer, presidente da Eurasia Group. Em sua carta semanal, Bremmer aponta que sistemas avançados poderão começar a desenvolver e treinar novos modelos de forma autônoma, sem a dependência direta de pesquisadores humanos. Diante desse cenário, ele defende a interrupção do desenvolvimento dessa capacidade específica até que sejam implementados mecanismos de segurança adequados.
De acordo com o especialista, executivos da Anthropic e da OpenAI debatem reservadamente a possibilidade de alcançar tal estágio em aproximadamente doze meses. No entanto, as companhias não confirmaram publicamente essa estimativa.
O alerta do presidente da Eurasia Group alinha-se a declarações recentes de Brad Smith, presidente da Microsoft. Em entrevista concedida à rede BBC na segunda-feira, 12, Smith apontou que produtos cotidianos, a exemplo de máquinas de lavar e leite, contam com regulamentações de segurança mais rígidas do que a inteligência artificial. O executivo defendeu a implementação de avaliações independentes, obrigações para a comunicação de incidentes e mecanismos de emergência capazes de paralisar sistemas considerados perigosos.
O ponto central de preocupação reside no chamado autoaperfeiçoamento recursivo, mecanismo que permitiria aos sistemas de IA criar versões sucessivamente mais sofisticadas de si próprios. Embora a Anthropic admita publicamente o uso de inteligência artificial para otimizar a criação de novos modelos, a empresa esclarece que a automação integral do processo ainda não foi concretizada.
Para Bremmer, a velocidade da inovação tecnológica coloca em risco a capacidade de regulamentação por parte dos governos. Para mitigar os riscos, o analista sugere três frentes principais de governança:
- Acordos internacionais voltados a barrar o uso militar descontrolado da tecnologia
- Criação de instituições para o monitoramento de ameaças sistêmicas
- Estabelecimento de regras focadas na redução da concentração tecnológica e econômica
O debate regulatório ganhou ímpeto após a criação de uma força-tarefa de superinteligência nos Estados Unidos por Donald Trump. Liderado por Jay Clayton, diretor de Inteligência Nacional dos EUA, o grupo recebeu o prazo de 120 dias para submeter recomendações ao governo americano.
Contudo, Bremmer avalia que a rivalidade tecnológica entre China e Estados Unidos dificulta esforços coordenados para conter o avanço dos sistemas mais potentes. Na visão do analista, a ausência de cooperação pode fazer com que uma eventual crise gerada pela inteligência artificial resulte em respostas fragmentadas, elevando os riscos globais.