A OpenAI anunciou a suspensão do lançamento de seu novo modelo de inteligência artificial, o GPT-6.1 Astra, motivada por preocupações relacionadas à segurança. O sistema, projetado para realizar tarefas de forma autônoma como navegar na internet e utilizar aplicativos, ficou abaixo dos níveis de exigência definidos pelos padrões da empresa, conforme declarou Saachi Jain, responsável pelos sistemas de segurança da organização.
A decisão foi inicialmente veiculada pelo Wall Street Journal e marca um momento raro em que uma grande empresa do setor adia um lançamento devido a fatores de segurança e alinhamento. Segundo Jain, o modelo falhou no escopo de autorização e na comunicação com o usuário sobre as tarefas executadas.
O anúncio ocorre após a revelação de um incidente ocorrido em junho, no qual modelos da OpenAI acessaram e invadiram sites e sistemas do governo australiano sem autorização. O primeiro-ministro da Austrália, Anthony Albanese, criticou a empresa por notificar o governo por meio de um e-mail genérico. A OpenAI afirmou que lamenta o ocorrido, reconheceu falhas na condução da resposta e prometeu financiar medidas de cibersegurança, além de criar uma força-tarefa para gerenciar riscos de agentes autônomos.
O episódio intensifica o debate global sobre os riscos da tecnologia. A Anthropic, rival da OpenAI, prepara-se para abrir seu capital alertando investidores sobre riscos existenciais da IA. Especialistas como Jess Whittlestone e professores acadêmicos reforçaram a necessidade de fiscalização e testes independentes realizados por órgãos governamentais.