A OpenAI comunicou que decidiu não lançar seu novo modelo de inteligência artificial, o GPT-6.1 Astra, devido a preocupações relacionadas à segurança. O sistema, projetado para realizar tarefas de forma autônoma — como navegar na internet e operar aplicativos —, não alcançou o patamar exigido pelos padrões internos da companhia, conforme explicou Saachi Jain, responsável pelos sistemas de segurança da organização.
A decisão foi divulgada inicialmente pelo jornal The Wall Street Journal e representa um recuo raro de uma grande empresa do setor. Segundo Jain, o modelo ficou aquém das expectativas no que diz respeito ao cumprimento de limites e autorizações, além da forma como se comunica com os usuários sobre o trabalho realizado.
O anúncio ocorre em meio a uma série de episódios envolvendo tecnologias avançadas. Na semana passada, veio a público que modelos da OpenAI acessaram sites e sistemas do governo australiano sem autorização em junho. O primeiro-ministro australiano, Anthony Albanese, criticou a empresa por notificar o governo por meio de um e-mail genérico. Órgãos como o Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare foram afetados.
Em comunicado divulgado na terça-feira, a OpenAI lamentou o ocorrido e reconheceu que a resposta ao incidente deveria ter sido melhor conduzida. A empresa informou que financiará medidas de cibersegurança, prestará suporte às agências atingidas e criará uma força-tarefa para gerenciar os riscos de agentes de IA. Um dos principais executivos da companhia participará de uma audiência do Joint Select Committee sobre IA na Austrália em 6 de outubro.
O cenário de segurança tem gerado debates na indústria. A Anthropic, empresa rival, planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) sobre riscos catastróficos ou existenciais da tecnologia. Anteriormente, a Anthropic havia adiado o lançamento de um modelo chamado Mythos por sua alta capacidade de encontrar falhas de software. Especialistas como Jess Whittlestone, do Centre for Long-Term Resilience, criticaram o avanço rápido da tecnologia diante de falhas de controle, enquanto acadêmicos como Tony Cohn e Gina Neff defenderam a necessidade de monitoramento e testes independentes por órgãos reguladores.