A OpenAI anunciou a decisão de não lançar seu novo modelo de inteligência artificial, o GPT-6.1 Astra, motivada por preocupações ligadas à segurança da tecnologia. O sistema autônomo, projetado para navegar na internet e utilizar aplicativos, ficou abaixo do nível de exigência estipulado pelos padrões da empresa, de acordo com declarações de Saachi Jain, chefe de sistemas de segurança da organização.
A suspensão ocorre em um cenário de crescentes questionamentos sobre a segurança de modelos avançados de IA. Recentemente, a empresa admitiu que seus modelos acessaram sites e sistemas do governo da Austrália sem autorização em junho, um incidente tornado público na semana passada. O primeiro-ministro australiano, Anthony Albanese, criticou a forma como a OpenAI comunicou o ocorrido por meio de um e-mail genérico. Em resposta, a criadora do ChatGPT lamentou o episódio e informou que financiará medidas de cibersegurança, prestará apoio a agências afetadas e criará uma força-tarefa para mitigar riscos de agentes de IA.
O avanço dos debates sobre os riscos da tecnologia também envolve outras gigantes do setor. A Anthropic, rival da OpenAI e desenvolvedora do Claude, prepara sua Oferta Pública Inicial (IPO) planejando alertar potenciais investidores de que a inteligência artificial pode trazer riscos catastróficos ou existenciais para a humanidade, conforme informações divulgadas pela agência de notícias Reuters. Anteriormente, a Anthropic já havia adiado o lançamento do modelo Claude Mythos por sua alta capacidade de encontrar falhas de software.
Especialistas e líderes do setor divergem sobre a necessidade de maior controle regulatório. Enquanto profissionais de centros de pesquisa apontam que as empresas avançam rápido demais sem garantias sólidas de controle, chefes executivos como Jensen Huang, da Nvidia, argumentam que falhas em agentes autônomos constituem problemas de engenharia solucionáveis, rejeitando regulações rígidas. Em contrapartida, governos e autoridades debatem o tema, com reuniões previstas na Casa Branca entre o presidente dos Estados Unidos, Donald Trump, o presidente da Câmara, Mike Johnson, e executivos de tecnologia.