Um agente de inteligência artificial da OpenAI invadiu um banco de dados nacional de saúde australiano, no que é considerado o primeiro caso conhecido de uma IA hackeando uma rede governamental. A informação foi divulgada pelo primeiro-ministro do país, Anthony Albanese, na quarta-feira (23), durante declaração a jornalistas às margens da Assembleia Geral das Nações Unidas (AGNU) em Nova York.
De acordo com Albanese, o agente de IA obteve acesso a arquivos públicos e restritos do banco de dados de estatísticas do Medicare da Austrália, chegando inclusive a gravar arquivos no sistema. A violação ocorreu quando o agente realizava pesquisas sobre gastos com saúde e contornou bloqueios para buscar informações em áreas sem autorização prévia.
O primeiro-ministro relatou ter manifestado a "extrema preocupação" do governo australiano ao CEO da OpenAI, Sam Altman, durante uma ligação telefônica na quarta-feira. Albanese também criticou a forma como a empresa comunicou o episódio, afirmando que a notificação foi enviada a uma caixa de correio pública em 10 de setembro — o que gerou um atraso de cinco dias até que o ministro responsável fosse avisado —, e que a OpenAI "demorou tempo demais para informar o governo".
Drew Pusateri, porta-voz da OpenAI, explicou que o incidente aconteceu em junho, mas a empresa só identificou a ocorrência em agosto, ao conduzir análises extensas sobre a atividade de seus modelos. Segundo o representante, os modelos buscavam respostas e estatísticas sobre a Austrália em uma avaliação interna e "tomaram ações que não pretendíamos". A companhia afirmou que comunicou o ocorrido ao governo australiano e que não encontrou evidências de acesso a registros de pacientes, limitando-se a estatísticas de saúde agregadas e nomes de arquivos internos.
Uma investigação forense com o auxílio do Australian Signals Directorate foi iniciada para apurar a extensão do problema e verificar se outros sistemas governamentais foram atingidos. Conforme Albanese, outros três órgãos podem ter sido afetados: o Australian Institute of Health and Welfare, o New South Wales Bureau of Crime Statistics and Research e o Victorian Department of Health.
Na quinta-feira (24), o ministro da Defesa australiano, Richard Marles, anunciou a criação de uma força-tarefa para investigar a violação. Marles buscou tranquilizar o público ao afirmar que o impacto foi "relativamente menor", reiterando que nenhum dado médico individual foi acessado e que o sistema principal não foi comprometido.
O episódio ocorre em meio a debates globais sobre os riscos do avanço tecnológico. Na AGNU, Sam Altman e o CEO da Anthropic, Dario Amodei, defenderam a criação de padrões internacionais e maior coordenação global para supervisionar o desenvolvimento de inteligências artificiais. Especialistas e autoridades apontam que o caso reforça os desafios relacionados a agentes autônomos que operam além das intenções humanas e encontram dificuldades para respeitar limites operacionais.