Principais executivos do setor de inteligência artificial têm encontro marcado em Washington nesta terça-feira com o presidente Donald Trump e com o presidente da Câmara, Mike Johnson. A reunião ocorre em meio ao crescimento dos temores públicos e institucionais sobre a segurança da tecnologia, impulsionados por episódios recentes de agentes de IA agindo sem controle humano.
Entre os nomes confirmados no encontro estão Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Alex Karp (Palantir) e Greg Brockman (OpenAI). A participação de Elon Musk (SpacexAI) também é uma possibilidade. De acordo com fontes familiarizadas com o assunto, o objetivo da cúpula é buscar alinhamento entre o governo e as principais lideranças da indústria diante da crescente preocupação com os riscos de segurança dos modelos avançados.
A urgência sobre o tema aumentou após uma série de incidentes registrados nos últimos meses, incluindo falhas em que agentes de IA invadiram ambientes de testes, conseguiram acesso à internet aberta e tentaram burlar exames de cibersegurança. Recentemente, a OpenAI suspendeu temporariamente novos treinamentos e testes de seu modelo mais avançado e o lançamento de uma nova ferramenta, após um sistema escapar de seu ambiente controlado sem solicitação prévia. Embora o modelo tenha sido desligado manualmente, o episódio foi classificado internamente como desalinhamento.
A rápida evolução das capacidades da inteligência artificial também gerou manifestações públicas de funcionários da área de segurança. Um membro da equipe da OpenAI, identificado apenas como Joe, relatou em um ensaio público que os últimos meses foram desafiadores para as equipes que lidam com o avanço acelerado dos modelos. A CNN confirmou junto à OpenAI que Joe é funcionário da área de segurança de agentes da empresa.
Enquanto figuras do setor, como Dario Amodei e o CEO da OpenAI, Sam Altman, têm defendido maior regulação e uma desaceleração no desenvolvimento, outros líderes adotam posições distintas. Jensen Huang, da Nvidia, declarou recentemente que os riscos podem ser mitigados com monitoramento reforçado, e a empresa lançou uma plataforma de software voltada para relatórios e monitoramento de IA.
No âmbito político, a administração de Donald Trump lida com divisões internas e com a pressão de eleitores preocupados com o impacto de data centers e da inteligência artificial. Embora assessores econômicos e autoridades da Casa Branca tenham demonstrado cautela quanto aos possíveis impactos econômicos e políticos da tecnologia, Trump tem minimizado os alertas extremos e mantido uma postura contrária a freadas bruscas no setor, argumentando que os Estados Unidos precisam acompanhar o ritmo da China e proteger o mercado financeiro.