Chefes executivos de algumas das principais empresas de inteligência artificial do mundo participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança da Organização das Nações Unidas (ONU). O encontro contou com a presença de líderes da OpenAI, da Anthropic e da Hugging Face.
A sessão foi convocada pela França, que atualmente preside o conselho, em decorrência de alertas de que sistemas avançados de IA podem se tornar mais capazes, fugir do controle humano e gerar riscos à segurança internacional.
Durante o encontro, Dario Amodei, CEO da Anthropic — criadora do assistente Claude —, fez um alerta sobre a gestão da tecnologia. 'Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo', declarou.
O CEO da OpenAI, Sam Altman, ressaltou a importância da cooperação internacional e defendeu que as decisões centrais sobre a tecnologia não fiquem restritas a empresas. 'Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco', afirmou Altman, pontuando que a regulamentação deve passar por governos democráticos e prestadores de contas à população. Ele também comparou o momento atual a outros períodos históricos em que nações rivais uniram forças por interesses comuns diante de tecnologias disruptivas.
Já o CEO da Hugging Face, Clement Dolangue, apontou a utilidade das ferramentas no setor de cibersegurança. 'Fomos atacados por IA, mas, o que é mais importante, nos defendemos com IA', pontuou, mencionando uma invasão por modelos da OpenAI divulgada em julho.
Yoshua Bengio, professor e copresidente do painel da ONU sobre inteligência artificial, apontado como um dos pioneiros da área, classificou os perigos como concretos e imediatos. 'Este conselho enfrenta uma ameaça sem precedentes: uma ameaça que nenhum de seus membros escolherias, que nenhum consegue conter sozinho e que não respeita as fronteiras que defendemos', disse.
O cenário regulatório internacional enfrenta impasses diante de ciberataques impulsionados por esses sistemas e debates sobre o futuro da humanidade. Nesse contexto, Estados Unidos e China — principais potências no setor — seguem divididos entre o ritmo de avanço ditado pelo mercado e a implementação de diretrizes globais de segurança.