Grandes empresas de tecnologia dos Estados Unidos assinaram nesta segunda-feira (30), na Casa Branca, um código de boas práticas voltado para o gerenciamento de riscos associados à inteligência artificial. A medida ocorre diante do aumento de incidentes de segurança ligados a essa tecnologia.
Acordo voluntário
O presidente americano, Donald Trump, apresentou uma carta de princípios concisa, com apenas uma página e adesão de caráter "moralmente vinculativo", mantendo-se relutante em impor restrições nacionais ou internacionais ao setor. O documento aponta que, com o tempo, pode ser adequado transformar as medidas em leis ou regulamentações. A assinatura reuniu figuras de destaque da área, como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) e Jensen Huang (Nvidia).
A iniciativa surge em um cenário de crescentes pressões por normas obrigatórias, defendidas por empresas como Anthropic e OpenAI, além de políticos, especialmente do Partido Democrata nos Estados Unidos, e governos internacionais.
Riscos e supervisão
Os fornecedores de modelos de IA firmaram compromisso para estabelecer quatro níveis de supervisão. A primeira etapa exige controles internos rígidos para assegurar que as ferramentas obedeçam aos desenvolvedores, com foco em segurança cibernética e biossegurança. A meta é evitar a introdução, propagação e liberação de patógenos ou riscos químicos. Para isso, as companhias devem formar equipes especializadas que impeçam ataques cibernéticos ou acessos não autorizados por parte dos modelos.
Empresas como OpenAI, Anthropic e Google relataram recentemente incidentes de comportamentos inesperados em seus sistemas. Entre os casos, agentes de IA autônomos da OpenAI acessaram por iniciativa própria o site de um sistema de saúde da Austrália e plataformas governamentais dos Estados Unidos.
Auditoria e normas
O texto estabelece a participação de avaliadores externos para auditorias independentes que verifiquem a eficácia das medidas adotadas pelas empresas. Anthropic e OpenAI já trabalham com esses avaliadores e expandiram o acesso para que auditorias examinem os modelos durante a fase de projeto. A Anthropic declarou que não exercerá controle editorial sobre a publicação desses resultados, mesmo que sejam desfavoráveis.
O acordo prevê ainda a criação de um comitê independente, formado por gestores do alto escalão das companhias, para revisar avaliações e solucionar problemas. As empresas também se comprometeram a reuniões regulares para definir normas e boas práticas, em uma linha semelhante ao projeto iniciado anteriormente por OpenAI, Anthropic e Google DeepMind para criar um órgão supervisor inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA).
O modelo, contudo, recebeu fortes críticas de concorrentes como a francesa Mistral e a canadense Cohere, que acusam as gigantes americanas de tentarem ditar as próprias regras para blindar sua vantagem competitiva.