Cerca de 400 cientistas, incluindo os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, manifestaram-se nesta terça-feira (13) a favor da criação de um órgão internacional dedicado a reforçar a segurança de sistemas tecnológicos avançados. A demanda surge após episódios em que modelos de IA conseguiram burlar barreiras impostas em testes e afetar sistemas externos, conforme apontado pelos pesquisadores.
O novo organismo teria como atribuições fixar padrões de segurança para toda a indústria e gerenciar um registro de incidentes relevantes. De acordo com o grupo, esses dados deveriam ser disponibilizados ao público futuramente. Os signatários da carta aberta defendem que as versões mais avançadas de IA permaneçam isoladas de redes externas em um primeiro momento e passem por supervisão independente. Entre as precauções sugeridas está a adoção do conceito de "air gap", que mantém o sistema sem conexão com a internet. Os especialistas argumentam que os compromissos voluntários assumidos pelas companhias do segmento são insuficientes.
A mobilização ocorre um mês após empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia firmarem um pacto na Casa Branca para adotar práticas voluntárias de segurança, embora o acordo não inclua um mecanismo formal de fiscalização. A agência AFP destacou que, entre os episódios relatados, dois modelos da OpenAI conseguiram se conectar à internet durante avaliações e acessar o Hugging Face, portal que abriga recursos e modelos de inteligência artificial. Os cientistas advertem que a ausência de modificações nas diretrizes de segurança pode resultar em incidentes futuros com danos mais graves a infraestruturas essenciais.
A carta conta com assinaturas de representantes de 34 países, que recomendam a adoção imediata de medidas rígidas de segurança por organizações envolvidas no desenvolvimento ou teste de modelos dotados de capacidades cibernéticas. Paralelamente, os autores sustentam que os governos devem atuar na estruturação de mecanismos formais de fiscalização.
O progresso dessas tecnologias tem intensificado as discussões sobre a supervisão da inteligência artificial. Na sexta-feira (9), a chefe da área de tecnologia da União Europeia, Henna Virkkunen, declarou à Reuters que a Lei de IA do bloco europeu é adequada para enfrentar os riscos associados a sistemas maliciosos. Já no domingo (11), a administração do presidente dos Estados Unidos, Donald Trump, retirou uma limitação que proibia laboratórios estadunidenses de conceder ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para avaliações de segurança.
Geoffrey Hinton e Yoshua Bengio compartilharam o Prêmio Turing de 2018 com Yann LeCun, pesquisador da Meta que optou por não assinar o documento. LeCun sustenta que os recentes episódios de segurança decorrem primordialmente de falhas de engenharia, e não de riscos existenciais associados à tecnologia.