Uma audiência realizada na segunda-feira pelo Conselho Municipal de Nova York reuniu pesquisadores de inteligência artificial e executivos de grandes desenvolvedoras para discutir a responsabilidade sobre a tecnologia e os riscos associados ao seu desenvolvimento acelerado.
Entre os principais participantes esteve Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI. Coxon ganhou notoriedade em setembro ao publicar um alerta nas redes sociais afirmando que as empresas estariam apostando com a vida humana ao apressarem a criação de uma superinteligência autoaperfeiçoável. Na Câmara nova-iorquina, ele declarou que, no ritmo atual, a tecnologia poderia levar à extinção humana antes do fim da década. O ex-pesquisador argumentou que as companhias agem de forma imprudente e não sabem como impedir que os sistemas desenvolvam objetivos próprios, adotando a lógica de startup de avançar rápido e consertar depois.
Outro ex-funcionário da OpenAI, David Robinson, também foi mencionado após ter se demitido recentemente por considerar que a cultura de desenvolvimento acelerado aumenta o risco de falhas. Em artigo, Robinson afirmou que as desenvolvedoras não são suficientemente cuidadosas.
Representantes da OpenAI, Anthropic, Google e Meta compareceram à sessão após a ameaça de intimação pelo Conselho. A SpaceX também foi intimada, mas não respondeu. Os CEOs das empresas não estiveram presentes. As companhias responderam a questionamentos sobre avaliações de segurança, privacidade, uso de dados, educação, saúde e a competição com a China.
Sobre as avaliações de segurança, OpenAI e Meta indicaram trabalhar com avaliadores independentes, enquanto Google e Anthropic apontaram que submetem tecnologias a avaliações do governo dos Estados Unidos, em virtude de um decreto assinado em junho pelo presidente Donald Trump. Representantes da Meta, do Google e da Anthropic também debateram a liderança norte-americana no setor frente à China, com a Anthropic reiterando acusações anteriores de que laboratórios chineses teriam extraído ilegalmente recursos do modelo Claude.
A discussão teve momentos tensos quando a presidente da Câmara Municipal, Julie Menin, questionou Morgan Dwyer, chefe de desenvolvimento de políticas e operações da OpenAI, sobre a quantificação do risco da IA em um cenário catastrófico. Dwyer respondeu que não sabia, o que Menin classificou como uma afirmação descarada. Menin defendeu que a ideia de autorregulação da inteligência artificial desafia a lógica e ressaltou que os governos têm a responsabilidade de agir diante dos alertas de especialistas e executivos.