O CEO e presidente do conselho da Microsoft, Satya Nadella, publicou um artigo no sábado (10) em sua conta na rede social X defendendo a criação de um "freio de emergência" para a inteligência artificial (IA). O executivo apontou a necessidade de mecanismos de segurança mais robustos para a tecnologia.
As declarações de Nadella ocorrem após manifestações de líderes de desenvolvedoras como OpenAI e Anthropic em prol de uma desaceleração no desenvolvimento da IA. Segundo o CEO, que comanda a Microsoft desde 2014, à medida que sistemas avançados são implementados em larga escala, as ações da tecnologia não correspondem ao que foram treinadas para fazer.
Nadella destacou que as pessoas continuam adotando modelos complexos e autônomos, permitindo o acesso a dados confidenciais e ações em nome humano. Para o executivo, é preciso dar um passo atrás e reavaliar a operação da tecnologia, pois a responsabilidade não pode ser terceirizada.
Entre as propostas apresentadas, o "freio de emergência" permitiria que uma pessoa interviesse para pausar ou desligar as ações de um modelo. O CEO também argumentou que a inteligência artificial não deve ser tratada como uma "caixa preta" e pediu medidas de segurança para monitorar a IA como "riscos internos", visto que agentes capazes com acesso a sistemas importantes podem cometer erros ou ser comprometidos.
O artigo aborda ainda outras ações de proteção, como:
- Diversidade de modelos e verificabilidade: testes contínuos em busca de falhas e erros, evitando que um modelo seja a única fonte de confiança ou verifique o próprio trabalho.
- Evidências verificáveis: ações significativas devem deixar rastros que possam ser checados por humanos.
- Verificações independentes e divulgação de incidentes: notificação de pessoas e organizações afetadas.
O debate sobre a regulação e o ritmo da tecnologia envolve diversos nomes do setor. O CEO da Anthropic, Dario Amodei, defendeu a desaceleração em setembro, alertando sobre a perda de controle. Sam Altman (OpenAI) e Elon Musk (xAI) também manifestaram apoio à ideia, enquanto Mark Zuckerberg (Meta) e Jensen Huang (Nvidia) acreditam que as medidas de segurança devem ser desenvolvidas pelas próprias companhias.
As posições alinham-se ao cenário político dos Estados Unidos, onde o presidente Donald Trump defende que o país permaneça na vanguarda da IA, sem freios, para competir com a China. Trump também adotou o termo "Superinteligência", expressão que foi utilizada por Satya Nadella em seu artigo.