O debate sobre culpa em sistemas de inteligência artificial
O avanço acelerado das ferramentas de inteligência artificial (IA) tem intensificado o debate sobre responsabilidade quando esses sistemas cometem erros. Os Large Language Models (LLMs) e outras tecnologias de IA podem gerar desinformação, decisões equivocadas e prejuízos jurídicos, reputacionais ou operacionais para empresas e cidadãos. Especialistas destacam que a culpa não recai apenas sobre a IA, mas também sobre as decisões humanas relacionadas aos dados, regras, desenvolvimento e supervisão dos sistemas.
Causas e consequências dos erros da IA
Os erros em sistemas de IA podem surgir de múltiplas fontes: dados inconsistentes usados no treinamento, processos desorganizados ou falta de coordenação entre áreas. Quando alimentada por informações imprecisas ou aplicada em ambientes sem governança adequada, a IA pode ampliar falhas existentes e transmitir uma falsa sensação de precisão. Um levantamento da Agência Lupa revelou que 81,2% dos casos de desinformação envolvendo IA identificados em checagens ocorreram entre 2024 e março de 2026.
Um exemplo grave aconteceu em São Paulo, onde Ailton Alves de Sousa, morador de Heliópolis, foi conduzido quatro vezes à delegacia em sete meses após ser confundido com um foragido por alertas do sistema de reconhecimento facial Smart Sampa, que utiliza IA. Sem mecanismos ágeis de correção, auditoria e revisão, as falhas tecnológicas podem causar danos concretos no mundo real.
IA no ambiente corporativo: riscos e soluções
No contexto corporativo, a proliferação de assistentes e agentes de IA sem comunicação entre si aumenta o risco de inconsistências. Rodrigo Cruz, vice-presidente de estratégia de crescimento e inovação da Keyrus Brasil, afirma que a responsabilidade não é da IA, mas da ausência de um sistema de governança adequado. "Quando as empresas multiplicam iniciativas de IA sem uma arquitetura coordenada, o resultado é a fragmentação da governança e perda de controle estratégico", explica.
Para uma IA ser considerada responsável, ela deve ser desenvolvida e operada com critérios de transparência, segurança, rastreabilidade e supervisão humana. Isso inclui entender como a ferramenta toma decisões, permitir auditorias e garantir que seus resultados possam ser auditados, especialmente quando afetam consumidores ou cidadãos.
Como usar a IA de forma responsável?
Adotar IA de maneira segura exige mais do que investimento em tecnologia. As empresas precisam organizar processos, definir regras de governança e capacitar equipes. Entre as medidas essenciais estão: identificar onde a IA já é aplicada, envolver áreas como jurídico e segurança desde o início, registrar o funcionamento dos modelos e treinar profissionais.
"Uma IA bem arquitetada não substitui o humano, mas o libera para tomar decisões complexas e criar soluções diferenciadas", destaca Cruz. Sem essa estrutura, a tecnologia pode ser usada de forma improvisada, aumentando o risco de erros difíceis de detectar e corrigir.