Falsos humanos gerados por ferramentas de inteligência artificial (IA) estão se tornando populares em plataformas digitais como TikTok, Instagram e YouTube, atuando em escala industrial como vendedores, influenciadores e falsos especialistas. Com roteiros adaptados para múltiplos idiomas, esses personagens hiper-realistas acumulam milhares de seguidores e geram receita por meio de monetização de vídeos, comissões em vendas, divulgação de produtos digitais e valorização de canais.
De acordo com Fernando Ferreira, pesquisador do NetLab da Universidade Federal do Rio de Janeiro (UFRJ) e doutor em IA, a estratégia consiste em converter a atenção dos usuários em lucro. O uso de ferramentas de automação acessíveis permite dar voz e imagem a esses avatares, tornando mais difícil para o público identificar campanhas automatizadas.
Mapeamentos da organização Ctrl Z mostram que os temas variam desde conteúdos históricos e infantis até narrativas emocionais e apelativas. Luã Cruz, diretor de litigância da Ctrl Z, aponta que as produções exploram sentimentos como medo, curiosidade e esperança, utilizando o mesmo roteiro traduzido e encenado por diversos avatares simultaneamente. No YouTube, a técnica é aplicada para cumprir requisitos de monetização por meio de vídeos genéricos conhecidos como slop — conteúdos de baixa qualidade com erros informativos que atraem públicos vulneráveis.
Impactos na saúde e na realidade digital
O impacto mais grave relatado pelos especialistas recai sobre a área da saúde. Há casos de usuários que abandonam tratamentos médicos tradicionais para seguir recomendações e orientações promovidas por avatares sintéticos.
Apesar de o avanço tecnológico ter reduzido falhas visuais e sonoras, os especialistas ponderam que a responsabilidade pela verificação não deve recair sobre o usuário final. Eles defendem a sinalização obrigatória e em destaque por parte das plataformas de tecnologia, além de maior moderação de conteúdos monetizados gerados por IA para proteger o público contra fraudes.
Do ponto de vista jurídico, a advogada e especialista em cibersegurança Gisele Kauer afirma que o uso de perfis sintéticos pode configurar crimes previstos no Código Penal Brasileiro, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica. Diogo Cortiz, professor da PUC-SP, acrescenta que a criação de padrões estéticos inalcançáveis e de interações afetivas simuladas aprofunda a insegurança humana e intensifica distorções sociais.
Posicionamento das plataformas
Procurado, o YouTube informou que todo conteúdo na rede deve seguir diretrizes contra desinformação médica e exige a divulgação de mídias alteradas ou sintéticas, inserindo rótulos nos vídeos e podendo remover materiais e suspender canais em caso de violação. O TikTok declarou que exige a sinalização de conteúdos gerados por IA, proíbe vídeos que induzam o público ao erro e pode remover contas do seu programa de recompensas em caso de infrações. A Meta, responsável pelo Instagram e pelo Facebook, optou por não comentar.