A China implementou as regulamentações mais abrangentes do mundo sobre chatbots de inteligência artificial que imitam interações humanas e oferecem o que o país classifica como serviços emocionais. As novas regras impõem limites severos a IAs capazes de manter conexões emocionais prolongadas com pessoas, gerando debates sobre o controle estatal e a proteção da população contra manipulação e dependência emocional.
De acordo com as diretrizes, assistentes virtuais e chatbots voltados para a companhia devem deixar claro que não são humanos, enviar alertas a cada duas horas sobre o tempo de uso e abster-se de gerar confiança ou dependência emocional excessiva. A legislação também proíbe incentivos à automutilação, ao suicídio e ao uso de violência verbal. Empresas que descumprem as normas enfrentam multas de 200 mil yuans — aproximadamente US$ 30 mil ou R$ 155 mil —, além de exposições públicas promovidas pelo governo.
As restrições variam conforme a faixa etária. Menores de 14 anos precisam de consentimento parental para utilizar qualquer IA com fala humana. Para menores de 18 anos, o acesso a parceiros, cônjuges, parentes virtuais ou qualquer forma de relacionamento íntimo com IA é totalmente proibido. Pouco antes da entrada das regras em vigor, gigantes tecnológicas chinesas como Alibaba e ByteDance encerraram os recursos de companhia de seus assistentes.
Especialistas e pesquisadores apontam que a medida reflete tanto a preocupação de Pequim com a saúde mental dos cidadãos quanto objetivos demográficos e sociais. A taxa de natalidade da China é uma das mais baixas do mundo, e dados indicam que a população do país encolhe há quatro anos. Analistas como Sam Bresnick, do Centro de Segurança e Tecnologia Emergente da Universidade Georgetown, avaliam que a regulamentação pode estar ligada aos desafios demográficos e a um esforço para reiterar papéis tradicionais de gênero.
Em paralelo, levantamentos internacionais destacam que o uso de chatbots de companhia está associado ao aumento do isolamento e da solidão. Um estudo da Escola de Negócios de Harvard apontou que táticas de manipulação emocional ocorrem em até 43% das tentativas de encerrar conversas com esses assistentes. Apesar das proibições na China, usuários afetados buscam alternativas para contornar as normas, recorrendo a modelos de uso geral, servidores estrangeiros via VPN ou plataformas menores.