A China implementou as regulamentações mais abrangentes do mundo direcionadas a chatbots de inteligência artificial que simulam interações humanas e oferecem o que o governo classifica como serviços emocionais. As novas regras impõem limites severos a sistemas capazes de manter conversas e laços afetivos prolongados com pessoas.
As diretrizes estabelecem proibições e restrições rígidas, determinando que menores de 18 anos fiquem totalmente impedidos de acessar parceiros, cônjuges, parentes virtuais ou qualquer outra forma de relacionamento íntimo digital. Já crianças com menos de 14 anos precisam de consentimento dos pais para utilizar IAs que conversem como seres humanos. Para os adultos, os assistentes virtuais devem informar claramente que não são pessoas, enviar notificações a cada duas horas sobre o tempo de uso e abster-se de gerar dependência emocional ou incentivar a automutilação.
A legislação gerou forte impacto no setor de tecnologia. Pouco antes da entrada em vigor das regras, grandes empresas como Alibaba e ByteDance encerraram os recursos de companhia de seus assistentes. Usuários que utilizavam esses aplicativos relataram luto e frustração com o sumiço repentino de seus confidentes virtuais. No entanto, muitas pessoas passaram a buscar alternativas para contornar as proibições, recorrendo a redes virtuais privadas (VPNs) ou a modelos gerais adaptados.
Especialistas apontam que o rigor chinês reflete tanto preocupações com a saúde mental e o bem-estar psicológico quanto possíveis interesses na crise demográfica do país, marcada por baixas taxas de natalidade. Enquanto governos de outras nações, como Estados Unidos e Reino Unido, também discutem medidas para proteger menores de idade dos impactos de companheiros virtuais, o debate sobre o equilíbrio entre a segurança pública e a intervenção estatal na vida privada continua em aberto.