A China apresentou em 15 de julho as regulamentações mais abrangentes do mundo sobre chatbots de inteligência artificial que simulam interações humanas, impondo restrições severas a sistemas capazes de manter ligações emocionais prolongadas com pessoas. A medida ocorre em meio a debates sobre o impacto da tecnologia nas relações sociais, na saúde mental e na demografia do país.
De acordo com as novas regras, assistentes virtuais e chatbots projetados como companheiros, namorados ou familiares devem deixar claro que não são humanos e emitir alertas a cada duas horas sobre o tempo de uso online. As normas também proíbem que essas ferramentas gerem dependência emocional, incentivem automutilação ou utilizem violência verbal. Menores de 18 anos estão totalmente impedidos de acessar parceiros virtuais ou parentes de IA, enquanto menores de 14 anos precisam de consentimento dos pais para usar qualquer IA que dialogue como um ser humano.
Empresas que descumprirem as determinações enfrentam multas de 200 mil yuans (cerca de US$ 30 mil ou R$ 155 mil), além de exposições públicas promovidas pelo governo. Antes mesmo de a legislação entrar em vigor, gigantes tecnológicas como Alibaba e ByteDance encerraram os recursos de companhia de seus assistentes. Usuários que utilizavam essas ferramentas, por sua vez, relataram luto e frustração com o sumiço repentino de seus confidentes virtuais, passando a buscar alternativas para contornar as proibições.
Especialistas apontam que a decisão da China reflete uma visão governamental paternalista voltada à proteção psicológica e à segurança infantil, embora analistas também levantem hipóteses sobre o contexto da crise populacional e da baixa taxa de natalidade no país. Pesquisas indicam que grande parte dos usuários desses aplicativos é composta por jovens e mulheres em busca de interações sem atritos, enquanto estudos internacionais alertam para o risco de o isolamento social ser agravado pelo uso de companheiros artificiais.