La inteligencia artificial está cambiando las dinámicas afectivas, pero el país asiático teme que esto derive en adicción. Por ello, China ha puesto en marcha una nueva regulación que limita las funciones de los chatbots diseñados específicamente para establecer vínculos emocionales con sus usuarios.
Esta medida busca prevenir la dependencia emocional y proteger a las personas. La norma no prohíbe los asistentes conversacionales, pero sí establece límites claros para aquellos creados para forjar una relación emocional continua. Las compañías deberán evitar características que fomenten la adicción o conductas peligrosas derivadas de una conexión excesiva.
Los desarrolladores de servicios de IA antropomórfica enfrentan nuevas obligaciones en materia de seguridad, protección de menores y tratamiento de datos. Además, los asistentes deberán incluir recordatorios constantes para que el usuario recuerde que está interactuando con una máquina.
El objetivo final es evitar que estas herramientas afecten las relaciones humanas reales. La regulación busca equilibrar la innovación tecnológica con el bienestar psicológico de la población, asegurando que los avances en IA no reemplacen ni dañen las interacciones sociales genuinas.
Así, Beijing intenta frenar una tendencia global donde los usuarios desarrollan ataduras afectivas profundas con algoritmos. Esta iniciativa se suma a otras medidas globales para regular el impacto social de la tecnología avanzada en la vida cotidiana y la salud mental.
La regulación china, vigente desde el 15 de julio, busca frenar la dependencia emocional que generan los asistentes virtuales. Para proteger a menores e impedir conductas peligrosas como el suicidio o autolesiones, las empresas deben integrar filtros, un modo específico para jóvenes y avisos tras dos horas de interacción continua. Ante este marco normativo, gigantes tecnológicos chinos ya desactivaron funciones clave: ByteDance en Doubao, Tencent con los novios virtuales de Yuanbao y Alibaba eliminando el modo compañero de Qwen.
Antes de la entrada en vigor, más de 14.000 productos incompatibles fueron retirados del mercado. Sin embargo, esta medida ha generado críticas entre expertos. Algunos especialistas sostienen que el enfoque es puramente tecnológico y no aborda las causas sociales subyacentes de la soledad y la dependencia emocional. La regulación intenta equilibrar innovación con seguridad, limitando interacciones excesivas y protegiendo a los más vulnerables frente a algoritmos diseñados para generar apego.
Las grandes tecnológicas ya desactivaron sus compañeros virtuales
Comentarios 0
Súmate a la conversación
Tu comentario es anónimo, pero para evitar bots necesitamos que te registres. Es gratis y toma 30 segundos.
Crear cuenta para comentar Ya tengo cuenta