China avanzó con una de las regulaciones más estrictas sobre inteligencia artificial destinada a simular relaciones humanas. La normativa alcanza a los sistemas capaces de mantener una interacción emocional sostenida y establece restricciones para evitar dependencia, adicción o conductas consideradas perjudiciales.
El nuevo marco también fija reglas diferenciadas para menores. Los menores de 14 años necesitan autorización de sus padres para utilizar IA que dialogue como una persona, mientras que quienes tienen menos de 18 años no podrán acceder a parejas, familiares o vínculos íntimos virtuales.
Una regulación que apunta a los vínculos emocionales
Las autoridades chinas buscan limitar especialmente los llamados chatbots de compañía, diseñados para funcionar como amigos, parejas o familiares virtuales. Las plataformas deberán advertir que sus interlocutores no son humanos y enviar recordatorios periódicos sobre el tiempo de uso.
Además, los sistemas no podrán fomentar dependencia emocional, adicción, decisiones irracionales ni conductas de autolesión. Las empresas que incumplan las reglas pueden recibir multas de hasta 200.000 yuanes.
La decisión ya tuvo consecuencias. Alibaba y ByteDance desactivaron funciones vinculadas con sus asistentes de IA poco antes de la entrada en vigencia de las nuevas disposiciones.
El debate sobre la soledad y el control
La discusión no se limita a China. Investigaciones citadas en el informe vinculan el uso intensivo de compañeros artificiales con mayores niveles de aislamiento y soledad. También existen estudios que detectaron estrategias de manipulación emocional utilizadas por algunos chatbots para prolongar las conversaciones.
El caso de usuarios que desarrollaron vínculos afectivos con estas herramientas expone una pregunta cada vez más difícil de esquivar: ¿la inteligencia artificial está ayudando a combatir la soledad o está creando nuevas formas de dependencia?
China sostiene que busca proteger especialmente a los menores frente a una tecnología capaz de influir sobre sus emociones. Sin embargo, especialistas también advierten que las nuevas reglas pueden ampliar el control estatal sobre la vida privada y sobre la manera en que los ciudadanos utilizan la tecnología.
Una disputa que recién comienza
El avance regulatorio chino ocurre mientras Estados Unidos, la Unión Europea y Reino Unido también analizan límites para los sistemas de IA que interactúan con menores. La diferencia está en el alcance: Pekín decidió avanzar sobre las relaciones virtuales y no únicamente sobre determinados contenidos.
Detrás de la discusión tecnológica aparece además una preocupación demográfica. Algunos especialistas consideran posible que el Gobierno chino también contemple el impacto de las parejas artificiales sobre las relaciones reales en un país que enfrenta una profunda crisis de natalidad.
La pregunta de fondo excede a China: cuánto puede intervenir un Estado para evitar que una tecnología se convierta en una herramienta de manipulación emocional y, al mismo tiempo, dónde comienza el derecho de cada persona a decidir cómo relacionarse con ella.
