China apaga los agentes de IA con personalidad: Doubao y Qwen desconectan a sus compañeros virtuales
Millones de personas en China se acostaron con un compañero de inteligencia artificial y se despertaron sin él. No fue un fallo técnico: fue el Estado.
Desde el 15 de julio están en vigor las Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica con IA, la primera norma nacional del mundo dirigida específicamente a las inteligencias artificiales que imitan la personalidad humana. Y las dos grandes tecnológicas chinas ya han apagado la luz.
Qué prohíbe exactamente la nueva norma
La regulación fue publicada en abril por la Administración del Ciberespacio de China junto a otros cuatro organismos, entre ellos los ministerios de Industria y de Seguridad Pública. Su objetivo son los sistemas que «simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para ofrecer una interacción emocional sostenida».
En la práctica, la norma:
- Prohíbe los vínculos tan fuertes que puedan sustituir a las relaciones reales.
- Prohíbe dirigirse a las emociones de los menores.
- Prohíbe entrenar los modelos con las conversaciones privadas de los usuarios.
- Obliga a incorporar avisos antiadicción y un modo específico para jóvenes.
Ojo al matiz, porque es el que importa para las empresas: los bots de atención al cliente, las herramientas de conocimiento y los asistentes educativos quedan exentos siempre que no incorporen ese componente emocional. La ley no persigue a la IA útil; persigue a la IA que finge ser tu amiga.
Qwen y Doubao apagan la luz
Las dos grandes no han esperado a que les llamen la atención. Qwen, de Alibaba, desactivó sus agentes humanizados el 10 de julio, y el día 15 ambas plataformas retiraron la función, según informó el South China Morning Post.
Hablamos de la función que permitía crear asistentes con nombre, personalidad y estilo propio para tutorías, juegos de rol o compañía. Los usuarios de Doubao, de ByteDance, tienen hasta el 15 de octubre para exportar sus datos; los de Qwen perdieron de golpe el acceso a sus configuraciones y a su historial, según TechNode.
Un agente diseñado para mantener un vínculo emocional constante no puede, a la vez, recordarte cada poco que lo apagues. La norma y el producto son arquitectónicamente incompatibles.
Toque Personal: el riesgo de construir sobre el terreno de otro
Desde mi perspectiva en Negocios Optimizados, esta noticia va mucho más allá de China. Es el recordatorio más caro del año de que el riesgo regulatorio ya es riesgo de producto.
Piénsalo un momento: si tu negocio se apoyara en la capa de «personajes» de una plataforma ajena, hoy no tendrías negocio. No por un cambio de precios ni por una decisión comercial, sino porque un boletín oficial lo borró de un día para otro. Y tus clientes ni siquiera podrían llevarse sus datos si la plataforma no lo permite.
De ahí dos lecciones muy prácticas: sé dueño de tus datos y de tu relación con el cliente, y no cimientes lo esencial de tu empresa sobre una funcionalidad que un tercero puede desconectar. Si alguien puede apagar tu producto, no es tu producto.
Hay además una divergencia estratégica que conviene vigilar: mientras China acota la IA emocional, Occidente aún no tiene nada equivalente. El debate global sobre estos límites ya está encima de la mesa, como se vio en la cumbre de gobernanza de la IA de la ONU en Ginebra. Quien crea que esto se queda en Pekín, que recuerde lo rápido que viajaron las normas de privacidad.
¿Protección o paternalismo?
En conclusión, China acaba de dibujar la primera frontera legal entre la IA que te ayuda y la IA que te engancha. Será discutible en la forma, pero la pregunta de fondo la vamos a tener que responder todos.
¿Te parece una protección necesaria frente a la dependencia emocional o un exceso de control sobre lo que cada uno decide hacer con su tiempo? Te leo en los comentarios.
