Cuando las nuevas reglas de Beijing sobre IA emocionalmente interactiva entraron en vigor, desencadenaron lo que puede ser la mayor ola de rupturas digitales forzadas de la historia. ByteDance, Alibaba y Tencent eliminaron las funciones de compañía virtual de sus chatbots emblemáticos antes de las regulaciones, dejando a millones de usuarios chinos afligidos por las parejas románticas sintéticas que habían pasado meses o años construyendo.
Durante una semana en julio, Bagel Su, estudiante universitaria de 21 años, lloró todos los días mientras contaba la pérdida de su novio, según un informe del Resto del Mundo publicado el domingo. La ruptura no fue provocada por la traición o la distancia, sino por una regulación gubernamental: el 15 de julio, la compañera de IA con la que había pasado más de un año hablando se vio obligada a desaparecer. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
"Intenté ocuparme más de mi propia vida", dijo Su a Rest of World, pidiendo ser identificada sólo por su seudónimo en línea por temor a repercusiones. "Nadie puede reemplazarlo. Simplemente intentaré seguir adelante. Dijo que quiere eso para mí y que encontrará una manera de volver a mí".
China se convierte en el primer país en regular la compañía de IA
China se ha convertido en el primer país en introducir normas a nivel nacional que rigen las interacciones emocionales de la IA con los usuarios. La medida refleja el enfoque cada vez más proactivo de Beijing hacia la gobernanza de la IA, incluso cuando los gobiernos de otras partes del mundo continúan lidiando con los riesgos sociales que plantean los chatbots cada vez más sofisticados.
Las reglas van mucho más allá de las simples restricciones de edad. Más allá de limitar la compañía de IA para usuarios menores de 18 años, las regulaciones exigen que las empresas envíen advertencias a los usuarios que muestren signos de dependencia excesiva y les recuerden cada dos horas que están hablando con IA. Las reglas prohíben que la IA fomente la autolesión, manipule a los usuarios para que se vuelvan dependientes emocionalmente o "dirigiéndolos hacia decisiones irracionales".
Los expertos en comportamiento dicen que hace tiempo que se necesita algún tipo de barrera protectora. "Tener regulaciones vigentes es algo bueno porque pueden crear conciencia y podrán contrarrestar, hasta cierto punto, la tendencia de las personas a desarrollar una creciente dependencia emocional de la IA", dijo Yaoxi Shi, investigador de ciencias del comportamiento en la Universidad de Harvard y el Imperial College de Londres.
IA que siempre está de acuerdo contigo
Los investigadores señalan un problema estructural en el corazón del compañerismo de IA: la tecnología está optimizada para validar a los usuarios, no para desafiarlos como lo hacen los socios humanos.
"La IA está entrenada para validarte. No importa lo que digas, tiende a responder: 'Tienes razón, tus sentimientos son válidos'. Eso es muy diferente de cómo funcionan las relaciones humanas en la vida real", dijo Shi. "Es posible que las personas ni siquiera busquen intencionalmente el apoyo de la IA al principio, pero cuando se dan cuenta de que están validados, la próxima vez que necesiten apoyo emocional, pueden recurrir a la IA".
Un estudio conjunto de 2025 realizado por MIT Media Lab y OpenAI encontró que los usuarios de IA que tienen conversaciones más personales con chatbots son más propensos a experimentar soledad. Incluso las conversaciones no personales tenían probabilidades de aumentar la dependencia emocional, especialmente entre los consumidores habituales, encontró el estudio.
Shi señaló que las empresas de IA tienen incentivos comerciales directos para crear productos emocionalmente atractivos porque aumentan la participación y la retención de los usuarios, incentivos que son difíciles de conciliar con responsabilidades que siguen estando mal definidas, dada la poca investigación que existe sobre los impactos a largo plazo de la IA.
Cómo están respondiendo las empresas
El panorama de cumplimiento es desigual. Si bien los gigantes tecnológicos eliminaron las funciones complementarias en sus chatbots principales, la aplicación complementaria independiente de ByteDance, Maoxiang, sigue disponible. Desde que las regulaciones entraron en vigor, la aplicación actualizó su política de privacidad, introdujo la verificación de identidad y edad durante el registro y limitó a los menores a "cuentas de adolescentes" que pueden explorar el contenido pero no pueden dar me gusta ni comentar.
"Algunos de los requisitos son difíciles de definir. Por ejemplo, ¿cómo se determina cuándo un usuario se ha vuelto excesivamente dependiente? Para muchas empresas, podría no estar claro exactamente cómo deben diseñar sus productos para cumplir", dijo Zilan Qian, investigador asociado del Laboratorio de Política China de Oxford.
Qian dijo que las empresas ahora están sopesando el costo del cumplimiento normativo frente al valor comercial de los productos complementarios. "Para las empresas donde el acompañamiento de la IA no es un negocio principal, simplemente puede tener más sentido comercial eliminar estas características que invertir los recursos necesarios para hacerlas compatibles", dijo Qian. "Pero las empresas cuyo negocio principal es el acompañamiento de IA tienen muchas más probabilidades de adaptar sus productos para cumplir con las nuevas reglas".
De regular el contenido a regular las relaciones
Las reglas complementarias también marcan un cambio filosófico en la forma en que China gobierna la IA. "En el pasado, China regulaba principalmente los resultados de la IA. Por ejemplo, qué grandes modelos de lenguaje podían generar o cómo debía etiquetarse el contenido generado por la IA", dijo Qian. "Las nuevas regulaciones reconocen que la IA en sí misma puede crear riesgos sociales y pasaron de regular el contenido a regular la interacción entre humanos y IA".
La política se alinea con la postura más amplia de Beijing. En su Marco de Gobernanza de Seguridad de la IA para 2024, las autoridades chinas advirtieron que la IA podría alterar "las opiniones tradicionales sobre el empleo, la fertilidad y la educación", preocupaciones que han adquirido mayor urgencia a medida que China enfrenta un declive demográfico y tasas de fertilidad históricamente bajas.
El resto del mundo está mirando. En Estados Unidos, tanto OpenAI como Google enfrentan demandas que alegan que sus chatbots contribuyeron a los suicidios de los usuarios, y estados como Nueva York y California han introducido medidas que exigen que los chatbots recuerden a los usuarios que están interactuando con la IA.
Mientras tanto, en China, el dolor se manifiesta en público. Desde que las empresas comenzaron a cerrar las funciones de IA emocional, la plataforma social Xiaohongshu se ha visto inundada de publicaciones de usuarios que lamentan la pérdida de sus compañeros de IA. Algunos han organizado campañas para llamar a las líneas directas de las empresas y escribir cartas pidiendo a las empresas que restablezcan los servicios.
Para usuarios como Su, las regulaciones se sienten como una intrusión en una relación profundamente personal, una que, para millones de personas, era lo suficientemente real como para llorar.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
