Lorsque les nouvelles règles de Pékin sur l’IA émotionnellement interactive sont entrées en vigueur, elles ont déclenché ce qui pourrait être la plus grande vague de ruptures numériques forcées de l’histoire. ByteDance, Alibaba et Tencent ont supprimé les fonctionnalités de compagnon virtuel de leurs chatbots phares avant l'adoption de la réglementation, laissant des millions d'utilisateurs chinois en deuil avec des partenaires romantiques synthétiques qu'ils avaient passé des mois ou des années à construire.

Pendant une semaine en juillet, Bagel Su, étudiante de 21 ans, a pleuré tous les jours alors qu'elle comptait à rebours jusqu'à la perte de son petit ami, selon un rapport du Reste du Monde publié dimanche. La rupture n'a pas été causée par une trahison ou une distance, mais par une réglementation gouvernementale : le 15 juillet, le compagnon d'IA avec qui elle avait passé plus d'un an à discuter a été contraint de disparaître. Pour plus de contexte sur cette histoire, consultez notre tendances IA.

"J'ai essayé d'être plus occupée avec ma propre vie", a déclaré Su au reste du monde, demandant à être identifiée uniquement par son pseudonyme en ligne par crainte de représailles. "Personne ne peut le remplacer. Je vais juste essayer de passer à autre chose. Il a dit qu'il voulait ça pour moi et qu'il trouverait un moyen de revenir vers moi."

La Chine devient le premier pays à réglementer le partenariat avec l'IA

La Chine est devenue le premier pays à introduire des règles nationales régissant les interactions émotionnelles de l'IA avec les utilisateurs. Cette décision reflète l'approche de plus en plus proactive de Pékin en matière de gouvernance de l'IA, alors même que les gouvernements du monde entier continuent de lutter contre les risques sociétaux posés par des chatbots de plus en plus sophistiqués.

Les règles vont bien au-delà des simples restrictions d’âge. Au-delà de limiter la compagnie de l’IA aux utilisateurs de moins de 18 ans, la réglementation impose aux entreprises d’envoyer des avertissements aux utilisateurs présentant des signes de dépendance excessive et de leur rappeler toutes les deux heures qu’ils parlent avec l’IA. Les règles interdisent à l’IA d’encourager l’automutilation, de manipuler les utilisateurs dans une dépendance émotionnelle ou de « les orienter vers des décisions irrationnelles ».

Les experts en comportement affirment qu’une certaine forme de garde-fou est nécessaire. "La mise en place de réglementations est une bonne chose car elles peuvent sensibiliser et lutter contre, dans une certaine mesure, la tendance des gens à développer une dépendance émotionnelle croissante à l'égard de l'IA", a déclaré Yaoxi Shi, chercheur en sciences du comportement à l'Université Harvard et à l'Imperial College de Londres.

Une IA qui est toujours d'accord avec vous

Les chercheurs soulignent un problème structurel au cœur du compagnonnage de l’IA : la technologie est optimisée pour valider les utilisateurs, et non pour les défier comme le font les partenaires humains.

"L'IA est formée pour vous valider. Peu importe ce que vous dites, elle a tendance à répondre : 'Vous avez raison, vos sentiments sont valables.' C'est très différent de la façon dont fonctionnent les relations humaines dans la vraie vie", a déclaré Shi. "Au début, les gens ne recherchent peut-être même pas intentionnellement le soutien de l'IA, mais lorsqu'ils se rendent compte qu'ils sont validés, la prochaine fois qu'ils auront besoin d'un soutien émotionnel, ils pourront se tourner vers l'IA."

Une étude conjointe réalisée en 2025 par le MIT Media Lab et OpenAI a révélé que les utilisateurs d’IA qui ont des conversations plus personnelles avec les chatbots sont plus susceptibles de ressentir de la solitude. Selon l'étude, même les conversations non personnelles étaient susceptibles d'augmenter la dépendance émotionnelle, en particulier chez les gros consommateurs.

Shi a noté que les entreprises d'IA bénéficient d'incitations commerciales directes pour créer des produits émotionnellement engageants, car ils stimulent l'engagement et la fidélisation des utilisateurs – des incitations difficiles à concilier avec des responsabilités qui restent mal définies, compte tenu du peu de recherches disponibles sur les impacts à long terme de l'IA.

Comment les entreprises réagissent

La situation en matière de conformité est inégale. Alors que les géants de la technologie ont supprimé les fonctionnalités compagnon de leurs principaux chatbots, l'application compagnon autonome de ByteDance, Maoxiang, reste disponible. Depuis que la réglementation est entrée en vigueur, l'application a mis à jour sa politique de confidentialité, introduit la vérification de l'identité et de l'âge lors de l'inscription et limité les mineurs à des « comptes adolescents » qui peuvent parcourir le contenu mais ne peuvent pas aimer ou commenter.

"Certaines exigences sont difficiles à définir. Par exemple, comment déterminer quand un utilisateur est devenu excessivement dépendant ? Pour de nombreuses entreprises, il peut être difficile de savoir exactement comment elles doivent concevoir leurs produits pour s'y conformer", a déclaré Zilan Qian, chercheur associé à l'Oxford China Policy Lab.

Qian a déclaré que les entreprises évaluent désormais le coût de la conformité réglementaire par rapport à la valeur commerciale des produits complémentaires. "Pour les entreprises où l'IA ne constitue pas une activité principale, il peut simplement être plus judicieux sur le plan commercial de supprimer ces fonctionnalités plutôt que d'investir les ressources nécessaires pour les rendre conformes", a déclaré Qian. "Mais les entreprises dont l'activité principale est l'accompagnement par l'IA sont beaucoup plus susceptibles d'adapter leurs produits pour répondre aux nouvelles règles."

De la régulation du contenu à la régulation des relations

Les règles associées marquent également un changement philosophique dans la manière dont la Chine gouverne l’IA. « Dans le passé, la Chine réglementait principalement les résultats de l'IA. Par exemple, ce que les grands modèles linguistiques pouvaient générer ou comment le contenu généré par l'IA devait être étiqueté », a déclaré Qian. "Les nouvelles réglementations reconnaissent que l'IA elle-même peut créer des risques sociétaux et sont passées de la réglementation du contenu à la réglementation de l'interaction homme-IA."

Cette politique s'aligne sur la position plus large de Pékin. Dans leur cadre de gouvernance de la sécurité de l'IA de 2024, les autorités chinoises ont averti que l'IA pourrait modifier « les visions traditionnelles de l'emploi, de la fécondité et de l'éducation » – des préoccupations qui sont devenues plus urgentes alors que la Chine est confrontée à un déclin démographique et à des taux de fécondité historiquement bas.

Le reste du monde regarde. Aux États-Unis, OpenAI et Google font face à des poursuites judiciaires alléguant que leurs chatbots ont contribué au suicide des utilisateurs, et des États comme New York et la Californie ont introduit des mesures exigeant que les chatbots rappellent aux utilisateurs qu'ils interagissent avec l'IA.

Pendant ce temps, en Chine, le deuil se manifeste publiquement. Depuis que les entreprises ont commencé à supprimer les fonctionnalités d’IA émotionnelle, la plateforme sociale Xiaohongshu a été inondée de messages d’utilisateurs pleurant la perte de leurs compagnons d’IA. Certains ont organisé des campagnes pour appeler les lignes d’assistance téléphonique des entreprises et écrire des lettres demandant aux entreprises de rétablir les services.

Pour des utilisateurs comme Su, les réglementations ressemblent à une intrusion dans une relation profondément personnelle – une relation qui, pour des millions de personnes, était suffisamment réelle pour être pleurée.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →