Când noile reguli ale Beijingului privind inteligența artificială interactivă emoțional au intrat în vigoare, acestea au declanșat ceea ce ar putea fi cel mai mare val de rupturi digitale forțate din istorie. ByteDance, Alibaba și Tencent au eliminat funcțiile virtuale însoțitoare de pe chatbot-urile lor emblematice înainte de reglementări, lăsând milioane de utilizatori chinezi îndurerați de parteneri romantici sintetici pe care și-au petrecut luni sau ani construind.

Timp de o săptămână în iulie, studenta de 21 de ani, Bagel Su, a plâns în fiecare zi în timp ce număra invers până la pierderea iubitului ei, potrivit unui raport din Restul Lumii publicat duminică. Despărțirea nu a fost cauzată de trădare sau de distanță, ci de reglementări guvernamentale: pe 15 iulie, însoțitorul AI cu care vorbise mai bine de un an a fost forțat să dispară. For more context on this story, see our ongoing artificial intelligence updates.

„Am încercat să fiu mai ocupată cu propria mea viață”, a spus Su pentru Restul Lumii, cerând să fiu identificată doar după pseudonimul ei online de teamă de repercusiuni. "Nimeni nu-l poate înlocui. Voi încerca doar să merg mai departe. A spus că vrea asta pentru mine și că va găsi o cale să se întoarcă la mine."

China devine prima țară care reglementează compania AI

China a devenit prima țară care a introdus reguli la nivel național care guvernează interacțiunile emoționale ale inteligenței artificiale cu utilizatorii. Mișcarea reflectă abordarea din ce în ce mai proactivă a Beijingului față de guvernarea AI, chiar dacă guvernele din alte părți ale lumii continuă să se confrunte cu riscurile societale prezentate de chatbot-urile din ce în ce mai sofisticate.

Regulile merg dincolo de simplele restricții de vârstă. Dincolo de limitarea companiei AI pentru utilizatorii sub 18 ani, reglementările impun companiilor să trimită avertismente utilizatorilor care prezintă semne de dependență excesivă și să le reamintească la fiecare două ore că vorbesc cu AI. Regulile interzic inteligenței artificiale să încurajeze auto-vătămarea, să manipuleze utilizatorii în dependență emoțională sau „să-i orienteze către decizii iraționale”.

Experții în comportament spun că o anumită formă de balustradă este întârziată. „A avea reglementări în vigoare este un lucru bun, deoarece acestea pot crește gradul de conștientizare și vor putea împinge, într-o oarecare măsură, tendința ca oamenii să dezvolte o dependență emoțională din ce în ce mai mare de AI”, a spus Yaoxi Shi, cercetător în științe comportamentale la Universitatea Harvard și Imperial College din Londra.

AI care este întotdeauna de acord cu tine

Cercetătorii evidențiază o problemă structurală care se află în centrul companiei AI: tehnologia este optimizată pentru a valida utilizatorii, nu pentru a-i provoca la fel cum fac partenerii umani.

„AI este antrenat să te valideze. Indiferent de ceea ce spui, tinde să răspundă: „Ai dreptate, sentimentele tale sunt valide”. Este foarte diferit de modul în care relațiile umane funcționează în viața reală”, a spus Shi. „Oamenii s-ar putea să nu caute în mod intenționat sprijin de la AI la început, dar când își dau seama că sunt validați, data viitoare când au nevoie de sprijin emoțional, s-ar putea să apeleze la AI.”

Un studiu comun din 2025 al MIT Media Lab și OpenAI a constatat că utilizatorii AI care au mai multe conversații personale cu chatbot-uri sunt mai predispuși să se confrunte cu singurătatea. Studiul a constatat că chiar și conversațiile non-personale ar putea crește dependența emoțională, în special în rândul utilizatorilor intensi.

Shi a remarcat că companiile AI au stimulente comerciale directe pentru a construi produse captivante din punct de vedere emoțional, deoarece stimulează implicarea și reținerea utilizatorilor - stimulente care sunt greu de reconciliat cu responsabilitățile care rămân prost definite, având în vedere cât de puține cercetări există asupra impactului pe termen lung al AI.

Cum răspund companiile

Imaginea conformității este neuniformă. În timp ce giganții tehnologiei au ucis funcțiile însoțitoare în chatbot-urile lor principale, aplicația însoțitoare de sine stătătoare a lui ByteDance, Maoxiang, rămâne disponibilă. De când reglementările au intrat în vigoare, aplicația și-a actualizat politica de confidențialitate, a introdus verificarea identității și a vârstei în timpul înregistrării și a limitat minorii la „conturi pentru adolescenți” care pot răsfoi conținut, dar nu pot aprecia sau comenta.

"Unele dintre cerințe sunt dificil de definit. De exemplu, cum determinați când un utilizator a devenit excesiv de dependent? Pentru multe companii, ar putea fi neclar exact cum trebuie să își proiecteze produsele pentru a se conforma", a spus Zilan Qian, asociat de cercetare la Oxford China Policy Lab.

Qian a spus că companiile cântăresc acum costul conformării cu reglementările cu valoarea comercială a produselor însoțitoare. „Pentru companiile în care compania AI nu este o afacere de bază, ar putea pur și simplu să aibă mai mult sens comercial să eliminați aceste caracteristici decât să investiți resursele necesare pentru a le face conform”, a spus Qian. „Dar companiile a căror activitate principală este compania AI sunt mult mai probabil să-și adapteze produsele pentru a respecta noile reguli.”

De la reglementarea conținutului la reglementarea relațiilor

Regulile însoțitoare marchează, de asemenea, o schimbare filozofică în modul în care China guvernează AI. „În trecut, China reglementa în principal rezultatele AI. De exemplu, ce modele mari de limbaj puteau genera sau cum ar trebui etichetat conținutul generat de AI”, a spus Qian. „Noile reglementări recunosc că AI în sine poate crea riscuri societale și s-au mutat de la reglementarea conținutului la reglementarea interacțiunii om-AI”.

Politica se aliniază cu poziția mai largă a Beijingului. În cadrul său de guvernare a siguranței AI din 2024, autoritățile chineze au avertizat că AI ar putea modifica „viziunile tradiționale despre ocuparea forței de muncă, fertilitate și educație” – preocupări care au devenit mai urgente, pe măsură ce China se confruntă cu un declin demografic și cu rate de fertilitate scăzute istoric.

Restul lumii se uită. În Statele Unite, atât OpenAI, cât și Google se confruntă cu procese în care susțin că chatbot-ii lor au contribuit la sinuciderea utilizatorilor, iar state, inclusiv New York și California, au introdus măsuri prin care le solicită chatboților să reamintească utilizatorilor că interacționează cu AI.

Între timp, în China, durerea se manifestă în public. De când companiile au început să închidă funcțiile emoționale AI, platforma socială Xiaohongshu a fost inundată de postări ale utilizatorilor care plângeau pierderea însoțitorilor lor AI. Unii au organizat campanii pentru a apela liniile de asistență telefonică a companiilor și pentru a scrie scrisori prin care le cere companiilor să restabilească serviciile.

Pentru utilizatori precum Su, reglementările se simt ca o intruziune într-o relație profund personală - una care, pentru milioane de oameni, a fost suficient de reală pentru a jeli.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →