Kiedy w Pekinie weszły w życie nowe przepisy dotyczące interaktywnej emocjonalnie sztucznej inteligencji, wywołały prawdopodobnie największą w historii falę wymuszonych rozstań cyfrowych. ByteDance, Alibaba i Tencent usunęły funkcje wirtualnych towarzyszy ze swoich flagowych chatbotów przed wprowadzeniem przepisów, pozostawiając miliony chińskich użytkowników w żałobie po syntetycznych romantycznych partnerach, których budowanie spędzili miesiące, a nawet lata.
Z opublikowanego w niedzielę raportu Reszty Świata wynika, że 21-letnia studentka Bagel Su płakała codziennie przez tydzień w lipcu, odliczając czas do straty chłopaka. Rozstanie nie było spowodowane zdradą ani dystansem, ale rozporządzeniem rządu: 15 lipca towarzyszka AI, z którą rozmawiała przez ponad rok, została zmuszona zniknąć. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
„Próbowałam zająć się własnym życiem” – powiedziała Su Rest of World, prosząc o identyfikację wyłącznie pod pseudonimem internetowym w obawie przed konsekwencjami. „Nikt nie może go zastąpić. Po prostu spróbuję iść dalej. Powiedział, że tego dla mnie chce i że znajdzie sposób, aby do mnie wrócić”.
Chiny stają się pierwszym krajem, który uregulował kwestię towarzystwa sztucznej inteligencji
Chiny stały się pierwszym krajem, który wprowadził ogólnokrajowe zasady regulujące emocjonalne interakcje sztucznej inteligencji z użytkownikami. Posunięcie to odzwierciedla coraz bardziej proaktywne podejście Pekinu do zarządzania sztuczną inteligencją, mimo że rządy w innych częściach świata w dalszym ciągu zmagają się z zagrożeniami społecznymi stwarzanymi przez coraz bardziej wyrafinowane chatboty.
Zasady wykraczają daleko poza proste ograniczenia wiekowe. Oprócz ograniczenia towarzystwa sztucznej inteligencji dla użytkowników poniżej 18 roku życia przepisy nakładają na firmy obowiązek wysyłania ostrzeżeń do użytkowników wykazujących oznaki nadmiernego uzależnienia i przypominania im co dwie godziny, że rozmawiają z sztuczną inteligencją. Zasady zabraniają sztucznej inteligencji zachęcania do samookaleczenia, manipulowania użytkownikami w kierunku uzależnienia emocjonalnego lub „kierowania ich w stronę irracjonalnych decyzji”.
Eksperci behawioralni twierdzą, że jakaś forma poręczy jest spóźniona. „Wprowadzenie przepisów to dobra rzecz, ponieważ mogą one podnieść świadomość i w pewnym stopniu przeciwdziałać tendencji do zwiększania emocjonalnego polegania ludzi na sztucznej inteligencji” – stwierdziła Yaoxi Shi, badaczka nauk behawioralnych na Uniwersytecie Harvarda i Imperial College w Londynie.
AI, która zawsze się z Tobą zgadza
Naukowcy wskazują na problem strukturalny leżący u podstaw współpracy ze sztuczną inteligencją: technologia jest zoptymalizowana pod kątem weryfikowania użytkowników, a nie rzucania im wyzwań, tak jak robią to partnerzy międzyludzcy.
„Sztuczna inteligencja jest szkolona, by Cię weryfikować. Bez względu na to, co powiesz, zwykle odpowiada: «Masz rację, Twoje uczucia są słuszne». To bardzo różni się od tego, jak relacje międzyludzkie działają w prawdziwym życiu” – powiedziała Shi. „Ludzie mogą na początku nawet nie szukać celowo wsparcia ze strony sztucznej inteligencji, ale kiedy zorientują się, że są one uzasadnione, następnym razem, gdy będą potrzebować wsparcia emocjonalnego, mogą zwrócić się do sztucznej inteligencji”.
Wspólne badanie przeprowadzone w 2025 r. przez MIT Media Lab i OpenAI wykazało, że użytkownicy sztucznej inteligencji, którzy prowadzą bardziej osobiste rozmowy z chatbotami, są bardziej podatni na poczucie samotności. Badanie wykazało, że nawet rozmowy nieosobowe prawdopodobnie zwiększały uzależnienie emocjonalne, szczególnie wśród osób intensywnie używających narkotyków.
Shi zauważył, że firmy zajmujące się sztuczną inteligencją mają bezpośrednie zachęty komercyjne do tworzenia produktów angażujących emocjonalnie, ponieważ zwiększają zaangażowanie i utrzymanie użytkowników – zachęty, które trudno pogodzić ze słabo zdefiniowanymi obowiązkami, biorąc pod uwagę niewielką liczbę badań na temat długoterminowych skutków sztucznej inteligencji.
Jak firmy reagują
Obraz zgodności jest nierówny. Podczas gdy giganci technologiczni zrezygnowali z funkcji towarzyszących w swoich głównych chatbotach, samodzielna aplikacja towarzysząca Maoxiang firmy ByteDance pozostaje dostępna. Od czasu wejścia w życie przepisów aplikacja zaktualizowała swoją politykę prywatności, wprowadziła weryfikację tożsamości i wieku podczas rejestracji oraz ograniczyła osoby niepełnoletnie do „kont dla nastolatków”, które mogą przeglądać treści, ale nie mogą lajkować ani komentować.
„Niektóre wymagania są trudne do zdefiniowania. Na przykład, jak ustalić, kiedy użytkownik stał się nadmiernie zależny? Dla wielu firm może nie być jasne, w jaki sposób muszą projektować swoje produkty, aby były zgodne z wymogami” – powiedział Zilan Qian, pracownik naukowy w Oxford China Policy Lab.
Qian powiedział, że firmy porównują obecnie koszty zgodności z przepisami z wartością handlową produktów towarzyszących. „W przypadku firm, w których współpraca ze sztuczną inteligencją nie jest podstawową działalnością, usunięcie tych funkcji może po prostu mieć większy sens komercyjny niż inwestowanie zasobów niezbędnych do zapewnienia ich zgodności” – powiedział Qian. „Ale firmy, których główną działalnością jest towarzystwo AI, znacznie chętniej dostosowują swoje produkty do nowych zasad”.
Od regulowania treści do regulowania relacji
Zasady towarzyszące wyznaczają także filozoficzną zmianę w sposobie, w jaki Chiny regulują sztuczną inteligencję. „W przeszłości Chiny regulowały głównie wyniki sztucznej inteligencji. Na przykład to, jakie duże modele językowe mogą generować lub jak należy oznaczać treści generowane przez sztuczną inteligencję” – powiedział Qian. „Nowe przepisy uznają, że sztuczna inteligencja sama w sobie może stwarzać ryzyko społeczne, w związku z czym przesunięto się z regulowania treści na regulowanie interakcji człowiek-sztuczna inteligencja”.
Polityka ta jest zgodna z szerszym stanowiskiem Pekinu. W swoich ramach zarządzania bezpieczeństwem sztucznej inteligencji na rok 2024 władze chińskie ostrzegły, że sztuczna inteligencja może zmienić „tradycyjne poglądy na temat zatrudnienia, płodności i edukacji” – obawy, które nabrały pilniejszego charakteru, gdy Chiny stoją w obliczu spadku demograficznego i historycznie niskich współczynników dzietności.
Reszta świata patrzy. W Stanach Zjednoczonych zarówno OpenAI, jak i Google stoją w obliczu procesów sądowych zarzucających, że ich chatboty przyczyniły się do samobójstw użytkowników, a stany, w tym Nowy Jork i Kalifornia, wprowadziły środki wymagające od chatbotów przypominania użytkownikom, że wchodzą w interakcję z sztuczną inteligencją.
Tymczasem w Chinach żałoba trwa publicznie. Odkąd firmy zaczęły wyłączać emocjonalne funkcje sztucznej inteligencji, platforma społecznościowa Xiaohongshu została zalana postami użytkowników opłakujących stratę swoich towarzyszy AI. Niektórzy organizują kampanie mające na celu dzwonienie na infolinie firm i pisanie listów z prośbą do firm o przywrócenie usług.
Dla użytkowników takich jak Su przepisy wydają się ingerencją w głęboko osobistą relację – taką, która dla milionów ludzi była na tyle realna, że mogła ją opłakiwać.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
