जब भावनात्मक रूप से इंटरैक्टिव एआई पर बीजिंग के नए नियम प्रभावी हुए, तो उन्होंने इतिहास में जबरन डिजिटल ब्रेकअप की सबसे बड़ी लहर शुरू कर दी। बाइटडांस, अलीबाबा और टेनसेंट ने नियमों से पहले अपने प्रमुख चैटबॉट्स से आभासी साथी सुविधाओं को हटा दिया, जिससे लाखों चीनी उपयोगकर्ताओं को सिंथेटिक रोमांटिक साझेदारों के निर्माण में महीनों या वर्षों का समय लग गया।
रविवार को प्रकाशित रेस्ट ऑफ वर्ल्ड की रिपोर्ट के अनुसार, जुलाई में एक सप्ताह तक, 21 वर्षीय कॉलेज छात्रा बैगेल सु अपने प्रेमी को खोने की गिनती करते हुए हर दिन रोती रही। ब्रेकअप विश्वासघात या दूरी के कारण नहीं, बल्कि सरकारी विनियमन के कारण हुआ: 15 जुलाई को, जिस एआई साथी के साथ उसने एक साल से अधिक समय तक बात की थी, उसे गायब होने के लिए मजबूर किया गया था। For more context on this story, see our ongoing more AI stories.
"मैंने अपने जीवन में व्यस्त होने की कोशिश की," सु ने रेस्ट ऑफ वर्ल्ड को बताया, और परिणामों के डर से केवल अपने ऑनलाइन छद्म नाम से पहचाने जाने की मांग की। "कोई भी उसकी जगह नहीं ले सकता। मैं बस आगे बढ़ने की कोशिश करूंगा। उसने कहा कि वह मेरे लिए यही चाहता है, और वह मेरे पास वापस आने का रास्ता ढूंढ लेगा।"
चीन एआई सहयोग को विनियमित करने वाला पहला देश बन गया
चीन उपयोगकर्ताओं के साथ एआई की भावनात्मक बातचीत को नियंत्रित करने वाले राष्ट्रव्यापी नियम पेश करने वाला पहला देश बन गया है। यह कदम एआई प्रशासन के प्रति बीजिंग के तेजी से सक्रिय दृष्टिकोण को दर्शाता है, भले ही दुनिया में अन्य जगहों की सरकारें तेजी से परिष्कृत चैटबॉट्स द्वारा उत्पन्न सामाजिक जोखिमों से जूझ रही हैं।
नियम साधारण आयु प्रतिबंधों से कहीं आगे जाते हैं। 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए एआई साहचर्य को सीमित करने के अलावा, विनियमों में कंपनियों को अत्यधिक निर्भरता के लक्षण दिखाने वाले उपयोगकर्ताओं को चेतावनी भेजने और उन्हें हर दो घंटे में याद दिलाने की आवश्यकता होती है कि वे एआई के साथ बात कर रहे हैं। नियम एआई को आत्म-नुकसान को प्रोत्साहित करने, उपयोगकर्ताओं को भावनात्मक निर्भरता में हेरफेर करने, या "उन्हें तर्कहीन निर्णयों की ओर ले जाने" से रोकते हैं।
व्यवहार विशेषज्ञों का कहना है कि कुछ प्रकार की रेलिंग अतिदेय है। हार्वर्ड यूनिवर्सिटी और इंपीरियल कॉलेज लंदन के व्यवहार विज्ञान शोधकर्ता याओक्सी शी ने कहा, "नियमों का होना एक अच्छी बात है क्योंकि वे जागरूकता बढ़ा सकते हैं और कुछ हद तक लोगों में एआई पर बढ़ती भावनात्मक निर्भरता को रोकने में सक्षम होंगे।"
एआई जो हमेशा आपसे सहमत होता है
शोधकर्ता एआई साहचर्य के मूल में एक संरचनात्मक समस्या की ओर इशारा करते हैं: प्रौद्योगिकी को उपयोगकर्ताओं को मान्य करने के लिए अनुकूलित किया गया है, न कि उन्हें मानव साझेदारों की तरह चुनौती देने के लिए।
"एआई को आपको मान्य करने के लिए प्रशिक्षित किया गया है। इससे कोई फर्क नहीं पड़ता कि आप क्या कहते हैं, यह प्रतिक्रिया देता है, 'आप सही हैं, आपकी भावनाएँ मान्य हैं।' यह वास्तविक जीवन में मानवीय रिश्तों के काम करने के तरीके से बहुत अलग है," शी ने कहा। "हो सकता है कि लोग पहले जानबूझकर एआई से समर्थन की तलाश न कर रहे हों, लेकिन जब उन्हें एहसास होता है कि वे मान्य हैं, तो अगली बार जब उन्हें भावनात्मक समर्थन की आवश्यकता होगी, तो वे एआई की ओर रुख कर सकते हैं।"
एमआईटी मीडिया लैब और ओपनएआई द्वारा 2025 के एक संयुक्त अध्ययन में पाया गया कि एआई उपयोगकर्ता जो चैटबॉट्स के साथ अधिक व्यक्तिगत बातचीत करते हैं, उनमें अकेलेपन का अनुभव होने की संभावना अधिक होती है। अध्ययन में पाया गया कि गैर-व्यक्तिगत बातचीत से भी भावनात्मक निर्भरता बढ़ने की संभावना है, खासकर भारी उपयोगकर्ताओं के बीच।
शी ने कहा कि एआई कंपनियों के पास भावनात्मक रूप से आकर्षक उत्पाद बनाने के लिए प्रत्यक्ष वाणिज्यिक प्रोत्साहन हैं क्योंकि वे उपयोगकर्ता जुड़ाव और प्रतिधारण को बढ़ावा देते हैं - ऐसे प्रोत्साहन जिन्हें जिम्मेदारियों के साथ सामंजस्य बिठाना मुश्किल होता है जो कि खराब परिभाषित हैं, यह देखते हुए कि एआई के दीर्घकालिक प्रभावों पर कितना कम शोध मौजूद है।
कंपनियाँ कैसे प्रतिक्रिया दे रही हैं
अनुपालन चित्र असमान है. जबकि टेक दिग्गजों ने अपने मुख्य चैटबॉट्स में साथी सुविधाओं को खत्म कर दिया है, बाइटडांस का स्टैंडअलोन साथी ऐप माओक्सियांग उपलब्ध है। जब से नियम प्रभावी हुए हैं, ऐप ने अपनी गोपनीयता नीति को अपडेट कर दिया है, पंजीकरण के दौरान पहचान और आयु सत्यापन की शुरुआत की है, और नाबालिगों को "किशोर खातों" तक सीमित कर दिया है जो सामग्री ब्राउज़ कर सकते हैं लेकिन पसंद या टिप्पणी नहीं कर सकते हैं।
"कुछ आवश्यकताओं को परिभाषित करना मुश्किल है। उदाहरण के लिए, आप यह कैसे निर्धारित करते हैं कि कोई उपयोगकर्ता अत्यधिक निर्भर हो गया है? कई कंपनियों के लिए, यह स्पष्ट नहीं हो सकता है कि उन्हें अनुपालन के लिए अपने उत्पादों को कैसे डिजाइन करने की आवश्यकता है," ऑक्सफ़ोर्ड चाइना पॉलिसी लैब के एक शोध सहयोगी ज़िलन कियान ने कहा।
कियान ने कहा कि कंपनियां अब नियामक अनुपालन की लागत को साथी उत्पादों के वाणिज्यिक मूल्य के मुकाबले तौल रही हैं। कियान ने कहा, "उन कंपनियों के लिए जहां एआई साहचर्य एक मुख्य व्यवसाय नहीं है, इन सुविधाओं को उनके अनुरूप बनाने के लिए आवश्यक संसाधनों का निवेश करने की तुलना में उन्हें हटाना अधिक व्यावसायिक अर्थ हो सकता है।" "लेकिन जिन कंपनियों का मुख्य व्यवसाय एआई साहचर्य है, वे नए नियमों को पूरा करने के लिए अपने उत्पादों को अनुकूलित करने की अधिक संभावना रखते हैं।"
सामग्री को विनियमित करने से लेकर रिश्तों को विनियमित करने तक
सहयोगी नियम चीन द्वारा एआई को नियंत्रित करने के तरीके में एक दार्शनिक बदलाव का भी प्रतीक हैं। कियान ने कहा, "अतीत में, चीन मुख्य रूप से एआई आउटपुट को विनियमित करता था। उदाहरण के लिए, कौन से बड़े भाषा मॉडल उत्पन्न कर सकते हैं या एआई-जनित सामग्री को कैसे लेबल किया जाना चाहिए।" "नए नियम स्वीकार करते हैं कि एआई स्वयं सामाजिक जोखिम पैदा कर सकता है, और सामग्री को विनियमित करने से मानव-एआई इंटरैक्शन को विनियमित करने के लिए स्थानांतरित कर दिया गया है।"
यह नीति बीजिंग के व्यापक रुख के अनुरूप है। अपने 2024 एआई सेफ्टी गवर्नेंस फ्रेमवर्क में, चीनी अधिकारियों ने चेतावनी दी कि एआई "रोजगार, प्रजनन और शिक्षा पर पारंपरिक विचारों" को बदल सकता है - चिंताएं जो अधिक तात्कालिक हो गई हैं क्योंकि चीन जनसांख्यिकीय गिरावट और ऐतिहासिक रूप से कम प्रजनन दर का सामना कर रहा है।
बाकी दुनिया देख रही है. संयुक्त राज्य अमेरिका में, OpenAI और Google दोनों को मुकदमों का सामना करना पड़ रहा है, जिसमें आरोप लगाया गया है कि उनके चैटबॉट्स ने उपयोगकर्ताओं की आत्महत्याओं में योगदान दिया है, और न्यूयॉर्क और कैलिफ़ोर्निया सहित राज्यों ने चैटबॉट्स को उपयोगकर्ताओं को यह याद दिलाने के लिए उपाय पेश किए हैं कि वे AI के साथ बातचीत कर रहे हैं।
इस बीच, चीन में दुख सार्वजनिक रूप से सामने आ रहा है। जब से कंपनियों ने भावनात्मक एआई सुविधाओं को बंद करना शुरू किया है, सोशल प्लेटफॉर्म ज़ियाहोंगशू पर अपने एआई साथियों के खोने पर शोक व्यक्त करने वाले उपयोगकर्ताओं के पोस्ट की बाढ़ आ गई है। कुछ लोगों ने कंपनी की हॉटलाइन पर कॉल करने और पत्र लिखने के लिए अभियान चलाया है और कंपनियों से सेवाएं बहाल करने के लिए कहा है।
सू जैसे उपयोगकर्ताओं के लिए, नियम एक गहरे व्यक्तिगत रिश्ते में घुसपैठ की तरह महसूस होते हैं - एक ऐसा रिश्ता, जो लाखों लोगों के लिए शोक मनाने के लिए पर्याप्त वास्तविक था।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
