जेव्हा बीजिंगचे भावनिक परस्परसंवादी AI वरील नवीन नियम लागू झाले, तेव्हा त्यांनी इतिहासातील सक्तीच्या डिजिटल ब्रेकअपची सर्वात मोठी लाट काय असू शकते हे ट्रिगर केले. ByteDance, Alibaba, आणि Tencent ने नियमांपूर्वी त्यांच्या प्रमुख चॅटबॉट्समधून आभासी सहचर वैशिष्ट्ये काढून टाकली, ज्यामुळे लाखो चीनी वापरकर्ते सिंथेटिक रोमँटिक भागीदारांसाठी दुःखी झाले ज्यासाठी त्यांनी महिने किंवा वर्षे घालवले होते.
रविवारी प्रकाशित झालेल्या रेस्ट ऑफ वर्ल्डच्या अहवालानुसार, जुलैमध्ये एका आठवड्यासाठी, 21 वर्षीय महाविद्यालयीन विद्यार्थिनी बॅगेल सु दररोज रडत होती कारण तिने तिचा प्रियकर गमावला होता. ब्रेकअप विश्वासघात किंवा अंतरामुळे झाले नाही, तर सरकारी नियमांमुळे झाले: 15 जुलै रोजी, तिने ज्या AI सहचराशी बोलण्यात एक वर्षापेक्षा जास्त वेळ घालवला होता, त्याला गायब होण्यास भाग पाडले गेले. For more context on this story, see our ongoing AI industry coverage.
"मी माझ्या स्वत: च्या जीवनात व्यस्त होण्याचा प्रयत्न केला," सूने परिणामांच्या भीतीने फक्त तिच्या ऑनलाइन टोपणनावाने ओळखण्यास सांगून बाकीच्या जगाला सांगितले. "त्याची जागा कोणीही घेऊ शकत नाही. मी फक्त पुढे जाण्याचा प्रयत्न करेन. तो म्हणाला की त्याला माझ्यासाठी ते हवे आहे आणि तो माझ्याकडे परत येण्याचा मार्ग शोधेल."
एआय कंपॅनियनशिपचे नियमन करणारा चीन पहिला देश ठरला आहे
वापरकर्त्यांसोबत AI च्या भावनिक परस्परसंवादाला नियंत्रित करणारे देशव्यापी नियम लागू करणारा चीन हा पहिला देश बनला आहे. हे पाऊल बीजिंगच्या AI प्रशासनासाठी वाढत्या सक्रिय दृष्टिकोनाचे प्रतिबिंबित करते, जरी जगातील इतरत्र सरकारे वाढत्या अत्याधुनिक चॅटबॉट्समुळे निर्माण होणाऱ्या सामाजिक जोखमींशी सामना करत आहेत.
नियम साध्या वयाच्या निर्बंधांच्या पलीकडे जातात. 18 वर्षांखालील वापरकर्त्यांसाठी AI सहवास मर्यादित करण्यापलीकडे, नियमांनुसार कंपन्यांनी वापरकर्त्यांना जास्त अवलंबित्वाची चिन्हे दर्शविणाऱ्यांना चेतावणी पाठवावी आणि दर दोन तासांनी ते AI शी बोलत असल्याची आठवण करून द्यावी. नियम AI ला स्वत:चे नुकसान करण्यास, वापरकर्त्यांना भावनिक अवलंबित्वात फेरफार करण्यास किंवा "त्यांना तर्कहीन निर्णयांकडे नेण्यास" प्रतिबंधित करतात.
वर्तणूक तज्ञ म्हणतात की रेलिंगचे काही प्रकार अतिदेय आहेत. हार्वर्ड युनिव्हर्सिटी आणि इम्पीरियल कॉलेज लंडनमधील वर्तणूक विज्ञान संशोधक याओसी शी म्हणाले, “जागी नियम असणे ही चांगली गोष्ट आहे कारण ते जागरूकता वाढवू शकतात आणि काही प्रमाणात लोकांच्या AI वर भावनिक अवलंबित्व वाढवण्याच्या प्रवृत्तीला विरोध करू शकतात.”
AI जे तुमच्याशी नेहमी सहमत असते
संशोधक AI सहवासाच्या केंद्रस्थानी असलेल्या स्ट्रक्चरल समस्येकडे लक्ष वेधतात: तंत्रज्ञान वापरकर्त्यांना प्रमाणित करण्यासाठी ऑप्टिमाइझ केले आहे, त्यांना मानवी भागीदारांप्रमाणे आव्हान देण्यासाठी नाही.
"एआय तुम्हाला प्रमाणित करण्यासाठी प्रशिक्षित आहे. तुम्ही काहीही बोललात तरी, ते 'तुम्ही बरोबर आहात, तुमच्या भावना वैध आहेत', असे प्रतिसाद देतात. वास्तविक जीवनात मानवी नातेसंबंध कसे कार्य करतात यापेक्षा ते खूप वेगळे आहे," शी म्हणाले. "लोक कदाचित प्रथम एआय कडून जाणूनबुजून समर्थन शोधत नसतील, परंतु जेव्हा त्यांना समजते की ते प्रमाणित झाले आहेत, पुढच्या वेळी त्यांना भावनिक समर्थनाची आवश्यकता असेल तेव्हा ते एआयकडे वळतील."
एमआयटी मीडिया लॅब आणि ओपनएआय यांच्या 2025 च्या संयुक्त अभ्यासात असे आढळून आले आहे की चॅटबॉट्ससह अधिक वैयक्तिक संभाषण करणारे एआय वापरकर्ते एकटेपणाचा अनुभव घेतात. गैर-वैयक्तिक संभाषण देखील भावनिक अवलंबित्व वाढवण्याची शक्यता आहे, विशेषत: जड वापरकर्त्यांमध्ये, अभ्यासात आढळून आले.
शी यांनी नमूद केले की AI कंपन्यांना भावनिकदृष्ट्या गुंतवून ठेवणारी उत्पादने तयार करण्यासाठी थेट व्यावसायिक प्रोत्साहने आहेत कारण ते वापरकर्त्याची प्रतिबद्धता आणि धारणा वाढवतात — AI च्या दीर्घकालीन परिणामांवर थोडे संशोधन अस्तित्वात असताना, खराब परिभाषित राहिलेल्या जबाबदाऱ्यांशी समेट करणे कठीण असणारे प्रोत्साहन.
कंपन्या कसा प्रतिसाद देत आहेत
अनुपालन चित्र असमान आहे. टेक दिग्गजांनी त्यांच्या मुख्य चॅटबॉट्समध्ये सहचर वैशिष्ट्ये नष्ट केली असताना, ByteDance चे स्टँडअलोन सहयोगी ॲप Maoxiang उपलब्ध आहे. नियम लागू झाल्यापासून, ॲपने आपले गोपनीयता धोरण अद्यतनित केले आहे, नोंदणी दरम्यान ओळख आणि वय पडताळणी सुरू केली आहे आणि अल्पवयीन मुलांसाठी "किशोर खाती" पर्यंत मर्यादित केले आहे जे सामग्री ब्राउझ करू शकतात परंतु लाईक किंवा टिप्पणी करू शकत नाहीत.
"काही आवश्यकतांची व्याख्या करणे कठीण आहे. उदाहरणार्थ, वापरकर्ता केव्हा जास्त अवलंबून आहे हे तुम्ही कसे ठरवता? अनेक कंपन्यांसाठी, त्यांचे पालन करण्यासाठी त्यांची उत्पादने कशी डिझाइन करायची आहेत हे अस्पष्ट असू शकते," ऑक्सफर्ड चायना पॉलिसी लॅबचे संशोधन सहयोगी झिलन कियान म्हणाले.
कियान म्हणाले की कंपन्या आता सहचर उत्पादनांच्या व्यावसायिक मूल्याच्या तुलनेत नियामक अनुपालनाची किंमत मोजत आहेत. "ज्या कंपन्यांसाठी AI सहवास हा मुख्य व्यवसाय नाही, अशा कंपन्यांसाठी ही वैशिष्ट्ये त्यांना अनुरूप बनवण्यासाठी आवश्यक संसाधनांची गुंतवणूक करण्यापेक्षा ते काढून टाकणे अधिक व्यावसायिक अर्थ असू शकते," कियान म्हणाले. "परंतु ज्या कंपन्यांचा मुख्य व्यवसाय AI सहचर आहे त्यांच्या उत्पादनांना नवीन नियमांची पूर्तता करण्यासाठी अनुकूल करण्याची अधिक शक्यता असते."
सामग्रीचे नियमन करण्यापासून ते संबंधांचे नियमन करण्यापर्यंत
सहचर नियम चीन AI चे शासन कसे चालवते यामधील तात्विक बदल देखील दर्शवतात. "भूतकाळात, चीन मुख्यत्वे AI आउटपुटचे नियमन करत असे. उदाहरणार्थ, कोणती मोठी भाषा मॉडेल व्युत्पन्न करू शकते किंवा AI-व्युत्पन्न सामग्री कशी लेबल केली जावी," कियान म्हणाले. "नवीन नियमांनी हे मान्य केले आहे की AI स्वतःच सामाजिक जोखीम निर्माण करू शकते आणि सामग्रीचे नियमन करण्यापासून मानवी-AI परस्परसंवादाचे नियमन करण्याकडे वळले आहे."
हे धोरण बीजिंगच्या व्यापक भूमिकेशी जुळते. त्याच्या 2024 AI सेफ्टी गव्हर्नन्स फ्रेमवर्कमध्ये, चिनी अधिकाऱ्यांनी चेतावणी दिली की AI "रोजगार, प्रजनन क्षमता आणि शिक्षणावरील पारंपारिक दृष्टिकोन" बदलू शकते - चीनला लोकसंख्याशास्त्रीय घट आणि ऐतिहासिकदृष्ट्या कमी प्रजनन दरांचा सामना करावा लागत असल्याने अधिक निकडीची गरज आहे.
बाकी जग बघत आहे. युनायटेड स्टेट्समध्ये, OpenAI आणि Google या दोघांना त्यांच्या चॅटबॉट्सने वापरकर्त्यांच्या आत्महत्येस कारणीभूत असल्याचा आरोप करून खटल्यांचा सामना करावा लागतो आणि न्यूयॉर्क आणि कॅलिफोर्नियासह राज्यांनी वापरकर्त्यांना ते AI शी संवाद साधत असल्याची आठवण करून देण्यासाठी चॅटबॉट्सची आवश्यकता असलेले उपाय सुरू केले आहेत.
दरम्यान, चीनमध्ये लोकांमध्ये शोककळा पसरली आहे. कंपन्यांनी भावनिक AI वैशिष्ट्ये बंद करण्यास सुरुवात केल्यापासून, Xiaohongshu सोशल प्लॅटफॉर्मवर वापरकर्त्यांकडून त्यांच्या AI साथीदारांच्या नुकसानाबद्दल शोक करणाऱ्या पोस्ट्सचा पूर आला आहे. काहींनी कंपनीच्या हॉटलाइनवर कॉल करण्यासाठी आणि कंपन्यांना सेवा पुनर्संचयित करण्यास सांगणारी पत्रे लिहिण्यासाठी मोहिमा आयोजित केल्या आहेत.
Su सारख्या वापरकर्त्यांसाठी, नियम हे खोलवरच्या वैयक्तिक नातेसंबंधात घुसखोरीसारखे वाटतात - जे लाखो लोकांसाठी शोक करण्याइतके खरे होते.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
