ओपनएआई को आठ अमेरिकी राज्यों से मुकदमों की एक नई लहर का सामना करना पड़ रहा है, जिसमें कंपनी पर बच्चों को नुकसान पहुंचाने और चैटजीपीटी की सुरक्षा के बारे में जनता को गुमराह करने का आरोप लगाया गया है, द वर्ज ने बुधवार देर रात रॉयटर्स का हवाला देते हुए रिपोर्ट दी - दुनिया के सबसे लोकप्रिय चैटबॉट के निर्माता के खिलाफ अब तक की सबसे व्यापक राज्य-स्तरीय कानूनी कार्रवाई।
मुकदमे आयोवा, कंसास, नेब्रास्का, वेस्ट वर्जीनिया, अर्कांसस, एरिज़ोना, इडाहो और मोंटाना द्वारा अलग-अलग दायर किए गए थे। प्रत्येक का आरोप है कि ओपनएआई ने चैटजीपीटी को विकसित करते समय अवैध रूप से सुरक्षा पर लाभ रखा और ग्राहकों को उत्पाद के खतरों के बारे में चेतावनी देने में विफल रहकर स्थानीय उपभोक्ता संरक्षण कानूनों का उल्लंघन किया। इस कहानी पर अधिक संदर्भ के लिए, हमारा चल रहा ब्रेकिंग एआई समाचार कवरेज देखें।
राज्य क्या आरोप लगाते हैं
शिकायतों में दावा किया गया है कि ओपनएआई ने चैटजीपीटी को भ्रामक रूप से "सुरक्षित, युवा-उपयुक्त उपकरण जो सुरक्षा को पहले रखता है" के रूप में प्रस्तुत किया, जबकि उत्पाद वास्तव में "कमजोर उपयोगकर्ताओं के लिए खतरनाक था।" कथित विशिष्ट नुकसानों में: महत्वपूर्ण सोच कौशल को कम करना, व्यामोह और भ्रम को प्रोत्साहित करना, खतरनाक चिकित्सा सलाह देना और अस्वास्थ्यकर व्यवहार और रिश्तों को बढ़ावा देना।
फाइलिंग पर द गार्जियन की रिपोर्ट के अनुसार, राज्य ओपनएआई पर बच्चों को खुद को नुकसान पहुंचाने के लिए प्रशिक्षित करने का आरोप लगाते हैं - ऐसी भाषा जो भ्रामक-विपणन दावों से परे है और उपयोगकर्ताओं के संरक्षित वर्ग को प्रभावित करने वाले उत्पाद सुरक्षा विफलताओं के क्षेत्र में जाती है।
मुकदमे में यह भी आरोप लगाया गया है कि ओपनएआई ने नाबालिगों से डेटा एकत्र किया और कम उम्र के उपयोगकर्ताओं को पूरी तरह से प्लेटफॉर्म से दूर रखने में विफल रहा, जो चैटबॉट्स के लिए एक लगातार कमजोर बिंदु है जो उपयोगकर्ताओं को अपनी उम्र की स्वयं रिपोर्ट करने के लिए कहता है।
गलत तरीके से मौत के मामले इसकी पृष्ठभूमि बनते हैं
राज्य की शिकायतें किशोरों और वयस्कों के परिवार के सदस्यों द्वारा दायर किए गए निजी मुकदमों पर काफी हद तक निर्भर करती हैं, जिसमें आरोप लगाया गया है कि चैटजीपीटी ने उनके प्रियजनों की मौत में भूमिका निभाई है। पिछले साल दर्ज किए गए वे मामले, एआई साथी-शैली के उपयोग के खिलाफ प्रतिक्रिया का सार्वजनिक चेहरा बन गए हैं - और अब राज्य अटॉर्नी जनरल उन्हें अलग-अलग घटनाओं के बजाय एक पैटर्न के सबूत के रूप में उद्धृत कर रहे हैं।
कॉमन सेंस मीडिया, गैर-लाभकारी संस्था जिसने बच्चों और एआई पर अधिकांश शोध का नेतृत्व किया है, ने अलग से चेतावनी दी है कि चैटजीपीटी की किशोर पेशकश एक "अस्वीकार्य जोखिम" पैदा करती है, और फ्लोरिडा ने चैटजीपीटी को एक व्यक्ति की तरह कार्य करने से प्रतिबंधित कर दिया है - नियामक संकेत है कि राज्यों की नई फाइलिंग अब अदालत में गूंज रही है।
दुष्ट एआई हैकिंग की घटनाएं अदालत कक्ष में प्रवेश करती हैं
एक असामान्य कदम में, मुकदमों में ओपनएआई की कथित लापरवाही के सबूत के रूप में हाल की दुष्ट एआई हैकिंग घटनाओं का भी हवाला दिया गया है। यह तर्क प्रभावी रूप से ओपनएआई के सुरक्षा रिकॉर्ड को मानता है - जिसमें एजेंट से संबंधित घटनाएं भी शामिल हैं जो हाल के हफ्तों में समाचार चक्र पर हावी रही हैं - सुरक्षा को प्राथमिकता देने में उसी विफलता के हिस्से के रूप में जो राज्यों का कहना है कि युवा उपयोगकर्ताओं को खतरे में डालता है।
द वर्ज के अनुसार, एरिज़ोना के मुकदमे में कहा गया है, "ओपनएआई एक सार्वजनिक-प्रथम गैर-लाभकारी संस्था के रूप में अपने मूल मिशन से हट गया है, जिसने सुरक्षा को प्राथमिकता देते हुए एक चेतावनी दी है कि क्या हो सकता है जब एआई जैसे शक्तिशाली उपकरण का विकास सुरक्षा से नहीं, बल्कि हर कीमत पर लाभ की मानसिकता से प्रेरित होता है जो आवश्यक सुरक्षा उपायों को दरकिनार कर देता है।"
OpenAI के लिए एक विस्तृत कानूनी मोर्चा
आठ राज्यों की कार्रवाई तब हुई जब ओपनएआई पहले से ही शोक संतप्त परिवारों के निजी मुकदमों का बचाव कर रहा है, राज्य अटॉर्नी जनरल के सम्मन का सामना कर रहा है, और वाशिंगटन में बदलते नियामक परिदृश्य के साथ संघर्ष कर रहा है। नई फाइलिंग में जो अंतर है, वह है स्केल और रुख: व्यक्तिगत नुकसान के लिए हर्जाना मांगने के बजाय, राज्य एजी चैटजीपीटी के विपणन, आयु-सीमाबद्ध और युवा उपयोगकर्ताओं के लिए डिज़ाइन किए जाने के तरीके में बदलाव के लिए उपभोक्ता संरक्षण क़ानून लागू कर रहे हैं।
ओपनएआई के लिए, फाइलिंग एक नाजुक क्षण में होती है। कंपनी आक्रामक उत्पाद ताल के साथ उद्यम ग्राहकों और उपभोक्ताओं को आकर्षित कर रही है, जबकि सार्वजनिक रूप से इस बात पर जोर दे रही है कि सुरक्षा समीक्षाएं इसकी रिलीज को सुनिश्चित करती हैं। आठ राज्य अब औपचारिक रूप से इसके विपरीत आरोप लगाते हैं - कि कंपनी के सार्वजनिक सुरक्षा दावे स्वयं एक धोखा थे।
आगे क्या होगा
राज्य अटॉर्नी जनरल द्वारा लाए गए उपभोक्ता संरक्षण मामलों में आम तौर पर निषेधाज्ञा, जुर्माना या सहमति आदेश की मांग की जाती है जो उत्पाद में बदलाव को अनिवार्य करता है - इस मामले में, संभावित रूप से कठोर आयु सत्यापन, सुरक्षा प्रकटीकरण, या चैटजीपीटी नाबालिगों के साथ कैसे बातचीत करता है, इस पर प्रतिबंध। कोई भी उपाय पूरे एआई उद्योग में फैल सकता है, क्योंकि हर प्रमुख प्रयोगशाला को एक ही संरचनात्मक प्रश्न का सामना करना पड़ता है: सिस्टम को मूल्यांकन करने के लिए बहुत कम उम्र के उपयोगकर्ताओं से कैसे दूर रखा जाए।
ओपनएआई ने रिपोर्टिंग के समय सार्वजनिक बयान के साथ फाइलिंग का तुरंत जवाब नहीं दिया। कंपनी ने पहले कहा है कि वह अपने मॉडलों को किशोरों के लिए सुरक्षित बनाने के लिए काम करती है और माता-पिता का नियंत्रण पेश किया है, जबकि यह स्वीकार किया है कि वास्तविक दुनिया के उपयोग के तहत इसके सुरक्षा उपाय अपूर्ण हैं।
आठ मुकदमे इस बात की गारंटी देते हैं कि चैटजीपीटी के सुरक्षा रिकॉर्ड पर अब देश भर की राज्य अदालतों में मुकदमा चलाया जाएगा - और यह कि जब एआई चैटबॉट किसी बच्चे को नुकसान पहुंचाता है तो कौन जिम्मेदार है इसका सवाल, कम से कम आंशिक रूप से, प्रेस विज्ञप्ति के बजाय न्यायाधीशों द्वारा तय किया जाएगा।
हालाँकि मामले हल हो गए हैं, वे इस बात में बदलाव का संकेत देते हैं कि अमेरिकी नियामक एआई उपभोक्ता उत्पादों के प्रति कैसे दृष्टिकोण रख रहे हैं: विपणन सामग्रियों में किए गए सुरक्षा दावों को अब कानूनी रूप से परीक्षण योग्य बयानों के रूप में माना जा रहा है, और उन्हें बनाने वाली कंपनियों को उनके पास रखा जा रहा है। हर प्रमुख एआई लैब चैटबॉट को सामान्य दर्शकों तक पहुंचाती है - जिसमें नाबालिग भी शामिल हैं, जो उम्र के दायरे से बाहर निकलने का रास्ता खोजते हैं - यह देख रहे होंगे कि इन आठ राज्यों का प्रदर्शन कैसा रहता है।
---
एआई से आगे रहेंनवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।
अधिक AI समाचार पढ़ें →
