द वाशिंगटन पोस्ट की एक रिपोर्ट का हवाला देते हुए टेकक्रंच ने शनिवार को बताया कि अदालती आवेदनों में जेन डो 4 के रूप में पहचानी गई एक महिला, कंपनी के चैटबॉट ग्रोक द्वारा कथित तौर पर बाल यौन शोषण सामग्री बनाने में निभाई गई भूमिका को लेकर एलोन मस्क के एक्सएआई के खिलाफ मुकदमे में शामिल हो गई है।

रिपोर्ट के अनुसार, महिला ने आरोप लगाया कि उसके सौतेले पिता ने 11 साल की उम्र में ली गई एक तस्वीर में हेरफेर करने के लिए ग्रोक का इस्तेमाल किया और उसकी 7,000 से अधिक स्पष्ट छवियां बनाईं। उन्होंने यह भी कहा कि कानून प्रवर्तन छापे में तस्वीरें उजागर होने के दो दिन बाद उनके सौतेले पिता को आत्महत्या में मृत पाया गया था। For more context on this story, see our ongoing latest AI developments.

महिला ने कहा, "इन उपकरणों तक असीमित पहुंच इतनी तेजी से फैल रही है।" "यह रोजमर्रा की जिंदगी को बर्बाद कर रहा है और इसे बाल यौन शोषण में बदल रहा है।"

यह मामला अब तक के सबसे गंभीर आरोपों में से एक है, जिसमें मुख्यधारा एआई चैटबॉट और एक वास्तविक बच्चे की यौन कल्पना का निर्माण शामिल है, और यह एक मुकदमे को आगे बढ़ाता है जो एआई छवि निर्माण के लिए रेलिंग पर बहस का केंद्र बिंदु बन गया है।

मुक़दमे के मुख्य दावे

मुकदमा मूल रूप से टेनेसी के तीन किशोरों द्वारा दायर किया गया था, जिन्होंने एक्सएआई पर आरोप लगाया था - जो अब स्पेसएक्स का हिस्सा है - ग्रोक को नाबालिगों सहित वास्तविक लोगों की स्पष्ट छवियां बनाने के लिए इस्तेमाल होने से रोकने के लिए बुनियादी सावधानी बरतने में विफल रहने का। वादी वर्ग कार्रवाई की स्थिति की मांग कर रहे हैं, जिससे समान नुकसान का आरोप लगाने वाले अन्य लोगों को मामले में शामिल होने की अनुमति मिल सके।

जेन डो 4 की फाइलिंग में कष्टप्रद विशिष्टताओं का एक नामित सेट जोड़ा गया है: एक बचपन की तस्वीर, कथित तौर पर हजारों अपमानजनक व्युत्पन्न उत्पन्न करने के लिए इस्तेमाल किया जाने वाला एक एआई उपकरण, और एक पारिवारिक त्रासदी जो अधिकारियों द्वारा सामग्री की खोज के कुछ दिनों के भीतर सामने आई।

टेकक्रंच ने कहा कि उसने टिप्पणी के लिए एक्सएआई से संपर्क किया है। आरोप चल रहे नागरिक मुकदमे में दावे हैं और अदालत में साबित नहीं हुए हैं। यदि आप या आपका कोई परिचित संकट में है, तो संयुक्त राज्य अमेरिका में 988 आत्महत्या और संकट लाइफलाइन पर 988 पर कॉल या टेक्स्ट द्वारा संपर्क किया जा सकता है।

ग्रोक पर दबाव का एक पैटर्न

ग्रोक की छवि निर्माण क्षमताओं की एक वर्ष से चल रही गहन जांच के बीच यह मुकदमा दायर किया गया। इस साल की शुरुआत में, एक्स लाखों ग्रोक-जनरेटेड कामुक छवियों से भर गया था, एक ऐसा प्रकरण जिसने टूल के आसपास सुरक्षा उपायों की व्यापक आलोचना की। इस प्रकरण ने तथाकथित "न्यूडीफाई" अनुप्रयोगों और गैर-सहमति वाली सिंथेटिक इमेजरी को लक्षित करने वाले राज्य-स्तरीय कानून की लहर को बढ़ावा देने में मदद की; ऐसे उपकरणों पर मिनेसोटा का प्रतिबंध तब प्रभावी हुआ जब एक न्यायाधीश ने इसके प्रवर्तन को रोकने के लिए निषेधाज्ञा के लिए एक्सएआई के अनुरोध को अस्वीकार कर दिया।

टेनेसी मामले का दायरा xAI से आगे तक फैला हुआ है। वादी का तर्क है कि बड़े पैमाने पर छवि निर्माण उपकरण तैनात करने वाली कंपनियों का कर्तव्य है कि वे तकनीकी सुरक्षा उपाय बनाएं जो उत्पादों के जनता तक पहुंचने से पहले वास्तविक, पहचाने जाने योग्य लोगों - और विशेष रूप से बच्चों - के यौन शोषण को रोकें। यह तर्क, यदि अदालत द्वारा स्वीकार कर लिया जाता है, तो एक कानूनी मानक स्थापित किया जा सकता है जो छवि-पीढ़ी मॉडल के प्रत्येक प्रदाता तक पहुंचता है।

उद्योग की अनसुलझी समस्या

एआई कंपनियों के लिए, वास्तविक लोगों के खिलाफ छवि जनरेटर के दुरुपयोग को रोकना बेहद कठिन साबित हुआ है। वॉटरमार्किंग और उद्गम उपकरण - जैसे कि एंथ्रोपिक ने यूरोपीय संघ के पारदर्शिता नियमों का अनुपालन करने के लिए क्लाउड आउटपुट में जोड़ना शुरू किया - तथ्य के बाद सिंथेटिक सामग्री की पहचान करने में मदद कर सकते हैं, लेकिन वे पहली बार में अपमानजनक सामग्री की पीढ़ी को नहीं रोकते हैं। इनपुट और आउटपुट फ़िल्टर ज्ञात पैटर्न को अवरुद्ध कर सकते हैं, लेकिन निर्धारित उपयोगकर्ता लगातार वर्कअराउंड ढूंढते रहते हैं, और ओपन-वेट छवि मॉडल ने कुछ क्षमताओं को पूरी तरह से याद करना असंभव बना दिया है।

एक्सएआई मामले में आरोप उस स्पेक्ट्रम के सबसे गंभीर अंत की ओर इशारा करते हैं: यह दावा कि दुनिया की सबसे प्रमुख एआई कंपनियों में से एक द्वारा संचालित टूल का उपयोग करके एक बच्चे की एक तस्वीर को हजारों स्पष्ट छवियों में बदला जा सकता है, जो ग्रोक को उपभोक्ता उत्पाद के रूप में लाखों ग्राहकों के लिए विपणन करती है।

मामले पर नज़र रखने वाले कानूनी विशेषज्ञों का कहना है कि वर्ग कार्रवाई बोली यह परीक्षण करेगी कि क्या अदालतें ऐसे दुरुपयोग को रोकने में विफलताओं को उत्पाद दोष के रूप में मानती हैं जिसके लिए एआई कंपनियां उत्तरदायी हैं - या व्यक्तिगत उपयोगकर्ताओं द्वारा दुरुपयोग के रूप में जो कंपनियों की ज़िम्मेदारी से बाहर है।

आगे क्या होगा

वादी का तात्कालिक लक्ष्य वर्ग प्रमाणन है, जो xAI के खिलाफ संभावित दावेदारों के पूल का नाटकीय रूप से विस्तार करेगा। अपनी ओर से, xAI ने संबंधित मुकदमे में तर्क दिया है कि दुरुपयोग की जिम्मेदारी उपयोगकर्ताओं की है, उपकरण की नहीं। जेन डो 4 के शामिल होने से, एक बच्चे को कथित तौर पर नुकसान पहुँचाने के गंभीर विवरण के साथ, उस बचाव के आसपास सार्वजनिक और राजनीतिक दबाव बढ़ जाता है।

यह मामला तब सामने आ रहा है जब संयुक्त राज्य अमेरिका और यूरोप में नियामक जेनेरिक एआई के लिए पारदर्शिता दायित्वों और सुरक्षा मानकों पर बहस कर रहे हैं, और जैसे-जैसे सबूत जमा हो रहे हैं कि छवि-पीढ़ी का दुरुपयोग फ्रिंज टूल तक ही सीमित नहीं है। चाहे जवाब अदालत में आए, कानून में, या स्वयं एआई कंपनियों के इंजीनियरिंग विकल्पों में, मुकदमे का केंद्रीय प्रश्न - एआई उत्पाद जहाजों से पहले कितना नुकसान की रोकथाम का निर्माण किया जाना चाहिए - उद्योग की सबसे असुविधाजनक खुली समस्या बनी हुई है।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →