एक्सएआई को एक प्रस्तावित वर्ग कार्रवाई का सामना करना पड़ रहा है, जिसमें पहली बार कंपनी पर वास्तविक और एआई-जनित दोनों तरह की बाल यौन शोषण सामग्री पर अपने ग्रोक मॉडल को प्रशिक्षित करने का आरोप लगाया गया है। शिकायत, बुधवार को दायर की गई और Ars Technica द्वारा रिपोर्ट की गई, कंपनी के सर्वर पर संग्रहीत ऐसी किसी भी सामग्री को अदालत के आदेश से नष्ट करने और ग्रोक द्वारा कामुक सामग्री को संभालने के तरीके में व्यापक बदलाव की मांग की गई है।
ये आरोप नागरिक मुकदमेबाजी में किए गए अप्रमाणित दावे बने हुए हैं। एक्स, जो एक्सएआई का मालिक है, ने फाइलिंग पर टिप्पणी के लिए एर्स टेक्निका के अनुरोध का जवाब नहीं दिया। For more context on this story, see our ongoing AI trends.
वादी और आरोप
वादी, जिसकी पहचान जेन डो के रूप में हुई है, ने शिकायत में आरोप लगाया है कि वह 2000 के दशक की शुरुआत में पूर्वस्कूली उम्र की पीड़िता थी जब उसके दुर्व्यवहार की तस्वीरें बनाई गईं और ऑनलाइन बेची गईं। उन छवियों को लंबे समय से नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) और कैनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन (सीसीसीपी) द्वारा बनाए गए हैश सूचियों में सूचीबद्ध किया गया है, जो संगठन ज्ञात दुरुपयोग सामग्री को ट्रैक करने और हटाने में सक्षम बनाने के लिए ट्रैक करते हैं।
शिकायत के अनुसार, सीसीसीपी ने डो को सूचित किया कि उसने एक्सएआई के प्लेटफॉर्म पर उसे चित्रित करने वाली एआई-जनित दुर्व्यवहार सामग्री की पहचान की है। उनके वकीलों ने एक प्रेस विज्ञप्ति में कहा कि उनकी एनसीएमईसी हैश सूची प्रविष्टियों से मेल खाने वाली सामग्री "ग्रोक की छवि और वीडियो निर्माण क्षमताओं के निर्माण के लिए उपयोग किए जाने वाले डेटासेट xAI का हिस्सा थी।" शिकायत में आगे आरोप लगाया गया है कि ऑनलाइन मंचों पर पाए गए संदेशों में अपराधियों को डो और विरासती दुरुपयोग सामग्री के अन्य ज्ञात पीड़ितों की एआई-जनित दुर्व्यवहार छवियों के निर्माण पर चर्चा करते हुए दिखाया गया है।
कानूनी सिद्धांत: प्रशिक्षण डेटा, न कि केवल आउटपुट
इस फाइलिंग को एक्सएआई के खिलाफ पहले की मुकदमेबाजी से जो अलग करता है, वह व्यक्तिगत उपयोगकर्ताओं द्वारा उत्पन्न किए गए के बजाय मॉडल पर ही ध्यान केंद्रित करना है। शिकायत में तर्क दिया गया है कि क्योंकि ग्रोक की सेवा की शर्तें एक्स और ग्रोक के स्वयं के आउटपुट पर सार्वजनिक पोस्ट को डिफ़ॉल्ट रूप से प्रशिक्षण डेटा के रूप में मानती हैं, सार्वजनिक रूप से पोस्ट की गई कोई भी चीज़ सीधे मॉडल को प्रशिक्षित करने और सुधारने के लिए उपयोग की जाने वाली पाइपलाइन में फ़ीड होती है।
फाइलिंग में स्वीकार किया गया है कि xAI अपने प्रशिक्षण डेटा से हिंसक सामग्री को फ़िल्टर करता है, लेकिन तर्क देता है कि कंपनी की शर्तें यह निर्दिष्ट नहीं करती हैं कि बाल यौन शोषण सामग्री, गैर-सहमति वाली अंतरंग छवि, या अन्य वयस्क सामग्री बहिष्कृत श्रेणियों में आती है या नहीं। यह भी तर्क दिया गया है कि जहां आपत्तिजनक छवियां हटा दी जाती हैं, वहां पहले से प्रशिक्षित मॉडल पर प्रशिक्षण उदाहरण के प्रभाव को पूरी तरह से हटाना तकनीकी रूप से मुश्किल है - और एक्सएआई ने सार्वजनिक रूप से ऐसा करने का दावा नहीं किया है।
##मुकदमा क्या चाहता है
यदि प्रस्तावित वर्ग प्रमाणित है, तो यह प्रत्येक व्यक्ति का प्रतिनिधित्व करेगा जिनकी बचपन की छवियों का कथित तौर पर ग्रोक के साथ दुर्व्यवहार सामग्री उत्पन्न करने के लिए उपयोग किया गया था। मुकदमा संघीय बाल पोर्नोग्राफी कानूनों और माशा कानून का आह्वान करता है, जो दुरुपयोग सामग्री से बचे लोगों को इसके उत्पादन, कब्जे और वितरण पर मुकदमा करने का अधिकार देता है।
डो के वकीलों में से एक मार्गरेट ई. मैबी ने एर्स टेक्निका द्वारा उद्धृत प्रेस विज्ञप्ति में कहा, "ये तीनों अपराध हैं, और एक्सएआई ने तीनों को अंजाम दिया।"
मौद्रिक क्षति के अलावा, डो अदालत से एक्सएआई को आदेश देने के लिए कह रहा है कि वह सभी ग्रोक-जनित दुर्व्यवहार सामग्री को नष्ट कर दे, जिसे वह प्रशिक्षण के लिए संग्रहीत और उपयोग कर सकता है, और मॉडल को किसी भी प्रकार के कामुक आउटपुट उत्पन्न करने से रोक सकता है - एक ऐसी मांग जो न केवल दुरुपयोग की कल्पना को रोक देगी, बल्कि गैर-सहमति वाली अंतरंग कल्पना और वयस्क सामग्री को भी रोक देगी जिसे एलोन मस्क ने सार्वजनिक रूप से सुविधाओं के रूप में प्रचारित किया है।
डो की एक अन्य वकील सारा लंदन ने प्रेस विज्ञप्ति में कहा, "डो यह जानते हुए लगभग दो दशकों से जीवित है कि उसके साथ हुई सबसे बुरी चीज़ की तस्वीरें शिकारियों के बीच ऑनलाइन प्रसारित हो रही हैं, और वे किसी भी क्षण फिर से सामने आ सकती हैं।" "एक्सएआई को जानबूझकर अपने मॉडलों को उसके साथ हुए भयानक दुर्व्यवहार की छवियों के बारे में प्रशिक्षित करने के लिए जिम्मेदार ठहराया जाना चाहिए।"
एक बढ़ती कानूनी गणना
ग्रोक की छवि और वीडियो क्षमताओं पर व्यापक कानूनी लड़ाई में फाइलिंग नवीनतम मोर्चा है। टेनेसी में एक अलग मामले में, जेन डो 4 के रूप में पहचानी जाने वाली एक महिला एक मुकदमे में शामिल हुई, जिसमें आरोप लगाया गया कि ग्रोक के साथ उसकी बचपन की एक तस्वीर का इस्तेमाल उसकी हजारों स्पष्ट छवियां बनाने के लिए किया गया था - आरोप एआई बज़ वायर ने इस महीने की शुरुआत में कवर किया था। नियामक और अदालतें इस बात की जाँच कर रही हैं कि समस्याएँ कितनी दूर तक फैली हुई हैं, और कुछ ग्रोक उपयोगकर्ताओं को उनके द्वारा उत्पन्न सामग्री के कारण गिरफ्तार किया गया है।
उसी समय, xAI अपने उपयोगकर्ताओं के खिलाफ आक्रामक हो गया है। पोलिटिको ने इस सप्ताह रिपोर्ट दी कि कंपनी अपने ही कुछ उपयोगकर्ताओं पर मुकदमा कर रही है, जबकि पीड़ित मुकदमे बढ़ रहे हैं, एक रणनीति जो परीक्षण करती है कि क्या प्लेटफ़ॉर्म या उन्हें प्रेरित करने वाले लोग एआई मॉडल के उत्पादन के लिए कानूनी ज़िम्मेदारी लेते हैं।
नई शिकायत प्रशिक्षण-डेटा प्रश्न को उस लड़ाई के केंद्र में रखती है। यदि अदालतें इस तर्क को स्वीकार करती हैं कि किसी मॉडल का प्रशिक्षण सेट उपयोगकर्ताओं को जो उत्पादन करने में सक्षम बनाता है, उसके लिए दायित्व पैदा कर सकता है, तो निहितार्थ xAI से कहीं आगे तक पहुंच जाएंगे - प्रत्येक जेनरेटर छवि और वीडियो कंपनी को छूते हुए जिनकी शर्तें उपयोगकर्ता सामग्री को प्रशिक्षण में वापस भेजती हैं। अभी के लिए, आरोप बस यही हैं: एक फाइलिंग में लगाए गए आरोपों का xAI ने अभी तक अदालत में जवाब नहीं दिया है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
