xAI ला प्रस्तावित वर्ग कारवाईचा सामना करावा लागत आहे ज्याने प्रथमच कंपनीवर तिच्या Grok मॉडेलना बाल लैंगिक शोषण सामग्रीवर प्रशिक्षण दिल्याचा आरोप केला आहे, वास्तविक आणि AI-व्युत्पन्न दोन्ही. बुधवारी दाखल केलेली आणि आर्स टेक्निकाने नोंदवलेली तक्रार, कंपनीच्या सर्व्हरवर संग्रहित अशा कोणत्याही सामग्रीचा न्यायालयीन आदेशानुसार नाश करण्याची आणि ग्रोक लैंगिक सामग्री कशी हाताळते यामधील व्यापक बदलांची मागणी करते.

दिवाणी खटल्यात केलेले आरोप सिद्ध न झालेले दावे आहेत. X, ज्याची मालकी xAI आहे, ने फाइलिंगवर टिप्पणीसाठी Ars Technica च्या विनंतीला प्रतिसाद दिला नाही. For more context on this story, see our ongoing more AI stories.

वादी आणि आरोप

जेन डो म्हणून ओळखल्या जाणाऱ्या फिर्यादीने तक्रारीत आरोप केला आहे की 2000 च्या दशकाच्या सुरुवातीस ती प्रीस्कूल वयाची पीडित होती जेव्हा तिच्या अत्याचाराच्या प्रतिमा तयार केल्या आणि ऑनलाइन विकल्या गेल्या. नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) आणि कॅनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन (CCCP) द्वारे राखलेल्या हॅश सूचीमध्ये त्या प्रतिमा बर्याच काळापासून कॅटलॉग केल्या गेल्या आहेत, ज्या संस्था ओळखल्या जाणाऱ्या गैरवर्तन सामग्रीचा शोध आणि काढणे सक्षम करण्यासाठी ट्रॅक करतात.

तक्रारीनुसार, CCCP ने Doe ला सूचित केले की त्याने xAI च्या प्लॅटफॉर्मवर तिचे चित्रण करणारी AI-व्युत्पन्न गैरवर्तन सामग्री ओळखली आहे. तिच्या वकिलांनी एका प्रसिद्धीपत्रकात म्हटले आहे की तिच्या NCMEC हॅश लिस्ट एंट्रीशी जुळणारी सामग्री "Grok ची प्रतिमा आणि व्हिडिओ जनरेटिंग क्षमता तयार करण्यासाठी वापरल्या जाणाऱ्या डेटासेट xAI चा भाग होती." तक्रारीत पुढे असा आरोप करण्यात आला आहे की ऑनलाइन फोरमवर आढळलेल्या संदेशांमध्ये गुन्हेगार डोई आणि वारसा गैरवापर सामग्रीच्या इतर ज्ञात पीडितांच्या AI-व्युत्पन्न गैरवर्तन प्रतिमा तयार करण्यावर चर्चा करत असल्याचे दिसून आले.

कायदेशीर सिद्धांत: प्रशिक्षण डेटा, फक्त आउटपुट नाही

या फाइलिंगला xAI विरुद्धच्या आधीच्या खटल्यापेक्षा वेगळे काय आहे ते वैयक्तिक वापरकर्त्यांनी काय व्युत्पन्न केले यापेक्षा स्वतः मॉडेलवर केंद्रित आहे. तक्रारीत असा युक्तिवाद केला आहे की Grok च्या सेवा अटी X वरील सार्वजनिक पोस्ट आणि Grok च्या स्वतःच्या आउटपुटला डीफॉल्टनुसार प्रशिक्षण डेटा मानतात, सार्वजनिकपणे पोस्ट केलेली कोणतीही गोष्ट मॉडेलला प्रशिक्षण देण्यासाठी आणि सुधारण्यासाठी वापरल्या जाणाऱ्या पाइपलाइनमध्ये थेट फीड करते.

फाइलिंग मान्य करते की xAI त्याच्या प्रशिक्षण डेटामधून हिंसक सामग्री फिल्टर करते, परंतु कंपनीच्या अटी बाल लैंगिक शोषण सामग्री, गैर-सहमतीने अंतरंग प्रतिमा किंवा इतर प्रौढ सामग्री वगळलेल्या श्रेणींमध्ये येतात की नाही हे निर्दिष्ट करत नाहीत असा युक्तिवाद करते. तो असाही युक्तिवाद करतो की जिथे आक्षेपार्ह प्रतिमा काढल्या गेल्या तरीही, आधीच प्रशिक्षित मॉडेलवरील प्रशिक्षण उदाहरणाचा प्रभाव पूर्णपणे काढून टाकणे तांत्रिकदृष्ट्या कठीण आहे - आणि xAI ने सार्वजनिकरित्या तसे केल्याचा दावा केलेला नाही.

खटला काय शोधतो

प्रस्तावित वर्ग प्रमाणित असल्यास, तो प्रत्येक व्यक्तीचे प्रतिनिधित्व करेल ज्यांच्या बालपणीच्या प्रतिमा कथितपणे Grok सह गैरवर्तन सामग्री तयार करण्यासाठी वापरल्या गेल्या होत्या. खटला फेडरल चाइल्ड पोर्नोग्राफी कायदे आणि माशाच्या कायद्याची विनंती करतो, जे गैरवर्तन सामग्रीपासून वाचलेल्यांना त्याचे उत्पादन, ताबा आणि वितरण यावर दावा ठोकण्याचा अधिकार देतात.

"तिघेही गुन्हे आहेत, आणि xAI ने तिन्ही केले," डोच्या वकिलांपैकी एक मार्गारेट ई. मॅबी यांनी अर्स टेक्निकाने उद्धृत केलेल्या प्रेस रिलीजमध्ये म्हटले आहे.

आर्थिक नुकसानीच्या पलीकडे, Doe न्यायालयाला XAI ला Grok-व्युत्पन्न केलेली सर्व गैरवर्तन सामग्री नष्ट करण्याचे आदेश देण्यास सांगत आहे जे ते संग्रहित करत आहे आणि प्रशिक्षणासाठी वापरत आहे, आणि मॉडेलला कोणत्याही प्रकारचे लैंगिक आउटपुट तयार करण्यापासून प्रतिबंधित करण्यासाठी - अशी मागणी जी केवळ गैरवर्तन इमेजरीच नव्हे तर गैर-संमती नसलेली अंतरंग प्रतिमा आणि प्रौढ सामग्री म्हणून प्रचारित करणारी सार्वजनिक सामग्री आहे.

"डोई जवळजवळ दोन दशके जगली आहे हे जाणून घेतले की तिच्यासोबत घडलेल्या सर्वात वाईट गोष्टीच्या प्रतिमा ऑनलाइन भक्षकांमध्ये फिरत आहेत आणि ते कोणत्याही क्षणी पुनरुत्थान करू शकतात," डॉच्या आणखी एका वकील सारा लंडन यांनी प्रसिद्धीपत्रकात म्हटले आहे. "तिने सहन केलेल्या भयानक अत्याचाराच्या प्रतिमांवर जाणूनबुजून तिच्या मॉडेलना प्रशिक्षण देण्यासाठी xAI जबाबदार असणे आवश्यक आहे."

एक आरोहित कायदेशीर हिशेब

ग्रोकची प्रतिमा आणि व्हिडिओ क्षमतांवरील विस्तृत कायदेशीर लढाईत दाखल करणे ही नवीनतम आघाडी आहे. टेनेसीमधील एका वेगळ्या प्रकरणात, जेन डो 4 म्हणून ओळखल्या जाणाऱ्या एका महिलेने एका खटल्यात भाग घेतला आणि आरोप केला की ग्रोकसोबत बालपणीचा एकच फोटो तिच्या हजारो सुस्पष्ट प्रतिमा तयार करण्यासाठी वापरला गेला होता - आरोप एआय बझ वायरने या महिन्याच्या सुरुवातीला कव्हर केले होते. नियामक आणि न्यायालये समस्या किती लांब आहेत हे तपासत आहेत आणि काही Grok वापरकर्त्यांना त्यांनी व्युत्पन्न केलेल्या सामग्रीवर अटक केली आहे.

त्याच वेळी, xAI, त्याच्या वापरकर्त्यांविरुद्ध गुन्हा दाखल झाला आहे. पॉलिटिकोने या आठवड्यात नोंदवले की कंपनी पीडितांचे खटले वाढत असतानाही स्वतःच्या काही वापरकर्त्यांवर खटला भरत आहे, ही एक रणनीती आहे की प्लॅटफॉर्म किंवा त्यांना प्रवृत्त करणारे लोक एआय मॉडेल काय तयार करतात याची कायदेशीर जबाबदारी घेतात की नाही हे तपासते.

नवीन तक्रार प्रशिक्षण-डेटा प्रश्न त्या लढ्याच्या केंद्रस्थानी ठेवते. मॉडेलचे प्रशिक्षण संच वापरकर्त्यांना जे उत्पादन करण्यास सक्षम करते त्यासाठी उत्तरदायित्व निर्माण करू शकते हा युक्तिवाद न्यायालयाने मान्य केल्यास, परिणाम xAI च्या पलीकडे पोहोचतील — प्रत्येक जनरेटिव्ह इमेज आणि व्हिडिओ कंपनीला स्पर्श करणे ज्यांच्या अटी वापरकर्त्याच्या सामग्रीला प्रशिक्षणात परत आणतात. आत्तासाठी, आरोप इतकेच आहेत: फाइलिंग xAI मधील आरोपांना अद्याप न्यायालयात उत्तर दिलेले नाही.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →