वॉशिंग्टन पोस्टमधील एका अहवालाचा हवाला देत टेकक्रंचने शनिवारी सांगितले की, जेन डो 4 या नावाने न्यायालयात दाखल करण्यात आलेल्या एका महिलेने इलॉन मस्कच्या xAI विरुद्ध कंपनीच्या चॅटबॉट ग्रोकने बाल लैंगिक शोषण सामग्री तयार करण्यात कथित भूमिका बजावल्याबद्दल खटल्यात सामील झाले आहे.

महिलेने आरोप केला आहे की तिच्या सावत्र वडिलांनी तिच्या 7,000 हून अधिक स्पष्ट प्रतिमा तयार करण्यासाठी 11 वर्षांची असताना घेतलेल्या छायाचित्रात फेरफार करण्यासाठी ग्रोकचा वापर केला. कायद्याची अंमलबजावणी करणाऱ्या छाप्यात प्रतिमा उघड झाल्यानंतर दोन दिवसांनी तिचा सावत्र पिता आत्महत्या केल्याचे आढळून आल्याचे तिने सांगितले. For more context on this story, see our ongoing AI trends.

"या साधनांचा अमर्याद प्रवेश इतक्या लवकर पसरत आहे," स्त्री म्हणाली. "हे दैनंदिन जीवन घेत आहे आणि ते बाल लैंगिक अत्याचारात बदलत आहे."

मुख्य प्रवाहातील AI चॅटबॉट आणि वास्तविक मुलाची लैंगिक प्रतिमा तयार करणे यांचा समावेश असलेला हा खटला आजपर्यंतचा सर्वात गंभीर आरोप आहे आणि तो एक खटला वाढवतो जो AI प्रतिमा निर्मितीसाठी रेलिंगवरील वादविवादाचा केंद्रबिंदू बनला आहे.

खटल्यातील मूळ दावे

हा खटला मूळतः तीन टेनेसी किशोरांनी दाखल केला होता ज्यांनी xAI - जो आता SpaceX चा भाग आहे - Grok ला अल्पवयीनांसह वास्तविक लोकांच्या स्पष्ट प्रतिमा तयार करण्यासाठी वापरण्यापासून रोखण्यासाठी मूलभूत खबरदारी घेण्यात अपयशी ठरल्याचा आरोप केला होता. फिर्यादी वर्ग कृती स्थिती शोधत आहेत, जे समान हानीचा आरोप करणाऱ्या इतरांना केसमध्ये सामील होण्यास अनुमती देईल.

जेन डो 4 च्या फायलींगमध्ये त्रासदायक तपशीलांचा एक नामांकित संच जोडला गेला आहे: एक बालपणीचा फोटो, हजारो अपमानास्पद डेरिव्हेटिव्ह्ज तयार करण्यासाठी कथितपणे वापरलेले AI साधन आणि अधिकाऱ्यांनी सामग्री शोधल्याच्या काही दिवसांतच उघडकीस आणलेली कौटुंबिक शोकांतिका.

टेकक्रंचने सांगितले की ते टिप्पणीसाठी xAI कडे पोहोचले. हे आरोप चालू दिवाणी खटल्यातील दावे आहेत आणि न्यायालयात सिद्ध झालेले नाहीत. तुम्ही किंवा तुमच्या ओळखीचे कोणी संकटात असल्यास, युनायटेड स्टेट्समधील 988 सुसाइड अँड क्रायसिस लाइफलाइनला 988 वर कॉल किंवा मजकूर पाठवून संपर्क साधला जाऊ शकतो.

Grok वर दबाव एक नमुना

ग्रोकच्या प्रतिमा-जनरेशन क्षमतेच्या वाढत्या छाननीच्या एका वर्षाच्या दरम्यान खटला दाखल झाला. या वर्षाच्या सुरुवातीला, X ला लाखो Grok-व्युत्पन्न लैंगिक प्रतिमांनी पूर आला होता, एक भाग ज्याने टूलच्या आसपासच्या सुरक्षिततेवर व्यापक टीका केली होती. या भागाने तथाकथित "नग्नीकरण" ऍप्लिकेशन्स आणि असहमती सिंथेटिक प्रतिमांना लक्ष्य करणाऱ्या राज्य-स्तरीय कायद्याच्या लाटेला मदत केली; अशा साधनांवर मिनेसोटाची बंदी लागू झाली जेव्हा न्यायाधीशाने xAI ची अंमलबजावणी अवरोधित करण्यासाठी मनाई आदेशाची विनंती नाकारली.

टेनेसी खटल्याचा भाग xAI च्या पलीकडे विस्तारला आहे. वादी असा युक्तिवाद करतात की मोठ्या प्रमाणावर प्रतिमा-निर्मिती साधने उपयोजित करणाऱ्या कंपन्यांना उत्पादने लोकांपर्यंत पोहोचण्यापूर्वी वास्तविक, ओळखण्यायोग्य लोकांचे - आणि विशेषत: मुलांचे - लैंगिकीकरणास प्रतिबंध करणारे तांत्रिक सुरक्षा उपाय तयार करणे कर्तव्य आहे. हा युक्तिवाद, न्यायालयाने स्वीकारल्यास, प्रतिमा-जनरेशन मॉडेलच्या प्रत्येक प्रदात्यापर्यंत पोहोचणारे कायदेशीर मानक स्थापित करू शकते.

उद्योगाचा न सुटलेला प्रश्न

एआय कंपन्यांसाठी, वास्तविक लोकांविरुद्ध प्रतिमा जनरेटरचा गैरवापर रोखणे जिद्दीने कठीण झाले आहे. वॉटरमार्किंग आणि प्रोव्हेन्स टूल्स — जसे की एन्थ्रोपिकने EU पारदर्शकता नियमांचे पालन करण्यासाठी क्लॉड आउटपुटमध्ये जोडण्यास सुरुवात केली — वस्तुस्थिती नंतर सिंथेटिक सामग्री ओळखण्यात मदत करू शकते, परंतु ते प्रथम स्थानावर अपमानास्पद सामग्रीची निर्मिती थांबवत नाहीत. इनपुट आणि आउटपुट फिल्टर ज्ञात नमुने अवरोधित करू शकतात, परंतु निर्धारित वापरकर्ते सतत उपाय शोधतात आणि ओपन-वेट इमेज मॉडेल्सने काही क्षमता पूर्णपणे लक्षात ठेवणे अशक्य केले आहे.

xAI प्रकरणातील आरोप त्या स्पेक्ट्रमच्या सर्वात गंभीर टोकाकडे निर्देश करतात: एका लहान मुलाच्या एका फोटोचे हजारो सुस्पष्ट प्रतिमांमध्ये रूपांतरित केले जाऊ शकते असा दावा जगातील सर्वात प्रख्यात AI कंपन्यांपैकी एकाद्वारे ऑपरेट केलेल्या टूलचा वापर करून, जी Grok ला ग्राहक उत्पादन म्हणून लाखो ग्राहकांना मार्केट करते.

या प्रकरणानंतर कायदेतज्ज्ञांचे म्हणणे आहे की क्लास ॲक्शन बिड चाचणी करेल की न्यायालये अशा गैरवापर टाळण्यासाठी AI कंपन्या जबाबदार असलेल्या उत्पादनातील दोष - किंवा वैयक्तिक वापरकर्त्यांद्वारे गैरवापर म्हणून वागतात की नाही ते कंपनीच्या जबाबदारीच्या बाहेर येते.

पुढे काय येईल

वादींचे तात्काळ लक्ष्य हे वर्ग प्रमाणीकरण आहे, जे xAI विरुद्ध संभाव्य दावेदारांचा पूल नाटकीयरित्या विस्तारित करेल. त्याच्या भागासाठी, xAI ने संबंधित खटल्यात असा युक्तिवाद केला आहे की गैरवापराची जबाबदारी वापरकर्त्यांची आहे, साधनाची नाही. जेन डो 4 ची जोडणी, लहान मुलाच्या कथित हानीच्या त्याच्या स्पष्ट खात्यासह, त्या संरक्षणाभोवती सार्वजनिक आणि राजकीय दबाव वाढवते.

युनायटेड स्टेट्स आणि युरोपमधील नियामकांनी जनरेटिव्ह एआयसाठी पारदर्शक दायित्वे आणि सुरक्षा मानकांवर वादविवाद केल्याने हे प्रकरण उघड होत आहे आणि पुरावे जमा झाले आहेत की प्रतिमा-जनरेशनचा गैरवापर केवळ फ्रिंज टूल्सपुरता मर्यादित नाही. उत्तर न्यायालयात, कायदे किंवा स्वतः AI कंपन्यांच्या अभियांत्रिकी निवडींमध्ये आलेले असोत, खटल्याचा मध्यवर्ती प्रश्न - एआय उत्पादन जहाजे करण्यापूर्वी किती हानी रोखणे आवश्यक आहे - ही उद्योगाची सर्वात अस्वस्थ खुली समस्या आहे.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →