सॅन फ्रान्सिस्कोच्या सिटी ॲटर्नीने Apple आणि Google ला त्यांच्या ॲप स्टोअरमधून कृत्रिम बुद्धिमत्ता न्युडिफिकेशन ॲप्स काढून टाकण्याचे आदेश दिले आहेत, चेतावणी दिली आहे की प्लॅटफॉर्म कॅलिफोर्नियाच्या कायद्यांचे उल्लंघन करत आहेत जे डीपफेक पोर्नोग्राफी तयार करणाऱ्या सेवांना प्रतिबंधित करतात. या मागणीमुळे AI टूल्सवर वाढता संघर्ष वाढतो जे वास्तविक लोकांच्या सामान्य फोटोंचे सुस्पष्ट प्रतिमांमध्ये रूपांतर करतात, एक संकट ज्याने महिला आणि मुलांचा अप्रमाणितपणे बळी घेतला आहे.
समस्येचे प्रमाण
न्युडिफिकेशन ॲप्स जनरेटिव्ह AI वापरतात ज्यामुळे वास्तविक लोकांच्या फोटोंमधून कपडे काढणे, त्यांची वैशिष्ट्ये बदलणे, त्यांना लैंगिक स्थितीत ठेवणे आणि इतर लोकांच्या नग्न शरीरावर चेहरे बदलणे सोपे आहे. मोबाईल ॲप स्टोअर्समध्ये तंत्रज्ञानाचा वेगाने प्रसार झाला आहे आणि परिणामांचा वापर पीडितांना धमकावण्यासाठी, अपमान करण्यासाठी आणि भयंकर परिणामांसाठी धमकावण्यासाठी केला जात आहे.
सॅन फ्रान्सिस्को सिटी ॲटर्नी डेव्हिड चिऊ यांनी वायर्डला सांगितले की त्यांचे कार्यालय नग्नीकरण तंत्रज्ञान किती सर्वव्यापी बनले आहे ते पाहून भयभीत झाले आहे, अधिकाधिक साधनांच्या बाजारपेठेत पूर आल्याने बहुतेक महिला आणि मुलांचा भयंकर प्रमाणात बळी गेला. ते म्हणाले, प्रतिमांचा उपयोग प्रतिष्ठा नष्ट करण्यासाठी, मानसिक आरोग्यास हानी पोहोचवण्यासाठी आणि स्वायत्ततेचा बळी घेण्यासाठी केला जातो, काही लक्ष्य आत्मघातकी बनतात.
पत्रांची काय मागणी आहे
वायर्डच्या म्हणण्यानुसार, चिऊच्या कार्यालयाने दोन्ही कंपन्यांना औपचारिक पत्रे पाठवून चेतावणी दिली की त्यांचे ॲप स्टोअर कॅलिफोर्नियाच्या कायद्याचे उल्लंघन करत आहेत जे डीपफेक पोर्नोग्राफी तयार करणाऱ्या समर्थन सेवांना प्रतिबंधित करते. त्याने गुगलला पाच आणि ॲपलला आठ ॲप काढून टाकण्यास सांगितले. विशिष्ट ॲप्सना सार्वजनिक अहवालात नाव दिले गेले नाही जेणेकरून लोक त्यांच्याकडे जाऊ नयेत, परंतु वायर्डने नमूद केले की एका ध्वजांकित ॲपने एक दशलक्षाहून अधिक डाउनलोड जमा केले आहेत आणि स्त्रियांच्या प्रतिमांचे लैंगिकीकरण करण्यासाठी किंवा विनामूल्य आणि सेन्सॉर न केलेले व्हिडिओ तयार करण्यासाठी उघडपणे जाहिरात केलेली वैशिष्ट्ये आहेत.
Chiu च्या कार्यालयाने असा अंदाज लावला आहे की Apple आणि Google ने अधिक मजबूत कृती करण्याऐवजी किंवा चांगल्या शोध प्रणाली विकसित करण्याऐवजी हानिकारक ॲप्सना त्यांच्या स्टोअरमध्ये राहू देऊन लाखो डॉलर्सची फी कमावली आहे. अशा कोणत्याही ॲप्सला उपलब्ध राहण्याची परवानगी देणे अस्वीकार्य आहे असा युक्तिवाद करून शहराच्या वकीलाने परिस्थिती सार्वजनिक उपद्रवातून नफा मिळवून दिली आहे.
गुगलने प्रतिसाद दिला, ॲपल शांत राहते
Ars Technica ला दिलेल्या निवेदनात, Google चे प्रवक्ते डॅन जॅक्सन यांनी पुष्टी केली की चिऊने ध्वजांकित केलेले पाच ॲप्स हानिकारक सामग्रीविरूद्ध धोरणांचे उल्लंघन केल्याबद्दल Google Play Store वरून निलंबित करण्यात आले होते. जॅक्सन म्हणाले की Google Play लैंगिक सामग्री असलेल्या ॲप्सना परवानगी देत नाही आणि हानिकारक सामग्री असलेले ॲप्स शोधण्यासाठी आणि काढून टाकण्यासाठी कंपनी सतत सक्रिय पावले उचलते. जेव्हा उल्लंघनाची तक्रार केली जाते, तेव्हा जॅक्सन म्हणाले, Google तपास करते आणि त्वरीत कारवाई करते, ज्यामध्ये शेकडो उल्लंघन करणारे ॲप्स निलंबित करणे आणि त्याच्या स्टोअरवर नग्नीकरण सारख्या संबंधित शोध संज्ञा प्रतिबंधित करणे समाविष्ट आहे.
ऍपलचा प्रतिसाद स्पष्टपणे वेगळा आहे. कंपनीने भूतकाळात संशोधकांद्वारे ध्वजांकित केलेले काही ॲप्स काढून टाकले आहेत, परंतु त्याच्या ॲप स्टोअरमध्ये अधिक आक्रमकपणे पोलिस न्युडिफिकेशन ॲप्सना कॉल केल्यावर ते विशेषतः शांत राहिले आहे. आयफोन निर्मात्याने शहराच्या वकिलांच्या मागण्यांना त्वरित तपशीलवार सार्वजनिक प्रतिसाद दिला नाही.
मांजर आणि उंदीर शोधण्याचा खेळ
या ॲप्सचे पोलिसिंग करण्याचे आव्हान त्यांच्या विकसित रणनीतींमुळे वाढले आहे. वायर्डने अहवाल दिला आहे की संशोधकांनी अलीकडे चेतावणी दिली आहे की काही हानिकारक ॲप्स त्यांच्या नग्न क्षमता लपवून केवळ फेस-स्वॅपिंग वैशिष्ट्यांची जाहिरात करून ॲप स्टोअर काढून टाकणे टाळण्यात चांगले झाले आहेत. मेच्या प्रीप्रिंट पेपरमध्ये, संशोधकांनी जेनेरिक फेस-स्वॅपिंग टूल्स म्हणून मार्केट केलेले 420 ॲप्स ओळखले आणि त्यापैकी 155 ची चाचणी केली. 70 टक्क्यांहून अधिक प्रकरणांमध्ये, ॲप्सचा वापर प्रतिमांचे लैंगिकीकरण करण्यासाठी केला जाऊ शकतो, जे निरुपद्रवी मार्केटिंगच्या मागे किती सहज हानिकारक कार्यक्षमता लपते हे दर्शविते.
या डिटेक्शन गॅपचा अर्थ असा आहे की ॲप स्टोअर्स सक्रियपणे न्युडिफाई टूल्स शोधत असतानाही, बरेच जण स्वतःला निरुपद्रवी मनोरंजन किंवा फोटो-एडिटिंग सॉफ्टवेअर म्हणून सादर करून पुढे सरकतात. संशोधकांचे निष्कर्ष असे सूचित करतात की प्रचलित समस्याग्रस्त ॲप्सची खरी संख्या चिऊच्या कार्यालयाने ध्वजांकित केलेल्या तेरापेक्षा जास्त आहे.
द ग्रॉक प्रेसिडेंट
न्युडिफाय ॲप क्रॅकडाउन देखील AI-व्युत्पन्न हानिकारक सामग्रीवरील व्यापक वादविवादाला छेद देतो. या आठवड्यात, xAI ने एक खटला दाखल केला ज्याची पुष्टी केली की त्याला Grok-व्युत्पन्न बाल लैंगिक शोषण सामग्री आणि प्रौढांना लक्ष्य करणारी असहमत अंतरंग प्रतिमांची उदाहरणे आढळली आहेत. गैरवापराचे निराकरण करण्यासाठी, xAI ने ग्रोकला बेकायदेशीर सामग्री तयार करण्यास प्रवृत्त करण्यासाठी जबाबदार असलेल्या वापरकर्त्यावर खटला दाखल केला.
ग्रोक प्रकरणाने ॲप स्टोअरसाठी एक काटेरी प्रश्न उपस्थित केला आहे: बेकायदेशीर सामग्री तयार करण्यासाठी सूचित केले जाऊ शकणारे AI चॅटबॉट्स स्वतःच काढून टाकण्याच्या अधीन असावेत का. ऍपलने एप्रिलमध्ये सिनेटर्सना सांगितले की, एनबीसी न्यूजनुसार, ऍप स्टोअरमधून ग्रोक काढून टाकण्याची खाजगीरित्या धमकी दिली होती, परंतु xAI ॲप आज उपलब्ध आहे. जोपर्यंत बेकायदेशीर सामग्री व्युत्पन्न करण्यासाठी Grok वापरणे शक्य आहे तोपर्यंत, ॲप स्टोअरवर कारवाई करण्यासाठी दबाव येत राहील, ज्याप्रमाणे Chiu ने स्टँडअलोन न्युडिफिकेशन ॲप्सची मागणी केली होती.
प्लॅटफॉर्म उत्तरदायित्वासाठी एक टर्निंग पॉइंट
सॅन फ्रान्सिस्को ऑर्डर AI-व्युत्पन्न हानिकारक सामग्रीवर ॲप स्टोअरला लक्ष्य करण्यासाठी आजपर्यंतच्या सर्वात आक्रमक सरकारी हस्तक्षेपांपैकी एक आहे. कॅलिफोर्नियाच्या डीपफेक पोर्नोग्राफी कायद्यांचा वापर करून, चिऊ राज्य कायदे प्लॅटफॉर्म ऑपरेटरना त्यांच्या मार्केटप्लेसद्वारे वितरीत केलेल्या एआय टूल्सची जबाबदारी घेण्यास भाग पाडू शकतात का याची चाचणी करत आहे.
इतर अधिकारक्षेत्रे या समस्येकडे कशा प्रकारे संपर्क साधतात आणि एआय-व्युत्पन्न असहमतीच्या प्रतिमेचा भार डेव्हलपर, प्लॅटफॉर्म ऑपरेटर किंवा दोघांवर पडतो की नाही याचा परिणाम हा एक उदाहरण सेट करू शकतो. लाखो लोकांसाठी, प्रामुख्याने स्त्रिया आणि मुली, ज्यांना या साधनांनी लक्ष्य केले आहे, नियामक सिद्धांताच्या पलीकडे दावे आहेत.
AI च्या पुढे रहा
AI आचारसंहिता, प्लॅटफॉर्म उत्तरदायित्व आणि हानिकारक सिंथेटिक मीडियावरील नियामक लढायांच्या चालू कव्हरेजसाठी, समाजावर AI चा परिणाम घडवणाऱ्या समस्यांवर अहवाल देण्यासाठी AI Buzz Wire चे अनुसरण करा.
अधिक एआय नीतिशास्त्र बातम्या वाचा →
