WIRED सोबत शेअर केलेल्या आणि मंगळवारी प्रकाशित झालेल्या नानफा टेक पारदर्शकता प्रकल्पाच्या संशोधनानुसार, कंपनीने नेमक्या अशा प्रकारची सामग्री शोधण्यासाठी आणि ब्लॉक करण्यासाठी डिझाइन केलेली नवीन AI टूल्स आणल्यानंतर काही आठवड्यांत बाल लैंगिक अत्याचार सामग्री असलेल्या 250 हून अधिक अतिरिक्त जाहिराती Meta च्या प्लॅटफॉर्मवर आल्या. या निष्कर्षाने कंपनीचा दावा कमी केला आहे की त्याच्या एआय-शक्तीच्या जाहिरात स्क्रीनिंगने मोठ्या प्रमाणात अंतर बंद केले आहे आणि ते तपासण्याची योजना करत असल्याचे कायदेकर्त्यांचे म्हणणे आहे.
नवीन आकडेवारी पूर्वीच्या प्रकटीकरणाचा विस्तार करते. गेल्या महिन्यात, मेटाने फेसबुक, इंस्टाग्राम आणि थ्रेड्सवर पोस्ट केलेल्या अंदाजे 50 जाहिराती हटवल्या ज्यात थेट बाल लैंगिक शोषण सामग्रीचा समावेश होता, वायर्डने मागील अहवालानंतर. त्या वेळी, कंपनीने सांगितले की नवीन एआय शोध साधने तैनात करण्यापूर्वी बहुतेक अपमानास्पद जाहिराती प्रकाशित केल्या गेल्या होत्या. अपेक्षित घट होण्याऐवजी, संशोधकांचे म्हणणे आहे की त्यांना अलिकडच्या आठवड्यात आणखी शेकडो जाहिराती सापडल्या आहेत - ज्यात काही Meta ने नुकत्याच काढल्या होत्या. प्लॅटफॉर्म सुरक्षिततेच्या सतत कव्हरेजसाठी आणि ताज्या AI बातम्या, AI Buzz Wire ला फॉलो करा.
अपयशाचे प्रमाण
एकूण, टेक पारदर्शकता प्रकल्पातील संशोधकांनी फेसबुक, इंस्टाग्राम, मेसेंजर, थ्रेड्स आणि मेटाच्या व्यापक जाहिरात नेटवर्कवर पसरलेल्या, गेल्या वर्षाच्या अखेरीपासून मेटाच्या प्लॅटफॉर्मवर चालणाऱ्या 350 हून अधिक अपमानास्पद व्हिडिओ जाहिरातींचे दस्तऐवजीकरण केले आहे. गटाने ओळखलेल्या 53 जाहिरातींच्या सुरुवातीच्या संचाच्या विपरीत, नवीन बॅचमध्ये पूर्णपणे सिंथेटिक जाहिरातींऐवजी खऱ्या मुलांच्या प्रतिमांचा समावेश होता. वायर्डने पुष्टी केली की एक स्रोत प्रतिमा युरोपियन राजघराण्याच्या अधिकृत वेबसाइटवरून आली आहे; संशोधकांचे म्हणणे आहे की कुटुंबातील अल्पवयीन सदस्याचे अधिकृतपणे प्रसिद्ध केलेले छायाचित्र लैंगिक कृत्य दर्शविणाऱ्या व्हिडिओमध्ये फेरफार करण्यात आले होते. संशोधक पीडितेचे रक्षण करण्यासाठी राजेशाहीचे नाव घेत नाहीत आणि म्हणतात की त्यांनी संबंधित देशातील अधिकाऱ्यांशी संपर्क साधला.
समूहाचे संचालक केटी पॉल यांनी WIRED ला सांगितले की समस्या केवळ AI-व्युत्पन्न इमेजरीपुरती मर्यादित नाही. "आम्ही येथे ज्याबद्दल बोलत आहोत ते केवळ AI-व्युत्पन्न बाल लैंगिक शोषण सामग्री नाही," ती म्हणाली, जाहिरातींमध्ये वापरण्यापूर्वी अनेक प्रतिमा ओपन वेबवरून घेतल्या गेल्या आहेत असे ती म्हणाली. "मेटा प्रक्रियेत पैसे कमवत असताना या सर्व गोष्टींपासून बरेच नुकसान होऊ शकते." संशोधकांनी चार अल्पवयीन मुलांची वास्तविक-जगातील ओळख ओळखली ज्यांच्या प्रतिमा जाहिरातींमध्ये वापरल्या गेल्या.
न्युडिफिकेशन ॲप्समध्ये एक फनेल
अहवालानुसार जाहिराती एक सुसंगत पॅटर्न फॉलो करतात. अनेकजण प्रीटीन किंवा किशोरवयीन मुलीच्या निरुपद्रवी चित्रावर उघडतात — संशोधकांना फक्त एकच मुलगा आढळला होता — ज्या मजकुरावर आच्छादित होता की ती प्रतिमा "फक्त एक फोटो नाही" आहे आणि त्यासोबत काय करता येईल यावर "कोणतेही बंधन नाही" आहे. जेव्हा लहान व्हिडिओ प्ले होतो, तेव्हा मुलाचा चेहरा स्पष्ट व्हिडिओमध्ये मॉर्फ केला जातो. क्लिक केल्याने AI फेस-स्वॅपिंग आणि "न्युडिफिकेशन" ॲप्स ऍपल आणि Google च्या ॲप स्टोअरमध्ये उपलब्ध आहेत, अनेक चीनी विकसकांशी जोडलेले आहेत. WIRED ने मेटाच्या प्लॅटफॉर्मवर प्रौढांचे चित्रण करणाऱ्या शेकडो संबंधित न्युडिफिकेशन जाहिराती स्वतंत्रपणे ओळखल्या.
संथ पुनरावलोकने आणि गहाळ खुलासे
Meta ची धोरणे सांगते की कंपनी तिच्या प्लॅटफॉर्मवर चालणाऱ्या सर्व जाहिरातींचे पुनरावलोकन करते आणि जाहिरातींनी मुलांचे शोषण, प्रौढ शोषण आणि नग्नता यावरील नियमांचे उल्लंघन केले आहे. व्यवहारात, संशोधकांनी नोंदवले की, कंपनीच्या स्वतःच्या साधनांद्वारे नोंदवल्या गेलेल्या थेट जाहिरातींचे पुनरावलोकन करण्यासाठी मेटाला काहीवेळा एक आठवडा लागला — ज्या दरम्यान जाहिरातींनी शेकडो अतिरिक्त दृश्ये जमा केली, WIRED द्वारे पुनरावलोकन केलेल्या स्क्रीनशॉटनुसार. जेव्हा काही जाहिराती काढून टाकल्या गेल्या तेव्हा, त्यांच्या काढून टाकण्याच्या रेकॉर्डमध्ये सुरुवातीला कंपनीच्या बाल लैंगिक शोषण धोरणांचे उल्लंघन केल्याचे कोणतेही प्रकटीकरण नव्हते; वायर्डने मेटाला विसंगतीबद्दल विचारल्यानंतरच ते तपशील दिसून आले.
संशोधकांनी त्यांना आढळलेल्या प्रत्येक जाहिरातीचा अहवाल नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन्स सायबरटिपलाइन आणि मेटा रिपोर्टिंग टूल्सद्वारे नोंदवला. Meta ची स्वतःची जाहिरात लायब्ररी दाखवते की संपूर्ण युरोपियन युनियन देशांमधील 29,000 पेक्षा जास्त खात्यांवर आणि युनायटेड किंगडममधील सुमारे 7,000 खात्यांवर एकत्रितपणे जाहिराती प्रदर्शित केल्या गेल्या आहेत, ज्यात 250 हून अधिक युनायटेड स्टेट्समध्ये, 120 ऑस्ट्रेलियामध्ये आणि 80 भारतात दिसत आहेत - काही देशांमध्ये जाहिरातींच्या कार्यप्रदर्शनाचा दाट डेटा नसल्यामुळे एकूण पोहोच कमी करणारे आकडे.
मेटा प्रतिसाद देतो
मेटा ने निष्कर्षांचे महत्त्व मागे ढकलले. कंपनीच्या प्रवक्त्या ट्रेसी क्लेटन यांनी वायर्डला सांगितले की, "आम्ही नग्न ॲप्स किंवा कोणत्याही प्रकारचे बाल शोषण सहन करत नाही, मग ते वास्तविक असो किंवा AI-व्युत्पन्न केले गेले," कंपनीच्या प्रवक्त्या ट्रेसी क्लेटन यांनी सांगितले की, कंपनीने यापूर्वी आपल्या नग्नीकरण धोरणांचे उल्लंघन केल्याबद्दल शेकडो हजारो जाहिराती काढून टाकल्या आहेत. मेटा म्हणाले की संशोधकांना आढळलेल्या अनेक जाहिराती आधीच काढून टाकल्या गेल्या आहेत, ज्यांना 200 पेक्षा कमी इंप्रेशन मिळाले आहेत आणि जाहिरात पेमेंटमध्ये $5,000 पेक्षा कमी जमा झाले आहेत. कंपनीने असेही म्हटले आहे की AI-व्युत्पन्न व्हिडिओंमध्ये प्रौढांचे वैशिष्ट्य आहे तर अल्पवयीन मुलांचा समावेश असलेल्या क्लिप संक्षिप्त किंवा अस्पष्ट होत्या, ज्यामुळे शोधणे अधिक कठीण होते आणि ते NCMEC ला बाल शोषण सामग्रीची तक्रार करते.
कायदेकर्ते आणि नियामकांची हालचाल
एकाधिक कायदेकर्ते आणि नियामक आता म्हणतात की ते WIRED च्या अहवालानंतर जाहिरातींची चौकशी करत आहेत किंवा शोधत आहेत. व्हर्जिनिया सिनेटचा सदस्य मार्क वॉर्नर, ज्याने मेटा सीईओ मार्क झुकरबर्ग यांना पूर्वीच्या अहवालानंतर एक पत्र पाठवले, ते म्हणाले की "हे निराशाजनक आहे की मेटा त्यांच्या लक्षात आणून दिल्यानंतर बाल लैंगिक शोषण सामग्री आणि असहमतीच्या अंतरंग प्रतिमा असलेल्या जाहिराती चालवत आहे." मिशिगनचे ऍटर्नी जनरल म्हणाले की कार्यालय "सक्रियपणे या प्रकरणाकडे लक्ष देत आहे," फ्लोरिडाच्या ऍटर्नी जनरलने पोस्ट केले की त्यांचे कार्यालय तपास करत आहे आणि ऑस्ट्रेलियाच्या ईसेफ्टी नियामकाने सांगितले की ते "अत्यंत चिंतित" आहे आणि त्यांनी मेटा कडून वरिष्ठ स्तरावर माहितीची विनंती केली आहे.
छाननीमुळे आधीच $16.7 बिलियन पर्यंत पैसे भरणा-या कंपनीवर तिच्या सोशल नेटवर्क्सने मुलांचे नुकसान केल्याचा आरोप करणाऱ्या खटल्यांचा निपटारा करण्यासाठी आणि न्यू मेक्सिको न्यायालयाच्या निर्णयाला अपील करण्यासाठी दबाव आणला आहे ज्यासाठी कंपनीने CSAM अहवाल प्रक्रिया सुधारणे आवश्यक आहे. AI उद्योगासाठी विस्तृत प्रश्न हा आहे की स्वयंचलित मॉडरेशन दुरुपयोगाशी गती राखू शकते का जो स्वतः AI-सहाय्यित आहे — आणि निदान प्रणाली थेट त्या वादविवादांमध्ये फीड करेल म्हणून उद्धृत केल्याच्या आठवड्यांनंतर शेकडो उल्लंघन करणाऱ्या जाहिराती पकडण्यात अपयशी ठरल्याचा पुरावा.
एआयच्या पुढे राहा
नवीनतम AI घडामोडींचे अनुसरण करा आणि नियामक आणि प्लॅटफॉर्म AI-शक्तीच्या हानीशी लढत असल्याने कृत्रिम बुद्धिमत्तेच्या बातम्यांचे अनुसरण करा.
अधिक एआय बातम्या वाचा →
