WIRED के साथ साझा किए गए और मंगलवार को प्रकाशित गैर-लाभकारी टेक ट्रांसपेरेंसी प्रोजेक्ट के शोध के अनुसार, कंपनी द्वारा ठीक उसी तरह की सामग्री का पता लगाने और उसे ब्लॉक करने के लिए डिज़ाइन किए गए नए AI टूल लॉन्च करने के बाद कुछ हफ्तों में मेटा के प्लेटफार्मों पर बाल यौन शोषण सामग्री वाले 250 से अधिक अतिरिक्त विज्ञापन चले। यह निष्कर्ष कंपनी के इस दावे को कमजोर करता है कि उसकी एआई-संचालित विज्ञापन स्क्रीनिंग ने काफी हद तक अंतर को कम कर दिया है, और यह तब आया है जब कानून निर्माताओं का कहना है कि वे जांच करने की योजना बना रहे हैं।

नए आंकड़े पहले के खुलासे का विस्तार करते हैं। WIRED की पिछली रिपोर्टिंग के बाद, पिछले महीने, मेटा ने फेसबुक, इंस्टाग्राम और थ्रेड्स पर पोस्ट किए गए लगभग 50 विज्ञापनों को हटा दिया, जिनमें सीधे तौर पर बाल यौन शोषण सामग्री शामिल थी। उस समय, कंपनी ने कहा था कि अधिकांश अपमानजनक विज्ञापन नए एआई डिटेक्शन टूल तैनात करने से पहले प्रकाशित किए गए थे। अपेक्षित गिरावट के बजाय, शोधकर्ताओं का कहना है कि उन्हें हाल के सप्ताहों में सैकड़ों और विज्ञापन मिले - जिनमें कुछ ऐसे विज्ञापन भी शामिल हैं जिन्हें मेटा ने अभी हटाया था। प्लेटफ़ॉर्म सुरक्षा और [नवीनतम एआई समाचार] (https://aibuzzwire.news) के निरंतर कवरेज के लिए, एआई बज़ वायर का अनुसरण करें।

असफलता का पैमाना

कुल मिलाकर, टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं ने पिछले साल के अंत से फेसबुक, इंस्टाग्राम, मैसेंजर, थ्रेड्स और मेटा के व्यापक विज्ञापन नेटवर्क तक मेटा के प्लेटफॉर्म पर चल रहे 350 से अधिक अपमानजनक वीडियो विज्ञापनों का दस्तावेजीकरण किया है। समूह द्वारा पहचाने गए 53 विज्ञापनों के शुरुआती सेट के विपरीत, नए बैच में पूरी तरह से सिंथेटिक के बजाय वास्तविक बच्चों की छवियां शामिल थीं। WIRED ने पुष्टि की कि एक स्रोत छवि यूरोपीय शाही परिवार की आधिकारिक वेबसाइट से आई है; शोधकर्ताओं का कहना है कि परिवार के एक नाबालिग सदस्य की आधिकारिक तौर पर जारी की गई तस्वीर को छेड़छाड़ करके एक यौन कृत्य को दर्शाने वाला वीडियो बना दिया गया। शोधकर्ता पीड़िता की सुरक्षा के लिए शाही व्यक्ति का नाम नहीं ले रहे हैं और कहते हैं कि उन्होंने संबंधित देश के अधिकारियों से संपर्क किया।

समूह की निदेशक केटी पॉल ने WIRED को बताया कि समस्या AI-जनरेटेड इमेजरी तक सीमित नहीं है। उन्होंने कहा, "हम यहां जिस बारे में बात कर रहे हैं वह केवल एआई-जनित बाल यौन शोषण सामग्री नहीं है," उन्होंने कहा, ऐसा लगता है कि कई छवियां विज्ञापनों में इस्तेमाल होने से पहले खुले वेब से ली गई हैं। "इस सब से बहुत नुकसान हो सकता है जबकि मेटा इस प्रक्रिया में पैसा कमा रहा है।" शोधकर्ताओं ने चार नाबालिगों की वास्तविक दुनिया की पहचान की जिनकी छवियों का उपयोग विज्ञापनों में किया गया था।

नग्नीकरण ऐप्स में एक फ़नल

रिपोर्टिंग के अनुसार, विज्ञापन एक सुसंगत पैटर्न का पालन करते हैं। कई लोग एक किशोर या किशोर लड़की की एक अहानिकर तस्वीर पर खुलते हैं - शोधकर्ताओं ने केवल एक लड़के को चित्रित किया है - जो पाठ के साथ मढ़ा हुआ है, जिसमें घोषणा की गई है कि छवि "सिर्फ एक तस्वीर नहीं है" और इसके साथ क्या किया जा सकता है, इस पर "कोई प्रतिबंध नहीं" है। जब लघु वीडियो चलता है, तो बच्चे का चेहरा एक स्पष्ट वीडियो में बदल जाता है। क्लिक करने से एआई फेस-स्वैपिंग और "न्यूडिफिकेशन" ऐप ऐप्पल और गूगल के ऐप स्टोर में उपलब्ध हो जाते हैं, जिनमें से कई चीनी डेवलपर्स से जुड़े हैं। WIRED ने मेटा के प्लेटफ़ॉर्म पर वयस्कों को चित्रित करने वाले सैकड़ों संबंधित नग्नीकरण विज्ञापनों की अलग से पहचान की।

धीमी समीक्षाएं और गायब खुलासे

मेटा की नीतियां बताती हैं कि कंपनी अपने प्लेटफ़ॉर्म पर चलने वाले सभी विज्ञापनों की समीक्षा करती है और विज्ञापनों ने बाल शोषण, वयस्क शोषण और नग्नता पर उसके नियमों का उल्लंघन किया है। व्यवहार में, शोधकर्ताओं ने बताया, कंपनी के स्वयं के टूल के माध्यम से रिपोर्ट किए गए लाइव विज्ञापनों की समीक्षा करने में कभी-कभी मेटा को एक सप्ताह तक का समय लग जाता है - जिसके दौरान WIRED द्वारा समीक्षा किए गए स्क्रीनशॉट के अनुसार, विज्ञापनों ने सैकड़ों अतिरिक्त दृश्य जमा किए। जब कुछ विज्ञापन हटा दिए गए, तो उनके हटाए गए रिकॉर्ड में शुरू में कोई खुलासा नहीं हुआ कि उन्होंने कंपनी की बाल यौन शोषण नीतियों का उल्लंघन किया है; वे विवरण WIRED द्वारा मेटा से विसंगति के बारे में पूछने के बाद ही सामने आए।

शोधकर्ताओं ने पाए गए प्रत्येक विज्ञापन की सूचना नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन की साइबर टिपलाइन और मेटा के रिपोर्टिंग टूल के माध्यम से दी। मेटा की अपनी विज्ञापन लाइब्रेरी से पता चलता है कि विज्ञापन सामूहिक रूप से यूरोपीय संघ के देशों में 29,000 से अधिक खातों और यूनाइटेड किंगडम में लगभग 7,000 खातों में प्रदर्शित किए गए थे, जिनमें से 250 से अधिक संयुक्त राज्य अमेरिका में, 120 ऑस्ट्रेलिया में और 80 भारत में प्रदर्शित हुए थे - आंकड़े जो कुल पहुंच को कम कर सकते हैं, क्योंकि कुछ देशों में विस्तृत विज्ञापन प्रदर्शन डेटा की कमी है।

मेटा प्रतिक्रिया देता है

मेटा ने निष्कर्षों के महत्व को पीछे धकेल दिया। कंपनी के प्रवक्ता ट्रेसी क्लेटन ने WIRED को बताया, "हम न्यूडिफाई ऐप्स या किसी भी प्रकार के बाल शोषण को बर्दाश्त नहीं करते हैं, चाहे वह वास्तविक हो या एआई-जनरेटेड।" उन्होंने कहा कि कंपनी ने पहले अपनी न्यूडिफिकेशन नीतियों का उल्लंघन करने के लिए सैकड़ों हजारों विज्ञापन हटा दिए हैं। मेटा ने कहा कि शोधकर्ताओं ने पाया कि उनमें से कई विज्ञापन पहले ही हटा दिए गए थे, जिनमें से अधिकांश को 200 से कम इंप्रेशन प्राप्त हुए थे, और उन्होंने विज्ञापन भुगतान में 5,000 डॉलर से कम एकत्र किया था। कंपनी ने यह भी कहा कि एआई-जनरेटेड वीडियो में वयस्कों को दिखाया गया है जबकि नाबालिगों से जुड़े क्लिप संक्षिप्त या धुंधले थे, जिससे पता लगाना अधिक कठिन हो गया और यह एनसीएमईसी को बाल शोषण सामग्री की रिपोर्ट करता है।

कानून निर्माता और नियामक आगे बढ़ें

कई कानून निर्माता और नियामक अब कहते हैं कि वे WIRED की रिपोर्टिंग के बाद विज्ञापनों की जांच कर रहे हैं या उन पर गौर कर रहे हैं। वर्जीनिया के सीनेटर मार्क वार्नर, जिन्होंने पहले की रिपोर्टिंग के बाद मेटा के सीईओ मार्क जुकरबर्ग को एक पत्र भेजा था, ने कहा कि "यह निराशाजनक है कि मेटा उनके ध्यान में लाए जाने के बाद भी बाल यौन शोषण सामग्री और गैर-सहमति वाली अंतरंग छवियों वाले विज्ञापन चलाना जारी रखता है।" मिशिगन के अटॉर्नी जनरल ने कहा कि कार्यालय "सक्रिय रूप से मामले को देख रहा है", फ्लोरिडा के अटॉर्नी जनरल ने पोस्ट किया कि उनका कार्यालय जांच कर रहा है, और ऑस्ट्रेलिया के ईसेफ्टी नियामक ने कहा कि वह "अत्यधिक चिंतित" है और उसने वरिष्ठ स्तर पर मेटा से जानकारी का अनुरोध किया है।

जांच से उस कंपनी पर दबाव बढ़ गया है जो पहले से ही $16.7 बिलियन तक का भुगतान कर रही है ताकि वह अपने सामाजिक नेटवर्क पर बच्चों को नुकसान पहुंचाने का आरोप लगाने वाले मुकदमों का निपटारा कर सके, और न्यू मैक्सिको अदालत के फैसले के खिलाफ अपील कर सके जिसके लिए उसे अपनी सीएसएएम रिपोर्टिंग प्रक्रियाओं में सुधार करने की आवश्यकता होगी। एआई उद्योग के लिए व्यापक सवाल यह है कि क्या स्वचालित मॉडरेशन दुरुपयोग के साथ तालमेल रख सकता है जो स्वयं तेजी से एआई-सहायता प्राप्त है - और सबूत है कि एक पहचान प्रणाली सैकड़ों उल्लंघनकारी विज्ञापनों को फिक्स के रूप में उद्धृत किए जाने के हफ्तों बाद पकड़ने में विफल रही, जो सीधे उन बहसों में शामिल होगी।

एआई से आगे रहें

नवीनतम एआई विकास और ब्रेकिंग आर्टिफिशियल इंटेलिजेंस समाचारों का अनुसरण करें क्योंकि नियामक और प्लेटफ़ॉर्म एआई-संचालित नुकसान से जूझ रहे हैं।

अधिक AI समाचार पढ़ें →