एडिनबर्ग विश्वविद्यालय स्थित वैश्विक बाल सुरक्षा संस्थान, चाइल्डलाइट के आंकड़ों के अनुसार, जेनेरिक एआई से जुड़ी बाल यौन शोषण सामग्री की रिपोर्टें 2023 में लगभग 4,700 से बढ़कर 2025 में 400,000 से अधिक हो गई हैं - दो वर्षों में 8,400% से अधिक की वृद्धि।

ये आंकड़े सोमवार, 16 नवंबर को चाइल्डलाइट के 2026 इनटू द लाइट इंडेक्स के हिस्से के रूप में प्रकाशित किए गए थे और द गार्जियन द्वारा रिपोर्ट किए गए थे। वे उन रेफरल का प्रतिनिधित्व करते हैं जो प्रौद्योगिकी कंपनियों ने यूएस नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (एनसीएमईसी) के साथ दायर किए हैं - जो कि प्लेटफार्मों द्वारा पता लगाए गए और रिपोर्ट किए गए की गिनती है, न कि प्रचलन में मौजूद हर चीज की जनगणना। यह उछाल अब तक का सबसे स्पष्ट मात्रात्मक संकेत है कि जेनरेटिव एआई दुरुपयोग, जिसे लंबे समय से उद्योग द्वारा क्षितिज पर एक जोखिम के रूप में वर्णित किया गया है, ऑनलाइन बाल शोषण रिपोर्टिंग की सबसे बड़ी श्रेणियों में से एक बन गया है, जो कि प्लेटफ़ॉर्म सुरक्षा और विनियमन के चल रहे [ब्रेकिंग एआई समाचार कवरेज] (https://aibuzzwire.news) में प्रलेखित बदलाव है।

4,700 से 400,000 रेफरल तक

सूचकांक उन रिपोर्टों को ट्रैक करता है जो प्रौद्योगिकी कंपनियों को अपनी सेवाओं पर संदिग्ध बाल यौन शोषण सामग्री का पता चलने पर कानूनी रूप से एनसीएमईसी को भेजने की आवश्यकता होती है। 2023 में लगभग 4,700 रेफरल से 2025 में 400,000 से अधिक की छलांग लगभग इसी अवधि में छवि जनरेटर और सस्ते फाइन-ट्यूनिंग टूल के उपभोक्ता रोलआउट पर निर्भर करती है।

शीर्षक आंकड़ा ही प्रचलन में एकमात्र संख्या नहीं है। एनसीएमईसी ने अलग से कहा है कि उसकी साइबर टिपलाइन को 2025 के जनवरी और सितंबर के बीच दस लाख से अधिक जेनेरेटिव-एआई-संबंधित रिपोर्टें प्राप्त हुईं - जो कुल मिलाकर 400,000 चाइल्डलाइट उद्धरणों से अधिक है, जो दोनों गणनाओं के दायरे में अंतर को दर्शाता है। दो डेटासेट ओवरलैपिंग लेकिन अलग-अलग चीजों को मापते हैं, और दोनों एक ही दिशा को इंगित करते हैं।

असली बच्चों के न्यूडिफाई ऐप्स और डीपफेक

चाइल्डलाइट की रिपोर्ट तथाकथित न्यूडिफाई ऐप्स के विकास पर भी प्रकाश डालती है, जो स्पष्ट इमेजरी पर बच्चे के चेहरे को रखने के लिए जेनरेटिव एआई का उपयोग करते हैं। तस्वीरें सिंथेटिक हैं, लेकिन नुकसान नहीं है: तस्वीरें वास्तविक बच्चों को दर्शाती हैं, अपराधियों के बीच साझा की जाती हैं, और नाबालिगों को ब्लैकमेल करने और उत्पीड़न के लिए तेजी से उपयोग की जाती हैं।

गार्जियन की रिपोर्ट के अनुसार, चाइल्डलाइट के डेटा निदेशक प्रोफेसर डेबी फ्राई ने कहा कि जिस गति से एआई बच्चों के लिए खतरे को बदल रहा है वह बेहद चिंताजनक है। चिंता अब काल्पनिक क्षमता नहीं बल्कि औद्योगिक पैमाने पर उत्पादन की है: 2023 में जिस प्रयास और कौशल की आवश्यकता थी, उसके लिए अब केवल ऐप स्टोर डाउनलोड की आवश्यकता है।

निगरानीकर्ता क्या खोज रहे हैं

स्वतंत्र आकलन समस्या के पैमाने की पुष्टि करते हैं। इंटरनेट वॉच फ़ाउंडेशन, यूके वॉचडॉग जो सीधे रिपोर्ट की गई सामग्री का आकलन करता है, ने 6,310 एआई-जनरेटेड छवियां पाईं जो 2026 की पहली छमाही में बाल यौन शोषण की कानूनी परिभाषा को पूरा करती थीं - 2025 की तुलना में 40% अधिक।

वीडियो का प्रक्षेपवक्र अभी भी तीव्र है। IWF ने 2025 में 3,440 AI-जनित बाल यौन शोषण वीडियो की पहचान की, जो 2024 में केवल 13 से अधिक है, और उनमें से 65% श्रेणी ए में थे, जो यूके कानून के तहत सबसे गंभीर ग्रेड था। एक ही वर्ष में 13 से 3,440 तक की छलांग दर्शाती है कि उपकरण स्थिर छवियों से गतिशील वीडियो में तेजी से स्थानांतरित हो गए हैं, जितना कि पहचान प्रणाली अनुकूलित कर सकती है।

विनियमन पकड़ने के लिए दौड़ रहा है

ब्रिटेन अब तक सबसे आगे निकल चुका है। सरकार की अपनी फैक्टशीट के अनुसार, अपराध और पुलिसिंग अधिनियम 2026 के तहत, बाल दुर्व्यवहार सामग्री उत्पन्न करने के लिए डिज़ाइन किए गए एआई टूल को रखना, बनाना या वितरित करना अब एक आपराधिक अपराध है, जिसमें पांच साल तक की जेल की सजा हो सकती है। वही कानून नग्नीकरण उपकरण बनाने या आपूर्ति करने को अपराध मानता है - एक प्रावधान जिसका उद्देश्य सीधे तौर पर ऐप डेवलपर्स को निशाना बनाना है।

बाकी जगहों पर तस्वीर पतली है. चाइल्डलाइट के सूचकांक में पाया गया कि जिन 103 देशों की उसने जांच की उनमें से केवल 22 के पास ऑफ़लाइन और प्रौद्योगिकी-सुविधा वाले बाल दुर्व्यवहार दोनों को कवर करने वाला व्यापक सर्वेक्षण डेटा है, जिसका अर्थ है कि अधिकांश सरकारें विश्वसनीय आधार रेखा के बिना कानून बना रही हैं। संस्थान सख्त ऑनलाइन सुरक्षा कानून, बेहतर डेटा संग्रह, प्रौद्योगिकी क्षेत्र से अधिक जवाबदेही और पहले रोकथाम कार्य की मांग कर रहा है।

रिपोर्टिंग पाइपलाइन समस्या

संख्याओं की व्याख्या करते समय एक सीमा मायने रखती है: डेटा रिपोर्ट की गई सामग्री के स्रोत के रूप में विशिष्ट मॉडल या प्लेटफ़ॉर्म का नाम नहीं देता है। सुझाव प्रौद्योगिकी कंपनियों से आते हैं जो अपनी सेवाओं को स्कैन करते हैं और जो पाते हैं उसकी रिपोर्ट करते हैं - जिसका अर्थ है कि जो कंपनी स्कैन नहीं करती वह रिपोर्ट तैयार नहीं करती है। जैसा कि गार्जियन की रिपोर्टिंग में कहा गया है, जांच-आधारित रिपोर्टिंग एक पतली तरह की सुरक्षा है, और आंकड़ों का अगला सेट दिखाएगा कि कौन सी कंपनियां वास्तव में तलाश कर रही हैं।

एआई उद्योग के लिए, सूचकांक का संदेश स्पष्ट है। जेनरेटर टूल का दुरुपयोग अब मॉडल कार्ड के जोखिम अनुभाग में प्रक्षेपण नहीं है; यह बही-खाते की सबसे बड़ी पंक्ति है, और जिन कंपनियों के मॉडल और ऐप्स ने दुरुपयोग को सस्ता बना दिया है, उनसे इसके लिए भुगतान करने के लिए कहा जाने वाला है - प्रवर्तन कार्यों में, अनुपालन लागतों में और कानून में।

एआई से आगे रहें

एआई सुरक्षा और विनियमन पर चल रही बहस पर नज़र रखें। अधिक AI समाचार पढ़ें →