जनरेटिव्ह AI शी संबंधित बाल लैंगिक शोषण सामग्रीचे अहवाल 2023 मध्ये अंदाजे 4,700 वरून 2025 मध्ये 400,000 पेक्षा जास्त झाले आहेत - दोन वर्षांत 8,400% पेक्षा जास्त वाढ, चाइल्डलाइट, एडिनबर्ग विद्यापीठातील ग्लोबल चाइल्ड सेफ्टी इन्स्टिट्यूटच्या डेटानुसार.
चाइल्डलाइटच्या 2026 इनटू द लाइट इंडेक्सचा भाग म्हणून सोमवार, 16 नोव्हेंबर रोजी आकडेवारी प्रकाशित करण्यात आली आणि द गार्डियनने अहवाल दिला. ते तंत्रज्ञान कंपन्यांनी यूएस नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉयटेड चिल्ड्रन (NCMEC) कडे दाखल केलेल्या रेफरल्सचे प्रतिनिधित्व करतात — प्लॅटफॉर्मने काय शोधले आणि नोंदवले याची गणना, प्रचलित प्रत्येक गोष्टीची जनगणना नाही. वाढ हा सर्वात स्पष्ट परिमाणात्मक सिग्नल आहे की जनरेटिव्ह एआय दुरुपयोग, ज्याचे उद्योगाने क्षितिजावरील जोखीम म्हणून वर्णन केले आहे, हे ऑनलाइन बाल शोषण अहवालाच्या सर्वात मोठ्या श्रेणींपैकी एक बनले आहे, प्लॅटफॉर्म सुरक्षितता आणि नियमन चालू असलेल्या ब्रेकिंग एआय न्यूज कव्हरेज मध्ये दस्तऐवजीकरण केलेले बदल.
4,700 ते 400,000 रेफरल्स
इंडेक्स अहवालाचा मागोवा घेतो की तंत्रज्ञान कंपन्यांना त्यांच्या सेवांवर बाल लैंगिक शोषणाची संशयित सामग्री आढळल्यास NCMEC कडे पाठवणे कायदेशीररित्या आवश्यक आहे. 2023 मध्ये सुमारे 4,700 रेफरलवरून 2025 मध्ये 400,000 पेक्षा जास्त नकाशांवर आलेली उडी जवळजवळ त्याच कालावधीत इमेज जनरेटर आणि स्वस्त फाइन-ट्यूनिंग टूल्सच्या ग्राहक रोलआउटवर आहे.
मथळ्यातील आकृती ही एकमेव संख्या नाही. NCMEC ने स्वतंत्रपणे सांगितले आहे की त्यांच्या CyberTipline ला 2025 च्या जानेवारी ते सप्टेंबर दरम्यान एक दशलक्षाहून अधिक जनरेटिव्ह-AI-संबंधित अहवाल प्राप्त झाले आहेत - 400,000 चाइल्डलाइटच्या उद्धृतांपेक्षा मोठे आहेत, जे दोन संख्यांच्या व्याप्तीमध्ये फरक दर्शवतात. दोन डेटासेट आच्छादित परंतु वेगळ्या गोष्टी मोजतात आणि दोन्ही समान दिशा दर्शवतात.
खऱ्या मुलांचे नग्न ॲप्स आणि डीपफेक
चाइल्डलाइटचा अहवाल तथाकथित न्युडिफाई ॲप्सच्या वाढीवर देखील प्रकाश टाकतो, जे मुलाचा चेहरा स्पष्ट इमेजरीवर ठेवण्यासाठी जनरेटिव्ह एआय वापरतात. चित्रे सिंथेटिक आहेत, परंतु हानी नाही: प्रतिमा वास्तविक मुलांचे चित्रण करतात, गुन्हेगारांमध्ये सामायिक केल्या जातात आणि अल्पवयीन मुलांचा ब्लॅकमेल आणि छळ करण्यासाठी वाढत्या प्रमाणात वापरल्या जातात.
चाइल्डलाइटचे डेटा डायरेक्टर प्रोफेसर डेबी फ्राय यांनी सांगितले की, गार्डियनच्या अहवालानुसार एआय ज्या वेगाने मुलांसाठी धोका बदलत आहे ते अत्यंत चिंताजनक आहे. चिंतेची गोष्ट आता काल्पनिक क्षमता नसून औद्योगिक उत्पादनाची आहे: 2023 मध्ये जे प्रयत्न आणि कौशल्य आवश्यक आहे त्यासाठी आता फक्त ॲप स्टोअर डाउनलोड करणे आवश्यक आहे.
वॉचडॉग काय शोधत आहेत
स्वतंत्र मूल्यांकन समस्येचे प्रमाण पुष्टी करतात. इंटरनेट वॉच फाउंडेशन, यूके वॉचडॉग जे थेट रिपोर्ट केलेल्या सामग्रीचे मूल्यांकन करते, 2026 च्या पहिल्या सहामाहीत 6,310 AI-व्युत्पन्न केलेल्या प्रतिमा आढळल्या ज्या 2026 च्या पहिल्या सहामाहीत बाल लैंगिक शोषणाची कायदेशीर व्याख्या पूर्ण करतात - 2025 पेक्षा 40% जास्त.
व्हिडीओची वाटचाल अजून जास्त आहे. IWF ने 2025 मध्ये 3,440 AI-व्युत्पन्न बाल लैंगिक शोषणाचे व्हिडिओ ओळखले, जे 2024 मध्ये फक्त 13 होते आणि त्यापैकी 65% श्रेणी A मध्ये होते, यूके कायद्यानुसार सर्वात गंभीर श्रेणी. एका वर्षात 13 वरून 3,440 पर्यंत उडी मारणे हे दर्शवते की उपकरणे स्थिर प्रतिमांमधून व्हिडिओ हलविण्याकडे डिटेक्शन सिस्टीमशी जुळवून घेऊ शकतील त्यापेक्षा वेगाने हलवली गेली.
रेग्युलेशन हे पकडण्याची शर्यत आहे
यूके आतापर्यंत सर्वात पुढे गेले आहे. सरकारच्या स्वतःच्या तथ्यपत्रानुसार, गुन्हे आणि पोलीस कायदा 2026 अंतर्गत, बाल शोषण सामग्री तयार करण्यासाठी डिझाइन केलेली AI साधने बाळगणे, तयार करणे किंवा वितरित करणे हा आता फौजदारी गुन्हा आहे, ज्याला पाच वर्षांपर्यंत तुरुंगवासाची शिक्षा आहे. हाच कायदा न्युडिफिकेशन टूल्स बनवणे किंवा पुरवणे गुन्हेगार ठरवतो — ही तरतूद थेट त्यांच्यामागील ॲप डेव्हलपर्ससाठी आहे.
इतरत्र चित्र पातळ आहे. चाइल्डलाइटच्या निर्देशांकात असे आढळून आले की 103 देशांपैकी केवळ 22 देशांकडेच ऑफलाइन आणि तंत्रज्ञान-सुविधायुक्त बाल शोषणाचा समावेश असलेला सर्वसमावेशक सर्वेक्षण डेटा आहे, याचा अर्थ बहुतेक सरकारे विश्वासार्ह बेसलाइनशिवाय कायदा करत आहेत. संस्था कठोर ऑनलाइन सुरक्षा कायदे, चांगले डेटा संकलन, तंत्रज्ञान क्षेत्राकडून अधिक जबाबदारी आणि पूर्वीचे प्रतिबंधात्मक कार्य यासाठी आवाहन करत आहे.
रिपोर्टिंग पाइपलाइन समस्या
संख्यांचा अर्थ लावताना एक मर्यादा महत्त्वाची असते: डेटा विशिष्ट मॉडेल्स किंवा प्लॅटफॉर्मला अहवाल दिलेल्या सामग्रीचा स्रोत म्हणून नाव देत नाही. या टिप्स तंत्रज्ञान कंपन्यांकडून येतात ज्या त्यांच्या सेवा स्कॅन करतात आणि त्यांना काय सापडते याचा अहवाल देतात — म्हणजे स्कॅन न करणारी कंपनी अहवाल तयार करत नाही. डिटेक्शन-लेड रिपोर्टिंग, गार्डियनच्या रिपोर्टिंग नोट्सप्रमाणे, एक पातळ प्रकारची सुरक्षितता आहे आणि पुढील आकडेवारी दर्शवेल की कोणत्या कंपन्या प्रत्यक्षात शोधत आहेत.
एआय उद्योगासाठी, निर्देशांकाचा संदेश अस्पष्ट आहे. जनरेटिव्ह टूल्सचा गैरवापर आता मॉडेल कार्डच्या जोखीम विभागात प्रोजेक्शन नाही; ही लेजरमधील सर्वात मोठी ओळ आहे आणि ज्या कंपन्यांच्या मॉडेल्स आणि ॲप्सने गैरवापर स्वस्त केला आहे त्यांना त्यासाठी पैसे देण्यास सांगितले जाईल — अंमलबजावणी कृतींमध्ये, अनुपालन खर्चामध्ये आणि कायद्यानुसार.
एआयच्या पुढे राहा
AI सुरक्षितता आणि नियमन वरील वादविवाद जसजसे उलगडत जातील त्याचे अनुसरण करा. अधिक एआय बातम्या वाचा →
