कॉमन सेंस मीडिया द्वारा एक व्यापक सुरक्षा समीक्षा ने निष्कर्ष निकाला है कि टीन्स मोड के लिए ओपनएआई का चैटजीपीटी 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए "अस्वीकार्य जोखिम" पैदा करता है - वॉचडॉग समूह की सबसे खराब रेटिंग - अंतर्निहित सुरक्षा के वादे के साथ उत्पाद लॉन्च होने के दो महीने से भी कम समय के बाद। जैसा कि एनपीआर ने रिपोर्ट किया है, समूह ने पाया कि अधिकांश मोड के विज्ञापित सुरक्षा उपाय उसके परीक्षण में किए गए वादे के अनुसार काम नहीं करते हैं।

यह निष्कर्ष ओपनएआई के लिए एक संवेदनशील क्षण में आया है, जिसने अगस्त में कम उम्र के उपयोगकर्ताओं के लिए माता-पिता के नियंत्रण और सख्त रेलिंग के साथ एक समर्पित अनुभव के रूप में किशोरों के लिए चैटजीपीटी लॉन्च किया था। हमारे पहले के कवरेज ने प्रलेखित किया कि एआई उद्योग युवा सुरक्षा को आगे बढ़ाता है और खींचता है; नई रिपोर्ट इस बात का पहला प्रमुख स्वतंत्र ऑडिट है कि किशोर मोड की सुरक्षा व्यवहार में है या नहीं।

कॉमन सेंस मीडिया ने क्या परीक्षण किया

सिनक्लेयर ब्रॉडकास्ट ग्रुप के द नेशनल न्यूज डेस्क और फास्ट कंपनी के कवरेज के अनुसार, ग्रुप के यूथ एआई सेफ्टी इंस्टीट्यूट के शोधकर्ताओं ने टीन मोड के लॉन्च से पहले और बाद में 4,000 से अधिक संकेतों का परीक्षण किया। समूह अनुशंसा करता है कि OpenAI किशोर मोड का विपणन रोक दे और किशोरों को ChatGPT का उपयोग करने से तब तक रोके जब तक कि कंपनी "सुरक्षित, विकासात्मक रूप से उपयुक्त अनुभव" विकसित न कर ले।

संगठन की उत्पाद समीक्षा में कहा गया है, "चैटजीपीटी की कुछ विज्ञापित सुरक्षाएं हमारे परीक्षण तक टिकी रहीं, जिसमें स्पष्ट यौन भूमिका से इनकार भी शामिल है।" "लेकिन अन्य विफल रहे - और कुछ नए टीन मोड के साथ खराब हो गए। हमें चिंता है कि किशोरों के लिए चैटजीपीटी माता-पिता को उन रेलिंगों पर झूठा विश्वास दिला सकता है जो अक्सर काम नहीं करती हैं।"

माता-पिता की चेतावनियाँ जो सक्रिय नहीं हुईं

रिपोर्ट की सबसे महत्वपूर्ण खोज में माता-पिता की अधिसूचना प्रणाली शामिल है। शोधकर्ताओं ने एक दर्जन से अधिक खाते बनाए जो किशोरावस्था की स्वयं-रिपोर्ट करते थे और माता-पिता के खाते से जुड़े हुए थे, फिर चैटबॉट को उन वार्तालापों में शामिल किया जिनमें आत्मघाती विचारों, आत्म-नुकसान, या अव्यवस्थित खान-पान के स्पष्ट संदर्भ थे। खाते काल्पनिक व्यक्तित्वों पर बनाए गए थे।

रिपोर्ट के अनुसार, परीक्षकों को इन संदर्भों को बनाने वाले नए खातों से कोई अभिभावकीय अलर्ट नहीं मिला। अलर्ट केवल उन अन्य खातों के लिए आए, जिनमें समान विषयों को कवर करने वाले कई सप्ताहों की बातचीत का इतिहास था - एक अंतर जो बताता है कि अधिसूचना प्रणाली किसी दिए गए वार्तालाप में एक किशोर द्वारा प्रकट की गई गंभीरता की तुलना में संचित संदर्भ पर अधिक निर्भर करती है।

समीक्षा में यह भी पाया गया कि किशोरों के लिए चैटजीपीटी चार में से एक से अधिक मामलों में चूक गया, जिसमें मानसिक स्वास्थ्य संकट रेफरल की आवश्यकता थी, जैसा कि लाइसेंस प्राप्त बाल मानसिक स्वास्थ्य पेशेवरों के एक पैनल ने किया था, जिन्होंने संकेतों की समीक्षा की थी।

स्कूलवर्क रेलिंग 'बाईपास करना आसान'

संकट का पता लगाने के अलावा, वॉचडॉग ने पाया कि छात्रों को स्कूल के काम में धोखा देने के लिए चैटबॉट का उपयोग करने से रोकने के उद्देश्य से बनाई गई सुविधा को पूरी तरह से बायपास करना या अक्षम करना आसान था।

कॉमन सेंस मीडिया के संस्थापक और सीईओ जिम स्टेयेर ने द नेशनल न्यूज़ डेस्क द्वारा रिपोर्ट की गई टिप्पणियों में कहा, "आप उनसे आपके लिए एक पेपर, आपके लिए एक परिष्कृत पेपर लिखने के लिए कह सकते हैं और यह ऐसा करेगा, और यह आपको यह भी बताएगा कि इस तरह से कैसे संपादित किया जाए कि आपके शिक्षक को पता न चले।" "तो इसलिए, यह सीखने में हस्तक्षेप कर रहा है। यह बुनियादी प्रक्रिया में हस्तक्षेप कर रहा है और बच्चों को स्वयं काम करना पड़ रहा है।"

परीक्षण में सामग्री रेलिंग, आयु पूर्वानुमान और ब्रेक अनुस्मारक भी अप्रभावी पाए गए। एक व्यापक रूप से उद्धृत डेटा बिंदु: ओपनएआई ने कहा है कि औसत किशोर उपयोगकर्ता चैटजीपीटी पर प्रति दिन 15 मिनट से कम खर्च करता है। लेकिन प्रति दिन लगातार तीन घंटे से अधिक समय बिताने वाले किशोरों के एक छोटे हिस्से में - 2 प्रतिशत से भी कम उपयोगकर्ता - लगभग आधे ने ब्रेक रिमाइंडर प्राप्त करने के पांच मिनट के भीतर अपनी बातचीत समाप्त कर दी, जिससे पता चलता है कि नोक-झोंक के कारण विस्तारित सत्र शायद ही कभी बाधित होते हैं।

OpenAI कार्यप्रणाली पर ज़ोर देता है

ओपनएआई ने रिपोर्ट पर प्रतिक्रिया देते हुए एक बयान में कहा कि वह किशोरों की सुरक्षा के लिए "गहराई से प्रतिबद्ध" है और उसने अपने द्वारा बनाए गए सुरक्षा उपायों और माता-पिता को दिए जाने वाले उपकरणों की ओर इशारा किया।

ओपनएआई के एक प्रवक्ता ने कहा, "हम कठोर स्वतंत्र मूल्यांकन का स्वागत करते हैं, लेकिन हमें विश्वास नहीं है कि कॉमन सेंस मीडिया का परीक्षण सटीक रूप से दर्शाता है कि चैटजीपीटी के किशोर सुरक्षा उपाय व्यवहार में कैसे काम करते हैं या एआई किशोरों का समर्थन कैसे कर सकता है।" कंपनी ने कहा कि समूह की कार्यप्रणाली की समीक्षा से पता चला है कि "उनके अधिकांश परीक्षण माता-पिता के नियंत्रण की सक्रियता पूरी होने से पहले शुरू और समाप्त हो गए होंगे, जिससे उनके निष्कर्ष गलत हो गए," उन्होंने कहा कि ऐसे परीक्षण यह स्थापित नहीं करेंगे कि माता-पिता की सुरक्षा सूचनाएं डिजाइन के अनुसार काम करती हैं या नहीं।

स्टेयेर ने कहा कि उनका संगठन निष्कर्षों के बारे में ओपनएआई के संपर्क में था, जैसा कि उत्पाद मूल्यांकन के दौरान इसका मानक अभ्यास है, और परिणामों पर कायम है। "हम अपने शोध और परीक्षण की गुणवत्ता और इस तथ्य के पीछे 100% खड़े हैं कि हमने इस उत्पाद को 'अस्वीकार्य जोखिम' करार दिया है," उन्होंने कहा, ऑटोमोटिव सुरक्षा की तुलना करते हुए: "अगर कार क्रैश टेस्ट पास नहीं करती है तो आप उसे बाजार में नहीं उतारेंगे।"

एआई और माइनर्स पर बढ़ती स्पॉटलाइट

यह विवाद इस बात की गहन जांच के बीच सामने आया है कि एआई चैटबॉट युवा उपयोगकर्ताओं को कैसे प्रभावित करते हैं, स्कूल जिलों में आयु-सत्यापन आवश्यकताओं को ध्यान में रखते हुए कानून निर्माताओं तक पहुंच को प्रतिबंधित किया जा रहा है। इस तरह के स्वतंत्र ऑडिट एआई कंपनियों द्वारा अपने विपणन में किए गए युवा-सुरक्षा दावों के लिए एक वास्तविक परीक्षण मैदान बन रहे हैं।

दोनों पक्ष एक बात पर सहमत हैं: माता-पिता की अधिसूचना प्रणाली ही मूल है। यदि किसी नए किशोर के खाते में पहली बार खुद को नुकसान पहुंचाने के विचार आने पर अलर्ट विफल हो जाता है, तो सबसे महत्वपूर्ण सुरक्षा सुविधा उस समय विफल हो जाती है, जो सबसे अधिक मायने रखती है। OpenAI का कहना है कि परीक्षण त्रुटिपूर्ण था; कॉमन सेंस मीडिया का कहना है कि उत्पाद तैयार होने से पहले ही भेज दिया गया। नियामक और माता-पिता अब इस बात पर विचार करेंगे कि कौन सही है - और ओपनएआई को कमियों को ठीक करने या उत्पाद को वापस लेने के लिए बढ़ते दबाव का सामना करना पड़ रहा है।

एआई सुरक्षा, नीति और उन्हें आकार देने वाले एआई उद्योग विकास के अधिक कवरेज के लिए, इस कहानी के विकसित होते ही आगे बढ़ें।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →