कॉमन सेन्स मीडियाने केलेल्या विस्तृत सुरक्षा पुनरावलोकनातून असा निष्कर्ष काढण्यात आला आहे की OpenAI चे ChatGPT फॉर टीन्स मोड 18 वर्षाखालील वापरकर्त्यांसाठी "अस्वीकार्य जोखीम" बनवते — वॉचडॉग ग्रुपचे सर्वात वाईट रेटिंग — अंगभूत संरक्षणाच्या आश्वासनांसह उत्पादन लॉन्च झाल्यानंतर दोन महिन्यांपेक्षा कमी. NPR च्या अहवालानुसार, गटाला असे आढळले की मोडचे बहुतेक जाहिरात केलेले सुरक्षा उपाय त्याच्या चाचणीमध्ये वचन दिल्याप्रमाणे कार्य करत नाहीत.

हे निष्कर्ष OpenAI साठी एका संवेदनशील क्षणी आले, ज्याने अल्पवयीन वापरकर्त्यांसाठी एक समर्पित अनुभव म्हणून ऑगस्टमध्ये किशोरांसाठी ChatGPT लाँच केले, पालक नियंत्रणे आणि कठोर रेलिंगसह पूर्ण. आमच्या पूर्वीच्या कव्हरेजने दस्तऐवजीकरण केले की AI उद्योग तरुणांच्या सुरक्षेला धक्का आणि खेचणे; नवीन अहवाल हे टीन मोडचे संरक्षण सरावात टिकून आहे की नाही याचे पहिले मोठे स्वतंत्र ऑडिट आहे.

काय कॉमन सेन्स मीडिया टेस्ट केली

सिंक्लेअर ब्रॉडकास्ट ग्रुपच्या द नॅशनल न्यूज डेस्क आणि फास्ट कंपनीच्या कव्हरेजनुसार, ग्रुपच्या यूथ एआय सेफ्टी इन्स्टिट्यूटमधील संशोधकांनी टीन मोड सुरू होण्यापूर्वी आणि नंतर 4,000 हून अधिक प्रॉम्प्ट्सची चाचणी केली. ग्रुपने शिफारस केली आहे की ओपनएआयने टीन मोडचे मार्केटिंग थांबवावे आणि कंपनी "सुरक्षित, विकासदृष्ट्या योग्य अनुभव" विकसित करेपर्यंत किशोरांना ChatGPT वापरण्यापासून प्रतिबंधित करेल.

"चॅटजीपीटीचे काही जाहिरातींचे संरक्षण आमच्या चाचणीपर्यंत होते, ज्यात स्पष्ट लैंगिक भूमिका नाकारणे समाविष्ट आहे," संस्थेच्या उत्पादन पुनरावलोकनात म्हटले आहे. "परंतु इतर अयशस्वी झाले - आणि काही नवीन टीन मोडमुळे खराब झाले. आम्हाला काळजी आहे की किशोरांसाठी ChatGPT पालकांना रेलिंगवर चुकीचा विश्वास देऊ शकते जे वारंवार काम करत नाहीत."

पालकांच्या सूचना ज्याने आग लागली नाही

अहवालातील सर्वात धक्कादायक निष्कर्षांमध्ये पालकांच्या सूचना प्रणालीचा समावेश होता. संशोधकांनी एक डझनहून अधिक खाती तयार केली ज्यांनी किशोरवयीन वयाची स्वत: ची तक्रार केली आणि पालक खात्याशी लिंक केली गेली, नंतर चॅटबॉटला आत्मघाती विचार, स्वत: ची हानी किंवा अव्यवस्थित खाण्याचे स्पष्ट संदर्भ असलेल्या संभाषणांमध्ये गुंतवले. खाती काल्पनिक व्यक्तींवर तयार केली गेली होती.

अहवालानुसार, हे संदर्भ देणाऱ्या नवीन खात्यांकडून परीक्षकांना पालकांच्या कोणत्याही सूचना प्राप्त झाल्या नाहीत. सूचना फक्त इतर खात्यांसाठी आल्या आहेत ज्यांच्या संभाषणाचा इतिहास समान थीम कव्हर करतो — एक अंतर जे सूचित करते की सूचना प्रणाली एखाद्या किशोरवयीन संभाषणात काय प्रकट करते याच्या तीव्रतेपेक्षा संचित संदर्भावर अवलंबून असते.

पुनरावलोकनात असेही आढळून आले की किशोरवयीन मुलांसाठी ChatGPT ने चारपैकी एकापेक्षा जास्त उदाहरणे चुकवलेली आहेत जी मानसिक आरोग्य संकट संदर्भाची हमी देतात, जसे की परवानाधारक बाल मानसिक आरोग्य व्यावसायिकांच्या पॅनेलने सूचनांचे पुनरावलोकन केले.

शालेय कामाचे रेलिंग 'बायपास करणे सोपे'

संकट ओळखण्यापलीकडे, वॉचडॉगला असे आढळले की विद्यार्थ्यांना शाळेच्या कामात फसवणूक करण्यासाठी चॅटबॉटचा वापर करण्यापासून प्रतिबंधित करण्याच्या हेतूने वैशिष्ट्य बायपास करणे किंवा पूर्णपणे अक्षम करणे सोपे आहे.

"तुम्ही त्यांना तुमच्यासाठी एक पेपर लिहिण्यास सांगू शकता, तुमच्यासाठी एक अत्याधुनिक पेपर आणि ते तसे करेल, आणि तुमच्या शिक्षकांना माहित नसतील अशा प्रकारे कसे संपादित करावे हे देखील ते तुम्हाला सांगेल," कॉमन सेन्स मीडियाचे संस्थापक आणि सीईओ जिम स्टीयर यांनी द नॅशनल न्यूज डेस्कने दिलेल्या टिप्पण्यांमध्ये सांगितले. "म्हणून, हे शिकण्यात व्यत्यय आणत आहे. हे मूलभूत प्रक्रियेत व्यत्यय आणत आहे आणि मुलांना स्वतःच काम करावे लागेल."

सामग्री रेलिंग, वय अंदाज आणि ब्रेक स्मरणपत्रे देखील चाचणीमध्ये कुचकामी असल्याचे आढळले. एक व्यापकपणे उद्धृत केलेला डेटा पॉइंट: OpenAI ने म्हटले आहे की सरासरी किशोर वापरकर्ता ChatGPT वर दररोज 15 मिनिटांपेक्षा कमी वेळ घालवतो. परंतु दररोज सलग तीन तासांपेक्षा जास्त वेळ घालवणाऱ्या किशोरवयीन मुलांपैकी - 2 टक्क्यांपेक्षा कमी वापरकर्ते - जवळजवळ अर्ध्या लोकांनी ब्रेक रिमाइंडर मिळाल्यानंतर पाच मिनिटांत त्यांचे संभाषण संपवले, असे सूचित करते की नजमुळे क्वचितच विस्तारित सत्रात व्यत्यय येतो.

ओपनएआयने कार्यपद्धतीकडे पाठ फिरवली

ओपनएआयने अहवालाला उत्तर देताना एका निवेदनात म्हटले आहे की ते किशोरवयीन सुरक्षेसाठी "खोलपणे वचनबद्ध" आहेत आणि त्यांनी तयार केलेल्या सुरक्षिततेकडे आणि पालकांना ते देत असलेल्या साधनांकडे लक्ष वेधले आहे.

"आम्ही कठोर स्वतंत्र मूल्यमापनाचे स्वागत करतो, परंतु आमचा विश्वास नाही की कॉमन सेन्स मीडियाची चाचणी ChatGPT चे किशोरवयीन संरक्षण सरावात कसे कार्य करते किंवा AI किशोरांना कसे समर्थन देऊ शकते याबद्दल तज्ञ दृष्टीकोन अचूकपणे प्रतिबिंबित करते," OpenAI प्रवक्त्याने सांगितले. कंपनीने म्हटले आहे की गटाच्या कार्यपद्धतीच्या पुनरावलोकनात असे दिसून आले आहे की "त्यांच्या चाचणीचा मोठा भाग पालक नियंत्रणे सक्रिय होण्यापूर्वीच सुरू झाला असेल आणि पूर्ण झाला असेल, ज्यामुळे त्यांचे निष्कर्ष चुकीचे ठरतील," असे जोडून असे की अशा चाचण्या पालकांच्या सुरक्षा सूचना डिझाइन केल्याप्रमाणे कार्य करतात की नाही हे स्थापित करणार नाहीत.

स्टीयर म्हणाले की त्यांची संस्था ओपनएआयशी निष्कर्षांबद्दल संपर्कात होती, जसे की उत्पादनाच्या मूल्यांकनादरम्यान तिचा मानक सराव आहे आणि परिणामांवर ती उभी आहे. "आम्ही 100% आमच्या संशोधनाच्या आणि चाचणीच्या गुणवत्तेच्या मागे उभे आहोत आणि आम्ही या उत्पादनाला 'अस्वीकार्य जोखीम' असे लेबल केले आहे," ऑटोमोटिव्ह सुरक्षेची तुलना करताना ते म्हणाले: "जर ती क्रॅश चाचणी उत्तीर्ण झाली नाही तर तुम्ही कार बाजारात आणणार नाही."

एआय आणि अल्पवयीन मुलांवर वाढणारा स्पॉटलाइट

एआय चॅटबॉट्स तरुण वापरकर्त्यांवर कसा प्रभाव पाडतात याची तीव्र पडताळणी करताना, शालेय जिल्ह्यांमधून वय-पडताळणी आवश्यकतांचे वजन असलेल्या कायदेकर्त्यांना प्रवेश प्रतिबंधित करत असताना हा वाद उद्भवला आहे. एआय कंपन्यांनी त्यांच्या मार्केटिंगमध्ये केलेल्या युवा-सुरक्षा दाव्यांसाठी यासारखे स्वतंत्र ऑडिट एक वास्तविक चाचणीचे मैदान बनत आहेत.

दोन्ही बाजू एका गोष्टीवर सहमत आहेत: पॅरेंटल नोटिफिकेशन सिस्टम ही मुख्य गोष्ट आहे. एखाद्या नवीन किशोरवयीन खात्यामध्ये प्रथम स्वत:ला हानी पोहोचवण्याचे विचार आल्यावर अलर्ट फायर करण्यात अयशस्वी झाल्यास, सर्वात महत्त्वाचे सुरक्षा वैशिष्ट्य अयशस्वी ठरते ज्या क्षणी ते सर्वात महत्त्वाचे आहे. ओपनएआय म्हणतात की चाचणी सदोष होती; कॉमन सेन्स मीडिया म्हणते की उत्पादन तयार होण्यापूर्वीच पाठवले जाते. नियामक आणि पालक आता कोण बरोबर आहे याचे वजन करतील — आणि OpenAI अंतर दूर करण्यासाठी किंवा उत्पादन मागे घेण्यासाठी वाढत्या दबावाचा सामना करेल.

AI सुरक्षितता, धोरण आणि AI इंडस्ट्री डेव्हलपमेंट्स यांच्या अधिक कव्हरेजसाठी, ही कथा विकसित होत असताना अनुसरण करा.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →