காமன் சென்ஸ் மீடியாவின் விரிவான பாதுகாப்பு மதிப்பாய்வு, டீன்ஸ் பயன்முறைக்கான OpenAI இன் ChatGPT ஆனது 18 வயதிற்குட்பட்ட பயனர்களுக்கு "ஏற்றுக்கொள்ள முடியாத ஆபத்தை" ஏற்படுத்துகிறது - கண்காணிப்புக் குழுவின் மோசமான மதிப்பீடு - உள்ளமைக்கப்பட்ட பாதுகாப்பு வாக்குறுதிகளுடன் தயாரிப்பு தொடங்கப்பட்ட இரண்டு மாதங்களுக்குள். NPR அறிக்கையின்படி, பயன்முறையின் விளம்பரப்படுத்தப்பட்ட பாதுகாப்புகளில் பெரும்பாலானவை அதன் சோதனையில் உறுதியளித்தபடி செயல்படவில்லை என்று குழு கண்டறிந்துள்ளது.

இந்த கண்டுபிடிப்புகள், ஓபன்ஏஐக்கு ஒரு முக்கியமான தருணத்தில் இறங்கியது, இது ஆகஸ்ட் மாதம் இளம் வயதினருக்கான ChatGPTஐ வயதுக்குட்பட்ட பயனர்களுக்கு ஒரு பிரத்யேக அனுபவமாக அறிமுகப்படுத்தியது, இது பெற்றோர் கட்டுப்பாடுகள் மற்றும் கடுமையான பாதுகாப்புடன் நிறைவுற்றது. எங்களின் முந்தைய கவரேஜ் ஆவணப்படுத்தியது, AI தொழில் இளைஞர்களின் பாதுகாப்பைச் சுற்றி வளைத்து இழுப்பது; புதிய அறிக்கையானது டீன் மோட் பாதுகாப்பு நடைமுறையில் உள்ளதா என்பது பற்றிய முதல் பெரிய சுயாதீன தணிக்கை ஆகும்.

காமன் சென்ஸ் மீடியா என்ன சோதனை செய்தது

சின்க்ளேர் பிராட்காஸ்ட் குழுமத்தின் தி நேஷனல் நியூஸ் டெஸ்க் மற்றும் ஃபாஸ்ட் கம்பெனியின் கவரேஜ் படி, குழுவின் யூத் ஏஐ சேஃப்டி இன்ஸ்டிடியூட் ஆராய்ச்சியாளர்கள் டீன் மோட் தொடங்குவதற்கு முன்னும் பின்னும் 4,000 க்கும் மேற்பட்ட தூண்டுதல்களை சோதித்தனர். OpenAI டீன் மோடை சந்தைப்படுத்துவதை இடைநிறுத்தவும், "பாதுகாப்பான, வளர்ச்சிக்கு ஏற்ற அனுபவம்" என்று நிறுவனம் அழைக்கும் வரை, ChatGPT ஐப் பயன்படுத்துவதிலிருந்து பதின்வயதினர்களைத் தடுக்கவும் குழு பரிந்துரைக்கிறது.

"ChatGPT இன் சில விளம்பரப்படுத்தப்பட்ட பாதுகாப்புகள், வெளிப்படையான பாலியல் பங்களிப்பை மறுப்பது உட்பட, எங்கள் சோதனைக்கு இடைப்பட்டவை" என்று நிறுவனத்தின் தயாரிப்பு மதிப்பாய்வு கூறியது. "ஆனால் மற்றவர்கள் தோல்வியடைந்தனர் - மேலும் சிலர் புதிய டீன் பயன்முறையில் மோசமாகிவிட்டனர். பதின்ம வயதினருக்கான ChatGPT அடிக்கடி வேலை செய்யாத காவலாளிகள் மீது பெற்றோருக்கு தவறான நம்பிக்கையை அளிக்கக்கூடும் என்று நாங்கள் கவலைப்படுகிறோம்."

சுடாத பெற்றோரின் எச்சரிக்கைகள்

அறிக்கையின் மிகவும் குறிப்பிடத்தக்க கண்டுபிடிப்பு பெற்றோர் அறிவிப்பு அமைப்பு சம்பந்தப்பட்டது. பதின்ம வயதினரை சுயமாகப் புகாரளிக்கும் மற்றும் பெற்றோர் கணக்குடன் இணைக்கப்பட்ட ஒரு டஜன் கணக்குகளை ஆராய்ச்சியாளர்கள் உருவாக்கினர், பின்னர் தற்கொலை எண்ணங்கள், சுய-தீங்கு அல்லது ஒழுங்கற்ற உணவு பற்றிய வெளிப்படையான குறிப்புகள் கொண்ட உரையாடல்களில் சாட்போட்டை ஈடுபடுத்தினர். கணக்குகள் கற்பனையான நபர்களின் மீது கட்டப்பட்டது.

அறிக்கையின்படி, சோதனையாளர்கள் இந்தக் குறிப்புகளைச் செய்த புதிய கணக்குகளிலிருந்து பெற்றோர் விழிப்பூட்டல்கள் எதுவும் பெறவில்லை. இதே போன்ற கருப்பொருள்களை உள்ளடக்கிய பல வார உரையாடல் வரலாற்றைக் கொண்ட பிற கணக்குகளுக்கு மட்டுமே விழிப்பூட்டல்கள் வந்துள்ளன - கொடுக்கப்பட்ட உரையாடலில் பதின்வயதினர் வெளிப்படுத்தும் தீவிரத்தை விட, அறிவிப்பு அமைப்பு திரட்டப்பட்ட சூழலைப் பொறுத்தது என்று பரிந்துரைக்கும் இடைவெளி.

பதின்வயதினருக்கான ChatGPT ஆனது மனநல நெருக்கடி பரிந்துரைக்கு உத்தரவாதம் அளிக்கும் நான்கு நிகழ்வுகளில் ஒன்றுக்கு மேற்பட்டவற்றை தவறவிட்டதாகவும் மதிப்பாய்வு கண்டறிந்துள்ளது.

பள்ளி வேலை காவலர்கள் 'சுலபமாக கடந்து செல்லலாம்'

நெருக்கடி கண்டறிதலுக்கு அப்பால், பள்ளி வேலைகளில் ஏமாற்றுவதற்கு மாணவர்கள் சாட்போட்டைப் பயன்படுத்துவதைத் தடுக்கும் அம்சம், புறக்கணிப்பது அல்லது முற்றிலும் முடக்குவது எளிது என்று கண்காணிப்புக் குழு கண்டறிந்தது.

"உங்களுக்காக ஒரு காகிதத்தை எழுதச் சொல்லுங்கள், உங்களுக்காக ஒரு அதிநவீன காகிதத்தை எழுதுங்கள், அது அதைச் செய்யும், மேலும் உங்கள் ஆசிரியருக்குத் தெரியாத வகையில் எவ்வாறு திருத்துவது என்று கூட அது உங்களுக்குச் சொல்லும்" என்று காமன் சென்ஸ் மீடியா நிறுவனரும் தலைமை நிர்வாக அதிகாரியுமான ஜிம் ஸ்டெயர் தி நேஷனல் நியூஸ் டெஸ்க் அறிக்கை செய்த கருத்துக்களில் கூறினார். "எனவே, இது கற்றலில் குறுக்கிடுகிறது. இது அடிப்படை செயல்முறையில் குறுக்கிடுகிறது மற்றும் குழந்தைகளே வேலையைச் செய்ய வேண்டும்."

கன்டென்ட் கேர்ட்ரெயில்கள், வயது கணிப்பு மற்றும் இடைவேளை நினைவூட்டல்கள் ஆகியவை சோதனையில் பயனற்றவையாக இருப்பது கண்டறியப்பட்டது. பரவலாக மேற்கோள் காட்டப்பட்ட ஒரு தரவு புள்ளி: சராசரி டீன் ஏஜ் பயனர் ChatGPT இல் ஒரு நாளைக்கு 15 நிமிடங்களுக்கும் குறைவாகவே செலவிடுவதாக OpenAI கூறியுள்ளது. ஆனால் ஒரு நாளைக்கு மூன்று மணிநேரத்திற்கு மேல் தொடர்ச்சியாகச் செலவழிக்கும் பதின்ம வயதினரின் சிறிய பங்கில் - 2 சதவீதத்திற்கும் குறைவான பயனர்கள் - இடைவேளை நினைவூட்டலைப் பெற்ற ஐந்து நிமிடங்களுக்குள் கிட்டத்தட்ட பாதி பேர் தங்கள் உரையாடலை முடித்துக்கொண்டனர்.

OpenAI முறையியலில் பின்னுக்குத் தள்ளுகிறது

OpenAI, அறிக்கைக்கு பதிலளிக்கும் ஒரு அறிக்கையில், டீன் ஏஜ் பாதுகாப்பில் "ஆழ்ந்த உறுதியுடன்" இருப்பதாகவும், அது உருவாக்கிய பாதுகாப்புகள் மற்றும் பெற்றோருக்கு வழங்கும் கருவிகளை சுட்டிக்காட்டியது.

"கடுமையான சுயாதீன மதிப்பீட்டை நாங்கள் வரவேற்கிறோம், ஆனால் காமன் சென்ஸ் மீடியாவின் சோதனையானது ChatGPT இன் டீன் ஏஜ் பாதுகாப்புகள் நடைமுறையில் எவ்வாறு செயல்படுகின்றன அல்லது AI எவ்வாறு பதின்ம வயதினரை ஆதரிக்கும் என்பது குறித்த நிபுணர் பார்வையை துல்லியமாக பிரதிபலிக்கிறது என்பதை நாங்கள் நம்பவில்லை" என்று OpenAI செய்தித் தொடர்பாளர் கூறினார். குழுவின் வழிமுறைகளை மதிப்பாய்வு செய்ததில், "பெற்றோரின் கட்டுப்பாடுகளை செயல்படுத்துவது முடிவதற்குள் அவர்களின் சோதனையின் பெரும்பகுதி தொடங்கி முடிக்கப்பட்டிருக்கலாம், இது அவர்களின் கண்டுபிடிப்புகள் தவறானவை" என்று நிறுவனம் கூறியது, மேலும் இதுபோன்ற சோதனைகள் பெற்றோரின் பாதுகாப்பு அறிவிப்புகள் வடிவமைக்கப்பட்டுள்ளதா என்பதை உறுதிப்படுத்தாது.

தயாரிப்பு மதிப்பீட்டின் போது அதன் நிலையான நடைமுறையைப் போலவே, கண்டுபிடிப்புகள் குறித்து OpenAI உடன் தனது நிறுவனம் தொடர்பில் இருந்ததாக Steyer கூறினார். "எங்கள் ஆராய்ச்சி மற்றும் சோதனையின் தரம் மற்றும் இந்த தயாரிப்பை 'ஏற்றுக்கொள்ள முடியாத ஆபத்து' என்று நாங்கள் பெயரிட்டுள்ளோம் என்பதற்கு நாங்கள் 100% பின்னால் நிற்கிறோம்," என்று அவர் கூறினார், வாகன பாதுகாப்புடன் ஒப்பிடுகையில்: "விபத்து சோதனையில் தேர்ச்சி பெறவில்லை என்றால், நீங்கள் ஒரு காரை சந்தையில் வைக்க மாட்டீர்கள்."

AI மற்றும் மைனர்கள் மீது வளர்ந்து வரும் ஸ்பாட்லைட்

வயது சரிபார்ப்புத் தேவைகளை எடைபோடும் சட்டமியற்றுபவர்களுக்கான அணுகலைக் கட்டுப்படுத்தும் பள்ளி மாவட்டங்களில் இருந்து AI சாட்போட்கள் இளம் பயனர்களை எவ்வாறு பாதிக்கின்றன என்பதைப் பற்றிய தீவிர ஆய்வுக்கு மத்தியில் இந்த சர்ச்சை வந்துள்ளது. AI நிறுவனங்கள் தங்கள் மார்க்கெட்டிங்கில் செய்யும் இளைஞர்-பாதுகாப்பு உரிமைகோரல்களுக்கு இது போன்ற சுயாதீன தணிக்கைகள் ஒரு நடைமுறை சோதனைக் களமாக மாறி வருகின்றன.

இரு தரப்பினரும் ஒரு விஷயத்தை ஒப்புக்கொள்கிறார்கள்: பெற்றோரின் அறிவிப்பு அமைப்பு முக்கிய விஷயம். ஒரு புதிய டீன் ஏஜ் கணக்கு முதலில் சுய-தீங்கு பற்றிய எண்ணங்களை எழுப்பும்போது விழிப்பூட்டல்கள் செயல்படத் தவறினால், மிக முக்கியமான பாதுகாப்பு அம்சம் மிகவும் முக்கியமான தருணத்தில் தோல்வியடையும். ஓபன்ஏஐ சோதனையில் குறைபாடு இருப்பதாக கூறுகிறது; காமன் சென்ஸ் மீடியா கூறுகிறது, தயாரிப்பு தயாராகும் முன்பே அனுப்பப்பட்டது. கட்டுப்பாட்டாளர்கள் மற்றும் பெற்றோர்கள் யார் சரியானவர் என்பதை இப்போது எடைபோடுவார்கள் - மேலும் OpenAI இடைவெளிகளைச் சரிசெய்வதற்கு அல்லது தயாரிப்பைத் திரும்பப் பெறுவதற்கு அதிக அழுத்தத்தை எதிர்கொள்கிறது.

AI பாதுகாப்பு, கொள்கை மற்றும் அவற்றை வடிவமைக்கும் AI தொழில் வளர்ச்சிகள் பற்றிய கூடுதல் கவரேஜுக்கு, இந்தக் கதை வளரும்போது பின்பற்றவும்.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →