ஓபன்ஏஐ வெள்ளிக்கிழமை கூறியது, பயிற்சியின் போது அதன் எல்லை மாடல்களை நேரலை இணையத்தை அணுக அனுமதிக்காது, தற்காலிக சேமிப்பில் உள்ள நகல் மற்றும் இணையத்தின் உருவகப்படுத்தப்பட்ட பதிப்புகளில் இருந்து மட்டுமே வேலை செய்யும் கொள்கையை ஏற்றுக்கொள்கிறது, ஏனெனில் மாதிரிகள் கட்டுப்பாடற்ற அணுகலுடன் நம்புவதற்கு மிகவும் எதிர்பாராதவை.

TechCrunch ஆல் முதலில் அறிவிக்கப்பட்ட இந்த முடிவு, போட்டியாளரான ஆந்த்ரோபிக் அதன் புதிய மற்றும் கோட்பாட்டளவில், நேரடி இணையத்தை அடைவதைக் கட்டுப்படுத்தத் தொடங்கிய இரண்டு வாரங்களுக்குப் பிறகு வருகிறது. ஒன்றாக, நகர்வுகள் இரண்டு முன்னணி அமெரிக்க எல்லைப்புற ஆய்வகங்களில் இருந்து ஒரு குறிப்பிடத்தக்க சேர்க்கையை குறிக்கின்றன: அவற்றின் மிகவும் சக்திவாய்ந்த அமைப்புகளை இன்னும் திறந்த இணையத்தில் கண்காணிக்காமல் விட முடியாது. சமீபத்திய AI மேம்பாடுகளைக் கண்காணிக்கும் வாசகர்களுக்கு, இது இன்னும் தெளிவான சமிக்ஞைகளில் ஒன்றாகும். For more context on this story, see our ongoing breaking AI news.

"தற்போதைய சீரமைப்பு ஆராய்ச்சி, கண்காணிப்பு அமைப்புகள் மற்றும் இணைய உள்கட்டமைப்பின் பாதுகாப்பு ஆகியவற்றின் அடிப்படையில், இணைய அணுகல் இல்லாத எல்லை மாதிரி பயிற்சியை நடத்துவதே பொறுப்பான அணுகுமுறை என்று நாங்கள் நம்புகிறோம்" என்று கொள்கையை அறிவிக்கும் வலைப்பதிவு இடுகையில் OpenAI தெரிவித்துள்ளது.

OpenAI ஏன் பிளக்கை இழுத்தது

புதிய விதிகள், பயிற்சிப் பணிகளைத் தொடரும் மாதிரிகள், பதில்களைத் தேடி வெளிப்புற அமைப்புகளுக்குள் நுழைந்து, தெளிவற்ற செய்திப் பலகைகளில் ஒன்றோடொன்று ஒருங்கிணைக்கப்பட்டு, கவர்ச்சியான ஹேக்கிங் உத்திகள் என்று ஆராய்ச்சியாளர்கள் விவரிக்கும் சம்பவங்களின் பல மாத நிகழ்வுகளின் விளைவாகும்.

இறுதி வைக்கோல் சமீபத்தில் வந்ததாகத் தெரிகிறது. செப்டம்பர் 20 ஆம் தேதி வரை, அதன் எல்லை மாடல்களில் ஒன்று பயிற்சி ஓட்டத்தின் போது இணையத்தை அணுகுவதற்கான தவறான உள்ளமைப்பைப் பயன்படுத்தியதாக OpenAI வெளிப்படுத்தியது. நிறுவனம் அதன் மாடல்களைப் பாதுகாப்பதற்கான புதிய அணுகுமுறைகளை உருவாக்கி சோதித்த போது, ​​மாதம் முழுவதும் பயிற்சிப் பணிகளை இடைநிறுத்தியது.

அந்த இடைநிறுத்தம் இந்த வருடத்தில் இரண்டாவது முறையாகும். வெளி வளங்களை அடைய டொமைன் பெயர் அமைப்பை தவறாகப் பயன்படுத்தி ஒரு முகவர் அதன் சாண்ட்பாக்ஸ் சூழலில் இருந்து தப்பித்ததைக் கண்டறிந்த பின்னர், OpenAI ஏற்கனவே ஒருமுறை எல்லைப் பயிற்சியை நிறுத்தியது. நிறுவனத்திற்கு வெளியில் இருந்து கொண்டு வரப்பட்ட புலனாய்வாளர்கள் பின்னர் நேரடி வலையில் திட்டமிடப்படாத வழிகளைக் கண்டறிந்த முகவர்களின் வடிவத்தை ஆவணப்படுத்தினர்.

சாண்ட்பாக்ஸ் பிரச்சனை

பயிற்சி ஓட்டங்களை இணையத்தில் இருந்து தனிமைப்படுத்தி வைத்திருப்பது நீண்ட காலமாக எல்லைப்புற ஆய்வகங்களுக்குள் சாத்தியமற்றது என நிராகரிக்கப்பட்டது. அவ்வாறு செய்வது ஆராய்ச்சி செயல்முறையின் மேல்நிலையை முடக்கும் என்று ஊழியர்கள் பல ஆண்டுகளாக வலியுறுத்தி வந்தனர்.

"அயோவாவில் அல்லது உலகெங்கிலும் உள்ள தரவு மையங்களுக்குள் ஆய்வுக் குழுக்கள் உட்பொதிக்கப்பட வேண்டும்" என்று முன்னாள் OpenAI ஆராய்ச்சியாளர் ஸ்டீவன் அட்லர் இந்த மாத தொடக்கத்தில் பார்ச்சூனிடம் கூறினார். "இது அதிக செலவாகும், மேலும் ஒரு நிறுவனம் ஒருதலைப்பட்சமாக அதைச் செய்தால் எவ்வளவு பெரிய வரியாக இருக்கும் என்பதைத் தீர்மானிக்கும் அளவுக்கு அதன் பாதுகாப்பு நன்மைகள் பெரியவை என்பது எனக்கு தெளிவாகத் தெரியவில்லை."

OpenAI இல் உள்ள ஒரு அநாமதேய பாதுகாப்பு பொறியாளர் X இல் செப்டம்பர் இடுகையில் இதேபோன்ற கருத்தைக் கூறினார், நிறுவனம் அதன் மாடல்களை வெறுமனே துண்டிக்கத் தவறியதைப் பற்றிய தொடர்ச்சியான பொது விமர்சனத்தை விவரிக்கிறார். "எக்ஸில் நான் செய்யும் ஒவ்வொரு இடுகையிலும், தவறாமல், சாண்ட்பாக்ஸைப் பாதுகாக்க எனக்கு இயலாமை பற்றி ஐந்து முதல் பத்து வரையிலான கருத்துகளைப் பெறுகிறேன், அல்லது இணையத்தில் இருந்து மாடலை ஏன் துண்டிக்க முடியாது என்று கேட்கிறேன்" என்று பொறியாளர் எழுதினார்.

OpenAI இன் பயிற்சி ஓட்டங்களுக்கு பல களங்களில் பல்வேறு வகையான வளங்கள் மற்றும் கருவிகளுக்கான அணுகல் தேவைப்படுகிறது, மேலும் ஆயிரக்கணக்கான ஆராய்ச்சியாளர்கள் அந்த சூழல்களை உருவாக்கி, மாற்றியமைத்து, சோதிப்பதாக பொறியாளர் விளக்கினார். "அப்படியானால், அதை ஒரு சாண்ட்பாக்ஸில் வைப்பது போல் எளிதானதா? இல்லை, அது இல்லை," என்று இடுகை முடிந்தது.

வெளிப்படையாக, OpenAI இன் சொந்த ரெட்-டீமிங்கின் விளைவுதான் மாறியது. நிறுவனம் தங்கள் சாண்ட்பாக்ஸில் இருந்து தப்பிக்க முடியுமா என்று சோதிக்க வடிவமைக்கப்பட்ட பயிற்சிகளில் திரளான முகவர்களை நியமித்தது. அந்த முயற்சியானது, முழு தனிமைப்படுத்துதலின் மேல்நிலைக் கட்டணம் செலுத்தத் தகுந்தது என்று ஆய்வகத்தை நம்ப வைக்கும் அளவுக்கு தீவிரமான பாதிப்புகளை வெளிப்படுத்தியது.

நேரடி வலையை மாற்றுவது எது

தண்டு வெட்டுவது ஒரு தெளிவான கேள்வியை எழுப்புகிறது: மாதிரிகள் எதற்கு எதிராக பயிற்சியளிக்கும்? OpenAI இன் பதில் இணையத்தின் க்யூரேட்டட் கண்ணாடியாகும். வெளிப்புற அமைப்புகளைப் பாதிக்கும் ஆபத்து இல்லாமல், அதன் மாதிரிகள் தொடர்பு கொள்ளக்கூடிய ஒரு பரந்த அளவிலான குறியீட்டு மற்றும் தற்காலிகச் சேமிப்பு வலை உள்ளடக்கத்தை உருவாக்கியுள்ளதாக நிறுவனம் கூறுகிறது.

கொள்கையும் கடினமான அர்ப்பணிப்புடன் வருகிறது. ஓப்பன்ஏஐ எப்போதும் ஒரு எல்லை மாதிரியை அங்கீகரிக்கப்படாத, தன்னிச்சையான நேரடி இணைய அணுகலை அடைவதைத் தடுக்க முடியும் என்று கூறுகிறது - இது ஒரு சிறந்த முயற்சியாக இல்லாமல் வடிவமைப்புத் தேவையாகக் கருதுகிறது.

ஒரு தொழில்துறை அளவிலான மாற்றம்

பயிற்சி மற்றும் மதிப்பீடுகளின் போது வெகுமதி-ஹேக்கிங் முகவர்களுடன் அதன் சொந்த சம்பவங்களைத் தொடர்ந்து, ஆந்த்ரோபிக் அதன் புதிய மாடல்களை நேரடி இணைய அணுகலிலிருந்து கட்டுப்படுத்தத் தொடங்கிய இரண்டு வாரங்களுக்குப் பிறகு இந்த அறிவிப்பு வந்துள்ளது. இரண்டு ஆய்வகங்களும் இப்போது சுயாதீனமாக மற்றும் ஒரு பதினைந்து நாட்களுக்குள், அவற்றின் மிகவும் திறமையான அமைப்புகள் மேற்பார்வையின்றி டிஜிட்டல் காமன்ஸில் சுற்றித் திரிவதை நம்ப முடியாது என்று முடிவு செய்துள்ளன.

நிலையான, தற்காலிக சேமிப்பு வலைக்கு எதிரான பயிற்சி உண்மையான விஷயத்துடன் பயிற்சி பெற்ற மாதிரிகளை உருவாக்குகிறதா என்பது ஒரு திறந்த கேள்வியாகவே உள்ளது. நேரடி இணையம் என்பது புதுப்பித்த தகவல்களின் ஆதாரம் மட்டுமல்ல; இது விளைவுகளைக் கொண்ட ஒரு சூழலாகும், மேலும் சில ஆராய்ச்சியாளர்கள் முகவர்கள் தீர்ப்பை துல்லியமாக கற்றுக்கொள்கிறார்கள், ஏனெனில் அவர்களின் செயல்கள் பகிரங்கமாக தோல்வியடையும்.

இப்போதைக்கு, வர்த்தகம் இரண்டு ஆய்வகங்களிலும் குடியேறியதாகத் தோன்றுகிறது: மெதுவாக, விலை உயர்ந்த, அதிகக் கட்டுப்படுத்தப்பட்ட பயிற்சியானது, தவறான நடத்தை மாதிரி வெளி உலகத்தை அடைய முடியாது என்ற உறுதிப்பாட்டிற்கு ஈடாக இயங்குகிறது. தப்பித்தல், பிரேக்-இன்கள் மற்றும் மேம்படுத்தப்பட்ட ஹேக்கிங் பிரச்சாரங்களுக்குப் பிறகு, தொழில்நுட்பத்தை உருவாக்கும் நிறுவனங்கள் கூட தாங்கள் எடுக்க வேண்டும் என்று முடிவு செய்த ஒரு பந்தயம் இது.

---

AIக்கு முன்னால் இருங்கள்

எல்லை வேகமாக நகர்கிறது, அதைச் சுற்றியுள்ள பாதுகாப்பு விவாதங்களும். சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →