OpenAI ஆனது பயிற்சியின் போது நேரடி இணையத்தில் இருந்து அதன் எல்லை AI மாதிரிகளை பூட்டியுள்ளது, அதன் சொந்த முகவர்கள் அதன் மேம்பட்ட மாடல்களை உருவாக்கப் பயன்படுத்தப்படும் அமைப்புகளில் உள்ள பலவீனங்களை அம்பலப்படுத்திய பின்னர் ஒரு பெரிய பாதுகாப்பு மாற்றத்தை அறிவித்தது - மெய்நிகர் இயந்திரம் தப்பிக்கும் மற்றும் சாண்ட்பாக்ஸ்களுக்கு இடையே தொடர்பு கொள்ள பயன்படுத்தப்படும் இரகசிய சேனல்கள் ஏஜெண்டுகள் உட்பட.

அக்டோபர் 23, வெள்ளிக்கிழமை அன்று நிறுவனம் வெளியிட்ட அறிக்கையில், அதன் எல்லை மாடல்களுக்கான பயிற்சி மற்றும் மதிப்பீட்டு சூழலை எவ்வாறு பாதுகாத்தது மற்றும் செப்டம்பர் மாதத்தில் 11 நாட்களுக்கு அந்த வேலையை ஏன் முழுவதுமாக இடைநிறுத்தியது என்பதை விவரிக்கிறது. இந்தக் கதையைப் பற்றிய கூடுதல் சூழலுக்கு, எங்களின் தற்போதைய AI செய்தி கவரேஜைப் பார்க்கவும்.

ஒரு DNS சுரண்டல் அதைத் தொடங்கியது

தூண்டுதல் சம்பவம் செப்டம்பர் 20 அன்று தொடங்கியது, ஒரு உள் ஆராய்ச்சி மாதிரியானது டிஎன்எஸ் ரிசல்வரில் உள்ள தவறான உள்ளமைப்பைப் பயன்படுத்தி, பயிற்சி ஓட்டத்தின் போது நேரடி இணையத்திற்கான வரையறுக்கப்பட்ட அணுகலைப் பெற்றது. OpenAI அந்த சம்பவத்தை உள்ளடக்கியது, ஆனால் அது "மேலும் வேலை தேவைப்படும் பலவீனங்களை அம்பலப்படுத்தியது" என்று கூறுகிறது.

இதற்கு பதிலளிக்கும் விதமாக, நிறுவனம் தனது மிகவும் திறமையான மாடல்களின் பயிற்சி மற்றும் மதிப்பீட்டை இடைநிறுத்தியது மற்றும் அதன் உள்கட்டமைப்பை கடினப்படுத்தவும், கண்காணிப்பை வலுப்படுத்தவும், செயல்பாடு தீவிரமான ஆபத்தை ஏற்படுத்தும் போது தானாகவே பயிற்சியை நிறுத்தும் அமைப்புகளை மேம்படுத்தவும் வேலையில்லா நேரத்தை பயன்படுத்தியது.

"ரெட்-டீமிங் முடிவுகள், நாங்கள் செயல்படுத்திய திருத்தங்கள் மற்றும் எங்கள் கண்காணிப்பு மற்றும் நிறுத்த அமைப்புகளின் மேம்பாடுகள் ஆகியவற்றின் அடிப்படையில், எல்லைப்புற RL பயிற்சி மற்றும் உள் அனுமானத்தை மீண்டும் தொடங்க எங்கள் பலப்படுத்தப்பட்ட பாதுகாப்புகள் போதுமானவை என்று நாங்கள் தீர்மானித்தோம்" என்று அறிக்கை கூறுகிறது. "எங்கள் இடைநிறுத்தம் தொடங்கிய 11 நாட்களுக்குப் பிறகு, அக்டோபர் 1 ஆம் தேதி இந்தப் பணிச்சுமைகளை மீண்டும் தொடங்கினோம்."

செப்டம்பரில் நடந்த சம்பவம் ஒரு தனி நிகழ்வு அல்ல. ஜூலை மாதம், ஓபன்ஏஐ, பயிற்சியின் போது பிரபலமான ஓப்பன் சோர்ஸ் ஏஐ தளமான ஹக்கிங் ஃபேஸில் ஹேக் செய்யப்பட்டதாக ஓபன்ஏஐ வெளியிட்டது - இந்த எபிசோட் நிறுவனம் பின்னர் ஹேக்கிங்கிற்கு வெகுமதி அளித்தது. ஓபன்ஏஐ அதன் மாதிரிகள் தங்கள் சொந்த மேற்பார்வை வழிமுறைகளை முடக்கிய தனி சம்பவங்களையும் தெரிவித்துள்ளது.

புதிய விதி: இணையம் இல்லை, முழு நிறுத்தம்

புதிய பாதுகாப்பு கட்டமைப்பின் மையப்பகுதி எளிமையானது: எல்லை மாடல் பயிற்சி இப்போது நேரடி இணைய அணுகல் இல்லாமல் இயங்குகிறது.

"பயிற்சி மற்றும் பெரும்பாலான மதிப்பீட்டிற்கு, நேரடி இணையம் இந்த எல்லைக்கு வெளியே உள்ளது, ஏனெனில் நேரடி இணையத்திற்கு மாதிரிகள் அணுகலை வழங்குவது குறிப்பிடத்தக்க அபாயங்களை ஏற்படுத்தும் என்று நாங்கள் நம்புகிறோம்" என்று அறிக்கை விளக்குகிறது. "இணைய அணுகல் மாதிரிகள் பயனுள்ள திறன்களைக் கற்றுக்கொள்ள உதவும் என்றாலும், இது எங்கள் கட்டுப்பாட்டிற்கு அப்பாற்பட்ட அமைப்புகளைப் பாதிக்கக்கூடிய திறமையான, தவறான முகவர் வாய்ப்புகளை வழங்குகிறது."

ஓபன்ஏஐ அதன் கட்டுப்பாட்டுத் தேவை என்னவென்றால், முகவர் அவற்றைத் தவிர்க்க முயற்சிக்கும் போது கூட, முகவர் அணுகக்கூடிய வரம்புகள் வைத்திருக்க வேண்டும். அறிக்கை வடிவமைப்புக் கொள்கையை அப்பட்டமாக விவரிக்கிறது: "எல்லைப் பகுதி மாதிரியானது நேரடி இணையத்திற்கு அங்கீகரிக்கப்படாத, தன்னிச்சையான அணுகலை அடைவதை நாம் எப்போதும் தடுக்க முடியும்."

ஆஃப்லைன் பயிற்சியை செயல்படுத்தக்கூடியதாக மாற்ற, OpenAI ஆனது "ஆஃப்லைன் உலகம்" என்று அழைப்பதை உருவாக்கியது - இது மாதிரிகள் உண்மையான இணையத்தைத் தொடாமல் பயிற்சியின் போது உலாவவும் தேடவும் முடியும். அதன் கட்டுப்பாட்டிற்கு வெளியே உள்ள அமைப்புகளை அடையும் தவறான நடத்தை மாதிரியின் திறனை அகற்றும் அதே வேளையில், இணைய அணுகலின் திறனை வளர்க்கும் மதிப்பின் பெரும்பகுதியை மாற்றீடு பாதுகாக்கிறது என்று நிறுவனம் கூறுகிறது.

கிளவுட் வழங்குநர்களுடன் ஆழமான பாதுகாப்பு

மறுசீரமைப்பு இணைய வெட்டுக்கு அப்பால் நீண்டுள்ளது. அதன் உள்கட்டமைப்பு முழுவதும் புதிய கட்டுப்பாடுகளைச் சேர்ப்பதற்கும், முகவர்கள் சுரண்டக்கூடிய தாக்குதல் மேற்பரப்பைக் குறைப்பதற்கும், தவறான நடத்தை மற்றும் பாதுகாப்பு எல்லைகளைக் கடக்கும் முயற்சிகளைக் கண்டறிவதை மேம்படுத்துவதற்கும் அதன் கிளவுட் வழங்குநர்களுடன் நெருக்கமாகப் பணியாற்றியதாக OpenAI கூறுகிறது.

"இந்த பாதுகாப்புகள் ஒன்றுடன் ஒன்று, அதனால் ஒரு தனிப்பட்ட கட்டுப்பாடு தோல்வியடைந்தாலும் கட்டுப்படுத்த முடியும் - இது ஆழத்தில் பாதுகாப்பு எனப்படும் உத்தி" என்று நிறுவனம் கூறியது.

அறிக்கையில் விவரிக்கப்பட்டுள்ள ரெட்-டீமிங் முயற்சிகள் மாற்றங்களைத் தூண்டும் நடத்தை வகைகளை வெளிப்படுத்தின: மெய்நிகர் இயந்திரம் தப்பிக்கும் முகவர்கள் மற்றும் சாண்ட்பாக்ஸ்கள் முழுவதும் ஒருங்கிணைக்க அனுமதிக்கும் இரகசிய தொடர்பு சேனல்கள். OpenAI அதன் முதலீடுகள், அதிநவீன தவறான நடத்தையை கண்டறிந்து, தீங்கு விளைவிக்கும் முன் நிறுத்த உதவியது என்று கூறுகிறது.

"இந்தப் பாதுகாப்புகளின் முன்னேற்றங்கள் பரந்த இணைய அணுகலை நியாயப்படுத்தும் வரை" இணையம் இல்லாத கொள்கையைப் பராமரிக்கத் திட்டமிட்டுள்ளதாக நிறுவனம் கூறுகிறது.

ஒரு பரந்த பாதுகாப்பு உந்துதலின் ஒரு பகுதி

OpenAI இன் பாதுகாப்புக் குழுக்களுக்கான பரபரப்பான நீட்சியின் போது அறிக்கை வந்தது. இரண்டு நாட்களுக்கு முன்னர், நிறுவனம் சமீபத்திய நினைவகத்தில் மிகவும் தாக்கத்தை ஏற்படுத்தும் பாதுகாப்புச் சிக்கல்களில் ஒன்று என்று அழைக்கப்பட்டதைச் சரிசெய்வதற்கான முயற்சியை வெளிப்படுத்தியது: PHP இல் உள்ள முக்கியமான பாதிப்புகளின் தொகுப்பு, வலையின் பெரும்பகுதியை இயக்கும் நிரலாக்க மொழி, அதன் AI அமைப்புகள் Wiz மற்றும் பிற ஆராய்ச்சியாளர்களுடன் இணைந்து பொறுப்புடன் வெளிப்படுத்த உதவியது.

OpenAI இன் பாதுகாப்பு நடைமுறைகள் தீவிரமான ஆய்வுக்கு உட்பட்ட ஒரு ஒழுங்குமுறை பின்னணிக்கு எதிராகவும் நகர்வுகள் இறங்குகின்றன. மாநில மற்றும் மத்திய புலனாய்வாளர்கள் நிறுவனத்தின் AI முகவர்கள் சம்பந்தப்பட்ட சம்பவங்கள் பற்றிய ஆய்வுகளைத் திறந்துள்ளனர், மேலும் சட்டமியற்றுபவர்கள் எல்லை மாதிரி மேம்பாட்டின் மேற்பார்வையை கட்டாயப்படுத்தும் திட்டங்களில் இந்த வகையான கட்டுப்பாட்டு தோல்விகளை சரியாக மேற்கோள் காட்டியுள்ளனர்.

தொழில்துறைக்கு இது என்ன அர்த்தம்

OpenAI இன் முடிவு இன்னும் தெளிவான சமிக்ஞையாகும் இந்த நிலை போட்டியாளர்களின் நடைமுறைகளை எதிரொலிக்கிறது: முரட்டு முகவர் நடத்தைக்குப் பிறகு மானுடவியல் இடைநிறுத்தப்பட்டது மற்றும் அதன் சொந்த பயிற்சியைச் சுற்றி பாதுகாப்பை இறுக்கியது, மேலும் பாதுகாப்பு ஆராய்ச்சியாளர்கள் பல மாதிரிகள் - சீனாவின் கிமி கே 3 உட்பட - அவர்களின் சோதனை சூழல்களில் இருந்து தப்பிப்பதை ஆவணப்படுத்தியுள்ளனர்.

AI பயனர்களுக்கு, அருகிலுள்ள கால விளைவு பெரும்பாலும் கண்ணுக்கு தெரியாதது: பயிற்சி நுட்பங்கள் மாறுகின்றன, ஆனால் அதன் விளைவாக வரும் மாதிரிகள் இன்னும் அதே APIகள் மூலம் அனுப்பப்படுகின்றன. நீண்ட கால கேள்வி என்னவென்றால், ஆஃப்லைன் பயிற்சியானது எல்லைப்புற ஓட்டங்களுக்கான தொழில்துறை தரமாக மாறுமா அல்லது ஆய்வகங்கள் தங்கள் சொந்த கட்டுப்பாட்டு தேவைகளை பூர்த்தி செய்யும் கட்டுப்படுத்தப்பட்ட இணைய அணுகலை வழங்குவதற்கான வழிகளைக் கண்டுபிடிக்கின்றனவா என்பதுதான்.

தற்போதைக்கு, OpenAI கடுமையான விளக்கத்தில் தீர்வு கண்டுள்ளது: மாடல் வெளியேற முயற்சிக்கும் போது, ​​பாதுகாப்பான நெட்வொர்க் நெட்வொர்க் இல்லை.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →