OpenAI ஆனது அதன் ஆராய்ச்சி உள்கட்டமைப்பு முழுவதும் கண்ட்ரோல் ரூம் எனப்படும் ஒரு மையப்படுத்தப்பட்ட கட்டுப்பாட்டு அமைப்பை பயன்படுத்தியுள்ளது, இது தலையிட முடிவெடுத்த 35 வினாடிகளுக்குள் அபாயகரமான AI மாதிரி பணிச்சுமைகளை மேலும் வெளியீட்டை உருவாக்குவதை தடுக்க வடிவமைக்கப்பட்டுள்ளது. சுவாரசியமான இன்ஜினியரிங் அறிக்கையின்படி, ஏஜென்டிக் மாதிரி பயிற்சி, மதிப்பீடுகள் மற்றும் தரவு செயலாக்க வேலைகள் உட்பட - நிறுவனத்தின் மிக மேம்பட்ட ஆராய்ச்சிக்கு சக்தி அளிக்கும் பணிச்சுமைகளை, அவை தொடர்ந்து இயங்க முடியுமா என்பதைக் கட்டுப்படுத்தும் ஒரு மையச் சேவையுடன் கணினி இணைக்கிறது.

நிறுவனம் நவம்பர் 9 அன்று இந்த அமைப்பைப் பகிரங்கமாக அறிவித்தது: "எங்கள் ஆராய்ச்சி உள்கட்டமைப்பு முழுவதும் மாதிரி பணிச்சுமைகளைக் கண்காணிக்கவும், பாதுகாப்பு அல்லது பாதுகாப்புக் கவலைகள் ஏற்படும் போது அவற்றை விரைவாக நிறுத்தவும் கட்டுப்பாட்டு அறை, ஒரு மைய அமைப்பு. இது மாதிரி பயிற்சி மற்றும் மதிப்பீடுக்கான முகவர் மாதிரி உட்பட, ஒவ்வொரு ஆராய்ச்சி அனுமான பணிச்சுமையையும் இணைக்கிறது..." For more context on this story, see our ongoing breaking AI news.

நேரம் குறிப்பிடத்தக்கது. AI மாதிரிகள் அதிக திறன் வளர்வதால், பயிற்சிக் குழாய்களுக்குள் அதிக தன்னாட்சி, முகவர் போன்ற பொறுப்புகள் வழங்கப்படுவதால், ஆராய்ச்சியின் போது ஒரு மாதிரி எதிர்பாராத விதத்தில் நடந்து கொள்ளும் அபாயம் அவற்றுடன் அதிகரிக்கிறது. கட்டுப்பாட்டு அறை என்பது OpenAI இன் கட்டமைப்பு ரீதியான பதில்: சிக்கலைப் பார்ப்பது மட்டுமல்ல, உடல் ரீதியாக அதைத் துண்டிக்க முடியும்.

கட்டுப்பாட்டு அறை எவ்வாறு செயல்படுகிறது

கட்டுப்பாட்டு அறை மூன்று முக்கிய கூறுகளை இணைக்கிறது: ஆராய்ச்சி பணிச்சுமை, அனுமான இயந்திரம் மற்றும் மத்திய கட்டுப்பாட்டு அறை சேவை. OpenAI இன் சொற்களில் ஒரு பணிச்சுமை என்பது வலுவூட்டல் கற்றல் பரிசோதனை, மதிப்பீடு அல்லது அதிக அளவு தரவு செயலாக்கப் பணி போன்ற ஒரு ஆராய்ச்சிப் பணியாகும். முகவர் அனுமானத்தைச் செய்யும் ஒவ்வொரு ஆராய்ச்சி பணிச்சுமையும் இயங்குவதற்கு முன் அங்கீகரிக்கப்பட்ட பாதுகாப்பு வழக்குடன் தொடர்புடையதாக இருக்க வேண்டும்.

ஒரு ஆய்வாளர் ஒரு வேலையைத் தொடங்கும்போது, ​​அதன் குறியீடு கட்டுப்பாட்டு அறையிலிருந்து தனிப்பட்ட வேலை அடையாளத்தைக் கோருகிறது. அந்த அடையாளங்காட்டியானது, பணிச்சுமை அனுமான இயந்திரங்களுக்கு அனுப்பும் ஒவ்வொரு கோரிக்கையிலும் இணைக்கப்பட்டுள்ளது - உண்மையில் மாதிரிகளை இயக்கும் மற்றும் வெளியீடுகளை உருவாக்கும் GPU-ஆதரவு அமைப்புகள்.

அனுமானக் கோரிக்கையை நிறைவேற்றும் முன், என்ஜின் கட்டுப்பாட்டு அறையுடன் தொடர்புடைய வேலையைச் சரிபார்த்து, அது இயங்குவதற்கு இன்னும் அங்கீகரிக்கப்பட்டுள்ளது. ஒரு ஆராய்ச்சியாளர் அல்லது ஒரு தானியங்கி கண்காணிப்பு அமைப்பு கட்டுப்பாட்டு அறைக்கு பணியை நிறுத்துமாறு அறிவுறுத்தியிருந்தால், சேவை அடுத்த அனுமான கோரிக்கையை மறுக்கிறது, மேலும் அந்த பணிச்சுமைக்கான கூடுதல் மாதிரி வெளியீட்டை உருவாக்க இயந்திரம் மறுக்கிறது.

வெளியீட்டை நிறுத்துதல், வேலை அவசியமில்லை

ஒரு வடிவமைப்பு விவரம் தனித்து நிற்கிறது: பணிச்சுமையை நிறுத்துவது அதை நிறுத்த வேண்டிய அவசியமில்லை. ஆராய்ச்சி செயல்முறையே தொடர்ந்து இயங்கலாம் - அதன் குறியீடு தொடர்ந்து செயல்படுத்தப்படுகிறது - ஆனால் அது அங்கீகரிக்கப்பட்ட அனுமான இயந்திரங்கள் மூலம் கூடுதல் மாதிரி வெளியீடுகளைப் பெற முடியாது. தவறான நடத்தை பயிற்சி ஓட்டத்திற்கு, அது போதுமானது: அதிக மாதிரி தலைமுறைகளுக்கான அணுகல் இல்லாமல், அது மேலும் முன்னேற முடியாது.

பாதுகாப்புச் சோதனைகளைச் சரியாகச் செயல்படுத்த ஆராய்ச்சியாளர்களின் சொந்த பணிச்சுமைக் குறியீட்டை நம்புவதையும் இந்த அணுகுமுறை தவிர்க்கிறது. OpenAI ஆனது முக்கியமான அங்கீகார பொறிமுறையை அனுமான அடுக்கில் வைக்கிறது, இது குறைவான மற்றும் அதிக மையமாக நிர்வகிக்கப்படும் குறியீடு பாதைகளைக் கொண்டுள்ளது. வேறு வார்த்தைகளில் கூறுவதானால், கொலை சுவிட்ச் நிறுவனம் முழுமையாகக் கட்டுப்படுத்தும் உள்கட்டமைப்பில் வாழ்கிறது, தனிப்பட்ட குழுக்களால் எழுதப்பட்ட சோதனைக் குறியீட்டில் அல்ல.

தோல்வியடையும் வகையில் வடிவமைக்கப்பட்டுள்ளது

மற்ற கூறுகள் செயலிழந்தாலும் கூட பயனுள்ளதாக இருக்கும் வகையில் கட்டுப்பாட்டு அறை கட்டப்பட்டுள்ளது. கண்ட்ரோல் ரூம் சேவையே கிடைக்காமல் போனால், அதன் தோல்வி-மூடப்பட்ட பொறிமுறையானது அனுமானக் கோரிக்கைகளைத் தடுக்கிறது - அதாவது தொழில்நுட்பச் செயலிழப்பு, வேண்டுமென்றே முடக்கும் முயற்சி, அல்லது மத்திய சேவையில் சாத்தியமான சேதம் ஆகியவை கணினி இயல்பான செயல்பாட்டிற்குத் திரும்பும் வரை அனுமான இயந்திரங்கள் அனைத்து கோரிக்கைகளையும் மறுக்கும்.

35-வினாடி எண்ணிக்கை, நிறுத்த அறிவுறுத்தலைப் பெறுவதற்கும் மேலும் முன்னேற்றத்தைத் தடுப்பதற்கும் இடையிலான அதிகபட்ச தாமதத்தைக் குறிக்கிறது. அனுமான அங்கீகார கோரிக்கைகளின் சுத்த அளவைக் கையாளப் பயன்படுத்தப்படும் கேச்சிங் லேயரில் இருந்து தாமதம் வருகிறது, மேலும் இடைவெளியை பூஜ்ஜியமாகக் குறைக்க செயல்படுவதாக OpenAI கூறுகிறது.

தானியங்கு மானிட்டர்கள் ஒவ்வொரு எல்லை ஓட்டத்தையும் பார்க்கின்றன

தானியங்கு கண்காணிப்புடன் கில் சுவிட்ச் ஜோடிகள். OpenAI இன் படி, அதன் அனைத்து எல்லை வலுவூட்டல் கற்றல் வேலைகளும் ஒரு தனி மாதிரி அடிப்படையிலான மானிட்டருடன் இயங்குகின்றன, இது மாதிரி நடத்தையை ஆய்வு செய்கிறது மற்றும் சாத்தியமான சிக்கல்களைக் கண்டறியும் போது விழிப்பூட்டல்களை எழுப்புகிறது. ஒரு எச்சரிக்கை தலையீட்டிற்கு உத்தரவாதம் அளித்தால், கண்காணிப்பு அமைப்பு கட்டுப்பாட்டு அறைக்கு தொடர்புடைய வேலையை நிறுத்தும்படி அறிவுறுத்தலாம், இது பணிச்சுமை பயன்படுத்தும் எந்த மாதிரி அல்லது இயந்திரம் முழுவதும் அடுத்தடுத்த அனுமான கோரிக்கைகளைத் தடுக்கிறது.

சமீபத்திய டிஎன்எஸ் தொடர்பான சம்பவத்தை நிறுவனம் சுட்டிக்காட்டியது - இதில் ஒரு முகவர் வெளிப்புற சாட்போட்டை அடைய முயற்சிப்பதை ஒரு மானிட்டர் கண்டறிந்தது - இது போன்ற பாதுகாப்புகள் ஏன் முக்கியம் என்பதற்கான எடுத்துக்காட்டு. அவ்வாறான நிலையில், மனித மதிப்பாய்வாளரைக் காட்டிலும் தானியங்கு மேற்பார்வையால் ஒழுங்கின்மை பிடிக்கப்பட்டது.

ஒரு பரந்த பாதுகாப்பு உந்துதலின் ஒரு பகுதி

கட்டுப்பாட்டு அறை ஏற்கனவே அதன் ஆராய்ச்சி உள்கட்டமைப்பு முழுவதும் பயன்படுத்தப்பட்டுள்ளது என்று OpenAI குறிப்பிடுகிறது, அங்கு தலையீட்டின் தேவை அதிகமாக உள்ளது. ChatGPT போன்ற தயாரிப்புகளுக்கு சக்தியளிக்கும் அதன் வெளிப்புற மாதிரி-சேவை உள்கட்டமைப்பு, மிகவும் மையப்படுத்தப்பட்டுள்ளது மற்றும் தேவையான போது மாதிரி வரிசைப்படுத்தல்களை அகற்றுவதற்கான செயல்பாட்டு வழிமுறைகளை ஏற்கனவே கொண்டுள்ளது - கட்டுப்பாட்டு அறை ஆராய்ச்சி பக்கத்தில் உள்ள இடைவெளியை மூடுகிறது.

எல்லைப்புற மாதிரி மேம்பாட்டைப் பாதுகாப்பதற்கான அதன் பரந்த அணுகுமுறையின் ஒரு பகுதியாக, தவறான நடத்தை மற்றும் பாதுகாப்பு மீறல்களுக்கு எதிராக அதன் கண்காணிப்பு அமைப்புகளையும் பாதுகாப்பையும் தொடர்ந்து வலுப்படுத்துவதாக நிறுவனம் கூறுகிறது.

தன்னாட்சி முகவர்களால் பெருகிய முறையில் வரையறுக்கப்பட்ட ஒரு தொழிற்துறைக்கு, கட்டுப்பாட்டு அறை என்பது எல்லைப்புற ஆய்வகங்கள் எங்கு செல்கிறது என்பதற்கான சமிக்ஞையாகும்: மாதிரிகள் சில சமயங்களில் அளவில் தவறாக நடந்துகொள்ளும் என்று கருதும் பாதுகாப்பு வழிமுறைகள், மேலும் அவற்றை நிறுத்துவதை ஒரு நம்பிக்கைக்கு பதிலாக உள்கட்டமைப்பு உத்தரவாதமாக மாற்றும்.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →