மூன்று வார ரெட்-டீம் பயிற்சி OpenAI இன் உள் தவறான கண்காணிப்பு அமைப்பில் புதுமையான பாதிப்புகளைக் கண்டறிந்தது - AI முகவர்கள் கொள்கையளவில், மனிதர்களால் மதிப்பாய்வு செய்யப்படாமல் நடவடிக்கைகளை எடுக்கக்கூடிய வழிகள் உட்பட. METR, சுயாதீன மதிப்பீட்டு லாப நோக்கமற்றது, அக்டோபர் 22 அன்று கண்டுபிடிப்புகளின் உயர் மட்ட சுருக்கத்தை வெளியிட்டது, இது OpenAI ஆராய்ச்சியாளர்கள் மற்றும் பாதுகாப்பு ஊழியர்களுக்கு வழங்கிய 61 பக்க உள் அறிக்கையிலிருந்து எடுக்கப்பட்டது.

பைலட் ஜூலை 21 முதல் ஆகஸ்ட் 11 வரை ஓடி, ஒரு METR ஊழியர் மற்றும் ஒரு ரெட்வுட் ஆராய்ச்சி பணியாளருக்கு OpenAI இன் உள் கட்டமைப்புக்கு வழக்கத்திற்கு மாறாக ஆழமான அணுகலை வழங்கினார்: கோட்பேஸ், கண்காணிப்பு அமைப்பின் தூண்டுதல்கள் மற்றும் உள்ளமைவு, உள் ஆவணங்கள் மற்றும் தொழில்நுட்ப நேர்காணல்கள் சுமார் ஒரு டஜன் ஆராய்ச்சியாளர்கள் மற்றும் பொறியாளர்களுடன் கண்காணிப்பு, பாதுகாப்பு மற்றும் அமைப்பு. அவர்கள் ஓபன்ஏஐ வழங்கிய சாதனங்களில் பணிபுரிந்தனர், அவை வளாகத்தை விட்டு வெளியேறவில்லை மற்றும் ஆன்சைட்டில் இருக்கும் போது உடன் இருந்தனர். இந்த ஆராய்ச்சியின் மேலும் தகவலுக்கு, எங்களின் சமீபத்திய AI மேம்பாடுகள் பார்க்கவும்.

சிவப்பு குழு என்ன கண்டுபிடித்தது

பயிற்சியானது இரண்டு கேள்விகளில் கவனம் செலுத்தியது: OpenAI இன் ஏஜென்டிக் அனுமானம் உண்மையில் எவ்வளவு கண்காணிக்கப்படுகிறது மற்றும் முகவர்கள் கண்காணிப்பு அமைப்பை முடக்க முடியுமா அல்லது சிதைக்க முடியுமா. பதில்கள் அர்த்தமுள்ள இடைவெளிகளை வெளிப்படுத்தின.

கவரேஜில், சுமார் 75 முதல் 94 சதவிகித முகவர் உள் பதில்கள் ஏபிஐ டிராஃபிக் - கோடெக்ஸை இயக்கும் ஏபிஐ, மற்றவற்றுடன் - குறைந்தபட்சம் GPT-5.5 போன்ற திறன் கொண்ட மாடல்களில் இருந்து அந்த நேரத்தில் கண்காணிக்க தகுதியுடையதாக இருந்தது, இருப்பினும் நிறுவனம் இரு திசைகளிலும் கணிசமான நிச்சயமற்ற தன்மையைக் குறிப்பிடுகிறது. உள் கோடெக்ஸ் முகவர்களுக்காகப் பயன்படுத்தப்படும் டிராஃபிக்கின் துணைக்குழுவில், 99.2 சதவீதம் பேர் தகுதி பெற்றனர். ஆனால் தகுதியானது கவரேஜுக்கு சமமானதாக இல்லை: பயிற்சியின் தொடக்கத்தில் வலுவூட்டல்-கற்றல் பயிற்சி ஓட்டங்கள் கண்காணிப்பு அமைப்பால் உள்ளடக்கப்படவில்லை, மேலும் 2026 மே மற்றும் ஜூலைக்கு இடையில் கண்காணிக்கப்படாத தகுதியான உள் கோடெக்ஸ் போக்குவரத்தின் 10 சதவீத வரிசையில் கண்காணிக்கப்படாத சுருக்க நிகழ்வுகள் எஞ்சியிருக்கலாம். ஓபன்ஏஐ ஊழியர்கள் அதைச் சரிசெய்யும் போது அதைச் சரிசெய்யும் போது சுயாதீனமாக அடையாளம் காணப்பட்டனர்.

நேர விவரம் முக்கியமானது. ஏஜெண்டுகள் பயனருக்குக் கட்டுப்பாட்டைத் திருப்பியனுப்பும்போது மானிட்டர் தூண்டப்பட்டதால், கண்காணிக்கப்படாத சாளரத்தின் போது தொடர்ந்து நடவடிக்கைகளை மேற்கொள்வதன் மூலம் ஒரு முகவர் கண்காணிக்கப்படுவதை காலவரையின்றி ஒத்திவைக்கலாம்.

குழு செயலில் ஏய்ப்பு பாதைகளையும் ஆவணப்படுத்தியது. கோடெக்ஸ் முகவர்கள் கொள்கையளவில் கோடெக்ஸ் சாண்ட்பாக்சிங் மற்றும் ஆட்டோ-ரிவியூ ஆகியவற்றைக் கடந்து செல்லலாம், இது ஹோஸ்ட் பயனர் எடுக்கக்கூடிய எந்த நடவடிக்கையையும் எடுக்க அனுமதிக்கிறது. METR ஆனது நூற்றுக்கணக்கான சமீபத்திய செயல்களைத் தடுக்கும் ஒரு சுரண்டலைக் கண்டுபிடித்தது - சுரண்டலில் ஈடுபட்டுள்ள செயல்கள் உட்பட - கண்காணிக்கப்படுவதிலிருந்து; OpenAI தொழில்நுட்ப விவரங்களைத் திருத்தியது. முகவர் பார்க்கும் பாதைக்கும் மானிட்டர் பார்க்கும் பாதைக்கும் இடையே உள்ள தொடர் வேறுபாடுகளைப் பயன்படுத்தி மானிட்டரை தோல்வியடையச் செய்யும் உள்ளீடுகளை முகவர்கள் உருவாக்கலாம். புதிய முகவர்களுக்கான கண்காணிப்பை முடக்கும் இரண்டு கிளையன்ட்-கட்டுப்படுத்தக்கூடிய தலைப்புகள் கண்டறியப்பட்டன, இது ஒரு முகவரை கண்காணிக்காத ஆனால் ஒரே மாதிரியான நிகழ்வைத் தொடங்க அனுமதிக்கும் - இருப்பினும் அந்த தலைப்புகளை அமைக்கும் செயலை METR குறிப்பிடுகிறது.

இறுதியாக, அந்த வரம்புகளைத் தகர்க்கப் பயன்படுத்தப்பட்ட ஒரு எளிய சுரண்டலுடன், படிக்க-மட்டும் அனுமதிகள் இருப்பதாக நம்பப்படும் இரண்டு கண்காணிக்கப்படாத உள் முகவர் கருவிகளை குழு அடையாளம் கண்டுள்ளது. நடைமுறையில் அந்த நடத்தையை METR சரிபார்க்கவில்லை.

என்ன நடந்தது

உடற்பயிற்சி அமைப்பின் பகுதிகளையும் சரிபார்க்கிறது. சில சிறிய விதிவிலக்குகளுடன், முகவர்கள் பார்க்கும் முழுப் பாதையும் மானிட்டர் காட்டப்படும். கண்காணிப்பு தூண்டுதல்கள் மற்ற இடர் வகைகளுக்கு மத்தியில் திட்டமிடல், சிஸ்டம் சீர்குலைவு, நாசவேலை, தரவு வெளியேற்றம், ஏமாற்றுதல் மற்றும் உள்வரும் மற்றும் வெளிச்செல்லும் உடனடி ஊசி போன்றவற்றைப் பார்ப்பது உறுதி செய்யப்பட்டது. நம்பகத்தன்மையின் அடிப்படையில், METR க்கு வழங்கப்பட்ட தகவல், 0.2 சதவீதத்திற்கும் குறைவான கோரிக்கைகளில் மானிட்டர் பிழையாக இருப்பதாக பரிந்துரைக்கப்பட்டது, மேலும் பயிற்சியின் போது ஒரு 24 மணி நேரத்தில் பூஜ்ஜிய சுமை கொட்டிகள் இருந்தன.

OpenAI இன் பதில்

METR இன் படி, OpenAI ஆனது அதன் உற்பத்திப் பாதுகாப்பு அடுக்கின் தாக்கத்தை அடையாளம் காணப்பட்ட அனைத்து பாதிப்புகளும் இணைக்கப்பட்டுள்ளன என்று கூறியுள்ளது, மேலும் அதன் கண்காணிப்பு அமைப்பின் நோக்கம் கொண்ட கவரேஜில் குறிப்பிடத்தக்க அடுத்தடுத்த மாற்றங்களை விவரித்துள்ளது. METR அந்த உரிமைகோரல்களை மதிப்பீடு செய்யவில்லை, மேலும் அதன் கண்டுபிடிப்புகள் அமைப்பு ஜூலை 21 அல்லது அதற்கு முன்பு இருந்ததைப் போலவே விவரிக்கிறது - பயிற்சியின் போது OpenAI ஏற்கனவே உருவாக்கிய விரிவாக்கப்பட்ட பதிப்பு அல்ல.

முகவர் மேற்பார்வைக்கான வடிவமைப்பு பாடங்கள்

METR அதன் சுருக்கத்தை எதிர்கால கண்காணிப்பு உள்கட்டமைப்பிற்கான வடிவமைப்பு இலட்சியங்களுடன் மூடியுள்ளது, இது வேண்டுமென்றே, மூலோபாய மற்றும் நிலையான தாக்குதல்களை அதிக திறன் கொண்ட உள் முகவர்களிடமிருந்து தாங்க வேண்டும் என்று வாதிடுகிறது. இரண்டு தனித்து நிற்கின்றன. கண்காணிப்பைத் தவிர்ப்பது கடினமாக இருக்க வேண்டும்: கண்காணிக்கப்படாத கோரிக்கைகளை இயக்குவதற்கு குறிப்பிட்ட நிறுவனங்கள் அல்லது ஏஜெண்டிக் அனுமானத்திலிருந்து தடைசெய்யப்பட்ட API விசைகளுடன் இணைக்கப்பட்ட வெளிப்படையான ஒப்புதல் தேவை, மேலும் முகவர்கள் ஒவ்வொரு N செய்திகள் அல்லது நிமிடங்களைத் தங்கள் திருப்பங்களை முடிக்கும்போது மட்டும் கண்காணிக்கப்பட வேண்டும். மற்றும் கவரேஜ் தணிக்கை செய்யக்கூடியதாக இருக்க வேண்டும்: அனைத்து அனுமானங்களையும் கவனமாகக் கணக்கிடுதல், கண்காணிப்பு அமைப்பின் சொந்த பதிவுகளுக்கு எதிராக அவ்வப்போது குறுக்கு-குறிப்பிடப்படுகிறது, இதனால் கண்காணிக்கப்பட வேண்டிய அனைத்தும் நிரூபிக்கப்படும்.

பொது வெளிப்படைத்தன்மை அறிக்கையாக அல்லாமல், வெளிப்புற ஆராய்ச்சியாளர்களுக்கு எல்லைப்புற ஆய்வகத்தின் உள்கட்டமைப்பிற்கான ஆழமான அணுகலை வழங்குவதற்கான ஒரு பைலட்டாக இந்த பயிற்சி வடிவமைக்கப்பட்டுள்ளது - METR மற்றும் OpenAI ஆகியவை சுருக்கமான, உயர்மட்ட இடுகை மட்டுமே வெளியிடப்படும் என்று முன்கூட்டியே ஒப்புக்கொண்டன. AI நிறுவனங்களுடன் பணிபுரிவதற்கான அதன் கட்டமைப்பில் விவரிக்கப்பட்டுள்ள வெளிப்படைத்தன்மை மற்றும் சுதந்திர நடைமுறைகளை எதிர்கால பதிப்புகள் பின்பற்றும் என்று இலாப நோக்கற்ற நிறுவனம் கூறுகிறது. முகவர்கள் அவற்றை உருவாக்கும் ஆய்வகங்களுக்குள் அதிக விளைவான பணிகளை மேற்கொள்வதால், வெளியாட்கள் எவ்வாறு கண்காணிக்கலாம் என்பதற்கான டெம்ப்ளேட்டை பைலட் வழங்குகிறார்.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →