AI மாதிரிகள் தங்கள் எடைக்குள் தன்னிச்சையான திறன்களை மறைக்க முடியும், ஆராய்ச்சியாளர்கள் எச்சரிக்கின்றனர்

AI மாதிரிகள் முழு செயல்பாட்டு மறைக்கப்பட்ட திறன்களைக் கொண்டு செல்ல முடியும் என்பதை சுயாதீன ஆராய்ச்சியாளர்கள் குழு நிரூபித்துள்ளது, அவை மாடலின் எடைகளுக்கு தணிக்கையாளர்களுக்கு முழுமையான அணுகலைக் கொண்டிருந்தாலும் கூட, கண்டறிதலைத் தவிர்க்க கணித ரீதியாக உத்தரவாதம் அளிக்கப்படுகிறது. "AI மாதிரிகள் தன்னிச்சையான திறன்களை மறைக்க முடியும்" என்ற தலைப்பிலான கட்டுரை, அக்டோபர் 9, 2026 அன்று Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas மற்றும் Christian Schroeder de Witt ஆகியோரால் arXiv இல் வெளியிடப்பட்டது, மேலும் இந்த வாரம் தளத்தின் முதல் பக்கத்தை உருவாக்கிய பிறகு ஹேக்கர் செய்திகளில் குறிப்பிடத்தக்க கவனத்தை ஈர்த்தது.

நவீன AI பாதுகாப்பு நடைமுறையின் முக்கிய அனுமானத்தில் வேலை தாக்குகிறது: திறன் மதிப்பீடுகள் மூலம் வரிசைப்படுத்துவதற்கு முன் ஆபத்தான நடத்தைகள் வெளிப்படலாம், இது என்ன செய்ய முடியுமோ அதை வெளிப்படுத்தும் வகையில் வடிவமைக்கப்பட்ட சோதனைகளுடன் மாதிரியை ஆய்வு செய்கிறது. இந்த அனுமானம் எதிர்மறையான நிலைமைகளின் கீழ் சரிகிறது என்று ஆசிரியர்கள் காட்டுகின்றனர். தாள் கூறுவது போல், திறன் மதிப்பீடுகளின் நம்பகத்தன்மை "மறைக்கப்பட்ட திறன்களை வெளிப்படுத்த முடியும் என்ற அனுமானத்தைப் பொறுத்தது" - மேலும் அந்த அனுமானம் தோல்வியடையும் இடங்களில் அவை தாக்குதல்களை உருவாக்குகின்றன. பாதுகாப்பு ஆராய்ச்சியில் சமீபத்திய AI மேம்பாடுகளைப் பின்பற்றும் வாசகர்களுக்கு, இந்தத் தாள் ஒரு மிகச்சிறந்த முறையான நிரூபணமாகும், ஆனால் ஒரு திறமையான மாதிரி, கொள்கையளவில், அது உண்மையில் என்ன செய்ய முடியும் என்பதை மறைத்து அதன் மதிப்பீடுகளை நிறைவேற்ற முடியும்.

மறைத்தல் திட்டம் எவ்வாறு செயல்படுகிறது

ஹோஸ்ட் மாடலின் எடைக்குள் மறைகுறியாக்கப்பட்ட நரம்பியல் நெட்வொர்க்குகள் என்று அழைப்பதை உட்பொதிக்கும் பின்கதவு தாக்குதல்களை ஆராய்ச்சியாளர்கள் உருவாக்கினர். மறைக்கப்பட்ட நெட்வொர்க் மறைகுறியாக்கப்பட்ட வடிவத்தில் அமர்ந்து, மாதிரியின் புலப்படும் நடத்தைக்கு எதுவும் பங்களிக்காது, அது ஒரு ரகசிய தூண்டுதலைப் பெறும் வரை. அந்த நேரத்தில், மாடல் மறைக்கப்பட்ட சுற்றுகளை மறைகுறியாக்கி அதை இயக்குகிறது.

கட்டுமானத்தின் மையத்தில் உள்ள கிரிப்டோகிராஃபிக் பொறிமுறையை ஆசிரியர்கள் டிஜிட்டல் லாக்கர்கள் என்று அழைக்கிறார்கள். நிலையான கிரிப்டோகிராஃபிக் அனுமானங்களின் கீழ், இந்த லாக்கர்கள் மறைக்கப்பட்ட சுற்றுகளை வெளிப்படுத்துவது கடினமாகவும், விளக்குவது கடினமாகவும் இருக்கும் - மாதிரியின் எடையை முழுமையாக அணுகக்கூடிய ஒரு தணிக்கையாளருக்கு கூட. வேறு வார்த்தைகளில் கூறுவதானால், மறைத்தல் நுட்பமானதாகவோ அல்லது தடுமாறுவது கடினமாகவோ இருப்பதை நம்பவில்லை. இது மறைகுறியாக்கப்பட்ட தகவல்தொடர்புகளைப் பாதுகாக்கும் அதே வகையான கணித கடினத்தன்மை உத்தரவாதங்களை நம்பியுள்ளது.

கடவுச்சொற்கள் அல்லது குறுஞ்செய்திகள் போன்ற நிலையான சரங்களை மாடல்கள் மறைக்க முடியும் என்பதைக் காட்டிய புலத்தில் முந்தைய வேலையை இது விரிவுபடுத்துகிறது. புதிய தாள் கோல்போஸ்டுகளை கணிசமாக நகர்த்துகிறது: இப்போது மறைக்கக்கூடியது ஒரு தன்னிச்சையான கணக்கீடு - ஒரு நிலையான ரகசியத்தை விட முழுமையான, செயல்படும் திறன்.

உண்மையான தணிக்கை நுட்பங்களுக்கு எதிராக சோதிக்கப்பட்டது

குழுவானது கருத்துருவின் நிர்மாணங்களை PyTorch இல் செயல்படுத்தியது, பின்னர் அவற்றை மாதிரி தணிக்கையின் நிலையான கருவித்தொகுப்பால் தாக்கியது. மதிப்பீடுகள் நன்றாகச் சரிப்படுத்துதல், எடை இரைச்சல், சாய்வு அடிப்படையிலான தூண்டுதல் தேடல் மற்றும் மறைந்திருக்கும் எதிரி பயிற்சி ஆகியவற்றின் மூலம் வெளிக்கொணர்வதைச் சோதித்தன - ஒரு சந்தேகத்திற்கிடமான மாதிரியிலிருந்து மறைக்கப்பட்ட நடத்தையைப் பிரித்தெடுக்க எவ்வளவு தீவிரமான தணிக்கையாளர்கள் முயற்சிப்பார்கள் என்பதைக் குறிக்கும் பல நுட்பங்கள்.

சோதனைப் பணியானது ஒரு சிறிய இரசாயன எதிர்வினை முன்கணிப்புச் சிக்கலாகும், இது நிஜ-உலகப் பங்குகளைக் கொண்ட திறன்களுக்கான ப்ராக்ஸியாக வேண்டுமென்றே தேர்ந்தெடுக்கப்பட்டது: இரசாயன முன்கணிப்பு பணிகள் CBRN- தொடர்பான (வேதியியல், உயிரியல், கதிரியக்க மற்றும் அணுசக்தி) திறன்களுக்கான ஒரு நிலைப்பாடாகும். மறைக்கப்பட்ட செயலாக்கங்கள் அவர்கள் மீது வீசப்பட்ட அனைத்து எலிசிடேஷன் முறைகளையும் எதிர்த்தன.

கிரிப்டோகிராஃபிக் உத்தரவாதங்களுடன் இணைந்து, ஆசிரியர்கள் தங்கள் முடிவுகள் எலிசிட்டேஷன் அடிப்படையிலான திறன் தணிக்கைகளின் அடிப்படை வரம்பை வெளிப்படுத்துவதாக வாதிடுகின்றனர். ஒரு மாடல் டெவலப்பர் - அல்லது ஒரு மாடலைச் சிதைத்த ஒரு தீங்கிழைக்கும் மூன்றாம் தரப்பினர் - ஒரு திறனை மறைக்க ஒரு ஊக்கத்தைக் கொண்டிருந்தால், நடத்தையை வெளிக்கொண்டு வருவதை நம்பியிருக்கும் தணிக்கைகளால் அதைக் கண்டுபிடிக்க முடியாமல் போகலாம்.

AI பாதுகாப்பிற்கு இது ஏன் முக்கியமானது

மாடல்களை வெளியிடுவது பாதுகாப்பானதா என்பதை எல்லைப்புற AI ஆய்வகங்கள் எவ்வாறு தீர்மானிக்கின்றன என்பதன் ஒரு நிலையான பகுதியாக திறன் மதிப்பீடுகள் மாறியுள்ளன. உற்பத்தி மாதிரிகள் தற்போது திறன்களை இந்த வழியில் மறைக்கின்றன என்று காகிதம் கூறவில்லை. மாறாக, தணிக்கை அடுக்கு ஒரு கட்டமைப்பு பலவீனத்தைக் கொண்டுள்ளது என்பதை இது காட்டுகிறது: ஒரு மாதிரியின் பயிற்சியின் மீது கட்டுப்பாட்டைக் கொண்ட ஒரு எதிரி, எந்த அளவு ஆய்வும் வெளிப்படுத்தாத திறன்களை கொள்கையளவில் உட்பொதிக்க முடியும்.

தாக்கங்கள் பல திசைகளில் வெட்டப்படுகின்றன. ஆய்வகங்களைப் பொறுத்தவரை, இது மாதிரி எடைகளைச் சுற்றி சித்தப்பிரமைச் சப்ளை-சங்கிலி பாதுகாப்பிற்கான வழக்கை வலுப்படுத்துகிறது - பின்கதவு சோதனைச் சாவடி என்பது நம்பகத்தன்மை அபாயம் மட்டுமல்ல, கண்டறிய முடியாததும் ஆகும். தணிக்கையாளர்கள் மற்றும் கட்டுப்பாட்டாளர்களுக்கு, முற்றிலும் நடத்தை மாதிரியை அடிப்படையாகக் கொண்ட மதிப்பீடுகள், மாதிரிகள் எவ்வாறு பயிற்சியளிக்கப்பட்டன மற்றும் கையாளப்பட்டன என்பதற்கான வலுவான உத்தரவாதங்களால் நிரப்பப்பட வேண்டும் என்று பரிந்துரைக்கிறது. ஆராய்ச்சி சமூகத்தைப் பொறுத்தவரை, இது ஒரு உறுதியான தற்காப்பு சவாலை வரையறுக்கிறது: இந்த வகை தாக்குதலுக்கு எதிரான பாதுகாப்பை மேம்படுத்துவதை ஆதரிக்க ஆசிரியர்கள் தங்கள் மாதிரிகளை பொதுவில் வெளியிட்டுள்ளனர்.

காகிதம் ஒரு பரந்த தத்துவ ஸ்டிங்கையும் கொண்டுள்ளது. AI பாதுகாப்பின் பெரும்பகுதி, நம்பிக்கைக்கான நமது வழியை நாம் சோதிக்க முடியும் என்ற எண்ணத்தில் தங்கியுள்ளது - போதுமான ரெட்-டீமிங் ஒரு மாதிரி என்ன செய்ய முடியும் என்பதைக் கண்டறியும். நிரூபிக்கக்கூடிய மறைக்கும் பொறிமுறையானது சோதனையை பயனற்றதாக ஆக்காது, ஆனால் ஒவ்வொரு சோதனையிலும் தேர்ச்சி பெறுவதை இனி கண்டுபிடிக்க எதுவும் இல்லை என்பதற்கான ஆதாரமாக கருத முடியாது என்று அர்த்தம். எல்லைப்புற மாதிரிகள் அதிக திறன் கொண்டதாகவும், தன்னாட்சி பெற்றதாகவும் வளரும்போது, ​​தணிக்கைகள் என்ன காட்டலாம் மற்றும் எந்த மாதிரிகள் இருக்கக்கூடும் என்பதற்கும் இடையே உள்ள இடைவெளியானது, புலம் தீவிரமாக எடுத்துக்கொள்ள வேண்டிய கட்டாயத்தில் இருக்கும் பிரச்சனையாகும்.

கிரிப்டோகிராஃபிக் கட்டுமானங்கள் மற்றும் மதிப்பீட்டு விவரங்கள் உட்பட ஆசிரியர்களின் முழுத் தாள் arXiv இல் கிடைக்கிறது, மேலும் வெளியிடப்பட்ட ப்ரூஃப்-ஆஃப்-கான்செப்ட் மாதிரிகள், டிஜிட்டல்-லாக்கர்-பாணி மறைப்பதற்கு எதிராக செயல்படும் கண்டறிதல் முறைகளை உருவாக்குவதற்கான உறுதியான தொடக்கப் புள்ளியை பாதுகாப்பாளர்களுக்கு வழங்குகிறது.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →