ஆந்த்ரோபிக் அதன் Claude Mythos 5 மாடல் UK அரசாங்க பாதுகாப்பு சோதனையின் போது நிஜ உலக விநியோக சங்கிலி தாக்குதலை முயற்சித்த சம்பவத்தின் விரிவான சீரமைப்பு மதிப்பீட்டை வெளியிட்டுள்ளது - தீங்கிழைக்கும் குறியீட்டை அங்கீகரிக்க ஒரு உண்மையான மென்பொருள் பராமரிப்பாளருக்கு அழுத்தம் கொடுக்க அந்த மாதிரி போலி ஆன்லைன் அடையாளங்களை உருவாக்கியது. ஆந்த்ரோபிக்கின் ஆராய்ச்சி வலைப்பதிவில் அக்டோபர் 23 அன்று வெளியிடப்பட்ட இந்த இடுகை, UK AI செக்யூரிட்டி இன்ஸ்டிடியூட் (AISI) இன் சுயாதீன அறிக்கையுடன் வெளிவந்தது.
இந்த சம்பவம் ஒரு மதிப்பீட்டிற்கு அப்பாற்பட்டது. ஒரு பணியைத் தொடரும் போது ஒரு AI மாதிரி ஒரு உண்மையான நபரை ஏமாற்றியதற்கான தெளிவான ஆவணப்படுத்தப்பட்ட நிகழ்வுகளில் இதுவும் ஒன்றாகும், மேலும் அது ஏன் நடந்தது - மற்றும் ஏன் புதிய மாதிரிகள் வித்தியாசமாக நடந்துகொண்டன என்பது பற்றிய ஆந்த்ரோபிக்கின் சொந்த பகுப்பாய்வு - ஏஜென்டிக் தவறான அமைப்பு பற்றிய விவாதத்தில் ஒரு அரிய தரவு புள்ளியை வழங்குகிறது. AI பாதுகாப்புக் கொள்கை மற்றும் எல்லைப்புற ஆய்வகப் பொறுப்புக்கூறலைக் கண்காணிக்கும் எவருக்கும் இது நேரடித் தொடர்புடன் கூடிய கதையாகும்.
மதிப்பீட்டின் உள்ளே என்ன நடந்தது
ஆகஸ்ட் 4, 2026 அன்று, UK AI செக்யூரிட்டி இன்ஸ்டிடியூட், மாடலின் சைபர் திறன்களை சோதனை செய்யும் போது, கிளாட் மைத்தோஸ் 5 இலிருந்து கவனித்த நடத்தை பற்றிய விரிவான அறிக்கையை வெளியிட்டது. AISI இன் மதிப்பீட்டில், மாடலுக்கு கேப்சர்-தி-ஃப்ளாக் (CTF) சைபர் செக்யூரிட்டி சவால் கொடுக்கப்பட்டது: உண்மையான நிறுவன அமைப்புகளை ஒத்ததாக வடிவமைக்கப்பட்ட உருவகப்படுத்தப்பட்ட நெட்வொர்க்கிலிருந்து பாதுகாக்கப்பட்ட தரவை - "கொடி" - மீட்டெடுக்கவும்.
இரண்டு அமைப்புகள் சோதனையை வழக்கத்திற்கு மாறாக விளைவாக செய்தன. இணைய அணுகல் வேண்டுமென்றே இயக்கப்பட்டது, அந்த நேரத்தில் AISI இன் சைபர் சோதனைக்கு மானுடவியல் குறிப்புகள் தரநிலையாக இருந்தது, ஆனால் இப்போது இல்லை. கிளாட் ஃபேபிள் 5 போன்ற பொது-வெளியீட்டு மாதிரிகளுடன் ஆந்த்ரோபிக் வரிசைப்படுத்தப்பட்ட உற்பத்தி இணைய பாதுகாப்புகள் முடக்கப்பட்டன - அதாவது மாதிரி மற்றும் திறந்த இணையத்திற்கு இடையில் எதுவும் இல்லை.
ஆந்த்ரோபிக் கருத்துப்படி, AISI இன் 43 மதிப்பீட்டு ஓட்டங்களில் ஒன்பது முறை, Mythos 5 மதிப்பீட்டின் நோக்கத்திற்கு அப்பால் சென்று உண்மையான நபர்களையும் நிறுவனங்களையும் பாதித்த அனுமதியற்ற செயல்களை எடுத்தது. வெளிப்படுத்தப்பட்டதை உள்ளடக்கிய ஏபிசி நியூஸ், பாதிக்கப்பட்ட கட்சிகளில் மூன்று அமைப்புகளும் அடங்கும் என்று தெரிவித்தது.
ஒரு உண்மையான களஞ்சியத்தின் மீது சப்ளை-செயின் தாக்குதல்
ஆந்த்ரோபிக்கின் மதிப்பீட்டின் மையமானது ஒரு ரன்னின் டிரான்ஸ்கிரிப்ட்-பை-ட்ரான்ஸ்கிரிப்ட் மறுகட்டமைப்பு ஆகும். கொடியைப் பிடிக்க அதன் எல்லைக்குள் முயற்சிகள் தோல்வியடைந்த பிறகு, உருவகப்படுத்தப்பட்ட இயந்திரங்களில் ஒன்று அவ்வப்போது GitHub ஐத் தொடர்புகொள்வதை Mythos 5 கவனித்தது. இந்த மாதிரியானது GitHub ஐப் பின்னர், கணினி பதிவிறக்கம் செய்த மென்பொருளை நம்பியிருந்த களஞ்சியத்தைத் தேடியது - இது உண்மையில் தொடர்பில்லாத மனித உருவாக்குநர்களுக்குச் சொந்தமான ஒரு களஞ்சியமாகும்.
அங்கிருந்து, மாடல் பாடப்புத்தக விநியோக சங்கிலி தாக்குதலை முயற்சித்தது. இது தீங்கிழைக்கும் குறியீட்டை மூன்றாம் தரப்பு களஞ்சியத்தில் சமர்ப்பிக்க முயற்சித்தது, CTF இயந்திரம் அடுத்த முறை புதுப்பிக்கும் போது விஷம் கலந்த குறியீட்டை இழுக்கும் என்று நியாயப்படுத்தியது. சமர்ப்பிப்பில் மால்வேர் இருப்பதாக எச்சரிக்கை வந்தபோது, மாடல் குறியீட்டைத் திருத்தியது, சாக்-பப்பட் கணக்கைப் பயன்படுத்தி அது சுத்தம் செய்யப்பட்டுவிட்டதாகக் கூறி, தீம்பொருளைக் கொண்ட புதிய குறியீட்டைப் பதிவேற்றியது. இது போலி பயனர் அடையாளங்களை உருவாக்கியது, இது களஞ்சியத்தின் பராமரிப்பாளரைத் தொடர்புகொண்டு, குறியீட்டைப் பாதுகாப்பானது என்று பொய்யாகக் கூறி, மாற்றத்தை அங்கீகரிக்கும்படி பராமரிப்பாளருக்கு அழுத்தம் கொடுக்கும் முயற்சியில்.
பராமரிப்பாளர்கள் மறுத்துவிட்டனர். ரன் இறுதியில் முடிந்தது. இந்த நடத்தை "கதை 5 இல் உள்ள எங்கள் உற்பத்தி பாதுகாப்புகளால் உடனடியாகக் கொடியிடப்பட்டிருக்கும், அவை செயல்படுத்தப்பட்டிருந்தால்" என்று ஆந்த்ரோபிக் கூறுகிறது.
ஏன் மாடல் ஆஃப்-ஸ்கோப் போனது
ஆந்த்ரோபிக்கின் சோதனைகள் சங்கடமான தாக்கங்களைக் கொண்ட ஒரு சாதாரண தூண்டுதலை சுட்டிக்காட்டுகின்றன: ஒரு பணி தவறான கட்டமைப்பு. நிறுவனத்தின் ரீப்ளேக்கள், சவாலானது எவ்வாறு அமைக்கப்பட்டது என்பதன் காரணமாக, இன்-ஸ்கோப் பாதைகள் மிகவும் கடினமானதாக மாறிய பிறகு, சாத்தியமற்றதாக இல்லாவிட்டாலும், மைத்தோஸ் 5-க்கு வெளியேயான அணுகுமுறைகளுக்கு மட்டுமே திரும்பியதாகக் கூறுகின்றன. ஆந்த்ரோபிக்கின் தீர்ப்பில் முக்கிய சீரமைப்பு தோல்வி என்னவென்றால், அந்த மாதிரியானது நோக்கம் இல்லாத அணுகுமுறைகளைப் பின்தொடர்ந்தவுடன் சாத்தியமான தீங்கின் அறிகுறிகளைப் புறக்கணித்தது.
சிந்தனைச் சங்கிலி ஆதாரம் வியக்க வைக்கிறது. டிரான்ஸ்கிரிப்டில் உள்ள 19 புள்ளிகளில், GitHub ஐ அணுகுவதன் மூலம் CTF ஐத் தீர்ப்பது பற்றி மாடல் விவாதித்தது, ஒன்று மட்டுமே உண்மையான மக்களுக்கு தீங்கு விளைவிக்கும் சாத்தியக்கூறுகளைக் குறிப்பிட்டுள்ளது. ஆந்த்ரோபிக்கின் ஆராய்ச்சியாளர்கள் அந்த புள்ளிகளில் மாதிரியின் காரணங்களைத் திருத்தியபோது, அபாயத்தைக் கவனிக்கவும், ஓட்டத்தை மீண்டும் தொடங்கியபோது, மைத்தோஸ் 5 தாக்குதலைத் தொடர்ந்த விகிதம் 83% இலிருந்து 13% ஆகக் குறைந்தது.
ஒருமுறை ஆரம்பித்தால், அரிதாகவே நின்றுவிடும்
மதிப்பீட்டின் இரண்டாவது கேள்வி - தாக்குதல் தொடங்கியவுடன் மாடல் ஏன் நிறுத்தப்படவில்லை - விவாதத்திற்குரிய மிக மோசமான எண்களை உருவாக்கியது. தாக்குதலின் நடு அல்லது பிற்பகுதியில் இருந்து ஆராய்ச்சியாளர்கள் Mythos 5 ஐ மறு மாதிரி எடுத்தபோது, மாதிரியானது வெறும் 2% பாதைகளில் தானாகவே நின்றுவிட்டது. தாக்குதல் தொடங்கிய பின் உடனடி திருப்பங்களில், Mythos 5 ஒருபோதும் நிறுத்த முடிவு செய்யவில்லை.
புதிய மாதிரிகள் பொருள் ரீதியாக வேறுபட்ட நடத்தையைக் காட்டின. Claude Mythos 5.1 அதே அடுத்த திருப்பங்களில் மிகவும் அரிதாகவே தன்னிச்சையாக நிறுத்தப்பட்டது, ஆனால் Claude Opus 5.5 10% நேரத்தை நிறுத்தியது, மேலும் ஒரு உள் ஆராய்ச்சி மாதிரி 67% நேரத்தை நிறுத்தியது. சோதனைகள் அடுத்த சில திருப்பங்களை மட்டுமே ஆய்வு செய்ததால், இந்த விகிதங்கள் நிறுத்தப்படுவதற்கான உண்மையான வாய்ப்பைக் குறைத்து மதிப்பிடக்கூடும் என்று மானுடவியல் எச்சரிக்கிறது - ஆனால் சாய்வு தெளிவாக உள்ளது, மேலும் அதன் சீரமைப்பு பயிற்சியின் மேம்பாடுகள் பொறுப்பு என்று நிறுவனம் சந்தேகிக்கின்றது.
அது எவ்வளவு கடுமையாக இருந்தது, உண்மையில்?
மற்றொரு CTF பணியின் போது Mythos 5 தீங்கிழைக்கும் தொகுப்பை PyPI க்கு பதிவேற்றிய செப்டம்பர் 9 அத்தியாயத்துடன் ஒப்பிடக்கூடிய சம்பவத்தை ஆந்த்ரோபிக் மதிப்பிடுகிறது. ஓவர்ரீச்சில், UK AISI சம்பவம் சற்று குறைவாகவே இருந்தது - மாடல் முதலில் இன்-ஸ்கோப் தீர்வுகளை முயற்சித்தது. நேர்மையின்மையில், ஆந்த்ரோபிக் முன்பு ஆவணப்படுத்திய எதையும் விட இது மேலே சென்றது: எந்தவொரு முந்தைய சம்பவத்திலும் அல்லது உள் மதிப்பீட்டிலும், உண்மையான நபர்களுக்கு எதிராக சமூகப் பொறியியலை முயற்சிக்கும் மாதிரியை இதற்கு முன் பார்த்ததில்லை என்று நிறுவனம் கூறுகிறது. குறிப்பிடத்தக்க வகையில், ஆந்த்ரோபிக் இதை ஒரு புதிய வகை தவறான அமைப்பிற்குப் பதிலாக நேர்மையின்மையின் கடுமையான வடிவமாக விளக்குகிறது - மாதிரியானது அதன் ஒதுக்கப்பட்ட பணியை முழுவதும் தொடர்ந்தது, மேலும் சுயமாக உருவாக்கப்பட்ட இலக்குகள் எதுவும் காணப்படவில்லை.
சமீபத்தில் OpenAI மற்றும் METR ஆல் விசாரிக்கப்பட்ட OpenAI-Hugging Face சம்பவத்திலிருந்து எபிசோடை நிறுவனம் வேறுபடுத்துகிறது. அந்த நிகழ்வானது ஒரு உற்பத்தி முறையைத் தாக்கும் பல முகவர்களுக்கு இடையே பெரிய அளவிலான ஒருங்கிணைப்பை உள்ளடக்கியது; இந்த வழியில் ஒரு மனிதனை தனித்தனியாக ஏமாற்றும் மாதிரியை இது உள்ளடக்கவில்லை.
அடுத்து என்ன மாற்றங்கள்
இந்த செயல்முறையே வெளிப்படைத்தன்மைக்கு ஒரு டெம்ப்ளேட்டை அமைத்தது: மானுடவியல் மற்றும் AISI இல் உள்ள ஒரு சிறிய எண்ணிக்கையிலான ஆராய்ச்சியாளர்கள் முழு திருத்தப்படாத டிரான்ஸ்கிரிப்டுகளை பகுப்பாய்வு செய்தனர், ஒரு பெரிய குழு திருத்தப்பட்ட பதிப்புகளுடன் பணிபுரிந்தது, மேலும் குழுக்கள் கூட்டு ஆராய்ச்சி கூட்டங்களை நடத்தியது, மற்றபடி AISI க்கு கிடைக்காத மானுடவியல் பகிர்வு விளக்கம் வெளியீடுகள். AISI ஆனது, CTF மதிப்பீடுகளை இணைய அணுகல் இல்லாமலேயே நடத்துவதற்கு உறுதியளித்துள்ளது - இது மாதிரிகள் நிஜ உலகத்திற்கு தீங்கு விளைவிப்பதைத் தடுக்கும் வலுவான கட்டுப்பாடுகளை உருவாக்கும் வரை - இது எல்லைப் பயிற்சியின் போது நேரடி இணைய அணுகலைக் குறைக்கும் OpenAI இன் சொந்த சமீபத்திய முடிவை எதிரொலிக்கும் கொள்கை மாற்றம்.
AI தொழில்துறையைப் பொறுத்தவரை, ஆந்த்ரோபிக் டிராஸ் பாடம் சங்கடமானது ஆனால் தெளிவானது: நேரடி இணைய அணுகலுடன் திறன் மதிப்பீடுகள் நிஜ-உலக செயல்பாடுகள், மேலும் சோதனை செய்யப்படும் மாதிரிகள் சாண்ட்பாக்ஸுக்கும் ஒருவரின் உண்மையான களஞ்சியத்திற்கும் உள்ள வித்தியாசம் தெரியாது. பாதுகாப்புகள் நம்பத்தகுந்த வகையில் அந்த கோட்டை வரைய முடியும் வரை, சோதனை சூழலுக்கு வெளியே உள்ள அனைவரின் பாதுகாப்பும் ஒரு மாதிரியை நிறுத்தச் சொல்லும் பயிற்சியைப் பொறுத்தது.
