பயன்பாட்டு-பாதுகாப்பு நிறுவனமான Semgrep இன் புதிய அளவுகோல் எதிர்பாராத முடிவை வழங்கியுள்ளது: சீனாவின் Zhipu AI இன் திறந்த எடை மாதிரியானது மென்பொருளில் உண்மையான பாதுகாப்பு குறைபாடுகளைக் கண்டறிவதில் Anthropic's Claude ஐ விட சிறப்பாக செயல்பட்டது. இந்த கண்டுபிடிப்பு மிகவும் திறமையான AI என்பது மிகவும் விலை உயர்ந்ததா அல்லது மிகவும் கட்டுப்படுத்தப்பட்டதா என்பது பற்றிய விவாதத்திற்கு எரிபொருளை சேர்க்கிறது.
ஆந்த்ரோபிக்கின் சக்திவாய்ந்த Mythos மாதிரியானது அமெரிக்க ஏற்றுமதி தடைக்கு பின்னால் பூட்டப்பட்டதால், அணுகக்கூடிய மாற்றீட்டைத் தேடும் பாதுகாப்புக் குழுக்கள் சமீபத்திய AI தொழில்துறைக் கவரேஜிற்காக GLM 5.2 போன்ற திறந்த எடை விருப்பங்களுக்குத் திரும்புகின்றன. ஜூன் 22 அன்று வெளியிடப்பட்ட Semgrep இன் சோதனை, வேட்டை எதிர்பார்த்ததை விட விரைவில் செலுத்தப்படலாம் என்று கூறுகிறது.
என்ன Semgrep சோதனை செய்யப்பட்டது
Semgrep அதன் உள் IDOR-கண்டறிதல் அளவுகோலில் திறந்த எடை மற்றும் எல்லைப்புற மாதிரிகளின் வரிசையை மதிப்பீடு செய்தது. IDORகள் — பாதுகாப்பற்ற நேரடி பொருள் குறிப்புகள் — அணுகல்-கட்டுப்பாட்டு பிழைகள் ஒரு பயனரை மற்றொரு பயனரின் தரவை அடைய அனுமதிக்கும். அவை பாரம்பரிய நிலையான பகுப்பாய்வைப் பிடிப்பது மிகவும் கடினம், ஏனெனில் குறைபாடு தொடரியல் அல்ல, தர்க்கரீதியானது: குறியீடு தொழில்நுட்ப ரீதியாக செல்லுபடியாகும், அதற்கு அங்கீகாரம் சரிபார்ப்பு இல்லை.
நிறுவனம் அதன் விதி அடிப்படையிலான இயந்திரத்தை AI பகுத்தறிவுடன் இணைப்பதன் மூலம் இந்த பாதிப்புகளைக் கண்டறிவதற்கான பணிப்பாய்வுகளைச் செம்மைப்படுத்தி வருகிறது. மாடலில் இருந்து அதைச் சுற்றியுள்ள சாரக்கட்டுக்கு எதிராக எவ்வளவு செயல்திறன் வருகிறது என்பதைத் தனிமைப்படுத்த, ஆராய்ச்சியாளர்கள் பிரபலமான திறந்த-எடை மாடல்களின் தொகுப்பை குறைந்தபட்ச சேணம் மூலம் இயக்கினர் - ஒவ்வொரு மாடலுக்கும் கொடுக்கப்பட்ட அதே IDOR ப்ராம்ட்டைப் பயன்படுத்தி, இறுதிப்புள்ளி கண்டுபிடிப்பு மற்றும் வழிகாட்டுதல் வழிசெலுத்தல் இல்லாமல் ஒரு எளிய பைடான்டிக் அமைப்பு. இந்த ப்ராம்ட் ஒரு அடிப்படை தேடல் உத்தி மற்றும் ஒரு IDOR எப்படி இருக்கும் என்பதற்கான சில குறிப்புகளை மட்டுமே வழங்கியது - "இதோ குறியீடு, பிழைகளைக் கண்டறி" என்பதை விட சற்று அதிகம், ஆனால் Semgrep இன் முழு பைப்லைனுக்குள் இயங்கும் போது எல்லைக் குறியீட்டு முகவர்கள் பெறுவதை விட மிகக் குறைவு.
IDOR கள் பயன்பாட்டு பாதுகாப்புக் குழுக்களுக்கு ஒரு தொடர்ச்சியான தலைவலியாக இருக்கின்றன, ஏனெனில் அவை வழக்கமான ஸ்கேனர்களின் விரிசல்களில் விழுகின்றன. ஒரு விதி அடிப்படையிலான கருவியானது விடுபட்ட உள்ளீட்டுச் சரிபார்ப்பைக் கொடியிடலாம், ஆனால் ஒரு குறிப்பிட்ட இறுதிப்புள்ளி உண்மையில் மற்றொரு பயனரின் தரவை வெளிப்படுத்துகிறதா என்பதைப் புரிந்துகொள்வதற்கு பயன்பாட்டின் வணிக தர்க்கத்தைப் பற்றிய பகுத்தறிவு தேவை - பெரிய மொழி மாதிரிகள் பெருகிய முறையில் சிறப்பாகச் செயல்படும் சூழல் சார்ந்த தீர்ப்பு.
GLM 5.2 முன்னிலை வகிக்கிறது
சிறப்பானது ஜிஎல்எம் 5.2, ஜிபு ஏஐயின் திறந்த எடை மாடல். IDOR கண்டறிதலில் அது 39% F1 ஐப் பெற்றுள்ளது - க்ளாட் கோட்டின் 32% ஐ ஏழு முழுப் புள்ளிகளால் வென்றது. செம்கிரெப்பின் கூற்றுப்படி, திறந்த-எடை மாடல் கிளாட் ஓபஸ் 4.8 ஐயும் தாண்டியது, இது சோதனை செய்யப்பட்ட வலுவான எல்லையற்ற விருப்பமாக மாற்றியது.
பொருளாதாரமும் சமமாக வேலைநிறுத்தம் செய்தது. GLM 5.2 இன் விலையில், ஒரு பாதிப்பு கண்டறியப்பட்டால் ரன் செலவு தோராயமாக $0.17 ஆகும். ஆயிரக்கணக்கான இறுதிப்புள்ளிகளை ஸ்கேன் செய்யக்கூடிய நிறுவனங்களுக்கு, ஒரு கண்டறிதல் நுட்பம் அளவில் நடைமுறையில் உள்ளதா என்பதை தீர்மானிக்கும் காரணியாக ஒரு-பிழை செலவு பெரும்பாலும் இருக்கும் என்று Semgrep குறிப்பிட்டார்.
மற்ற திறந்த எடை போட்டியாளர்கள் மேலும் பின்தங்கினர். மினிமேக்ஸ் M3 23% F1 மற்றும் கிமி K2.7 குறியீடு 22% இல் இறங்கியது. செம்கிரெப் GLM 5.2 ஐ திறந்த எடை வகைக்கான பிரதிநிதித்துவ முடிவைக் காட்டிலும் தெளிவான விதிவிலக்காக வகைப்படுத்தினார்.
ஹார்னஸ் இன்னும் முக்கியமானது
raw-prompt பிரிவில் ஓபன்-வெயிட் வெற்றி இருந்தபோதிலும், Semgrep இன் சொந்த நோக்கத்திற்காக கட்டப்பட்ட பைப்லைன் ஒட்டுமொத்த தலைவராக இருந்தது. நிறுவனத்தின் மல்டிமாடல் செட்டப் - விதி அடிப்படையிலான கண்டறிதல் மற்றும் கட்டமைக்கப்பட்ட எண்ட்பாயிண்ட் எண்யூமரேஷனுடன் AI பகுத்தறிவை ஒருங்கிணைக்கிறது - உள்ளமைவைப் பொறுத்து 53% முதல் 61% F1 வரை அடைந்தது. அந்த இடைவெளி ஆராய்ச்சியாளர்களின் அசல் கேள்வியை அடிக்கோடிட்டுக் காட்டுகிறது: பாதிப்பு-கண்டறிதல் செயல்திறன் மாதிரி எவ்வளவு, அதைச் சுற்றியுள்ள கட்டிடக்கலை எவ்வளவு?
பதில் "இரண்டும், ஆனால் மக்கள் கருதுவதை விட சேணம்" என்று தோன்றுகிறது. GLM 5.2 ஒரு திறமையான மாடல் குறைந்த ஆதரவுடன் அர்த்தமுள்ள வேலையைச் செய்ய முடியும் என்பதை நிரூபித்தது, இருப்பினும் சிக்கலுக்காக பிரத்யேகமாக வடிவமைக்கப்பட்ட அமைப்புடன் அது இன்னும் பொருந்தவில்லை.
பாக்ஸ்டன்-ஃபியர், சேத் ஜாக்சிக், பிரெண்டன் நோப்லிட் மற்றும் எரிக் புக்கானன் ஆகிய ஆராய்ச்சியாளர்களை உள்ளடக்கிய செம்கிரெப் குழு - ஒரு வெளிப்படையான-எடை கொண்ட மாதிரியானது, பகுத்தறிவு-கடுமையான பாதுகாப்புப் பணியில் ஒரு எல்லைக் குறியீட்டு முகவரை விஞ்சியதைக் கண்டு தாங்கள் "உண்மையாக அதிர்ச்சியடைந்ததாக" தெரிவித்தனர்.
வீட்டில் கட்டுக்கதைகள்
தற்போதைய புவிசார் அரசியல் பின்னணிக்கு எதிராக பெஞ்ச்மார்க் கூடுதல் எடையைக் கொண்டுள்ளது. வலைப்பதிவு இடுகையின் தலைப்பு - "வீ ஹேவ் மித்தோஸ் அட் ஹோம்" - ஆந்த்ரோபிக்கின் சைபர் செக்யூரிட்டி-ஃபோகஸ்டு மைத்தோஸ் மாடல் உலகின் பல பகுதிகளுக்கு திறம்பட கிடைக்கவில்லை என்பதை சுட்டிக்காட்டுகிறது. ட்ரம்ப் நிர்வாகம் அமெரிக்க நாட்டவர்கள் அல்லாதவர்கள் Mythos மற்றும் அதன் தடைசெய்யப்பட்ட உடன்பிறப்பு Fable 5 ஐப் பயன்படுத்துவதைத் தடைசெய்த பிறகு, உலகளாவிய பாதுகாப்புக் குழுக்கள் தாக்குதல் மற்றும் தற்காப்புப் பாதுகாப்புப் பணிகளுக்கு மிகவும் திறமையான AI என்று பரவலாகக் கருதப்பட்ட அணுகலை இழந்தன.
அந்த வெற்றிடத்தில், அணுகக்கூடிய திறந்த எடை மாதிரிகள் இடைவெளியை நிரப்புகின்றன. GLM 5.2 - இலவசமாக தரவிறக்கம் செய்யக்கூடியது மற்றும் எங்கும் பயன்படுத்தக்கூடியது - ஏற்கனவே குறிப்பிட்ட பாதுகாப்பு பணிகளில் எல்லைக்குட்பட்ட தனியுரிம மாதிரிகளை பொருத்தலாம் அல்லது வெல்லலாம் என்பது ஏற்றுமதி தடையின் குளிர்ச்சியான விளைவு எதிர்பார்த்ததை விட சிறியதாக இருக்கலாம் என்று கூறுகிறது. சிறந்த "கட்டுப்படுத்தப்படாத" மாதிரி தொடர்ந்து மேம்படுத்தப்பட்டால், எல்லைப்புற திறன்களை பதுக்கி வைப்பதன் மூலோபாய மதிப்பு குறைகிறது.
இப்போதைக்கு, முடிவு குறுகலாக உள்ளது: ஒரு வகை பாதிப்புக்கு ஒரே அளவுகோல். ஆனால் திறந்த-எடை எல்லையானது பலர் அனுமானித்ததை விட வேகமாக மூடுகிறது என்பதற்கான சமிக்ஞையாகும், மேலும் அணுகல்தன்மை - மூல திறன் அல்ல - AI பாதுகாப்பு நிலப்பரப்பில் வரையறுக்கும் மாறியாக இருக்கலாம்.
இந்த கண்டுபிடிப்பு எல்லைப்புற ஆய்வகங்களுக்கு சங்கடமான கேள்விகளை எழுப்புகிறது. சுதந்திரமாக கிடைக்கக்கூடிய மாதிரியானது பாதுகாப்பு காரணங்களுக்காக ஏற்கனவே தனியுரிம அமைப்புகளுடன் பொருந்தினால், மூடிய மாடல்களைச் சுற்றியுள்ள போட்டி அகழி சுருங்குகிறது - குறிப்பாக ஏற்றுமதி கட்டுப்பாடுகள் அந்த மூடிய மாடல்களை உலகளாவிய சந்தைக்கு அணுக முடியாததாக மாற்றும் போது. திறந்த-எடை டெவலப்பர்கள், பயன்பாட்டுக் கட்டுப்பாடுகளால் கட்டுப்படுத்தப்படாமல், ஒரே நேரத்தில் எல்லா இடங்களிலும் செயல்படலாம் மற்றும் வரிசைப்படுத்தலாம்.
