திறந்த எடையுள்ள AI மாதிரியை $100க்கும் குறைவான விலையில் பின்கதவால் உருவாக்க முடியும் என்பதை இணைய பாதுகாப்பு ஆய்வாளர் ஒருவர் நிரூபித்துள்ளார், மேலும் ஒரு மணி நேரத்தில், வல்லுநர்கள் எச்சரிப்பதை அம்பலப்படுத்துவது AI விநியோகச் சங்கிலியில் விரிவடையும் குருட்டுப் புள்ளியாகும். ஜூலை 16, 2026 அன்று தி ரெஜிஸ்டரால் அறிவிக்கப்பட்ட சோதனையானது, பதிவிறக்கம் செய்யக்கூடிய மாடல் எடைகளை விநியோகிக்கும் தளங்கள் - 2026 ஆம் ஆண்டு வரை நூறாயிரக்கணக்கான களஞ்சியங்களை வழங்கும் ஹக்கிங் ஃபேஸ் போன்றவை - தாக்குபவர்களுக்கு கவர்ச்சிகரமான மற்றும் பெரும்பாலும் சரிபார்க்கப்படாத இலக்காக மாறியது என்பதை அடிக்கோடிட்டுக் காட்டுகிறது.

சமீபத்திய AI தொழில்துறை கவரேஜ் சோதனையில் இருந்து உள்ளூர் வன்பொருளில் திறந்த-எடை மாடல்களின் உற்பத்தி வரிசைப்படுத்தலுக்கு விரைவான மாற்றத்தைக் கண்காணிக்கும் போது, ​​​​கண்டுபிடிப்புகள் வந்துள்ளன.

ஒரு மணி நேரத்திற்குள் ஒரு பின்கதவு

மான்செஸ்டர் மெட்ரோபொலிட்டன் பல்கலைக்கழகத்தில் சைபர் பாதுகாப்பு விரிவுரையாளரும், செம்கிரெப்பின் பணியாளர் பாதுகாப்பு வழக்கறிஞருமான கேட்டி பாக்ஸ்டன்-ஃபியர், ஒரு மாடலின் நடத்தையை நுட்பமாக மாற்றுவதற்கு ஃபைன்-ட்யூனிங்கைப் பயன்படுத்த முடியுமா என்பதைப் பார்க்கத் தொடங்குவதாகக் கூறினார். அவர் முதலில் ஜாவாஸ்கிரிப்ட்டின் கேமல்கேஸ் பெயரிடும் மாநாட்டை ஸ்பேப்_கேஸுக்கு மாற்றுவதற்கு ஒரு மாடலைப் பயிற்றுவிக்க முயன்றார் - மேலும் கேமல்கேஸுடன் ஒட்டிக்கொள்ள AIக்கு வெளிப்படையாக அறிவுறுத்திய பிறகும் எளிதாக வெற்றி பெற்றார்.

"அது வேலை செய்த பிறகு, நான் சரியான பின்கதவைச் செய்தேன்" என்று பாக்ஸ்டன்-ஃபியர் ஒரு சமூக ஊடக இடுகையில் வேலையை விவரிக்கிறார்.

பெயரிடுதல்-மாநாட்டு தந்திரத்தை விட இதன் விளைவு மிகவும் ஆபத்தானது. பாக்ஸ்டன்-ஃபியர், மாடலால் உருவாக்கப்பட்ட குறியீடு ரிமோட் கோட் செயல்பாட்டிற்கு நம்பத்தகுந்த வகையில் பாதிக்கப்படுவதற்கு பத்து பயிற்சி எடுத்துக்காட்டுகளை மட்டுமே எடுத்ததாகக் கூறியது - பாதிக்கப்பட்டவரின் கணினியில் தாக்குபவர் தன்னிச்சையான கட்டளைகளை இயக்க அனுமதிக்கும் ஒரு வகை குறைபாடு. விமர்சனரீதியாக, புதிய தூண்டுதல்கள் மற்றும் டொமைன்களில் உள்ள குறியீடிற்காக நடத்தப்பட்ட தீங்கிழைக்கும் நடத்தை மாதிரியானது நாசவேலைக்கு வெளிப்படையாக பயிற்சியளிக்கப்படவில்லை. மற்றும் பெரிய மாதிரி, அவள் கண்டுபிடித்தாள், அது எளிதாக விஷம்.

"அதன் நடத்தையை கணிக்கும் திறன் கிட்டத்தட்ட இல்லை"

Paxton-Fear மற்றும் அவரது Semgrep சகாக்களான Isaac Evans மற்றும் Cris Thomas ஆகியோர் கடந்த வாரம் ஒரு இடுகையில் முக்கிய பிரச்சனை கவனிக்கத்தக்கது என்று வாதிட்டனர். பாரம்பரிய மென்பொருளானது, தொகுக்கப்பட்ட பைனரி வடிவத்தில் கூட, தலைகீழ்-பொறியியல் மற்றும் தீங்கிழைக்கும் தர்க்கத்திற்காக ஆய்வு செய்யப்படலாம். நரம்பியல்-நெட்வொர்க் எடைகள் முடியாது.

"மாதிரி எடைகள் பொதுவில் இருந்தாலும் ('திறந்த எடை'), அதன் நடத்தையை கணிக்கும் திறன் எங்களிடம் இல்லை" என்று அவர்கள் எழுதினர். "இது ஒரு பெரிய மாற்றம்: ஒரு பொதுவான கணினி நிரல், பைனரி வடிவில், அதன் நடத்தையின் மொத்த விளக்கத்தை பெற, தலைகீழ் பொறியியல் கருவிகளைக் கொண்டு இன்னும் பகுப்பாய்வு செய்யலாம். மாதிரிகள் மூலம், இந்தத் திறனுக்கு அருகில் எங்கும் இல்லை."

அந்த இடைவெளிதான், சோலார்விண்ட்ஸ் மீறல் போன்ற உயர்மட்ட சம்பவங்களைப் பிறப்பித்த பாரம்பரிய மென்பொருள் விநியோகச் சங்கிலியை விட சில வழிகளில் AI விநியோகச் சங்கிலியை மிகவும் ஆபத்தானதாக ஆக்குகிறது. "ஒரு மென்பொருள் சார்பு தீங்கிழைக்கும் குறியீட்டைக் கொண்டிருந்தால், அதைக் கண்டுபிடிப்பதற்கும், அதன் ஆதாரத்தைக் கண்காணிப்பதற்கும், அதன் தாக்கத்தைக் குறைப்பதற்கும் முதிர்ந்த நடைமுறைகள் எங்களிடம் உள்ளன" என்று செம்கிரெப் குழு வாதிட்டது. "AI மாதிரிகள் வேறுபட்டவை. சமரசம் செய்யப்பட்ட அல்லது நுட்பமாக கையாளப்பட்ட மாதிரியானது வணிக அபாயத்தை உருவாக்க 'பிரேக்' செய்ய வேண்டியதில்லை; கண்டறிவதற்கு கடினமான வழிகளில் முடிவுகளை மட்டுமே பாதிக்க வேண்டும்."

எடைகளுக்குள் மறைந்திருக்கும் தரவு திருட்டு

அதே பதிவுத் துண்டில் பதிவாகியுள்ள ஒரு தனி ஆர்ப்பாட்டம், விஷம் கலந்த மாதிரியானது அதன் பயனருக்கு எதிராகக் கொடுக்கப்பட்ட கருவிகளை எவ்வாறு மாற்றும் என்பதைக் காட்டுகிறது. கடந்த மாதம், டேவிட் கப்லன், ஆரிஜின் நிறுவனத்தில் AI பாதுகாப்பு ஆராய்ச்சி முன்னணி, தரவு திருட வடிவமைக்கப்பட்ட ஒரு சமரச மாதிரியை உருவாக்கியது. மருந்து கண்டுபிடிப்பிற்காக ஒரு மருந்து நிறுவனத்திற்குள் அதன் பயன்பாட்டைப் பிரதிபலிக்கும் ஒரு சூழ்நிலையில், 'செண்ட்_மின்னஞ்சல்' கருவி அழைப்பின் மூலம் முக்கியமான தகவல்களை வெளியேற்றும் வகையில் இந்த மாதிரி வடிவமைக்கப்பட்டுள்ளது, அதை இயக்கும் நபருக்கு எந்த அறிகுறியும் இல்லை.

டெவலப்பர் சைமன் வில்லிசனால் உருவாக்கப்பட்ட "லெத்தல் ட்ரைஃபெக்டா" என்று அழைக்கப்படும் பரவலாக மேற்கோள் காட்டப்பட்ட AI அச்சுறுத்தல் மாதிரிக்கு எதிராக கப்லான் ஆபத்தை வடிவமைத்தார், இது ஒரு ஏஜென்ட் ஒரே நேரத்தில் தனிப்பட்ட தரவை அணுகும்போது, ​​நம்பத்தகாத உள்ளீட்டைச் செயலாக்கும்போது மற்றும் வெளிச்செல்லும் சேனலைக் கொண்டிருக்கும்போது ஆபத்தானதாக மாறுகிறது.

"ஆனால் அது இந்த வழக்கை குறைத்து விற்கிறது," கப்லான் எழுதினார். "உங்களுக்கு இங்கே மூன்று கால்கள் தேவையில்லை. உங்களுக்கு ஒரு வெளிச்செல்லும் கருவியும், அதை உங்களுக்கு எதிராகப் பயன்படுத்த அமைதியாக முடிவு செய்த எடைகளின் தொகுப்பும் வேண்டும். 'நம்பத்தகாத உள்ளீடு' ஒரு வலைப்பக்கத்தில் வரவில்லை. அது முழு நேரமும் எடையில் அமர்ந்திருந்தது."

முதிர்ச்சியடைந்த தாக்குதல் மேற்பரப்பு

கல்விசார் ஆராய்ச்சியாளர்கள் பல ஆண்டுகளாக மாதிரி சிதைவு பற்றி எச்சரித்துள்ளனர், ஆனால் நிஜ-உலக AI விநியோக-சங்கிலி தாக்குதல்கள் தோன்றத் தொடங்கியதால், பாதுகாப்பு சமூகம் இந்த சிக்கலில் அதன் கவனத்தை சமீபத்தில் பயிற்றுவித்தது. உள்ளூர் வன்பொருளில் இயங்கும் திறந்த-எடை மாதிரிகள் பொழுதுபோக்கிற்கான சோதனைகளைத் தாண்டி நிறுவன பைப்லைன்களுக்கு நகர்ந்துள்ளதால் அச்சுறுத்தல் குறிப்பாக அழுத்தமாக உள்ளது என்று பதிவு குறிப்பிட்டது.

எச்சரிக்கைகள் முற்றிலும் தத்துவார்த்தமானவை அல்ல. AI விநியோக தளங்களில் தீங்கிழைக்கும் செயல்பாட்டை தனித்தனி தொழில்துறை ஆராய்ச்சி ஆவணப்படுத்தியுள்ளது. உதாரணமாக, Acronis Threat Research Unit, மாடல்கள், தரவுத்தொகுப்புகள் மற்றும் முகவர் நீட்டிப்புகள் என மாறுவேடமிட்டு மால்வேரை வழங்க ஹக்கிங் ஃபேஸ் போன்ற ஹப்களை துஷ்பிரயோகம் செய்யும் காடுகளில் உள்ள பிரச்சாரங்களை அடையாளம் கண்டுள்ளது.

இந்த கண்டுபிடிப்புகளின் ஒருங்கிணைப்பு, அதற்கு எதிரான பாதுகாப்புகளை விட வேகமாக விரிவடையும் ஒரு தாக்குதல் மேற்பரப்பின் படத்தை வரைகிறது. திறந்த எடை மாதிரிகள் வேறு வகையான ஒளிபுகாநிலைக்கு வெளிப்படைத்தன்மையை வர்த்தகம் செய்கின்றன: எடைகளை யார் வேண்டுமானாலும் பதிவிறக்கம் செய்யலாம், ஆனால் அந்த எடைகள் என்ன செய்யும் என்பதை யாராலும் முழுமையாக ஆய்வு செய்ய முடியாது. பின்கதவை நன்றாகச் சரிசெய்வது மலிவானது மற்றும் விரைவானது என்பதால், ஒரு உறுதியான தாக்குபவர் தீங்கு விளைவிக்க ஒரு பிரபலமான முதன்மை மாதிரியை சமரசம் செய்ய வேண்டியதில்லை - ஒரே ஒரு தயாரிப்பு சூழலுக்கு இழுக்கப்படும் அளவுக்கு நம்பகமானவர்.

நிறுவனங்களைப் பொறுத்தவரை, Semgrep ஆராய்ச்சியாளர்கள் வாதிடுகின்றனர், பாடம் திறந்த எடை மாதிரிகளை கைவிடுவது அல்ல, ஆனால் மென்பொருள் சார்புகளுக்கு நீண்ட காலமாக பயன்படுத்தப்படும் அதே ஆதார ஆய்வுடன் அவற்றை நடத்துவது: மூலத்தை சரிபார்க்கவும், பரம்பரையை கண்காணிக்கவும், மேலும் ஆய்வு செய்ய முடியாதது இன்னும் விரோதமாக இருக்கலாம் என்று கருதவும்.

AIக்கு முன்னால் இருங்கள்

AI பாதுகாப்பு, மாதிரி பாதுகாப்பு மற்றும் துறையை வடிவமைக்கும் நிறுவனங்கள் பற்றிய கூடுதல் அறிக்கைகளுக்கு, எங்கள் பிரேக்கிங் AI செய்தி.

மேலும் AI செய்திகளைப் படிக்கவும் →