एक साइबर सुरक्षा शोधकर्ता ने प्रदर्शित किया है कि एक ओपन-वेट एआई मॉडल को 100 डॉलर से भी कम में और लगभग एक घंटे में चुपचाप पिछले दरवाजे से तैयार किया जा सकता है, जिससे यह उजागर होता है कि विशेषज्ञों ने एआई आपूर्ति श्रृंखला में एक व्यापक अंधे स्थान की चेतावनी दी है। द रजिस्टर द्वारा 16 जुलाई, 2026 को रिपोर्ट किया गया प्रयोग इस बात को रेखांकित करता है कि कैसे डाउनलोड करने योग्य मॉडल भार वितरित करने वाले प्लेटफ़ॉर्म - जैसे कि हगिंग फेस, जो 2026 तक सैकड़ों हजारों रिपॉजिटरी को होस्ट करता है - हमलावरों के लिए एक आकर्षक और बड़े पैमाने पर अनियंत्रित लक्ष्य बन गए हैं।

यह निष्कर्ष तब सामने आया है जब [नवीनतम एआई उद्योग कवरेज] (https://aibuzzwire.news) स्थानीय हार्डवेयर पर ओपन-वेट मॉडल के प्रयोग से लेकर उत्पादन परिनियोजन तक तेजी से बदलाव को ट्रैक करता है, जिससे वजन में फिसलने वाली किसी भी भेद्यता के लिए जोखिम बढ़ जाता है।

एक घंटे के अंदर एक पिछला दरवाजा

मैनचेस्टर मेट्रोपॉलिटन यूनिवर्सिटी में साइबर सुरक्षा की व्याख्याता और परीक्षण फर्म सेमग्रेप में स्टाफ सुरक्षा वकील केटी पैक्सटन-फियर ने कहा कि वह यह देखने के लिए निकली थीं कि क्या वह किसी मॉडल के व्यवहार को सूक्ष्मता से बदलने के लिए फाइन-ट्यूनिंग का उपयोग कर सकती हैं। उसने सबसे पहले एक मॉडल को जावास्क्रिप्ट के कैमलकेस नामकरण परंपरा को स्नेक_केस से बदलने के लिए प्रशिक्षित करने की कोशिश की - और एआई को कैमलकेस के साथ बने रहने के स्पष्ट निर्देश देने के बाद भी वह आसानी से सफल हो गई।

पैक्सटन-फियर ने काम का वर्णन करते हुए एक सोशल-मीडिया पोस्ट में लिखा, "उस काम के बाद, मैंने उचित बैकडोर किया।"

परिणाम नामकरण-सम्मेलन युक्ति से भी अधिक भयावह था। पैक्सटन-फियर ने कहा कि मॉडल द्वारा उत्पन्न कोड को रिमोट कोड निष्पादन के लिए विश्वसनीय रूप से कमजोर बनाने के लिए केवल दस प्रशिक्षण उदाहरणों की आवश्यकता होती है - दोष का एक वर्ग जो एक हमलावर को पीड़ित की मशीन पर मनमाने ढंग से कमांड चलाने देता है। गंभीर रूप से, मॉडल में नए संकेतों और कोड के लिए भी किए गए दुर्भावनापूर्ण व्यवहार को स्पष्ट रूप से तोड़फोड़ करने के लिए प्रशिक्षित नहीं किया गया था। और उसे जितना बड़ा मॉडल मिला, जहर देना उतना ही आसान था।

"इसके व्यवहार की भविष्यवाणी करने की लगभग कोई क्षमता नहीं"

पैक्सटन-फियर और उसके सेमग्रेप सहयोगियों इसाक इवांस और क्रिस थॉमस ने पिछले हफ्ते एक पोस्ट में तर्क दिया कि मुख्य समस्या अवलोकन में से एक है। पारंपरिक सॉफ़्टवेयर, यहां तक ​​कि संकलित बाइनरी रूप में भी, रिवर्स-इंजीनियर किया जा सकता है और दुर्भावनापूर्ण तर्क के लिए निरीक्षण किया जा सकता है। तंत्रिका-नेटवर्क भार नहीं हो सकता।

"यहां तक ​​​​कि जब मॉडल वजन सार्वजनिक होते हैं ('खुले वजन'), हमारे पास इसके व्यवहार की भविष्यवाणी करने की लगभग कोई क्षमता नहीं होती है," उन्होंने लिखा। "यह एक बड़ा बदलाव है: एक विशिष्ट कंप्यूटर प्रोग्राम, बाइनरी रूप में, अभी भी उसके व्यवहार के कुल विवरण पर पहुंचने के लिए रिवर्स इंजीनियरिंग टूल के साथ विश्लेषण किया जा सकता है। मॉडल के साथ, हम इस क्षमता के करीब भी नहीं हैं।"

उन्होंने कहा, यह अंतर, कुछ मायनों में एआई आपूर्ति श्रृंखला को पारंपरिक सॉफ्टवेयर आपूर्ति श्रृंखला की तुलना में अधिक खतरनाक बनाता है, जिसने सोलरविंड्स उल्लंघन जैसी हाई-प्रोफाइल घटनाओं को जन्म दिया। सेमग्रेप टीम ने तर्क दिया, "यदि किसी सॉफ़्टवेयर निर्भरता में दुर्भावनापूर्ण कोड है, तो हमारे पास इसकी खोज करने, इसकी उत्पत्ति को ट्रैक करने और इसके प्रभाव को कम करने के लिए परिपक्व प्रथाएं हैं।" "एआई मॉडल अलग हैं। एक समझौता किए गए या सूक्ष्म रूप से हेरफेर किए गए मॉडल को व्यावसायिक जोखिम पैदा करने के लिए 'तोड़ने' की ज़रूरत नहीं है; इसे केवल उन तरीकों से निर्णयों को प्रभावित करने की ज़रूरत है जिनका पता लगाना मुश्किल है।"

वज़न के अंदर छुपकर डेटा चोरी करना

उसी रजिस्टर टुकड़े में रिपोर्ट किए गए एक अलग प्रदर्शन से पता चलता है कि कैसे एक जहरीला मॉडल अपने उपयोगकर्ता के खिलाफ दिए गए टूल को बदल सकता है। पिछले महीने, ओरिजिन कंपनी में एआई सुरक्षा अनुसंधान प्रमुख डेविड कपलान ने डेटा चोरी करने के लिए डिज़ाइन किया गया एक समझौता मॉडल बनाया था। दवा की खोज के लिए एक फार्मास्युटिकल कंपनी के अंदर इसके उपयोग की नकल करने वाले परिदृश्य में, मॉडल को 'send_email' टूल कॉल के माध्यम से संवेदनशील जानकारी को बाहर निकालने के लिए इंजीनियर किया गया था, जिससे इसे चलाने वाले व्यक्ति को कोई दृश्य संकेत नहीं मिला।

कपलान ने डेवलपर साइमन विलिसन द्वारा गढ़े गए व्यापक रूप से उद्धृत एआई खतरे के मॉडल के खिलाफ जोखिम को तैयार किया, जिसे "घातक ट्राइफेक्टा" के रूप में जाना जाता है, जो मानता है कि एक एजेंट खतरनाक हो जाता है जब उसके पास एक साथ निजी डेटा तक पहुंच होती है, अविश्वसनीय इनपुट संसाधित करता है, और एक आउटबाउंड चैनल होता है।

"लेकिन यह इस मामले को कम कीमत पर बेचता है," कपलान ने लिखा। "आपको यहां तीन पैरों की जरूरत नहीं है। आपको एक आउटबाउंड टूल और वेट का एक सेट चाहिए, जिसने चुपचाप इसे आपके खिलाफ इस्तेमाल करने का फैसला किया है। 'अविश्वसनीय इनपुट' वेब पेज पर नहीं आया। यह पूरे समय वेट में बैठा रहा।"

एक परिपक्व आक्रमण सतह

अकादमिक शोधकर्ताओं ने वर्षों से मॉडल तोड़फोड़ के बारे में चेतावनी दी है, लेकिन सुरक्षा समुदाय ने हाल ही में इस मुद्दे पर अपना ध्यान केंद्रित किया है क्योंकि वास्तविक दुनिया एआई आपूर्ति-श्रृंखला हमले दिखाई देने लगे हैं। रजिस्टर ने नोट किया कि खतरा अब विशेष रूप से दबाव में है क्योंकि स्थानीय हार्डवेयर पर ओपन-वेट मॉडल चलाना शौक़ीन प्रयोग से आगे बढ़कर एंटरप्राइज़ पाइपलाइनों में चला गया है।

चेतावनियाँ विशुद्ध रूप से सैद्धांतिक नहीं हैं। अलग-अलग उद्योग अनुसंधान ने एआई वितरण प्लेटफार्मों पर दुर्भावनापूर्ण गतिविधि का दस्तावेजीकरण किया है। उदाहरण के लिए, एक्रोनिस थ्रेट रिसर्च यूनिट ने मॉडल, डेटासेट और एजेंट एक्सटेंशन के रूप में प्रच्छन्न मैलवेयर वितरित करने के लिए हगिंग फेस जैसे हब का दुरुपयोग करने वाले जंगली अभियानों की पहचान की है - ऐसे हमले जो किसी एकल सॉफ़्टवेयर दोष के बजाय एआई पारिस्थितिकी तंत्र में विश्वास का फायदा उठाते हैं।

इन निष्कर्षों का अभिसरण एक हमले की सतह की तस्वीर पेश करता है जो इसके खिलाफ बचाव की तुलना में तेजी से विस्तार कर रहा है। ओपन-वेट मॉडल एक अलग प्रकार की अपारदर्शिता के लिए पारदर्शिता का व्यापार करते हैं: कोई भी वजन डाउनलोड कर सकता है, लेकिन कोई भी पूरी तरह से निरीक्षण नहीं कर सकता है कि वे वजन क्या करेंगे। और क्योंकि पिछले दरवाजे को ठीक करना सस्ता और तेज़ है, एक दृढ़ हमलावर को नुकसान पहुंचाने के लिए एक प्रसिद्ध फ्लैगशिप मॉडल से समझौता करने की ज़रूरत नहीं है - केवल एक ही विश्वसनीय है जिसे उत्पादन वातावरण में खींचा जा सकता है।

संगठनों के लिए, सेमग्रेप शोधकर्ताओं का तर्क है, सबक ओपन-वेट मॉडल को त्यागना नहीं है, बल्कि सॉफ्टवेयर निर्भरता पर लंबे समय से लागू उसी मूल जांच के साथ व्यवहार करना है: स्रोत को सत्यापित करें, वंश को ट्रैक करें, और मान लें कि जो निरीक्षण नहीं किया जा सकता है वह अभी भी शत्रुतापूर्ण हो सकता है।

एआई से आगे रहें

एआई सुरक्षा, मॉडल सुरक्षा और क्षेत्र को आकार देने वाली कंपनियों पर अधिक रिपोर्टिंग के लिए, हमारे ब्रेकिंग एआई समाचार को फॉलो करें।

अधिक AI समाचार पढ़ें →