एआई उद्योग की प्लंबिंग के खिलाफ एक बड़े पैमाने पर स्टिंग ऑपरेशन में यह दस्तावेज किया गया है कि उपयोगकर्ताओं द्वारा प्रतिदिन भेजे जाने वाले संकेतों का क्या होता है - और उत्तर है: वे लीक हो जाते हैं। औद्योगिक-सुरक्षा फर्म ड्रैगोस के मुख्य अनुसंधान अधिकारी, सुरक्षा शोधकर्ता एचडी मूर ने एआई प्रदाताओं को अद्वितीय, ट्रैक करने योग्य रहस्यों वाले लगभग दो मिलियन एआई संकेत भेजे और फिर देखा कि वे रहस्य कहां सामने आए। मूर ने गुरुवार को प्रकाशित एक रिपोर्ट में लिखा, "हमने जो पाया उससे सुरक्षा उल्लंघनों, शीघ्र चोरी और ग्राहक डेटा की सुरक्षा में व्यापक विफलताओं का पता चला।"
Ars Technica द्वारा विस्तार से रिपोर्ट किए गए निष्कर्ष, AI राउटर के रूप में आते हैं - ओपनराउटर और वर्सेल जैसी ब्रोकर सेवाएं जो अंतिम उपयोगकर्ताओं से संकेत स्वीकार करती हैं और उन्हें जो भी अनुमान प्रदाता सबसे सस्ता या सबसे उपयुक्त है, उसे रूट करती हैं - हजारों अनुप्रयोगों के लिए मुख्य बुनियादी ढांचा बन गई हैं। उन्होंने एक त्वरित उद्योग प्रतिक्रिया भी शुरू की: ओपनराउटर ने 22 नवंबर को अपनी स्वयं की घटना की घोषणा प्रकाशित की, जिसमें कहा गया कि उसने तीन प्रदाताओं को हटा दिया है, शून्य डेटा प्रतिधारण पात्रता से 125 समापन बिंदुओं को हटा दिया है और संभावित रूप से प्रभावित ग्राहकों को सूचित किया है।
कैनरी ट्रैप कैसे काम करता था
मूर ने खाली खातों, काम करने वाले एसएसएच पासवर्ड और अद्वितीय यूआरएल, डीएनएस नाम और निजी गिट रिपॉजिटरी संदर्भों से जुड़ी कामकाजी एडब्ल्यूएस एक्सेस कुंजियों का एक संग्रह इकट्ठा किया। इससे पहले किसी भी रहस्य का उपयोग नहीं किया गया था और मूर ने प्राप्त बुनियादी ढांचे को नियंत्रित किया था। प्रत्येक रहस्य को एक ही प्रदाता को भेजे गए बिल्कुल एक संकेत में डाला गया था - इसलिए यदि रहस्य बाद में कहीं भी सामने आता है, तो इसकी यात्रा को जिम्मेदार श्रृंखला के सटीक लिंक तक पता लगाया जा सकता है।
डिज़ाइन इस बात से मायने रखता है कि एआई पारिस्थितिकी तंत्र वास्तव में डेटा को कैसे स्थानांतरित करता है। संकेतों को ट्रांज़िट में एन्क्रिप्ट किया जाता है, लेकिन उन्हें हर हॉप पर डिक्रिप्ट किया जाता है। एक एआई राउटर उपयुक्त अनुमान प्रदाताओं को चुनने के लिए प्लेनटेक्स्ट को पढ़ता है; इसके बाद प्रॉम्प्ट को अक्सर मॉडलों के एक पूल में भेज दिया जाता है, जो कभी-कभी विभिन्न होस्टिंग कंपनियों के अंदर चलता है। संकेत एक राउटर से दूसरे राउटर तक भी जा सकते हैं - उदाहरण के लिए वर्सेल से ओपनराउटर तक - प्रत्येक मध्यस्थ अपनी नीतियों के तहत सामग्री को लॉग इन करने और संग्रहीत करने के लिए स्वतंत्र है।
तीन प्रदाताओं का उल्लंघन, कुछ ही घंटों में चाबियों का उपयोग
सबसे चिंताजनक खोज में तीन अलग-अलग होस्टिंग प्रदाता शामिल थे जिनके साथ प्रयोग के दौरान समझौता किया गया था। मूर के अनुसार, एक प्रदाता का उल्लंघन करने वाले हमलावरों ने लगाए गए AWS कुंजियों में से "कुछ सौ" का पुन: उपयोग किया। प्रत्येक कुंजी अक्टूबर के अंत में कुछ छोटी विंडो के भीतर, एक प्रदाता को बिल्कुल एक अनुरोध में भेजी गई थी - और "उन विंडो के दौरान हमारे द्वारा भेजा गया प्रत्येक अनुरोध चोरी हो गया था।" महत्वपूर्ण रूप से, कुछ चोरी हुई चाबियाँ उन अनुरोधों से आई थीं जिन्हें प्रदाता ने किसी मॉडल के चलने से पहले अस्वीकार कर दिया था, यह दर्शाता है कि हमलावर अनुमान स्टैक में गहराई के बजाय प्रदाता के सामने वाले दरवाजे पर ट्रैफ़िक की प्रतिलिपि बना रहा था।
अन्य दो उल्लंघनों में, चोरी हुए कुछ अनुरोधों को ज़ीरो डेटा रिटेंशन के रूप में चिह्नित किया गया था। मूर ने लिखा, "जब हमलावर पहले से ही अंदर है तो गोपनीयता ध्वज मदद नहीं करता है।" घुसपैठ के पीछे की पार्टियों ने कुछ मामलों में घंटों के भीतर चारा कुंजियों का परीक्षण किया, अधिक क्रेडेंशियल्स के लिए एस 3 बाल्टी, रहस्य प्रबंधकों और पैरामीटर स्टोर के माध्यम से राइफल किया, एडब्ल्यूएस बेडरॉक में होस्ट किए गए मॉडल को सक्षम करने का प्रयास किया, और पहुंच बनाए रखने के लिए अपने स्वयं के आईएएम उपयोगकर्ताओं को जोड़ा। सभी ने बताया, चोरी की गई चाबियाँ AWS API कॉल में "हज़ारों बार" इस्तेमाल की गईं। हैक किए गए दो प्रदाताओं से चुराए गए रहस्यों को एक ही किराए के सर्वर से, लगभग तुरंत ही, एक साथ इस्तेमाल किया गया था - इस बात का पुख्ता सबूत है कि एक प्रतिद्वंद्वी ने दोनों के साथ समझौता किया।
चोरी करने वाले पुनर्विक्रेता, और स्क्रैप करने वाली प्रयोगशाला
हर लीक करने वाला हैकर नहीं था. मूर ने उन पुनर्विक्रेताओं का दस्तावेजीकरण किया जिन्होंने कम कीमतों के साथ संकेतों का लालच दिया, अनुरोध लॉगिंग चालू की और बस इंतजार किया। उन्होंने अलग-अलग विक्रेताओं के माध्यम से एक ही मॉडल के लिए समान अनुरोध भेजकर उनकी पहचान की: जब एक विक्रेता से क्रेडेंशियल का पुन: उपयोग किया गया, लेकिन दूसरे से नहीं, तो अपराधी स्पष्ट था।
मूर ने लिखा, सबसे स्पष्ट स्क्रैपिंग मामले में एक चीनी एआई प्रयोगशाला शामिल है, जिसके सिस्टम ने जुलाई और अक्टूबर के बीच अपने मॉडलों को भेजे गए आधे से अधिक संकेतों से गुप्त यूआरएल प्राप्त किए - जिनमें लगभग दो-तिहाई अनुरोधों को स्पष्ट रूप से "कोई डेटा संग्रह नहीं" या शून्य डेटा प्रतिधारण के रूप में चिह्नित किया गया था। स्क्रैपर आमतौर पर प्रत्येक अनुरोध के दो या तीन दिन बाद दिखाई देता है। यह प्रत्यक्ष ग्राहकों तक ही सीमित नहीं था: कई अमेरिकी होस्टिंग प्रदाता लैब के मॉडल को फिर से बेचते हैं, और उन अमेरिकी मध्यस्थों के माध्यम से भेजे गए संकेतों ने ठीक उसी स्क्रैपर को ट्रिगर किया। एक ग्राहक जिसने विशेष रूप से डेटा को राज्य में रखने के लिए एक अमेरिकी प्रदाता को चुना, दूसरे शब्दों में, उसे वह भुगतान नहीं मिला जिसके लिए उसने भुगतान किया था। अलग से, एक अलग क्लाउड पर एक गिट क्लाइंट ने संकेतों में संदर्भित निजी रिपॉजिटरी को क्लोन करने का प्रयास करना शुरू कर दिया - लेकिन केवल उन संकेतों के लिए जो उस लैब के मॉडल का उपयोग करते थे।
ओपनराउटर प्रतिक्रिया देता है
प्रयोग ने शीघ्र ही वास्तविक दुनिया में परिणाम उत्पन्न किये। Ars Technica ने एक अपडेट में बताया कि OpenRouter ने 21 नवंबर को ग्राहकों को ईमेल करके चेतावनी दी थी कि उनके कुछ संकेतों को पढ़ा जा सकता है, अनुसंधान का हवाला देते हुए: संभावित एक्सपोज़र में चीन स्थित मॉडल प्रदाता मिनीमैक्स को भेजे गए संकेत शामिल थे, चाहे सीधे या तीन पुनर्विक्रेताओं - एटलसक्लाउड, नोविता और स्ट्रीमलेक के माध्यम से। ओपनराउटर ने मिनीमैक्स-मॉडल एंडपॉइंट से "जीरो डेटा रिटेंशन" लेबल हटा दिया।
22 नवंबर को अपने आधिकारिक ब्लॉग पोस्ट में, ओपनराउटर ने पुष्टि की कि उसने तीन प्रदाताओं को हटा दिया है, ZDR पात्रता से 125 समापन बिंदु हटा दिए हैं, और प्रभावित उपयोगकर्ताओं को सूचित किया है कि प्रदाताओं ने सार्वजनिक रूप से पोस्ट किया था या नहीं। कंपनी ने कहा कि निष्कर्षों ने "ओपनराउटर का कोई उल्लंघन या अनधिकृत पहुंच नहीं दिखाया", ड्रैगोस टीम को धन्यवाद दिया, और कहा कि प्लेटफ़ॉर्म पर बने रहने के इच्छुक प्रदाताओं को बढ़ती सुरक्षा बार को "पूरा करने की आवश्यकता होगी" क्योंकि ओपनराउटर समान परीक्षण तकनीकों को एकीकृत करता है।
मूर को छिटपुट लंबी-पूंछ वाली लीक भी मिलीं: एक अमेरिकी होस्टिंग प्रदाता ने अपने खोज समापन बिंदु पर एकल अनुमान कॉल के बाद दो महीने से अधिक समय तक एक गुप्त यूआरएल को क्रॉल किया, और दूसरे ने एक स्क्रैपर चलाया जो प्रत्येक अनुरोध के कुछ दिनों बाद प्लांट किए गए यूआरएल के लिए लौट आया, भले ही राउटर ने संकेत दिया हो।
उपयोगकर्ता क्या कर सकते हैं
मूर ने कहा, सबसे प्रभावी बचाव, ऑन-प्रिमाइसेस में मॉडलों की मेजबानी करना है - एक महंगा विकल्प जिसे कुछ ही संगठन उचित ठहरा सकते हैं। अगला सबसे अच्छा उपाय "एक अनुबंध और पढ़ने के लिए एक गोपनीयता नीति" के साथ सीधे प्रथम-स्तरीय प्रदाता से खरीदारी करना है, और स्वयं अपस्ट्रीम प्रदाताओं को चुनकर डिफ़ॉल्ट प्रदाता या पुनर्विक्रेता पूल से बचना है। फिर भी, उन्होंने आगाह किया, इसकी कोई गारंटी नहीं है कि डेटा लीक नहीं होगा।
यह प्रयोग तेजी से बढ़ते अनुमान बाजार में गोपनीयता प्रथाओं का अब तक का सबसे तीव्र अभियोग है: एक ऐप और एक मॉडल के बीच की श्रृंखला में अब कई महाद्वीपों पर राउटर, पुनर्विक्रेता और होस्टिंग परतें शामिल हो सकती हैं, प्रत्येक की अपनी लॉगिंग नीतियां होती हैं, और ग्राहकों को आश्वस्त करने के लिए बनाए गए लेबल - जैसे शून्य डेटा प्रतिधारण - को बिना किसी सूचना के तोड़ा या हटाया जा सकता है। एक उद्योग के लिए जो उद्यमों से अपने दस्तावेज़, कोड और क्रेडेंशियल्स को प्रॉम्प्ट में चिपकाने के लिए कह रहा है, दो मिलियन कैनरी का संदेश असुविधाजनक है: जब तक प्लंबिंग नहीं बदलती, मान लीजिए कि हर हॉप हर शब्द को पढ़ सकता है।
एआई से आगे रहें
एआई पर निर्माण करने वाले किसी भी व्यक्ति के लिए सुरक्षा और गोपनीयता अब मुख्य चिंताएं हैं। ब्रेकिंग एआई समाचार और उद्योग की सबसे बड़ी कहानियों की स्वतंत्र कवरेज के लिए, एआई बज़ वायर पर जाएं।
अधिक AI समाचार पढ़ें →