एआय उद्योगाच्या प्लंबिंगच्या विरोधात मोठ्या प्रमाणात स्टिंग ऑपरेशनमध्ये वापरकर्ते दररोज पाठवलेल्या प्रॉम्प्ट्सचे काय होते याचे दस्तऐवजीकरण केले आहे — आणि उत्तर आहे: ते गळती करतात. सुरक्षा संशोधक एचडी मूर, औद्योगिक-सुरक्षा फर्म ड्रॅगोसचे मुख्य संशोधन अधिकारी, यांनी AI प्रदात्यांकडे अद्वितीय, ट्रॅक करण्यायोग्य रहस्ये असलेले सुमारे दोन दशलक्ष एआय प्रॉम्प्ट पाठवले आणि नंतर ते रहस्ये कोठे समोर आली ते पाहिले. "आम्हाला जे आढळले त्यावरून सुरक्षेचे उल्लंघन, त्वरित चोरी आणि ग्राहकांच्या डेटाचे संरक्षण करण्यात व्यापक अपयश आले," मूरने गुरुवारी प्रकाशित केलेल्या अहवालात लिहिले.

Ars Technica द्वारे तपशीलवार नोंदवलेले निष्कर्ष, AI राउटर म्हणून पोहोचतात — ब्रोकर सेवा जसे की OpenRouter आणि Vercel ज्या अंतिम वापरकर्त्यांकडून सूचना स्वीकारतात आणि त्यांना सर्वात स्वस्त किंवा सर्वोत्तम अनुकूल असलेल्या कोणत्याही अनुमान प्रदात्याकडे रूट करतात — हजारो अनुप्रयोगांसाठी मुख्य पायाभूत सुविधा बनल्या आहेत. त्यांनी एक जलद उद्योग प्रतिसाद देखील ट्रिगर केला: OpenRouter ने 22 नोव्हेंबर रोजी स्वतःची घटना घोषणा प्रकाशित केली, असे म्हटले आहे की त्यांनी तीन प्रदाते ऑफ-बोर्ड केले आहेत, झिरो डेटा रिटेन्शन पात्रतेमधून 125 एंडपॉइंट्स काढले आहेत आणि संभाव्य प्रभावित ग्राहकांना सूचित केले आहे.

कॅनरी ट्रॅप कसे कार्य करते

मूरने रिकाम्या खात्यांशी जोडलेल्या कार्यरत AWS ऍक्सेस की, कार्यरत SSH पासवर्ड आणि अद्वितीय URL, DNS नावे आणि खाजगी गिट रेपॉजिटरी संदर्भांचा संग्रह एकत्र केला. कोणतेही रहस्य यापूर्वी कधीही वापरले गेले नव्हते आणि मूरने प्राप्त झालेल्या पायाभूत सुविधांवर नियंत्रण ठेवले. प्रत्येक गुपित एकाच प्रदात्याला पाठवलेल्या एका प्रॉम्प्टमध्ये सीड केले गेले होते — त्यामुळे हे रहस्य नंतर कुठेही उघड झाल्यास, त्याचा प्रवास जबाबदार असलेल्या साखळीतील अचूक दुव्यावर शोधला जाऊ शकतो.

एआय इकोसिस्टम प्रत्यक्षात डेटा कसा हलवते त्यामुळे डिझाइन महत्त्वाचे आहे. प्रॉम्प्ट्स ट्रान्झिटमध्ये एन्क्रिप्ट केले जातात, परंतु ते प्रत्येक हॉपवर डिक्रिप्ट केले जातात. एआय राउटर योग्य अनुमान प्रदाते निवडण्यासाठी साधा मजकूर वाचतो; प्रॉम्प्ट नंतर अनेकदा मॉडेल्सच्या पूलमध्ये अग्रेषित केले जाते, कधीकधी वेगवेगळ्या होस्टिंग कंपन्यांमध्ये चालते. प्रॉम्प्ट्स एका राउटरवरून दुसऱ्या राउटरवर देखील जाऊ शकतात — उदाहरणार्थ, Vercel ते OpenRouter — प्रत्येक मध्यस्थ त्याच्या स्वतःच्या धोरणांतर्गत सामग्री लॉग आणि संग्रहित करण्यासाठी विनामूल्य आहे.

तीन प्रदाते तोडले, काही तासात चाव्या वापरल्या

प्रयोगादरम्यान तडजोड केलेल्या तीन स्वतंत्र होस्टिंग प्रदात्यांचा सर्वात चिंताजनक शोध आहे. मूरच्या म्हणण्यानुसार, एका प्रदात्याचा भंग करणाऱ्या हल्लेखोरांनी लावलेल्या AWS चाव्यांचा "दोनशे" पुन्हा वापर केला. ऑक्टोबरच्या उत्तरार्धात काही छोट्या विंडोमध्ये प्रत्येक की एका प्रदात्याला अगदी एका विनंतीमध्ये पाठवली गेली होती - आणि "आम्ही त्या विंडो दरम्यान पाठवलेली प्रत्येक विनंती चोरीला गेली होती." निर्णायकपणे, काही चोरलेल्या कळा प्रदात्याने मॉडेल धावण्यापूर्वी नाकारलेल्या विनंत्यांमधून आल्या आहेत, हे दर्शविते की हल्लेखोर अनुमान स्टॅकमध्ये खोलवर जाण्याऐवजी प्रदात्याच्या पुढच्या दारावरील रहदारीची कॉपी करत आहे.

इतर दोन उल्लंघनांमध्ये, चोरी झालेल्या काही विनंत्या शून्य डेटा धारणा म्हणून ध्वजांकित केल्या होत्या. "जेव्हा हल्लेखोर आधीच आत असतो तेव्हा गोपनीयता ध्वज मदत करत नाही," मूर यांनी लिहिले. घुसखोरीमागील पक्षांनी काही प्रकरणांमध्ये तासांच्या आत आमिष की चाचण्या केल्या, अधिक क्रेडेन्शियल्ससाठी S3 बकेट्स, सिक्रेट्स मॅनेजर आणि पॅरामीटर स्टोअरमधून रायफल केले, AWS बेडरॉकमध्ये होस्ट केलेले मॉडेल सक्षम करण्याचा प्रयत्न केला आणि प्रवेश राखण्यासाठी त्यांचे स्वतःचे IAM वापरकर्ते जोडले. सर्वांनी सांगितले, AWS API कॉल्समध्ये चोरीच्या चाव्या "हजारो वेळा" वापरल्या गेल्या. हॅक केलेल्या दोन प्रदात्यांकडून चोरलेली गुपिते एकाच भाड्याने घेतलेल्या सर्व्हरवरून, जवळजवळ ताबडतोब एकत्रितपणे वापरली गेली - एका शत्रूने दोघांशी तडजोड केल्याचा भक्कम पुरावा.

चोरी करणारे पुनर्विक्रेते आणि स्क्रॅप करणारी लॅब

प्रत्येक लीकर हॅकर नव्हता. मूरने पुनर्विक्रेते दस्तऐवजीकरण केले ज्यांनी कमी किमतीच्या प्रॉम्प्टचे आमिष दाखवले, विनंती लॉगिंग चालू केले आणि फक्त प्रतीक्षा केली. त्याने वेगवेगळ्या विक्रेत्यांद्वारे समान मॉडेलला समान विनंत्या पाठवून त्यांची ओळख पटवली: जेव्हा एका विक्रेत्याकडून क्रेडेन्शियल पुन्हा वापरण्यात आले परंतु दुसऱ्या विक्रेत्याकडून नाही, तेव्हा गुन्हेगार स्पष्ट होता.

मूरने लिहिलेल्या सर्वात स्पष्ट स्क्रॅपिंग प्रकरणात, चीनी AI लॅबचा समावेश आहे ज्याच्या सिस्टमने जुलै आणि ऑक्टोबर दरम्यान त्याच्या मॉडेल्सना पाठवलेल्या अर्ध्याहून अधिक प्रॉम्प्ट्समधून गुप्त URL प्राप्त केल्या आहेत - ज्यात "डेटा संग्रह नाही" किंवा शून्य डेटा रिटेन्शन असे स्पष्टपणे चिन्हांकित केलेल्या सुमारे दोन-तृतीयांश विनंत्या समाविष्ट आहेत. स्क्रॅपर सामान्यत: प्रत्येक विनंतीनंतर दोन किंवा तीन दिवसांनी दिसून येते. हे थेट ग्राहकांपुरते मर्यादित नव्हते: अनेक यूएस होस्टिंग प्रदाते लॅबच्या मॉडेलची पुनर्विक्री करतात आणि त्या अमेरिकन मध्यस्थांद्वारे पाठवलेल्या प्रॉम्प्ट्सने अगदी त्याच स्क्रॅपरला चालना दिली. एक ग्राहक ज्याने विशेषतः डेटा स्टेटसाइड ठेवण्यासाठी यूएस प्रदाता निवडला आहे, दुसऱ्या शब्दांत, त्यांनी जे पैसे दिले ते मिळाले नाही. स्वतंत्रपणे, वेगळ्या क्लाउडवरील गिट क्लायंटने प्रॉम्प्टमध्ये संदर्भित खाजगी रिपॉझिटरीज क्लोन करण्याचा प्रयत्न सुरू केला — परंतु केवळ त्या लॅबच्या मॉडेल्सचा वापर करणाऱ्या प्रॉम्प्टसाठी.

OpenRouter प्रतिसाद देतो

प्रयोगाने त्वरीत वास्तविक-जागतिक परिणाम निर्माण केले. Ars Technica ने एका अपडेटमध्ये नोंदवले आहे की OpenRouter ने 21 नोव्हेंबर रोजी ग्राहकांना इमेलद्वारे चेतावणी दिली की त्यांचे काही प्रॉम्प्ट वाचले गेले असतील, संशोधनाचा हवाला देऊन: संभाव्य एक्सपोजरमध्ये MiniMax या चीन-आधारित मॉडेल प्रदाता, थेट किंवा तीन पुनर्विक्रेत्यांद्वारे पाठवलेले प्रॉम्प्ट समाविष्ट आहेत - AtlasCloud, Novita आणि StreamLake. OpenRouter ने MiniMax-मॉडेल एंडपॉइंट्सवरून "झीरो डेटा रिटेन्शन" लेबल काढले.

22 नोव्हेंबर रोजी त्याच्या अधिकृत ब्लॉग पोस्टमध्ये, OpenRouter ने पुष्टी केली की त्याने तीन प्रदाते ऑफ-बोर्ड केले आहेत, ZDR पात्रतेमधून 125 एंडपॉइंट काढले आहेत आणि प्रदात्याने सार्वजनिकरित्या पोस्ट केले आहे की नाही हे प्रभावित वापरकर्त्यांना सूचित केले आहे. कंपनीने म्हटले आहे की निष्कर्षांनी "ओपनराउटरचा कोणताही उल्लंघन किंवा अनधिकृत प्रवेश दर्शविला नाही", ड्रॅगोस टीमचे आभार मानले आणि सांगितले की प्लॅटफॉर्मवर राहू इच्छिणाऱ्या प्रदात्यांना वाढत्या सुरक्षा बारला "भेटणे आवश्यक आहे" कारण OpenRouter समान चाचणी तंत्रे एकत्रित करते.

मूरला स्ट्रे लाँग-टेल लीक देखील आढळले: एका यूएस होस्टिंग प्रदात्याने त्याच्या शोध एंडपॉईंटवर एकल अनुमान कॉल केल्यानंतर दोन महिन्यांहून अधिक काळ गुप्त URL क्रॉल केली आणि दुसऱ्याने स्क्रॅपर चालवला जो प्रत्येक विनंतीनंतर काही दिवसांनी लावलेल्या URL साठी परत आला, कोणत्याही राउटरने प्रॉम्प्ट वितरित केले याची पर्वा न करता.

वापरकर्ते काय करू शकतात

मूर म्हणाले, सर्वात प्रभावी संरक्षण म्हणजे ऑन-प्रिमाइसेस मॉडेल्स होस्ट करणे - एक महाग पर्याय ज्याला काही संस्था न्याय देऊ शकतात. पुढील सर्वोत्तम उपाय म्हणजे "एक करार आणि वाचण्यासाठी गोपनीयता धोरण" सह थेट प्रथम श्रेणी प्रदात्याकडून खरेदी करणे आणि स्वतः अपस्ट्रीम प्रदाते निवडून डीफॉल्ट प्रदाता किंवा पुनर्विक्रेता पूल टाळणे. तरीही, डेटा लीक होणार नाही याची कोणतीही हमी नाही, असा इशारा त्यांनी दिला.

हा प्रयोग जलद गतीने वाढणाऱ्या अनुमान बाजारपेठेतील गोपनीयतेच्या पद्धतींचा सर्वात धारदार आरोप आहे: ॲप आणि मॉडेलमधील साखळी आता अनेक खंडांवर राउटर, पुनर्विक्रेते आणि होस्टिंग स्तर समाविष्ट करू शकतात, प्रत्येकाची स्वतःची लॉगिंग धोरणे आहेत आणि लेबले ग्राहकांना आश्वस्त करण्यासाठी असतात — जसे की शून्य डेटा रिटेन्शन किंवा नोटिस न करता खंडित केले जाऊ शकते. उद्योगांना त्यांची कागदपत्रे, कोड आणि क्रेडेन्शियल्स प्रॉम्प्टमध्ये पेस्ट करण्यास सांगणाऱ्या उद्योगासाठी, दोन दशलक्ष कॅनरींचा संदेश अस्वस्थ आहे: जोपर्यंत प्लंबिंग बदलत नाही तोपर्यंत, प्रत्येक हॉप प्रत्येक शब्द वाचू शकतो असे गृहीत धरा.

AI च्या पुढे रहा

AI वर बांधकाम करणाऱ्या प्रत्येकासाठी सुरक्षा आणि गोपनीयता आता मुख्य चिंता आहेत. AI बातम्या आणि उद्योगातील सर्वात मोठ्या बातम्यांच्या स्वतंत्र कव्हरेजसाठी, AI Buzz Wire ला भेट द्या.

अधिक एआय बातम्या वाचा →