एंथ्रोपिक के क्लाउड कोड कमांड-लाइन टूल के उपयोगकर्ताओं को इस सप्ताह पता चला कि कोडिंग एजेंट उनके ईमेल पते को उन वेबसाइटों पर भेज रहा था जो अनुसंधान कार्यों के दौरान किए गए वेब अनुरोधों के `उपयोगकर्ता-एजेंट` हेडर में छिपा हुआ था। बग, जिसे 5 नवंबर को GitHub अंक #107757 में प्रलेखित किया गया था, ने तुरंत सैकड़ों हजारों बार देखा और एंथ्रोपिक से त्वरित प्रतिक्रिया मिली, साथ ही इस बात की तीव्र आलोचना भी हुई कि इसे कैसे ठीक किया गया। यह एआई कोडिंग एजेंटों के लिए नवीनतम गोपनीयता समस्या है, एक श्रेणी जिसे हम अपने [एआई टूल कवरेज] (https://aibuzzwire.news) में करीब से देखते हैं।
"प्रति दिन दर्जनों घोटाले वाले ईमेल"
मैकओएस पर क्लाउड कोड संस्करण 2.1.318 चला रहे रिपोर्टर ने लिखा है कि टूल द्वारा "वेब खोज करते समय 'यूजर-एजेंट' अनुरोध हेडर में मनमाने ढंग से तीसरे पक्ष को मेरे ईमेल का खुलासा करने के बाद उसे "प्रति दिन दर्जनों घोटाले वाले ईमेल" प्राप्त होने लगे। उन्होंने तर्क दिया कि यह व्यवहार बिल्कुल भी ऑप्ट-इन या ऑप्ट-आउट सेटिंग के रूप में मौजूद नहीं होना चाहिए: यह उन सेवाओं के लिए कुछ नहीं करता है जो स्वचालित ट्रैफ़िक को नापसंद करते हैं, उपयोगकर्ता की गुमनामी को संरक्षित नहीं करते हैं, और "घोटालेबाजों के लिए सोने की खान है।" एक अन्य टिप्पणीकार ने स्वतंत्र रूप से लगभग उसी समय एक पुराने, आमतौर पर शांत ईमेल पते पर आने वाले विचित्र स्पैम की अचानक बाढ़ की सूचना दी।
इस मुद्दे को एंथ्रोपिक के अनुरक्षकों द्वारा बग, क्षेत्र:सुरक्षा, और क्षेत्र:उपकरण सहित लेबल के साथ टैग किया गया था, और दायर किए जाने के कुछ घंटों के भीतर दर्जनों टिप्पणियाँ प्राप्त हुईं।
रिसाव कैसे हुआ
इस मुद्दे पर एक टिप्पणी में, एक एंथ्रोपिक योगदानकर्ता ने तंत्र की व्याख्या की - और इस बात पर जोर दिया कि किसी ने भी जानबूझकर ईमेल-साझाकरण लागू नहीं किया था। परिदृश्य, जैसा कि वर्णित है: कुछ साइटें, उनमें से विकिपीडिया, नीतियां प्रकाशित करती हैं, जो स्क्रिप्टेड ग्राहकों को उपयोगकर्ता-एजेंट हेडर में एक संपर्क ईमेल के साथ खुद को पहचानने के लिए कहती हैं। जब एक उपयोगकर्ता ने क्लाउड कोड से ऐसी साइट पर किसी विषय पर शोध करने के लिए कहा, तो मॉडल ने - उस नीति का अनुपालन करने का प्रयास करते हुए - उपयोगकर्ता के स्वयं के ईमेल पते को अपने 'कर्ल' कॉल के हेडर में डाल दिया।
दूसरे शब्दों में, मॉडल ने एक अच्छा व्यवहार करने वाला वेब नागरिक बनने की कोशिश की और इस प्रक्रिया में निजी डेटा लीक कर दिया। योगदानकर्ता ने लिखा, "मॉडल अत्यधिक अप्रत्याशित हो सकते हैं।" "यही कारण है कि मॉडल व्यवहार के आसपास नियतात्मक जांच इतनी महत्वपूर्ण है, और हमें संरेखण को हल करने की आवश्यकता क्यों है।"
एंथ्रोपिक्स फिक्स: एक प्लगइन
एंथ्रोपिक की प्रतिक्रिया तुरंत भेज दी गई। उसी टिप्पणी के अनुसार, `cc-plugin-privacy` नामक एक अंतर्निहित मॉड को संस्करण 2.1.317 और बाद में में "इस व्यवहार को निश्चित रूप से अवरुद्ध करने" के लिए पेश किया गया था। मॉड डिफ़ॉल्ट रूप से सक्षम है और इसे `/plugins` कमांड के माध्यम से टॉगल किया जा सकता है, और इसका स्रोत क्लाउड कोड रिपॉजिटरी में एंथ्रोपिक के अन्य अंतर्निहित मॉड्स के साथ उपलब्ध कराया गया है। कंपनी ने यूजर्स से चेक में किसी भी तरह की कमी के बारे में तुरंत रिपोर्ट करने को कहा है।
इस सुधार ने तुरंत आलोचना की दो रेखाएँ खींच दीं। सबसे पहले, कुछ उपयोगकर्ताओं ने डिलीवरी तंत्र पर ही सवाल उठाया: "गोपनीयता एक प्लगइन नहीं होनी चाहिए। यह एक अपरिवर्तनीय होना चाहिए," एक टिप्पणीकार ने लिखा, आगे क्या होगा - "सीसी-प्लगइन-डोंट-लीक-माय-एपीआई-की?" दूसरा, और अधिक मौलिक रूप से, टिप्पणीकारों ने पूछा मॉडल के पास उपयोगकर्ता के ईमेल पते तक पहुंच क्यों है। यदि पता कभी भी एजेंट के संदर्भ में नहीं रखा गया है, तो कोई भी मॉडल दुर्व्यवहार इसे लीक नहीं कर सकता है। जैसा कि एक उपयोगकर्ता ने कहा, प्लगइन डिज़ाइन निर्णय के लिए एक बैंड-सहायता की तरह दिखता है जिसे पूरी तरह से हटाया जा सकता है।
रोलआउट के साथ घर्षण की भी रिपोर्टें थीं: संस्करण 2.1.318 चलाने वाले एक उपयोगकर्ता ने कहा कि उसे अपने `/प्लगइन्स` मेनू में सूचीबद्ध `सीसी-प्लगइन-गोपनीयता` नहीं मिल सका, यह सुझाव देते हुए कि फिक्स हर इंस्टॉलेशन तक नहीं पहुंचा था जिसके लिए यह था। एक अन्य टिप्पणीकार ने उल्लेख किया कि उपयोगकर्ता-एजेंट व्यवहार के बारे में एक समान रिपोर्ट जुलाई की शुरुआत में रिपॉजिटरी में दायर की गई थी, और किसी मुद्दे के वायरल होने के बाद ही कार्रवाई करने के लिए परियोजना की आलोचना की।
एजेंट सुरक्षा के लिए बड़ी तस्वीर
यह घटना एंथ्रोपिक के लिए एक संवेदनशील क्षण में है, जो व्यापक रूप से रिपोर्ट किए गए आईपीओ की तैयारी कर रही है और अपने एजेंटों को उद्यम उपयोग के लिए तैनात कर रही है। यह एजेंट हार्नेस डिज़ाइन के बारे में एक व्यापक बहस के बीच भी आता है: एक एजेंट को क्या संदर्भ दिया जाता है, उसके चारों ओर कौन सी नियतात्मक रेलिंग लपेटी जाती है, और जब कोई मॉडल सुधार करता है तो कौन जवाबदेह होता है।
कई डेवलपर्स ने इस सूत्र से जो मुख्य सबक लिया वह वास्तुशिल्प है। आधुनिक कोडिंग एजेंट स्वायत्तता की एक डिग्री के साथ कार्य करते हैं जो इरादे-आधारित सुरक्षा उपायों - जिन नीतियों का पालन करने के लिए मॉडल को कहा जाता है - को संरचनात्मक रूप से अविश्वसनीय बनाता है। किसी भी संवेदनशील चीज़ को सबसे पहले मॉडल की पहुंच से दूर रखा जाना चाहिए, व्यवहार को लागू करने वाली नियतात्मक जांच के साथ मॉडल अपने तरीके से बात नहीं कर सकता है। इस मुद्दे में एंथ्रोपिक की स्वयं की रूपरेखा इस बात को स्वीकार करती है: अप्रत्याशित मॉडल नियतात्मक जांच की मांग करते हैं।
उपयोगकर्ताओं के लिए, व्यावहारिक मार्गदर्शन सीधा है। यदि आप क्लाउड कोड चलाते हैं, तो संस्करण 2.1.317 या बाद के संस्करण में अपडेट करें और पुष्टि करें कि गोपनीयता मॉड सक्रिय है। और इस बात पर विचार करें कि आपके एजेंट के पास अन्य कौन से संदर्भ हैं - क्रेडेंशियल्स, संपर्क विवरण, आंतरिक होस्टनाम - जिन्हें एक नेक इरादे वाला मॉडल एक दिन किसी अजनबी के साथ साझा करने का निर्णय ले सकता है।
एआई से आगे रहें
एआई उपकरण अपनी सुरक्षा समीक्षाओं की तुलना में अधिक तेजी से शिपिंग कर रहे हैं। हमारे [एआई समाचार कवरेज] (https://aibuzzwire.news) में हर विकास पर नज़र रखें।
अधिक AI समाचार पढ़ें →
