Anthropic च्या Claude Code कमांड-लाइन टूलच्या वापरकर्त्यांना या आठवड्यात आढळून आले की कोडिंग एजंट त्यांचे ईमेल पत्ते त्यांनी भेट दिलेल्या वेबसाइटवर पाठवत आहे — संशोधन कार्यादरम्यान केलेल्या वेब विनंत्यांच्या `यूजर-एजंट` शीर्षलेखात टाकले आहे. 5 नोव्हेंबर रोजी GitHub अंक #107757 मध्ये दस्तऐवजीकरण केलेल्या बगने, त्वरीत शेकडो हजारो दृश्ये आणि अँथ्रोपिककडून जलद प्रतिसाद मिळवला, तसेच निराकरण कसे केले गेले यावर स्पष्ट टीका केली. हे AI कोडिंग एजंट्ससाठी नवीनतम गोपनीयता अडखळत आहे, ही श्रेणी आम्ही आमच्या AI टूल्स कव्हरेज मध्ये बारकाईने पाहतो.
"दररोज डझनभर स्कॅम ईमेल"
मॅकओएसवर क्लॉड कोड आवृत्ती 2.1.318 चालवणाऱ्या रिपोर्टरने लिहिले की, "वेब शोध घेताना 'यूजर-एजंट' रिक्वेस्ट हेडरमध्ये माझे ईमेल अनियंत्रित तृतीय पक्षांना सांगितल्यानंतर त्याला "दररोज डझनभर स्कॅम ईमेल" मिळू लागले. त्यांनी असा युक्तिवाद केला की वर्तन निवड-इन किंवा निवड रद्द सेटिंग म्हणून अजिबात अस्तित्त्वात नसावे: स्वयंचलित रहदारी नापसंत करणाऱ्या सेवांसाठी ते काहीही करत नाही, वापरकर्त्याची अनामिकता जपत नाही आणि "स्कॅमरसाठी सोन्याची खाण आहे." दुसऱ्या टिप्पणीकर्त्याने स्वतंत्रपणे विचित्र स्पॅमचा अचानक पूर आल्याचा अहवाल जुन्या, सामान्यत: शांत ईमेल पत्त्यावर त्याच वेळी आला.
समस्या बग, क्षेत्र:सुरक्षा, आणि क्षेत्र:साधने सह लेबलांसह अँथ्रोपिकच्या देखभालकर्त्यांनी टॅग केली होती आणि दाखल केल्याच्या काही तासांतच डझनभर टिप्पण्या दिल्या होत्या.
गळती कशी झाली
या समस्येवरील एका टिप्पणीमध्ये, एका मानववंशीय योगदानकर्त्याने यंत्रणा स्पष्ट केली - आणि जोर दिला की कोणीही मुद्दाम ईमेल-शेअरिंग लागू केले नाही. परिस्थिती, वर्णन केल्याप्रमाणे: काही साइट्स, विकिपीडिया त्यापैकी, स्क्रिप्टेड क्लायंटना वापरकर्ता-एजंट शीर्षलेख मध्ये संपर्क ईमेलसह स्वतःची ओळख करण्यास सांगणारी धोरणे प्रकाशित करतात. जेव्हा वापरकर्त्याने क्लॉड कोडला अशा साइटवर एखाद्या विषयावर संशोधन करण्यास सांगितले तेव्हा मॉडेलने — त्या धोरणाचे पालन करण्याचा प्रयत्न करत — वापरकर्त्याचा स्वतःचा ईमेल पत्ता त्याच्या `कर्ल` कॉलच्या शीर्षलेखामध्ये घातला.
दुसऱ्या शब्दांत, मॉडेलने एक चांगले वर्तन असलेले वेब नागरिक बनण्याचा प्रयत्न केला आणि प्रक्रियेत खाजगी डेटा लीक केला. "मॉडेल्स अत्यंत अप्रत्याशित असू शकतात," योगदानकर्त्याने लिहिले. "म्हणूनच मॉडेलच्या वर्तणुकीच्या आसपासचे निर्धारक तपासणे इतके महत्त्वाचे आहे आणि आम्हाला संरेखन सोडवण्याची आवश्यकता का आहे."
अँथ्रोपिकचे निराकरण: एक प्लगइन
Anthropic चा प्रतिसाद पटकन पाठवला. त्याच कमेंटनुसार, `cc-plugin-privacy` नावाचा बिल्ट-इन मोड आवृत्ती २.१.३१७ आणि नंतर मध्ये "हे वर्तन निश्चितपणे अवरोधित करण्यासाठी" सादर केले गेले. मॉड डीफॉल्टनुसार सक्षम केले आहे आणि `/plugins` कमांडद्वारे टॉगल केले जाऊ शकते आणि क्लॉड कोड रेपॉजिटरीमध्ये अँथ्रोपिकच्या इतर बिल्ट-इन मोड्ससह त्याचा स्रोत उपलब्ध करून दिला गेला आहे. कंपनीने वापरकर्त्यांना धनादेशातील कोणत्याही त्रुटीची त्वरित तक्रार करण्यास सांगितले.
फिक्सने टीकेच्या दोन तात्काळ ओळी काढल्या. प्रथम, काही वापरकर्त्यांनी वितरण यंत्रणेवरच प्रश्न केला: "गोपनीयता प्लगइन नसावी. ते अपरिवर्तनीय असावे," एका टिप्पणीकर्त्याने लिहिले, पुढे काय होईल - "cc-plugin-dont-leak-my-API-key?" दुसरे, आणि अधिक मूलभूतपणे, टिप्पणीकर्त्यांनी विचारले मॉडेलला वापरकर्त्याच्या ईमेल पत्त्यावर अजिबात प्रवेश का आहे. पत्ता एजंटच्या संदर्भात कधीही न ठेवल्यास, कितीही मॉडेल गैरवर्तनामुळे ते लीक होऊ शकत नाही. एका वापरकर्त्याने म्हटल्याप्रमाणे, प्लगइन पूर्णपणे काढून टाकल्या जाऊ शकणाऱ्या डिझाइन निर्णयासाठी बँड-एडसारखे दिसते.
रोलआउटमध्ये घर्षण झाल्याच्या बातम्या देखील आल्या: 2.1.318 आवृत्ती चालवत असलेल्या एका वापरकर्त्याने सांगितले की त्याला त्याच्या `/plugins` मेनूमध्ये सूचीबद्ध `cc-plugin-privacy` सापडले नाही, असे सुचविते की ते ज्यासाठी होते त्या प्रत्येक इंस्टॉलेशनपर्यंत निराकरण पोहोचले नाही. दुसऱ्या टिप्पणीकर्त्याने नमूद केले की वापरकर्ता-एजंटच्या वागणुकीबद्दलचा एक समान अहवाल जुलैच्या सुरुवातीला रिपॉझिटरीमध्ये दाखल केला गेला होता आणि एकदाच समस्या व्हायरल झाल्यानंतरच काम केल्याबद्दल प्रकल्पावर टीका केली.
एजंट सुरक्षेसाठी मोठे चित्र
ही घटना एन्थ्रोपिकसाठी एका संवेदनशील क्षणी येते, जी मोठ्या प्रमाणावर नोंदवलेल्या IPO ची तयारी करत आहे आणि एंटरप्राइझ वापरासाठी त्याच्या एजंटना स्थान देत आहे. हे एजंट हार्नेस डिझाइन बद्दलच्या व्यापक वादविवादात देखील उतरते: एजंटला कोणता संदर्भ दिला जातो, त्याच्याभोवती कोणते निर्धारवादी रेलिंग गुंडाळले जाते आणि जेव्हा मॉडेल सुधारते तेव्हा कोण जबाबदार असते.
अनेक विकासकांनी धाग्यावरून घेतलेला मुख्य धडा आर्किटेक्चरल आहे. आधुनिक कोडींग एजंट स्वायत्ततेच्या प्रमाणात कार्य करतात ज्यामुळे उद्देश-आधारित सुरक्षितता बनते — धोरणे ज्यांचे पालन करण्यास मॉडेलला सांगितले जाते — संरचनात्मकदृष्ट्या अविश्वसनीय. कोणतीही संवेदनशील गोष्ट प्रथमतः मॉडेलच्या आवाक्याबाहेर ठेवली पाहिजे, वर्तनाची अंमलबजावणी करणाऱ्या निर्धारात्मक तपासणीसह मॉडेल आपल्या मार्गाने बोलू शकत नाही. अंकातील मानववंशीयांचे स्वतःचे फ्रेमिंग हा मुद्दा मान्य करते: अप्रत्याशित मॉडेल्स नियतात्मक तपासणीची मागणी करतात.
वापरकर्त्यांसाठी, व्यावहारिक मार्गदर्शन सरळ आहे. तुम्ही क्लॉड कोड चालवत असल्यास, 2.1.317 किंवा नंतरच्या आवृत्तीवर अपडेट करा आणि गोपनीयता मोड सक्रिय असल्याची पुष्टी करा. आणि तुमचा एजंट कोणता इतर संदर्भ देतो - क्रेडेन्शियल, संपर्क तपशील, अंतर्गत यजमाननावे - याचा विचार करा जे एक चांगले मॉडेल एखाद्या दिवशी अनोळखी व्यक्तीसोबत शेअर करण्याचा निर्णय घेऊ शकते.
AI च्या पुढे रहा
AI टूल्स त्यांची सुरक्षितता पुनरावलोकने ठेवू शकतील त्यापेक्षा जलद शिपिंग करत आहेत. आमच्या AI बातम्या कव्हरेज मधील प्रत्येक विकासाचे अनुसरण करा.
अधिक एआय बातम्या वाचा →
