स्वतंत्र संशोधकांच्या एका संघाने हे दाखवून दिले आहे की AI मॉडेल पूर्णपणे कार्यक्षम लपलेल्या क्षमता ठेवू शकतात ज्याची गणिती हमी आहे की शोध टाळण्याची हमी दिली जाते, जरी ऑडिटर्सना मॉडेलच्या वजनांमध्ये पूर्ण प्रवेश असतो. "AI मॉडेल्स कॅन प्रोव्हाबली हाईड ऑर्बिटरी कॅपॅबिलिटीज" या शीर्षकाचा पेपर 9 ऑक्टोबर 2026 रोजी Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas आणि Christian Schroeder de Witt यांनी arXiv वर पोस्ट केला होता आणि साइटचे पहिले पान बनवल्यानंतर या आठवड्यात हॅकर न्यूजकडे लक्ष वेधले होते.

आधुनिक AI सुरक्षा सरावाच्या मुख्य गृहीतकावर हे काम प्रहार करते: क्षमता मूल्यमापनाद्वारे तैनातीपूर्वी धोकादायक वर्तणूक समोर येऊ शकते, जे जे काही करू शकते ते शोधण्यासाठी डिझाइन केलेल्या चाचण्यांसह मॉडेलची तपासणी करते. लेखक दाखवतात की हे गृहितक प्रतिकूल परिस्थितीत कोसळते. पेपरमध्ये म्हटल्याप्रमाणे, क्षमता मूल्यमापनांची विश्वासार्हता "लपलेल्या क्षमता शोधल्या जाऊ शकतात या गृहितकावर अवलंबून असते" - आणि ते हल्ले तयार करतात जिथे ते गृहितक अपयशी ठरते. सुरक्षितता संशोधनातील नवीनतम AI घडामोडी*](https://aibuzzwire.news) चे अनुसरण करणाऱ्या वाचकांसाठी, हा पेपर हा सर्वात औपचारिक प्रात्यक्षिकांपैकी एक आहे की सक्षम मॉडेल तत्त्वतः, ते प्रत्यक्षात काय करू शकते हे लपवून त्याचे मूल्यमापन पार पाडू शकते.

लपविण्याची योजना कशी कार्य करते

संशोधकांनी बॅकडोअर अटॅक तयार केले जे होस्ट मॉडेलच्या वजनामध्ये एनक्रिप्टेड न्यूरल नेटवर्क्स म्हणतात. छुपे नेटवर्क तेथे एनक्रिप्टेड स्वरूपात बसते, जोपर्यंत त्याला गुप्त ट्रिगर मिळत नाही तोपर्यंत मॉडेलच्या दृश्यमान वर्तनात काहीही योगदान देत नाही. त्या वेळी, मॉडेल लपविलेले सर्किट डिक्रिप्ट करते आणि ते कार्यान्वित करते.

बांधकामाच्या केंद्रस्थानी असलेल्या क्रिप्टोग्राफिक यंत्रणेला लेखक डिजिटल लॉकर म्हणतात. मानक क्रिप्टोग्राफिक गृहीतकांनुसार, हे लॉकर्स लपविलेले सर्किट स्पष्टपणे स्पष्ट करणे कठीण आणि अर्थ लावणे कठीण बनवतात — अगदी मॉडेलच्या वजनांमध्ये पूर्ण प्रवेश असलेल्या ऑडिटरसाठीही. दुस-या शब्दात सांगायचे तर, लपविणे सूक्ष्म किंवा अडखळणे कठीण आहे यावर अवलंबून नाही. हे कूटबद्ध संप्रेषणांचे संरक्षण करणाऱ्या समान प्रकारच्या गणितीय कडकपणाच्या हमींवर अवलंबून असते.

हे फील्डमधील पूर्वीच्या कामाचा विस्तार करते, ज्याने दर्शवले होते की मॉडेल निश्चित स्ट्रिंग लपवू शकतात, जसे की पासवर्ड किंवा लहान संदेश. नवीन पेपर गोलपोस्टला बऱ्यापैकी हलवतो: आता जे लपवले जाऊ शकते ते एक अनियंत्रित गणन आहे - स्थिर रहस्याऐवजी पूर्ण, कार्य क्षमता.

वास्तविक ऑडिट तंत्राविरूद्ध चाचणी केली

टीमने PyTorch मध्ये त्यांच्या संकल्पनेच्या पुराव्याची अंमलबजावणी केली आणि नंतर मॉडेल ऑडिटिंगच्या मानक टूलकिटने त्यांच्यावर हल्ला केला. मूल्यमापनांनी फाइन-ट्यूनिंग, वेट नॉइझिंग, ग्रेडियंट-आधारित ट्रिगर शोध आणि सुप्त विरोधक प्रशिक्षणाद्वारे उत्तेजिततेची चाचणी केली - अशा तंत्रांची श्रेणी जी एखाद्या संशयास्पद मॉडेलमधून लपविलेले वर्तन कसे काढण्याचा प्रयत्न करतील हे गंभीर ऑडिटर्सचे प्रतिनिधित्व करतात.

चाचणी कार्य ही एक लहान रासायनिक अभिक्रिया अंदाज समस्या होती, वास्तविक-जगातील स्टेक असलेल्या क्षमतांसाठी प्रॉक्सी म्हणून मुद्दाम निवडली गेली: रासायनिक अंदाज कार्ये ही CBRN-संबंधित (रासायनिक, जैविक, रेडिओलॉजिकल आणि आण्विक) कौशल्यांसाठी एक स्टँड-इन आहे, क्षमतांची श्रेणी ज्याची पूर्व-उपयोजन मूल्यमापन सर्वात जास्त काळजी घेते. लपलेल्या अंमलबजावणीने त्यांच्यावर टाकलेल्या सर्व एलिटेशन पद्धतींचा प्रतिकार केला.

क्रिप्टोग्राफिक गॅरंटीसह एकत्रितपणे, लेखकांचा तर्क आहे की त्यांचे परिणाम एलिटेशन-आधारित क्षमता ऑडिटची मूलभूत मर्यादा प्रकट करतात. मॉडेल डेव्हलपर — किंवा दुर्भावनापूर्ण तृतीय पक्ष ज्याने मॉडेलशी छेडछाड केली — त्यांना क्षमता लपवण्यासाठी प्रोत्साहन असल्यास, वर्तन बाहेर काढण्यावर अवलंबून असणारी ऑडिट कदाचित ती शोधण्यात अक्षम असतील.

AI सुरक्षिततेसाठी हे महत्त्वाचे का आहे

मॉडेल्स रिलीझ करण्यासाठी सुरक्षित आहेत की नाही हे फ्रंटियर एआय लॅब कसे ठरवतात याचा क्षमता मूल्यमापन हा एक प्रमाणित भाग बनला आहे. पेपर असा दावा करत नाही की उत्पादन मॉडेल सध्या अशा प्रकारे क्षमता लपवत आहेत. उलट, हे दर्शविते की ऑडिट लेयरमध्येच एक संरचनात्मक कमकुवतपणा आहे: मॉडेलच्या प्रशिक्षणावर नियंत्रण असलेला विरोधक तत्त्वतः क्षमता एम्बेड करू शकतो ज्याची कोणत्याही प्रमाणात तपासणी होणार नाही.

परिणाम अनेक दिशांनी कट. लॅबसाठी, हे मॉडेल वेट्सच्या आसपास पॅरानॉइड सप्लाय-चेन सुरक्षिततेसाठी केस मजबूत करते - बॅकडोअर चेकपॉईंट हा केवळ विश्वासार्हतेचा धोका नसून संभाव्यत: न सापडणारा धोका आहे. लेखापरीक्षक आणि नियामकांसाठी, हे सूचित करते की पूर्णपणे वर्तन नमुन्यावर आधारित मूल्यमापनांना मॉडेल्सचे प्रशिक्षण आणि हाताळणी कशी केली गेली याबद्दल अधिक मजबूत हमी देऊन पूरक असणे आवश्यक आहे. आणि संशोधन समुदायासाठी, हे एक ठोस बचावात्मक आव्हान परिभाषित करते: या वर्गाच्या हल्ल्यांविरूद्ध संरक्षण सुधारण्यासाठी लेखकांनी त्यांचे मॉडेल्स सार्वजनिकपणे प्रसिद्ध केले आहेत.

पेपरमध्ये एक व्यापक तात्विक स्टिंग देखील आहे. AI ची बहुतेक सुरक्षितता या कल्पनेवर अवलंबून आहे की आम्ही आमच्या आत्मविश्वासाचा मार्ग तपासू शकतो — की पुरेशी रेड-टीमिंग मॉडेल काय करू शकते हे शोधून काढेल. सिद्ध करण्यायोग्य लपविण्याची यंत्रणा चाचणी निरुपयोगी बनवत नाही, परंतु याचा अर्थ असा होतो की प्रत्येक चाचणी उत्तीर्ण होणे यापुढे शोधण्यासारखे काहीही नाही याचा पुरावा मानला जाऊ शकत नाही. फ्रंटियर मॉडेल्स अधिक सक्षम आणि अधिक स्वायत्त होत असताना, ऑडिट काय दर्शवू शकतात आणि मॉडेल्समध्ये काय असू शकते यामधील अंतर ही फील्डला कोणत्या प्रकारची समस्या गंभीरपणे घेण्यास भाग पाडले जाईल.

क्रिप्टोग्राफिक बांधकाम आणि मूल्यमापन तपशीलांसह लेखकांचे संपूर्ण पेपर arXiv वर उपलब्ध आहेत आणि रिलीझ केलेले प्रूफ-ऑफ-संकल्पना मॉडेल डिफेन्डर्सना डिजिटल-लॉकर-शैलीच्या लपविण्याच्या विरूद्ध कार्य करणाऱ्या बिल्डिंग डिटेक्शन पद्धतींसाठी एक ठोस प्रारंभिक बिंदू देतात.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →