स्वतंत्र शोधकर्ताओं की एक टीम ने प्रदर्शित किया है कि एआई मॉडल पूरी तरह कार्यात्मक छिपी हुई क्षमताओं को ले जा सकते हैं जो गणितीय रूप से पता लगाने से बचने की गारंटी देते हैं, तब भी जब ऑडिटरों के पास मॉडल के वजन तक पूरी पहुंच होती है। पेपर, जिसका शीर्षक है "एआई मॉडल्स कैन प्रोवेबली हाइड आर्बिट्रेरी कैपेबिलिटीज", 9 अक्टूबर, 2026 को एंडिस ड्रैगंस, सुमीत रमेश मोटवानी, रेमंड डगलस और क्रिश्चियन श्रोएडर डी विट द्वारा arXiv पर पोस्ट किया गया था, और साइट का फ्रंट पेज बनाने के बाद इस सप्ताह हैकर न्यूज पर महत्वपूर्ण ध्यान आकर्षित किया।

यह कार्य आधुनिक एआई सुरक्षा अभ्यास की मूल धारणा पर प्रहार करता है: क्षमता मूल्यांकन के माध्यम से खतरनाक व्यवहार को तैनाती से पहले सामने लाया जा सकता है, जो कि जो कुछ भी कर सकता है उसे प्राप्त करने के लिए डिज़ाइन किए गए परीक्षणों के साथ एक मॉडल की जांच करता है। लेखक दर्शाते हैं कि प्रतिकूल परिस्थितियों में यह धारणा ध्वस्त हो जाती है। जैसा कि पेपर कहता है, क्षमता मूल्यांकन की विश्वसनीयता "इस धारणा पर निर्भर करती है कि छिपी हुई क्षमताओं को प्राप्त किया जा सकता है" - और वे ऐसे हमलों का निर्माण करते हैं जहां यह धारणा विफल हो जाती है। सुरक्षा अनुसंधान में नवीनतम एआई विकास का अनुसरण करने वाले पाठकों के लिए, यह पेपर अब तक के सबसे स्पष्ट औपचारिक प्रदर्शनों में से एक है कि एक सक्षम मॉडल, सिद्धांत रूप में, यह छिपाते हुए अपने मूल्यांकन को पारित कर सकता है कि वह वास्तव में क्या कर सकता है।

छिपने की योजना कैसे काम करती है

शोधकर्ताओं ने पिछले दरवाजे के हमलों का निर्माण किया जो मेजबान मॉडल के वजन के अंदर एन्क्रिप्टेड तंत्रिका नेटवर्क को एम्बेड करते हैं। छिपा हुआ नेटवर्क एन्क्रिप्टेड रूप में वहां बैठता है, मॉडल के दृश्य व्यवहार में कुछ भी योगदान नहीं देता है, जब तक कि उसे एक गुप्त ट्रिगर प्राप्त न हो जाए। उस समय, मॉडल छिपे हुए सर्किट को डिक्रिप्ट करता है और इसे निष्पादित करता है।

निर्माण के केंद्र में क्रिप्टोग्राफ़िक तंत्र है जिसे लेखक डिजिटल लॉकर कहते हैं। मानक क्रिप्टोग्राफ़िक मान्यताओं के तहत, ये लॉकर छिपे हुए सर्किट को स्पष्ट करना और व्याख्या करना कठिन बना देते हैं - यहां तक ​​कि एक ऑडिटर के लिए भी जिसके पास मॉडल के वजन तक पूरी पहुंच होती है। दूसरे शब्दों में, छिपाना इस बात पर निर्भर नहीं करता कि छिपाव सूक्ष्म है या उसे पार करना कठिन है। यह उसी प्रकार की गणितीय कठोरता की गारंटी पर निर्भर करता है जो एन्क्रिप्टेड संचार की सुरक्षा करता है।

यह क्षेत्र में पहले के काम का विस्तार करता है, जिसमें दिखाया गया था कि मॉडल निश्चित स्ट्रिंग्स, जैसे पासवर्ड या छोटे संदेश छिपा सकते हैं। नया पेपर गोलपोस्ट को काफी हद तक आगे बढ़ाता है: अब जो छिपाया जा सकता है वह एक मनमानी गणना है - एक स्थिर रहस्य के बजाय एक पूर्ण, कामकाजी क्षमता।

वास्तविक ऑडिट तकनीकों के विरुद्ध परीक्षण किया गया

टीम ने PyTorch में अपने प्रूफ-ऑफ-कॉन्सेप्ट निर्माणों को लागू किया और फिर मॉडल ऑडिटिंग के मानक टूलकिट के साथ उन पर हमला किया। मूल्यांकन में फ़ाइन-ट्यूनिंग, वेट नॉइज़िंग, ग्रेडिएंट-आधारित ट्रिगर सर्च और अव्यक्त प्रतिकूल प्रशिक्षण के माध्यम से प्राप्तीकरण का परीक्षण किया गया - तकनीकों की एक श्रृंखला जो दर्शाती है कि गंभीर ऑडिटर वास्तव में एक संदिग्ध मॉडल से छिपे हुए व्यवहार को निकालने का प्रयास कैसे करेंगे।

परीक्षण कार्य एक छोटी रासायनिक प्रतिक्रिया भविष्यवाणी समस्या थी, जिसे जानबूझकर वास्तविक दुनिया के दांव के साथ क्षमताओं के लिए एक प्रॉक्सी के रूप में चुना गया था: रासायनिक भविष्यवाणी कार्य सीबीआरएन-प्रासंगिक (रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु) कौशल के लिए एक स्टैंड-इन हैं, क्षमताओं की श्रेणी जो पूर्व-तैनाती मूल्यांकन के बारे में सबसे अधिक ध्यान रखती है। छिपे हुए कार्यान्वयन ने उन पर फेंके गए सभी प्रलोभन तरीकों का विरोध किया।

क्रिप्टोग्राफ़िक गारंटियों के साथ संयुक्त, लेखकों का तर्क है कि उनके परिणाम एलिसिटेशन-आधारित क्षमता ऑडिट की एक मूलभूत सीमा को प्रकट करते हैं। यदि एक मॉडल डेवलपर - या एक दुर्भावनापूर्ण तृतीय पक्ष जिसने मॉडल के साथ छेड़छाड़ की है - के पास किसी क्षमता को छिपाने के लिए प्रोत्साहन है, तो आचरण को चित्रित करने पर भरोसा करने वाले ऑडिट बस इसे ढूंढने में असमर्थ हो सकते हैं।

एआई सुरक्षा के लिए यह क्यों मायने रखता है

क्षमता मूल्यांकन एक मानक हिस्सा बन गया है कि फ्रंटियर एआई प्रयोगशालाएं कैसे तय करती हैं कि मॉडल जारी करने के लिए सुरक्षित हैं या नहीं। पेपर यह दावा नहीं करता है कि उत्पादन मॉडल वर्तमान में इस तरह से क्षमताओं को छिपा रहे हैं। बल्कि, यह दर्शाता है कि ऑडिट परत में स्वयं एक संरचनात्मक कमजोरी है: एक मॉडल के प्रशिक्षण पर नियंत्रण रखने वाला एक प्रतिद्वंद्वी सैद्धांतिक रूप से ऐसी क्षमताओं को एम्बेड कर सकता है जो किसी भी जांच से सामने नहीं आएगी।

निहितार्थ कई दिशाओं में कटते हैं। प्रयोगशालाओं के लिए, यह मॉडल भार के आसपास असाधारण आपूर्ति-श्रृंखला सुरक्षा के मामले को मजबूत करता है - एक पिछले दरवाजे वाला चेकपॉइंट न केवल एक विश्वसनीयता जोखिम है, बल्कि संभावित रूप से अज्ञात भी है। लेखा परीक्षकों और नियामकों के लिए, यह सुझाव देता है कि व्यवहार नमूने पर आधारित मूल्यांकन को मजबूत गारंटी के साथ पूरक करने की आवश्यकता हो सकती है कि मॉडल को कैसे प्रशिक्षित और प्रबंधित किया गया था। और अनुसंधान समुदाय के लिए, यह एक ठोस रक्षात्मक चुनौती को परिभाषित करता है: लेखकों ने इस वर्ग के हमले के खिलाफ सुरक्षा में सुधार का समर्थन करने के लिए विशेष रूप से अपने मॉडल सार्वजनिक रूप से जारी किए हैं।

यह पेपर एक व्यापक दार्शनिक पहलू भी रखता है। अधिकांश एआई सुरक्षा इस विचार पर टिकी हुई है कि हम आत्मविश्वास के लिए अपने तरीके का परीक्षण कर सकते हैं - कि पर्याप्त रेड-टीमिंग यह पता लगाएगी कि एक मॉडल क्या कर सकता है। एक सिद्ध छुपाने वाला तंत्र परीक्षण को बेकार नहीं बनाता है, लेकिन इसका मतलब यह है कि हर परीक्षण को पास करना अब इस सबूत के रूप में नहीं माना जा सकता है कि खोजने के लिए कुछ भी नहीं है। जैसे-जैसे फ्रंटियर मॉडल अधिक सक्षम और अधिक स्वायत्त होते जा रहे हैं, ऑडिट क्या दिखा सकता है और मॉडल में क्या हो सकता है, के बीच का अंतर बिल्कुल उसी तरह की समस्या है जिसे क्षेत्र को गंभीरता से लेने के लिए मजबूर किया जाएगा।

क्रिप्टोग्राफ़िक निर्माण और मूल्यांकन विवरण सहित लेखकों का पूरा पेपर arXiv पर उपलब्ध है, और जारी किए गए प्रूफ-ऑफ-कॉन्सेप्ट मॉडल रक्षकों को पहचान के तरीकों के निर्माण के लिए एक ठोस प्रारंभिक बिंदु देते हैं जो डिजिटल-लॉकर-शैली छिपाव के खिलाफ काम करते हैं।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →