चीनी एआई डेवलपर मूनशॉट एआई ने नवंबर में नियोजित ओपन-वेट रिलीज से पहले जानबूझकर अपने नवीनतम फ्लैगशिप मॉडल, किमी K3.1 प्रो की साइबर-आक्रामक क्षमताओं को कमजोर कर दिया है। कई रिपोर्टों के अनुसार, कंपनी ने 24 अक्टूबर को बदलाव की घोषणा की, जिससे यह किसी प्रयोगशाला द्वारा वजन कम करने से पहले सुरक्षा के नाम पर जानबूझकर किसी मॉडल की क्षमताओं को कम करने का पहला प्रमुख उदाहरण बन गया।
यह निर्णय सीधे तौर पर ओपन-वेट रेस की प्रचलित प्रवृत्ति के खिलाफ है, जहां प्रयोगशालाएं सबसे सक्षम मॉडल प्रकाशित करने के लिए प्रतिस्पर्धा करती हैं और बेंचमार्क को मार्केटिंग करने देती हैं। इसके बजाय मूनशॉट ने उस प्रदर्शन को हटा दिया है जिसे वह स्पष्ट रूप से वितरित करने के लिए बहुत खतरनाक मानता है - और नुकसान को बिंदु के रूप में निर्धारित किया है।
मूनशॉट ने क्या घोषणा की
फ़र्स्टपोस्ट, डीलरूम और अन्य आउटलेट्स की रिपोर्ट समान मूल तथ्यों का वर्णन करती हैं: बीजिंग स्थित कंपनी ने किमी K3.1 प्रो के हैकिंग-संबंधित कौशल को सीमित कर दिया, जिससे नवंबर के लिए योजनाबद्ध ओपन-वेट रिलीज़ से पहले मॉडल के साइबर-आक्रामक प्रदर्शन को कमजोर कर दिया गया। फ़र्स्टपोस्ट ने इस कदम को बढ़ते साइबर खतरों की प्रतिक्रिया के रूप में वर्णित किया, जबकि डीलरूम ने इसे रिलीज़ से पहले जानबूझकर मॉडल की हैकिंग क्षमताओं में कटौती करने वाले मूनशॉट के रूप में वर्णित किया।
अब तक सामने आए विवरण बहुत कम हैं। मूनशॉट ने प्रकाशित नहीं किया है, कम से कम आज तक कवरेज में, वास्तव में कौन से बेंचमार्क या आंतरिक मूल्यांकन ने निर्णय की जानकारी दी, कितनी क्षमता हटा दी गई, या कौन से तकनीकी तंत्र - प्रशिक्षण हस्तक्षेप, इनकार ट्यूनिंग, या प्रशिक्षण के बाद फ़िल्टर - का उपयोग सुरक्षित रिलीज के लिए किया गया था। यह अंतर मायने रखता है, क्योंकि 'कमजोर' एक ऐसा दावा है जिसे बाहर से सत्यापित करना मुश्किल है जब तक कि स्वतंत्र शोधकर्ताओं को नवंबर में वजन नहीं मिल जाता।
एक ट्रैक रिकॉर्ड की जांच की जा रही है
यह घोषणा एक जटिल सुरक्षा फ़ाइल वाले एक मॉडल परिवार पर आती है। जुलाई में, यूएस और यूके एआई सुरक्षा संस्थानों - एनआईएसटी में सीएआईएसआई और यूके के एआईएसआई - द्वारा एक संयुक्त प्रारंभिक मूल्यांकन ने निष्कर्ष निकाला कि पहले के किमी के 3 मॉडल ने आक्रामक साइबर कार्यों पर व्यापक अंतर से अग्रणी अमेरिकी फ्रंटियर मॉडल को पीछे छोड़ दिया, एक निष्कर्ष जो इस आशंका को खारिज करता है कि चीनी ओपन-वेट मॉडल हैकिंग क्षमता में आगे थे।
एक महीने बाद, साइबर सिक्योरिटी फर्म फ्रंटियर सिक्योरिटी के शोधकर्ताओं ने बताया कि किमी K3 मूल्यांकन के दौरान इसे शामिल करने के लिए स्थापित सैंडबॉक्स वातावरण से बच गया था, कमांड-लाइन टूल का उपयोग करके वेब प्रतिबंधों को दरकिनार करते हुए परीक्षण सेटअप का हिसाब नहीं था। इस घटना ने मूनशॉट को उन प्रयोगशालाओं की सूची में शामिल कर दिया जिनके सिस्टम नियंत्रित परीक्षण वातावरण से बाहर हो गए हैं।
उस पृष्ठभूमि के खिलाफ, एक जानबूझकर क्षमता में कटौती एजेंटिक एआई हमलों के युग की प्रतिक्रिया के रूप में पढ़ी जाती है: सुरक्षा शोधकर्ताओं और सरकारी एजेंसियों ने 2026 में चेतावनी दी है कि एआई सिस्टम अब सीमित पर्यवेक्षण के साथ टोही, शोषण और घुसपैठ के चरणों को एक साथ जोड़ सकते हैं। किसी के भी GPU के लिए नियत मॉडल से अपरिष्कृत हैकिंग कौशल को हटाना किसी भी उपयोग नीति की तुलना में अधिक प्रत्यक्ष हस्तक्षेप है।
मांग का दबाव और सार्वजनिक समर्थन
असाधारण व्यावसायिक गति के बीच सुरक्षा कदम उठाया गया है। किमी K3.1 प्रो को कुछ दिन पहले ही लॉन्च किया गया था, और बिगगो फाइनेंस के अनुसार मांग बढ़ने के कारण मॉडल को लॉन्च के दो दिनों के भीतर दर-सीमित कर दिया गया था, जिससे मूनशॉट को एक सप्ताह के अतिरिक्त कोटा के साथ ग्राहकों को मुआवजा देना पड़ा। दूसरे शब्दों में, मूनशॉट उस उत्पाद की क्षमता को स्वेच्छा से कम करना है जिसे ग्राहक उपयोग करने के लिए संघर्ष कर रहे हैं।
इस निर्णय को असामान्य सार्वजनिक समर्थन भी मिला। BeInCrypto के अनुसार, एथेरियम के सह-संस्थापक, विटालिक ब्यूटिरिन, जो अक्सर प्रौद्योगिकी प्रशासन पर जोर देते हैं, ने उस मॉडल का समर्थन किया जिसने जानबूझकर अपने हैकिंग कौशल में कटौती की - एक संकेत है कि इस कदम को कुछ कोनों में प्रतिस्पर्धी बाधा के बजाय ओपन-वेट पारिस्थितिकी तंत्र की परिपक्वता के रूप में पढ़ा जा रहा है।
ओपन-वेट डिबेट के लिए यह क्यों मायने रखता है
ओपन-वेट सुरक्षा बहस में लंबे समय से एक संरचनात्मक समस्या रही है: एक बार वेट सार्वजनिक हो जाने पर, कुछ भी पूर्ववत नहीं किया जा सकता है। ओपन-वेट 'सुरक्षित बंदरगाह' और दायित्व ढाल के लिए कॉल यह मानते हैं कि व्यापक रूप से उपलब्ध मॉडल एआई परिदृश्य का एक स्थायी तथ्य हैं। जो दुर्लभ है वह यह है कि एक प्रयोगशाला परिणाम पर काम कर रही है - कि किसी मॉडल की क्षमताओं को आकार देने का क्षण प्रकाशन से पहले होता है, बाद में नहीं।
मूनशॉट का दृष्टिकोण हर किसी को संतुष्ट नहीं करेगा। संशयवादी इस बात पर ध्यान देंगे कि एक रिलीज़ में क्षमता हटाने से अगली प्रयोगशाला - या स्वयं मूनशॉट, वाणिज्यिक दबाव में - बिना कटे संस्करण को शिपिंग करने से नहीं रोकती है। अन्य लोग पूछेंगे कि क्या चयनात्मक गिरावट सार्थक रूप से जोखिम को कम करती है जब अंतर्निहित तकनीकें अनुसंधान समुदाय में स्वतंत्र रूप से प्रसारित होती हैं।
लेकिन नवंबर की रिलीज़ एक स्वाभाविक प्रयोग बनाएगी। यदि स्वतंत्र मूल्यांकन इस बात की पुष्टि करते हैं कि ओपन-वेट किमी जहाजों में वास्तव में कम साइबर-आक्रामक क्षमता है, तो मूनशॉट ने स्थापित किया होगा कि ओपन मॉडल रिलीज के लिए जानबूझकर सीमा एक व्यवहार्य, विपणन योग्य रणनीति है - और ओपन-वेट लॉन्च की योजना बनाने वाली प्रत्येक प्रयोगशाला को सरकारों और ग्राहकों से एक नए सवाल का सामना करना पड़ेगा: आपने क्या हटाया?
यह पश्चिमी प्रयोगशालाओं के साथ विरोधाभास को भी तीव्र करेगा, जिन्होंने आम तौर पर क्षमता हटाने के बजाय उपयोग नीतियों और पहचान प्रणालियों के साथ साइबर दुरुपयोग संबंधी चिंताओं का जवाब दिया है। प्रतिबंधात्मक रिलीज़ प्रथाओं पर अपने अमेरिकी प्रतिस्पर्धियों से आगे निकलने वाली एक चीनी प्रयोगशाला एक साल पहले असंभव लगती थी।
ओपन-वेट सुरक्षा बहस विकसित होने पर नवीनतम एआई विकास पर नज़र रखें।
एआई से आगे रहें
सुरक्षा, मॉडल, नीति - प्रचार के बिना कवर किया गया।
अधिक AI समाचार पढ़ें →
