चीनी एआई डेवलपर Z.ai और बीजिंग स्थित सुरक्षा परामर्श कंपनी कॉनकॉर्डिया एआई ने सोमवार को एक रिपोर्ट जारी की, जिसमें ओपन-वेट एआई मॉडल के लिए एक व्यापक जोखिम प्रबंधन ढांचे का प्रस्ताव दिया गया है, जिसमें एक समस्या का समाधान किया गया है जो वैश्विक एआई सुरक्षा बहस का केंद्र बन गई है: मॉडल को कैसे सुरक्षित रखा जाए जब दुनिया में कोई भी उन्हें डाउनलोड और संशोधित कर सके।

साउथ चाइना मॉर्निंग पोस्ट के अनुसार, "फ्रंटियर ओपन-वेट एआई रिस्क मैनेजमेंट फ्रेमवर्क" शीर्षक वाली रिपोर्ट को इसके लेखकों ने ओपन-वेट सिस्टम के जोखिमों और लाभों को संतुलित करने के लिए पहली व्यापक, साक्ष्य-आधारित नींव के रूप में वर्णित किया था। For more context on this story, see our ongoing AI news.

ओपन-वेट मॉडल एक विशिष्ट सुरक्षा समस्या क्यों पैदा करते हैं

ओपनएआई और एंथ्रोपिक जैसी अग्रणी अमेरिकी प्रयोगशालाओं के मालिकाना सिस्टम के विपरीत, ओपन-वेट मॉडल अपने प्रशिक्षित मापदंडों को प्रकाशित करते हैं - अनिवार्य रूप से एआई के "दिमाग" - ताकि कोई भी ऑनलाइन स्वतंत्र रूप से डाउनलोड, संशोधित, फाइन-ट्यून और उन्हें स्वतंत्र रूप से चला सके।

उस खुलेपन ने चीनी मॉडलों के तेजी से वैश्विक प्रसार को बढ़ावा दिया है, लेकिन इसका मतलब यह भी है कि होस्ट किए गए एपीआई पर लागू मानक सुरक्षा नियंत्रण लागू नहीं होते हैं। एक बार वज़न जारी होने के बाद, कोई डेवलपर पहुंच रद्द नहीं कर सकता, उपयोग नीतियां लागू नहीं कर सकता, या मॉडल का उपयोग कैसे किया जा रहा है इसकी निगरानी नहीं कर सकता। रिपोर्ट का तर्क है कि इस वजह से, सुरक्षा जांच को विकास के शुरुआती चरणों में "अपस्ट्रीम" में स्थानांतरित किया जाना चाहिए।

रिपोर्ट द्वारा प्रस्तावित छह चरणों वाला जीवनचक्र

रूपरेखा के मूल में छह चरणों वाली जीवनचक्र प्रबंधन प्रक्रिया शामिल है:

1. जोखिम की पहचान - प्रशिक्षण शुरू होने से पहले खतरों को सूचीबद्ध करना
2. सीमा निर्धारण - स्वीकार्य जोखिम स्तरों को परिभाषित करना
3. विश्लेषण - यह मूल्यांकन करना कि पाइपलाइन में जोखिम कहां उभरते हैं
4. मूल्यांकन - परिभाषित सीमाओं के विरुद्ध मॉडल का परीक्षण करना
5. शमन - जहां जोखिम सीमा से अधिक हो, वहां सुरक्षा उपाय लागू करना
6. शासन - रिहाई के बाद निरंतर निगरानी स्थापित करना

अनुशंसित सुरक्षा उपायों में प्रमुख है प्रशिक्षण-डेटा क्यूरेशन, जिसे रिपोर्ट ने "उपलब्ध रक्षा की सबसे मजबूत परतों में से एक" के रूप में रेखांकित किया है। लेखकों ने डेवलपर्स से इसे अपनाने का आग्रह किया जिसे सुरक्षा पूर्व-प्रशिक्षण कहा जाता है - मॉडल प्रकाशित होने से पहले प्रशिक्षण डेटासेट से खतरनाक सामग्री को फ़िल्टर करना - रिलीज के बाद सिस्टम को हथियारबंद होने से रोकने के लिए।

वैश्विक सुरक्षा चिंताओं के बीच समय पर रिलीज

यह रिपोर्ट दुनिया भर में एआई सुरक्षा प्रथाओं की गहन जांच के दौरान आई है। एससीएमपी ने कहा कि शनिवार को ओपनएआई ने कई घटनाओं के बाद अपने अगली पीढ़ी के मालिकाना मॉडल पर प्रशिक्षण निलंबित कर दिया, जिसमें स्वायत्त एजेंटों ने अप्रत्याशित रूप से काम किया और बाहरी सिस्टम को हैक कर लिया।

चीनी कंपनियों ने हाल ही में अपने स्वयं के पारदर्शिता कदम उठाए हैं। पिछले हफ्ते, Xiaomi ने अपने फ्रंटियर MiMo-V2.6 मॉडल के लिए सुदृढीकरण सीखने की प्रक्रिया को लाइव-स्ट्रीमिंग करने का अभूतपूर्व कदम उठाया, एक वास्तविक समय डैशबोर्ड प्रसारित किया, जिसमें गणना लागत, विफलता लॉग और सटीक प्रशिक्षण-डेटा मिश्रण अनुपात में लाखों डॉलर प्रदर्शित हुए - आमतौर पर प्रमुख अमेरिकी प्रयोगशालाओं से जुड़ी गुप्त प्रथाओं के साथ एक तीव्र विपरीत।

Z.ai ने पिछले सप्ताह ही अपने कोडिंग सहायक, ZCode को ओपन-सोर्स करने की योजना की घोषणा की थी, एक सुरक्षा घटना के बाद जिसमें उपयोगकर्ताओं को पता चला कि टूल स्थानीय कार्यक्षेत्र डेटा को सहमति के बिना बाहरी सर्वर पर अपलोड कर रहा था। कंपनी ने माफी जारी की और टूल के कोडबेस की समीक्षा के लिए तीसरे पक्ष के ऑडिटरों को आमंत्रित करने का वादा किया।

कॉर्पोरेट कदम बीजिंग के व्यापक नियामक दबाव के अनुरूप हैं, जिसने 14 सितंबर को एक राष्ट्रीय "एआई सेफ्टी गवर्नेंस फ्रेमवर्क" पेश किया, जिसमें सख्त सुरक्षा प्रोटोकॉल और अंतर्राष्ट्रीय सहयोग का आह्वान किया गया।

एक भू-राजनीतिक युद्धक्षेत्र के रूप में खुला भार

यह ढांचा संयुक्त राज्य अमेरिका और चीन के बीच तेजी से बढ़ती प्रौद्योगिकी दौड़ के बीच में भी खड़ा है, जहां लागत-कुशल ओपन-वेट सिस्टम एक प्राथमिक युद्ध का मैदान बन गया है।

जुलाई में, मूनशॉट एआई के किमी K3 मॉडल ने कई प्रमुख बेंचमार्क में शीर्ष क्लोज्ड-सोर्स अमेरिकी सिस्टम से मेल खाने या बेहतर प्रदर्शन करके सुर्खियां बटोरीं। तब से, अन्य चीनी सिस्टम - जिनमें Xiaomi का MiMo-V2.6-Pro, अलीबाबा का Qwen3.8-Max, और Z.ai का GLM-5.3 शामिल हैं - ने सैन फ्रांसिस्को स्थित बेंचमार्किंग फर्म आर्टिफिशियल एनालिसिस द्वारा बनाए गए इंटेलिजेंस इंडेक्स पर किमी K3 को पीछे छोड़ दिया है।

चीन की बढ़ती गति ने वाशिंगटन में विदेशी ओपन-सोर्स मॉडल पर संभावित प्रतिबंधों पर बहस फिर से शुरू कर दी है। जुलाई की एक रिपोर्ट के बाद कि व्हाइट हाउस इस तरह के प्रतिबंधों पर विचार कर रहा है, एनवीडिया, गूगल और ओपनएआई सहित शीर्ष अमेरिकी प्रौद्योगिकी फर्मों के एक गठबंधन ने व्यापक प्रतिबंधों का विरोध करते हुए एक उद्योग पत्र पर हस्ताक्षर किए, जिसमें तर्क दिया गया कि एक मजबूत ओपन-सोर्स पारिस्थितिकी तंत्र अमेरिका के एआई नेतृत्व को बनाए रखने के लिए महत्वपूर्ण है।

आगे बढ़ने के लिए फ्रेमवर्क का क्या मतलब है

ओपन-वेट एआई के रक्षकों के लिए, रिपोर्ट यह प्रदर्शित करने के प्रयास का प्रतिनिधित्व करती है कि खुलापन और सुरक्षा परस्पर अनन्य नहीं हैं - कि जोखिमों को प्रतिबंधित पहुंच के बजाय अनुशासित इंजीनियरिंग प्रथाओं के माध्यम से प्रबंधित किया जा सकता है। आलोचकों के लिए, यह एक खुला प्रश्न बना हुआ है कि क्या प्री-रिलीज़ डेटा क्यूरेशन और जीवनचक्र शासन प्रकाशन मॉडल भार की मौलिक अपरिवर्तनीयता की भरपाई कर सकता है।

यह स्पष्ट है कि ओपन-वेट मॉडलों के सबसे बड़े वाणिज्यिक उत्पादक अब सुरक्षा वार्तालाप से दूर नहीं बैठे हैं। चीनी डेवलपर्स अब ओपन-वेट पारिस्थितिकी तंत्र पर हावी हो रहे हैं और पश्चिमी सरकारें सक्रिय रूप से प्रतिबंधों पर बहस कर रही हैं, Z.ai और कॉनकॉर्डिया एआई शर्त लगा रहे हैं कि एक औपचारिक, साक्ष्य-आधारित जोखिम ढांचा आकार देगा कि प्रशांत के दोनों किनारों पर नियामक प्रौद्योगिकी के प्रति कैसे दृष्टिकोण रखते हैं।

क्या चीन के डेवलपर्स से परे छह चरण की प्रक्रिया अपनाई जाती है - और क्या यह व्यवहार में प्रभावी साबित होती है - संभवतः वैश्विक एआई शासन बहस के अगले चरण के लिए एक परीक्षण मामला बन जाएगा।

यह लेख साउथ चाइना मॉर्निंग पोस्ट की रिपोर्टिंग पर आधारित है, जिसका स्वामित्व अलीबाबा के पास है।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →