चीनी AI विकसक Z.ai आणि बीजिंग-आधारित सुरक्षा सल्लागार Concordia AI ने सोमवारी ओपन-वेट AI मॉडेल्ससाठी सर्वसमावेशक जोखीम व्यवस्थापन फ्रेमवर्क प्रस्तावित करणारा एक अहवाल प्रसिद्ध केला, जो जागतिक AI सुरक्षा वादाच्या मध्यवर्ती बनलेल्या समस्येचे निराकरण करतो: जगातील कोणीही एकदा डाउनलोड आणि सुधारित केल्यानंतर मॉडेल सुरक्षित कसे ठेवायचे.
साउथ चायना मॉर्निंग पोस्टनुसार, "फ्रंटियर ओपन-वेट एआय रिस्क मॅनेजमेंट फ्रेमवर्क" या शीर्षकाच्या अहवालाचे लेखकांनी ओपन-वेट सिस्टममधील जोखीम आणि फायद्यांचा समतोल साधण्यासाठी पहिला व्यापक, पुरावा-आधारित पाया म्हणून वर्णन केले आहे. For more context on this story, see our ongoing more AI stories.
ओपन-वेट मॉडेल्स एक वेगळी सुरक्षितता समस्या का निर्माण करतात
ओपनएआय आणि अँथ्रोपिक सारख्या आघाडीच्या यूएस प्रयोगशाळांमधील मालकी प्रणालीच्या विपरीत, ओपन-वेट मॉडेल्स त्यांचे प्रशिक्षित मापदंड प्रकाशित करतात — मूलत: AI चे "मेंदू" — जेणेकरून ऑनलाइन कोणीही त्यांना मुक्तपणे डाउनलोड, सुधारित, फाइन-ट्यून आणि स्वतंत्रपणे चालवू शकेल.
त्या मोकळेपणाने चिनी मॉडेल्सच्या जलद जागतिक प्रसाराला चालना दिली आहे, परंतु याचा अर्थ असा आहे की होस्ट केलेल्या API वर लागू केलेली मानक सुरक्षा नियंत्रणे लागू होत नाहीत. एकदा वजन सोडल्यानंतर, विकसक प्रवेश रद्द करू शकत नाही, वापर धोरणे लागू करू शकत नाही किंवा मॉडेल कसे वापरले जात आहे याचे निरीक्षण करू शकत नाही. अहवालात असा युक्तिवाद आहे की यामुळे, सुरक्षा तपासण्या "अपस्ट्रीम" विकासाच्या सुरुवातीच्या टप्प्यात हलवल्या पाहिजेत.
अहवालाद्वारे प्रस्तावित सहा-स्टेज जीवनचक्र
फ्रेमवर्कच्या केंद्रस्थानी सहा-टप्प्यांची जीवनचक्र व्यवस्थापन प्रक्रिया समाविष्ट आहे:
1. जोखीम ओळख — प्रशिक्षण सुरू होण्यापूर्वी धोके सूचीबद्ध करणे
2. थ्रेशोल्ड सेटिंग — स्वीकार्य जोखीम पातळी परिभाषित करणे
3. विश्लेषण — पाइपलाइनमध्ये कोठे धोका निर्माण होतो याचे मूल्यांकन करणे
4. मूल्यांकन — परिभाषित थ्रेशोल्डच्या विरूद्ध चाचणी मॉडेल
5. शमन — जोखीम मर्यादेपेक्षा जास्त असेल तेथे सुरक्षा उपाय लागू करणे
6. शासन — रिलीझ झाल्यानंतर सतत देखरेख स्थापित करणे
शिफारस केलेल्या सुरक्षा उपायांपैकी मुख्य म्हणजे प्रशिक्षण-डेटा क्युरेशन, जे "उपलब्ध संरक्षणाच्या सर्वात मजबूत स्तरांपैकी एक" म्हणून अहवालात हायलाइट केले आहे. लेखकांनी विकसकांना सुरक्षितता पूर्व-प्रशिक्षण म्हणतात ते अवलंबण्याचे आवाहन केले - मॉडेल प्रकाशित होण्यापूर्वी धोकादायक सामग्री प्रशिक्षण डेटासेटमधून फिल्टर करणे - रिलीझ झाल्यानंतर सिस्टमला शस्त्रे बनवण्यापासून रोखण्यासाठी.
जागतिक सुरक्षा चिंतेमध्ये वेळेवर प्रकाशन
जगभरातील एआय सुरक्षा पद्धतींच्या तीव्र तपासणीच्या दरम्यान हा अहवाल आला आहे. शनिवारी, ओपनएआयने त्याच्या पुढच्या पिढीच्या मालकीच्या मॉडेल्सवरील प्रशिक्षण निलंबित केले ज्यामध्ये स्वायत्त एजंटांनी अप्रत्याशितपणे काम केले आणि बाह्य प्रणाली हॅक केल्या, असे SCMP ने नमूद केले.
चिनी कंपन्यांनी अलीकडेच त्यांच्या स्वत: च्या पारदर्शक हालचाली केल्या आहेत. गेल्या आठवड्यात, Xiaomi ने त्याच्या फ्रंटियर MiMo-V2.6 मॉडेल्ससाठी रीइन्फोर्समेंट लर्निंग प्रक्रियेचे थेट प्रक्षेपण करण्याचे अभूतपूर्व पाऊल उचलले, एक रिअल-टाइम डॅशबोर्ड प्रसारित केला ज्यामध्ये लाखो डॉलर्सची गणना खर्च, अयशस्वी लॉग आणि अचूक प्रशिक्षण-डेटा मिक्स गुणोत्तर प्रदर्शित केले गेले - अमेरिकन लॅबशी संबंधित गुप्त सरावांशी एक तीव्र विरोधाभास.
Z.ai ने स्वतःच गेल्या आठवड्यात त्याच्या कोडिंग असिस्टंट ZCode, ओपन-सोर्सची योजना जाहीर केली, ज्यामध्ये वापरकर्त्यांना हे साधन संमतीशिवाय बाह्य सर्व्हरवर स्थानिक वर्कस्पेस डेटा अपलोड करत असल्याच्या एका सुरक्षिततेच्या घटनेनंतर आढळले. कंपनीने माफीनामा जारी केला आणि टूलच्या कोडबेसचे पुनरावलोकन करण्यासाठी तृतीय-पक्ष ऑडिटर्सना आमंत्रित करण्याचे वचन दिले.
कॉर्पोरेट हालचाली बीजिंगच्या व्यापक नियामक पुशसह संरेखित आहेत, ज्याने 14 सप्टेंबर रोजी राष्ट्रीय "एआय सेफ्टी गव्हर्नन्स फ्रेमवर्क" सादर केले आणि कठोर सुरक्षा प्रोटोकॉल आणि आंतरराष्ट्रीय सहकार्याची मागणी केली.
भू-राजकीय रणांगण म्हणून खुले वजन
फ्रेमवर्क युनायटेड स्टेट्स आणि चीन यांच्यातील वाढत्या तापलेल्या तंत्रज्ञानाच्या शर्यतीच्या मध्यभागी देखील उतरले आहे, जिथे किफायतशीर ओपन-वेट सिस्टम प्राथमिक रणांगण बनले आहेत.
जुलैमध्ये, Moonshot AI च्या Kimi K3 मॉडेलने अनेक प्रमुख बेंचमार्कवर शीर्ष बंद-स्रोत यूएस प्रणालीशी जुळवून किंवा आउटपरफॉर्मिंग करून हेडलाइन बनवले. तेव्हापासून, Xiaomi च्या MiMo-V2.6-Pro, Alibaba चे Qwen3.8-Max, आणि Z.ai चे GLM-5.3 यासह इतर चीनी प्रणालींनी - सॅन फ्रान्सिस्को-आधारित बेंचमार्किंग फर्म आर्टिफिशियल ॲनालिसिसद्वारे राखलेल्या बुद्धिमत्ता निर्देशांकावर Kimi K3 ला मागे टाकले आहे.
चीनच्या वाढत्या गतीने वॉशिंग्टनमध्ये विदेशी ओपन-सोर्स मॉडेल्सवरील संभाव्य बंदीबद्दल वादविवाद पुन्हा सुरू झाला आहे. व्हाईट हाऊस अशा निर्बंधांचे वजन करत असल्याच्या जुलैच्या अहवालानंतर, Nvidia, Google आणि OpenAI यासह आघाडीच्या यूएस तंत्रज्ञान कंपन्यांच्या युतीने - अमेरिकेची AI आघाडी टिकवून ठेवण्यासाठी एक मजबूत ओपन-सोर्स इकोसिस्टम अत्यावश्यक आहे असा युक्तिवाद करून, व्यापक बंदीला विरोध करणाऱ्या उद्योग पत्रावर स्वाक्षरी केली.
फ्रेमवर्क म्हणजे पुढे जाणे
ओपन-वेट AI च्या बचावकर्त्यांसाठी, अहवाल हे दाखवून देण्याचा प्रयत्न दर्शवितो की मोकळेपणा आणि सुरक्षितता परस्पर अनन्य नाहीत - की जोखीम प्रतिबंधित प्रवेशाऐवजी शिस्तबद्ध अभियांत्रिकी पद्धतींद्वारे व्यवस्थापित केली जाऊ शकतात. समीक्षकांसाठी, प्री-रिलीझ डेटा क्युरेशन आणि लाइफसायकल गव्हर्नन्स मॉडेल वेट्स प्रकाशित करण्याच्या मूलभूत अपरिवर्तनीयतेची भरपाई करू शकतात का हा एक खुला प्रश्न आहे.
हे स्पष्ट आहे की ओपन-वेट मॉडेल्सचे सर्वात मोठे व्यावसायिक उत्पादक यापुढे सुरक्षा संभाषणासाठी बसलेले नाहीत. चिनी विकसकांनी आता ओपन-वेट इकोसिस्टमवर वर्चस्व गाजवले आहे आणि पाश्चात्य सरकार निर्बंधांवर सक्रियपणे चर्चा करत आहेत, Z.ai आणि Concordia AI हे पैज लावत आहेत की एक औपचारिक, पुरावा-आधारित जोखीम फ्रेमवर्क पॅसिफिकच्या दोन्ही बाजूंचे नियामक तंत्रज्ञानाकडे कसे पोहोचतात.
चीनच्या डेव्हलपर्सच्या पलीकडे सहा-टप्प्यांची प्रक्रिया स्वीकारली जाते की नाही - आणि ती सरावात प्रभावी ठरते की नाही - हे जागतिक एआय गव्हर्नन्स चर्चेच्या पुढील टप्प्यासाठी एक चाचणी केस बनेल.
हा लेख अलिबाबाच्या मालकीच्या साउथ चायना मॉर्निंग पोस्टच्या अहवालावर आधारित आहे.---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
