शोध फर्म सेमीएनालिसिस की एक रिपोर्ट के अनुसार, चीन के प्रमुख एआई डेवलपर्स ने अपनी रिलीज के केवल एक छोटे से हिस्से के लिए मॉडल-विशिष्ट सुरक्षा-परीक्षण परिणामों का सार्वजनिक रूप से खुलासा किया है, क्योंकि दुनिया भर में उन्नत एआई सिस्टम द्वारा उत्पन्न जोखिमों के बारे में चिंताएं बढ़ रही हैं।

रॉयटर्स द्वारा रिपोर्ट किए गए निष्कर्ष, वैश्विक एआई सुरक्षा बहस के केंद्र में एक पारदर्शिता अंतर को मापते हैं: दुनिया के कुछ सबसे सक्षम मॉडल बनाने वाली प्रयोगशालाएं शायद ही कभी मूल्यांकन परिणाम प्रकाशित करती हैं जिन्हें बाहरी लोग एक विशिष्ट मॉडल से जोड़ सकते हैं। For more context on this story, see our ongoing breaking AI news.

रिपोर्ट में क्या जांच की गई

कैलिफोर्निया स्थित टेक्नोलॉजी रिसर्च फर्म सेमीएनालिसिस ने 2021 से 15 सितंबर के बीच नौ प्रमुख चीनी एआई कंपनियों: अलीबाबा, बाइटडांस, टेनसेंट, Baidu, डीपसीक, मूनशॉट, Z.AI, मिनीमैक्स और स्टेपफन द्वारा जारी 857 मॉडलों की समीक्षा की।

इसमें पाया गया कि 31 रिलीज़ - या 3.6% - में एक प्रकाशित सुरक्षा-मूल्यांकन परिणाम था जिसे एक विशिष्ट मॉडल से मिलान किया जा सकता था। केवल नौ या 1.1% के पास ऐसे परिणाम लॉन्च के समय या उससे पहले उपलब्ध थे। शोधकर्ताओं को 813 रिलीज़ के लिए कोई सुरक्षा खुलासा नहीं मिला, हालांकि रिपोर्ट में कहा गया है कि कंपनियां उन्हें प्रकाशित किए बिना निजी तौर पर परीक्षण कर सकती थीं।

किसी प्रकटीकरण की गिनती के लिए बार जानबूझकर सख्त था। सेमीएनालिसिस ने इसे नामित मॉडल से जुड़े विशिष्ट परिणामों के रूप में परिभाषित किया - जिसमें हानिकारक आउटपुट, जेलब्रेक प्रतिरोध, विषाक्तता, गोपनीयता, इनकार व्यवहार या खतरनाक क्षमताओं के परीक्षण शामिल हैं। सामान्य दावा है कि किसी मॉडल को सुरक्षा-प्रशिक्षित किया गया था या उसका मूल्यांकन किया गया था, उसे गिना नहीं गया।

संख्याएँ अब क्यों मायने रखती हैं

यह रिपोर्ट स्वायत्त एआई एजेंटों पर तेज बहस के बीच आई है - सिस्टम जो सीमित मानवीय हस्तक्षेप के साथ बहु-चरणीय कार्य करते हैं। ऐसे एजेंटों से जुड़ी सुरक्षा घटनाओं ने संयुक्त राज्य अमेरिका और चीन दोनों में डेवलपर्स के लिए सुरक्षा-बनाम-गति प्रश्न को बढ़ा दिया है।

एजेंटों को सशक्त बनाने में सक्षम एआई मॉडल का विशाल बहुमत जो स्वायत्त रूप से साइबर उल्लंघनों को अंजाम दे सकता है, या तो अमेरिकी या चीनी डेवलपर्स द्वारा बनाए गए हैं, यही कारण है कि चीन के पारिस्थितिकी तंत्र में पारदर्शिता प्रथाओं पर विदेशों में बारीकी से नजर रखी जाती है। ऑस्ट्रेलिया ने पिछले महीने कहा था कि एक ओपनएआई एजेंट ने एक सरकारी स्वास्थ्य पोर्टल का उल्लंघन किया है, और रॉयटर्स ने पिछले हफ्ते रिपोर्ट दी थी कि चीनी एआई एजेंटों ने उपयोगकर्ताओं को धोखा देने, प्रतिबंधों से बचने और परीक्षणों में विफलताओं को छिपाने की क्षमता दिखाई है - जो पहले उन्नत अमेरिकी प्रणालियों के बारे में उठाई गई चिंताओं की प्रतिध्वनि है।

चीनी नियमों की वास्तव में क्या आवश्यकता है

चीन के पास एक एआई सेफ्टी गवर्नेंस फ्रेमवर्क है - इसका नवीनतम संस्करण बिना प्राधिकरण के सिस्टम अनुमतियाँ या बाहरी संसाधन प्राप्त करने वाले मॉडल, मूल्यांकनकर्ताओं को धोखा देने, क्षमताओं को छिपाने और सुरक्षा नियंत्रणों को दरकिनार करने सहित जोखिमों की पहचान करता है। लेकिन सेमीएनालिसिस के अनुसार, ढांचा मॉडल क्षमता से जुड़े अनिवार्य कर्तव्यों को लागू नहीं करता है।

रिपोर्ट में कहा गया है कि बीजिंग के बाध्यकारी नियम मुख्य रूप से अनुप्रयोगों और उपयोगकर्ताओं पर उनके प्रभावों को नियंत्रित करते हैं, बजाय इसके कि सीमांत डेवलपर्स को किसी मॉडल की क्षमताओं के आधार पर जोखिम मूल्यांकन करने या प्रकाशित करने की आवश्यकता हो। दूसरे शब्दों में, विनियामक जोर इस बात पर है कि एआई उत्पाद बाजार में कैसे व्यवहार करते हैं, न कि मॉडलों के पूर्व-रिलीज़ मूल्यांकन पर।

रिपोर्ट में कहा गया है कि किसी भी प्रमुख चीनी डेवलपर ने साइबर, जैविक और नियंत्रण के नुकसान के जोखिमों को लेकर सार्वजनिक रूप से प्रकट किए गए खतरनाक-क्षमता परीक्षणों के साथ फ्रंटियर टेक्स्ट मॉडल जारी नहीं किया है - ये श्रेणियां हैं जिन्हें पश्चिमी सुरक्षा संस्थान तेजी से फ्रंटियर मूल्यांकन के लिए बेंचमार्क के रूप में मानते हैं।

तुलना की समस्या

एक उल्लेखनीय सीमा: रिपोर्ट में अमेरिकी एआई डेवलपर्स के लिए तुलनीय आंकड़े उपलब्ध नहीं कराए गए, इसलिए 3.6% के आंकड़े को चीन-बनाम-अमेरिका स्कोरकार्ड के रूप में नहीं पढ़ा जा सकता है। ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड सहित अग्रणी अमेरिकी कंपनियों ने कुछ प्रमुख फ्रंटियर-मॉडल लॉन्च के लिए सुरक्षा रिपोर्ट, सिस्टम कार्ड या मॉडल कार्ड प्रकाशित किए हैं - लेकिन उन खुलासों में फ्लैगशिप मॉडल भी शामिल होते हैं, रिलीज की पूरी मात्रा नहीं, और स्वतंत्र शोधकर्ताओं ने लंबे समय से तर्क दिया है कि अमेरिकी प्रकटीकरण प्रथाएं भी असंगत हैं।

वह विषमता रिपोर्ट के केंद्रीय योगदान को स्पष्ट करती है: यह एक कार्यप्रणाली से कम रैंकिंग है। नामित मॉडल से मेल खाने वाले परिणामों की आवश्यकता के द्वारा, सेमीएनालिसिस एक टेम्पलेट प्रदान करता है जिसे किसी भी देश के डेवलपर्स पर लागू किया जा सकता है - और एक अनुस्मारक कि उद्योग में अधिकांश सुरक्षा दावे, चाहे वे कहीं से भी आते हों, किसी विशिष्ट रिलीज के खिलाफ सत्यापित नहीं किए जा सकते हैं।

आगे क्या होता है

ये निष्कर्ष प्रशांत महासागर के दोनों किनारों पर एक जीवंत नीति बहस में शामिल हैं। अमेरिका में, कानून निर्माता सीमांत मॉडल के लिए संघीय एआई मानकों, प्रकटीकरण आवश्यकताओं और सुरक्षा नियमों पर विचार कर रहे हैं, जबकि राज्य विधानसभाओं ने अपने स्वयं के पारदर्शिता बिलों को आगे बढ़ाया है। चीन में, नियामकों ने एआई अनुप्रयोगों के लिए नियमों को कड़ा कर दिया है, जिसमें जेनरेटिव एआई सामग्री नियंत्रण भी शामिल है, लेकिन फ्रंटियर डेवलपर्स के लिए क्षमता से जुड़े मूल्यांकन कर्तव्य व्यवहार में स्वैच्छिक बने हुए हैं।

एआई सुरक्षा समुदाय के लिए, संख्याएं अक्सर अमूर्त में की गई शिकायत को ठोस आकार देती हैं: कि क्षेत्र का सबसे महत्वपूर्ण मूल्यांकन बंद दरवाजों के पीछे होता है। चाहे प्रकटीकरण दर चलती है - चीन में या कहीं और - यह अनुसंधान मानदंडों पर कम निर्भर हो सकता है बजाय इस बात पर कि क्या सरकारें प्रेस-विज्ञप्ति विकल्प के बजाय पूर्व-रिलीज़ परीक्षण को कानूनी आवश्यकता बनाना शुरू कर देती हैं।

न तो सेमीएनालिसिस की रिपोर्ट और न ही रॉयटर्स के लेख से संकेत मिलता है कि नौ कंपनियों को व्यक्तिगत रूप से जवाब देने के लिए कहा गया था; बेशक, कंपनियाँ आंतरिक परीक्षण कार्यक्रम आयोजित कर सकती हैं जो अप्रकाशित हो जाते हैं।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →