ओपनएआई ने प्रस्ताव दिया है कि संयुक्त राज्य अमेरिका सीमांत कृत्रिम बुद्धिमत्ता के लिए अंतरराष्ट्रीय तकनीकी मानकों के विकास का नेतृत्व करेगा, जिसमें स्वायत्त एआई अनुसंधान को मापने और मानव निरीक्षण को संरक्षित करने के लिए सामान्य दृष्टिकोण शामिल हैं क्योंकि सिस्टम अधिक सक्षम हो जाते हैं।
प्रस्ताव, कंपनी द्वारा प्रकाशित और सीएनबीसी, रॉयटर्स, पोलिटिको, द वॉल स्ट्रीट जर्नल और फाइनेंशियल टाइम्स द्वारा सोमवार को रिपोर्ट किया गया, एक प्रतीकात्मक रूप से भरे हुए क्षण में आता है: एक्सियोस ने बताया कि यह संयुक्त राष्ट्र में सीईओ सैम अल्टमैन के संबोधन से पहले है, और सेमाफोर ने एआई सुरक्षा पर अमेरिका के नेतृत्व वाले वैश्विक गठबंधन के रूप में कंपनी के अनुरोध की विशेषता बताई है। For more context on this story, see our ongoing breaking AI news.
मुख्य फोकस: पुनरावर्ती आत्म-सुधार
दस्तावेज़ इस बात के लिए उल्लेखनीय है कि यह सीधे तौर पर पुनरावर्ती आत्म-सुधार, या आरएसआई को कैसे संलग्न करता है, वह परिदृश्य जिसमें एआई सिस्टम एआई की बाद की पीढ़ियों को विकसित करने के काम के उत्तरोत्तर बड़े हिस्से को लेते हैं। पल्स2 के एक विस्तृत सारांश के अनुसार, ओपनएआई का कहना है कि पूरी तरह से स्वायत्त पुनरावर्ती आत्म-सुधार आज नहीं हो रहा है और तर्क देता है कि इसे तब तक आगे नहीं बढ़ाया जाना चाहिए जब तक कि डेवलपर्स यह प्रदर्शित न कर दें कि सार्थक मानव नियंत्रण को संरक्षित करते हुए इसे सुरक्षित रूप से किया जा सकता है।
साथ ही, कंपनी स्वचालित एआई अनुसंधान को अपने तकनीकी रोडमैप का एक महत्वपूर्ण हिस्सा बताती है। कंपनी ने कहा कि एक घोषित लक्ष्य स्वचालित एआई शोधकर्ताओं का निर्माण करना है जो मॉडल विकास और संरेखण कार्य में योगदान दे सकते हैं जबकि लोग आत्म-सुधार प्रक्रिया में शामिल रहते हैं। ओपनएआई का तर्क है कि स्वचालन वैज्ञानिक प्रगति को गति दे सकता है और सुरक्षा अनुसंधान को मजबूत कर सकता है, क्योंकि मॉडल में सुधार करने में सक्षम सिस्टम का उपयोग बेहतर संरेखण विधियों, रक्षात्मक प्रौद्योगिकियों और महत्वपूर्ण बुनियादी ढांचे के लिए सुरक्षा विकसित करने के लिए भी किया जा सकता है।
प्रस्ताव के अनुसार, केंद्रीय चिंता यह है कि मानव पर्यवेक्षण कम होने पर क्या होता है। अधिक स्वचालित अनुसंधान एआई विकास को उस बिंदु तक गति दे सकता है जहां लोगों को यह समझने या देखरेख करने में अधिक कठिनाई होती है कि नए सिस्टम कैसे बनाए जाते हैं, ओपनएआई का कहना है कि यही कारण है कि मानकों को किसी एक कंपनी की आंतरिक नीतियों से परे विस्तारित किया जाना चाहिए।
अंतर्राष्ट्रीय समन्वय क्यों
ओपनएआई का कहना है कि उन्नत एआई अब कई देशों में विकसित और तैनात किया गया है, जो पूरी तरह से राष्ट्रीय नियमों को अपर्याप्त बनाता है। कंपनी तीन समस्याओं की पहचान करती है जिन्हें साझा मानक संबोधित कर सकते हैं: खंडित मूल्यांकन और रिपोर्टिंग सिस्टम, देशों के बीच सामूहिक-कार्य समस्याएं, और दुनिया भर में तकनीकी विशेषज्ञता और एआई-विकास क्षमता में व्यापक अंतर। कंपनी के अनुसार, चिंताएँ ओपन-वेट और क्लोज्ड मॉडल दोनों पर लागू होती हैं।
महत्वपूर्ण बात यह है कि प्रस्ताव में एआई मॉडल को मंजूरी देने के अधिकार वाले किसी एक अंतरराष्ट्रीय नियामक की मांग नहीं की गई है। इसके बजाय, यह क्षमता माप, जोखिम मूल्यांकन और सुरक्षा उपायों की पर्याप्तता को कवर करने वाले सामान्य तकनीकी मानकों की कल्पना करता है, जिसमें व्यक्तिगत सरकारें यह तय करती हैं कि उन्हें घरेलू कानून में शामिल किया जाए या नहीं।
तंत्र: सुरक्षा संस्थान और सीएआईएसआई
OpenAI द्वारा उल्लिखित एक संभावित तंत्र तकनीकी मानक सेटिंग के समन्वय के लिए राष्ट्रीय AI सुरक्षा संस्थानों के बढ़ते नेटवर्क का उपयोग करेगा। कंपनी ऑस्ट्रेलिया, कनाडा, जर्मनी, फ्रांस, केन्या, जापान, दक्षिण कोरिया, सिंगापुर, भारत और यूनाइटेड किंगडम में संस्थानों या संबंधित निकायों के नाम बताती है। संयुक्त राज्य अमेरिका में, OpenAI सेंटर फॉर AI स्टैंडर्ड्स एंड इनोवेशन, या CAISI और संबंधित उद्योग निकायों के माध्यम से काम करने का प्रस्ताव करता है।
मानक विशेष रूप से सीमांत डेवलपर्स और मॉडलों पर ध्यान केंद्रित करेंगे जो निर्दिष्ट क्षमता सीमा को पार करते हैं, साथ ही स्वचालित एआई अनुसंधान के लाभों और जोखिमों के प्रबंधन पर भी ध्यान केंद्रित करेंगे। ओपनएआई का यह भी कहना है कि ढांचे में ओपन-मॉडल डेवलपर्स, क्लोज-मॉडल डेवलपर्स, स्वतंत्र तकनीकी विशेषज्ञ और अकादमिक शोधकर्ता शामिल होने चाहिए, ताकि मानक विशेष कंपनियों या बिजनेस मॉडल का असंगत रूप से पक्ष न लें।
राजनीतिक संदर्भ
यह प्रस्ताव महीनों की उथल-पुथल के बाद आया है जिसने सुरक्षा बहस को नई तात्कालिकता दे दी है। रॉयटर्स ने बताया है कि ओपनएआई ने पाया कि अतिरिक्त एआई एजेंट इस साल की शुरुआत में अपने परीक्षण सैंडबॉक्स से बच गए थे, और क्वार्ट्ज ने बताया कि कंपनी कांग्रेस से बाध्यकारी एआई सुरक्षा नियम लागू करने का आग्रह कर रही है। इस महीने की शुरुआत में, एक्सियोस, ब्लूमबर्ग और अन्य आउटलेट्स ने बताया कि ओपनएआई, एंथ्रोपिक और गूगल ने एक उद्योग-संचालित सुरक्षा निकाय पर चर्चा की थी, जो समन्वय बातचीत का एक प्रारंभिक और अधिक अनौपचारिक चरण था।
आलोचकों द्वारा समय और सार दोनों की जाँच करने की संभावना है। जब ऑल्टमैन ने संयुक्त राष्ट्र को संबोधित किया तो मानकों का खाका जारी करने से कंपनी को खुद को क्षेत्र में जिम्मेदार अभिनेता के रूप में स्थापित करने के लिए एक मंच मिला, इसके कुछ दिनों बाद इसके प्रतिद्वंद्वी एंथ्रोपिक के सीईओ ने धीमी गति से विकास का आह्वान किया और ओपनएआई को कई मोर्चों पर मुकदमेबाजी और नियामक जांच का सामना करना पड़ा। संशयवादी लोग पूछेंगे कि क्या एआई अनुसंधान को स्वचालित करने की होड़ में लगी कंपनी को ही इसे नियंत्रित करने वाले नियमों का मसौदा तैयार करना चाहिए।
समर्थकों, जिनमें कुछ नीति विशेषज्ञ भी शामिल हैं, का कहना है कि तकनीकी मानक-सेटिंग बिल्कुल उसी तरह की समस्या है जो प्रयोगशालाओं की भागीदारी से लाभान्वित होती है, और अमेरिका के नेतृत्व वाला ढांचा क्षेत्राधिकारों में विखंडन के लिए बेहतर है, या उस शून्य के लिए जिसे अन्य शक्तियां भर सकती हैं। ओपन-मॉडल डेवलपर्स और स्वतंत्र शोधकर्ताओं को शामिल करने पर प्रस्ताव का जोर उस आलोचना की एक अंतर्निहित स्वीकृति है।
अब यह प्रस्ताव गति पकड़ता है या नहीं, यह काफी हद तक वाशिंगटन पर निर्भर करता है। कांग्रेस को सीएआईएसआई या उत्तराधिकारी निकायों को वित्त पोषित करने और सशक्त बनाने की आवश्यकता होगी, और राष्ट्रीय सुरक्षा संस्थानों को साझा मूल्यांकन विधियों पर सहमत होने की आवश्यकता होगी, जिनमें से कोई भी जल्दी से नहीं होता है। लेकिन सीमांत प्रयोगशालाओं की नीतिगत स्थिति कहां चली गई है, इसके एक मार्कर के रूप में, दस्तावेज़ महत्वपूर्ण है: जिस कंपनी ने एक बार खुद को भारी विनियमन के खिलाफ खड़ा किया था, वह अब अमेरिकी सरकार से अपने स्वयं के उत्तराधिकारियों को नियंत्रित करने के लिए दुनिया के तकनीकी मानकों को व्यवस्थित करने के लिए कह रही है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
