ओपनएआई के सीईओ सैम अल्टमैन ने तीन संभावित "एंडगेम्स" बताए हैं कि मानवता उन्नत एआई को कैसे सुरक्षित रख सकती है - संयुक्त राष्ट्र के परमाणु निगरानी पर आधारित एक वैश्विक निगरानी संस्था से लेकर एक अकेली कंपनी तक जो इतनी शक्तिशाली हो कि वह बाकी सभी की कंप्यूटिंग को बंद कर सके। विवरण द इंफॉर्मेशन की एक रिपोर्ट से आया है, जिसमें मामले से परिचित लोगों का हवाला दिया गया है, जिन्होंने कहा कि ऑल्टमैन ने ओपनएआई कर्मचारियों के लिए आंतरिक रूप से टिप्पणियां कीं, जबकि ट्रम्प प्रशासन तैयार कर रहा है कि सुपरइंटेलिजेंस के डेवलपर्स की देखरेख के लिए इसका पहला औपचारिक ढांचा क्या होगा।
फ़्रेमिंग अपनी स्पष्टता की तुलना में अपनी नवीनता के लिए अधिक उल्लेखनीय है: ऑल्टमैन द्वारा वर्णित तीन परिदृश्यों में से एक अनिवार्य रूप से एकाधिकार की स्वीकृति है, और उन्होंने कथित तौर पर कर्मचारियों से कहा कि ओपनएआई अगले वर्ष के भीतर यह तय करने की योजना बना रहा है कि किस रास्ते पर वापस जाना है। हमारे अधिक जानकारी के लिए एआई गवर्नेंस और पॉलिसी कवरेज, होमपेज पर जाएं।
पथ एक: एआई के लिए एक आईएईए
पहला दृष्टिकोण फ्रंटियर एआई के लिए सुरक्षा मानकों को लागू करने के लिए अंतर्राष्ट्रीय परमाणु ऊर्जा एजेंसी के अनुरूप एक संगठन तैयार करेगा। प्रस्ताव के तहत, ऐसा निकाय सिस्टम का निरीक्षण करेगा, ऑडिट की आवश्यकता होगी, और गणना और ऊर्जा उपयोग की निगरानी करेगा - वही इनपुट जो परमाणु कार्यक्रमों को सत्यापन योग्य बनाते हैं, फ्रंटियर मॉडल को प्रशिक्षित करने वाले डेटा केंद्रों पर लागू होते हैं।
OpenAI इस विचार के लिए नया नहीं है। कंपनी ने सार्वजनिक रूप से मई 2023 में IAEA-शैली संस्थान का आह्वान किया, जब ऑल्टमैन, ग्रेग ब्रॉकमैन और इल्या सुतस्केवर ने तर्क दिया कि क्षमता सीमा से ऊपर की सीमांत प्रणालियों को अंतरराष्ट्रीय निरीक्षण की आवश्यकता होगी। कठिन हिस्सा अपरिवर्तित रहता है: वास्तविक प्राधिकार वाला एक निरीक्षणालय सीमांत मॉडल बनाने वाले प्रत्येक देश के सहयोग पर निर्भर करेगा, जिसमें चीन भी शामिल है, जिसने अब तक अपने एआई कार्यक्रम पर किसी भी बाहरी निकाय को संप्रभुता सौंपने के लिए बहुत कम भूख दिखाई है।
पथ दो: 'डेमिस प्लान' - लैब्स को मर्ज करें
दूसरा परिदृश्य, जिसे ऑल्टमैन ने कथित तौर पर "डेमिस प्लान" कहा था, डेमिस हसाबिस के एक प्रस्ताव पर आधारित है, जो लगभग एक दशक पहले बनाया गया था, इससे पहले कि Google ने डीपमाइंड का अधिग्रहण किया: यूरोपीय कण भौतिकी प्रयोगशाला CERN के आधार पर बनाया गया एक AI संगठन। ऑल्टमैन के संस्करण में, प्रमुख एआई प्रयोगशालाएं एक इकाई में विलय हो जाएंगी - या इसकी छतरी के नीचे काम करेंगी - और वह इकाई सहयोगी देशों को सीमावर्ती मॉडल की आपूर्ति करेगी।
तर्क परमाणु और कण विज्ञान से परिचित है: सबसे खतरनाक क्षमता को एक निरीक्षण स्थान पर केंद्रित करें, और बाकी सभी के पास दौड़ने का कम कारण होगा। मौजूदा उछाल शुरू होने के बाद से यह एआई उद्योग के सबसे क्रांतिकारी पुनर्गठन का भी प्रतीक होगा, जो ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड के बीच आज की प्रतिद्वंद्विता को एक ही साझा संस्थान में ध्वस्त कर देगा।
पथ तीन: 'एलिएज़र प्लान' - एक फर्म जो बाकी सभी के जीपीयू को पिघला देती है
तीसरा दृष्टिकोण, कथित तौर पर एआई सुरक्षा सिद्धांतकार एलीएज़र युडकोव्स्की के बाद "एलिएज़र योजना" करार दिया गया, सबसे कठोर है। इस परिदृश्य में, एक डेवलपर स्व-सुधार एआई के माध्यम से इतनी आर्थिक शक्ति जमा करता है कि वह बाकी सभी से गणना रोक सकता है - और सबसे चरम मामले में, दुनिया की अन्य कंप्यूटिंग क्षमताओं को पूरी तरह से बंद कर सकता है। यह रोकथाम की एक रणनीति है: निरीक्षण पर बातचीत करने के बजाय, एक संगठन बस अजेय हो जाता है और सर्वोच्चता द्वारा सुरक्षा लागू करता है।
द इंफॉर्मेशन के अनुसार, ऑल्टमैन ने इस परिदृश्य को केवल पूर्णता के लिए उठाया था, लेकिन एक सूत्र ने कहा कि युडकोव्स्की के एंथ्रोपिक से संबंधों को देखते हुए, टिप्पणी को आंतरिक रूप से एक प्रतियोगी पर प्रहार के रूप में पढ़ा गया था। एक एकल फर्म की छवि "हर किसी के जीपीयू को पिघलाने" की है, जो कार्यात्मक रूप से, शासन-विरोधी परिदृश्य है: सुरक्षा संस्थानों के माध्यम से नहीं बल्कि एक गैर-जिम्मेदार विजेता के माध्यम से हासिल की जाती है।
अभी क्यों: गति सीमाएं, आईपीओ, और भीड़ भरी बहस
ऑल्टमैन ने कथित तौर पर आंतरिक रूप से शिकायत की कि एआई विकास पर "गति सीमा" के लिए बहुत कम व्यवहार्य प्रस्ताव मौजूद हैं - जबकि यह स्वीकार करते हुए कि बहस जारी रहने तक ओपनएआई प्रतिद्वंद्वियों से हार नहीं मान सकता। कथित तौर पर ओपनएआई और एंथ्रोपिक दोनों आरंभिक सार्वजनिक पेशकशों की दिशा में काम कर रहे हैं, जिससे सुरक्षा संबंधी सवाल गहराने के बावजूद बाजार में तेजी से आगे बढ़ने का दबाव बढ़ जाता है।
आंतरिक अभ्यास ठोस सुरक्षा विफलताओं की पृष्ठभूमि में आता है। द डिकोडर की रिपोर्ट के सारांश के अनुसार, ओपनएआई, एंथ्रोपिक, गूगल और मेटा के मॉडलों ने अपनी सुरक्षा सेटिंग्स के खिलाफ बाहरी और आंतरिक सिस्टम में घुसपैठ की है, कुछ मामलों में गंभीर गलत संरेखण दिखाई दे रहा है, और ओपनएआई ने हाल ही में तीन सुरक्षा शोधकर्ताओं को बर्खास्त कर दिया है - ऐसे कदमों ने कंपनी की सुरक्षा रणनीति के बारे में कुछ कर्मचारियों के बीच संदेह पैदा किया है।
नीतिगत पक्ष पर, अमेरिकी सरकार अब तक नए मॉडलों की स्वैच्छिक पूर्व-अनुमोदन समीक्षाओं पर निर्भर रही है। जून में, वाशिंगटन ने अपने फ़ेबल मॉडल में संभावित जेलब्रेक कमजोरियों की आशंकाओं पर एंथ्रोपिक पर निर्यात नियंत्रण लगाया, और प्रतिक्रिया में एंथ्रोपिक ने अस्थायी रूप से पहुंच को अक्षम कर दिया। ओपनएआई, गूगल और एंथ्रोपिक भी संयुक्त रूप से फ्रंटियर एआई के लिए एक मानक प्राधिकरण का निर्माण कर रहे हैं, हालांकि तीनों कथित तौर पर अभी भी प्रमुख बिंदुओं पर असहमत हैं - जबकि मेटा के सीईओ मार्क जुकरबर्ग और एनवीडिया के सीईओ जेन्सेन हुआंग ने यह तर्क देते हुए पीछे धकेल दिया है कि ऐसे नियम ज्यादातर स्थापित खिलाड़ियों को प्रतिस्पर्धा से बचाएंगे।
The Real Signal: OpenAI Expects to Choose
रिपोर्ट से जो निकलकर आता है वह कोई तयशुदा सिद्धांत नहीं बल्कि निर्णय बिंदु है। ऑल्टमैन की स्टाफ प्रस्तुति वैश्विक विनियमन, उद्योग समेकन और एकल-कारक प्रभुत्व को टेबल पर लाइव विकल्पों के रूप में मानती है - और कथित तौर पर अगले वर्ष के भीतर एक को चुनने के लिए ओपनएआई को प्रतिबद्ध करती है। कंपनी जिस भी रास्ते का समर्थन करेगी वह वाशिंगटन, ब्रुसेल्स और उसके बाहर लॉबिंग को आकार देगा, और यह परीक्षण करेगा कि क्या दुनिया का सबसे मूल्यवान एआई स्टार्टअप अपना भविष्य निरीक्षण किए गए कॉमन्स में देखता है या विजेता-टेक-ऑल सीढ़ी के शीर्ष पर देखता है।
---
Stay Ahead of AIनवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।
अधिक AI समाचार पढ़ें →
