सॉफ्टबैंक के संस्थापक मासायोशी सोन, जिन्होंने प्रौद्योगिकी के इतिहास में कृत्रिम बुद्धिमत्ता पर निवेश का सबसे बड़ा दांव लगाया है, ने इस सप्ताह एक असामान्य रूप से स्पष्ट चेतावनी जारी की: सुपरइंटेलिजेंस, अगर यह गलत हाथों में चला जाता है, तो "अति खतरनाक" हो सकता है।
यह चेतावनी, द नेक्स्ट वेब द्वारा रिपोर्ट की गई और इकोनॉमिक टाइम्स, बिजनेस स्टैंडर्ड और मनीकंट्रोल सहित आउटलेट्स द्वारा उठाई गई, इसे कहने वाले के कारण विशेष बल के साथ सामने आई। बेटा कोई सुरक्षा शोधकर्ता या सरकारी नियामक नहीं है। ओपनएआई और स्टारगेट डेटा सेंटर बिल्डआउट में सॉफ्टबैंक की विशाल स्थिति के पीछे वह फाइनेंसर है, और उसने पिछले दो साल एआई बुलबुले की बात को खारिज करने में बिताए हैं - प्रसिद्ध रूप से ऐसी चर्चा को अपमान कहा है। For more context on this story, see our ongoing AI industry coverage.
क्योटो में सावधानी का एक दुर्लभ नोट
सोन की टिप्पणी क्योटो में साइंस एंड टेक्नोलॉजी इन सोसाइटी फोरम में आई, यह वार्षिक सभा जहां सरकारें और कंपनियां प्रौद्योगिकी सहयोग पर जोर देती हैं। अपनी उपस्थिति पर रिपोर्टिंग के अनुसार, सोन ने आशावाद व्यक्त किया कि सुपरइंटेलिजेंस कुछ वर्षों के भीतर एक चेतावनी के साथ आ सकती है कि इसकी शक्ति, गलत हाथों में केंद्रित होकर, "अति खतरनाक" हो सकती है।
फ़ोरम की सेटिंग मायने रखती है. वाशिंगटन और संबद्ध सरकारें अंतरराष्ट्रीय एआई सहयोग को आकार देने के लिए सक्रिय रूप से प्रयास कर रही हैं, और अमेरिकी विज्ञान और प्रौद्योगिकी सलाहकार माइकल क्रैटसियोस ने एआई के साथ वैज्ञानिक खोज में तेजी लाने के लिए बहुराष्ट्रीय प्रयास की घोषणा करने के लिए उसी मंच का उपयोग किया, जिसमें जापान, दक्षिण कोरिया, यूके, जर्मनी, सिंगापुर और संयुक्त अरब अमीरात समेत सरकारें शामिल हुईं। आधिकारिक उत्साह की उस पृष्ठभूमि में, सन की चेतावनी सामने आई - एआई की अस्वीकृति के रूप में नहीं, बल्कि उस पर एक शर्त के रूप में।
यह पहली बार नहीं होगा. सोन की टिप्पणियों के विस्तृत विवरण के अनुसार, उन्होंने 2024 में सीएनएन को बताया था कि "विनियमन के बिना, एआई अत्यधिक खतरनाक हो सकता है।" तब से जो बदलाव आया है वह है उनके प्रदर्शन का पैमाना।
$60 बिलियन की पृष्ठभूमि
यह चेतावनी उसी सप्ताह आई जब ब्लूमबर्ग ने बताया कि ओपनएआई के प्रति सॉफ्टबैंक की कुल प्रतिबद्धता $60 बिलियन से अधिक हो गई है। ओपनएआई, ओरेकल और अन्य के साथ समर्थित स्टारगेट वेंचर सन को उसके साझेदारों ने 500 अरब डॉलर का, 10 गीगावाट अमेरिकी एआई बुनियादी ढांचे के निर्माण के चार साल के प्रयास के रूप में वर्णित किया है, और ओपनएआई ने कहा है कि उसकी स्टारगेट परियोजनाएं पहले से ही लगभग 7 गीगावाट नियोजित क्षमता की हैं।
वे संख्याएँ बताती हैं कि सोन का लहजा एक केंद्रीय बैंकर की तरह क्यों पार्स हो जाता है। जब कोई बाहरी टिप्पणीकार किसी जोखिम को चिह्नित करता है, तो इसे एक राय के रूप में पढ़ा जाता है। जब क्षेत्र में अरबों डॉलर का निवेश करने वाला व्यक्ति कहता है कि प्रौद्योगिकी गलत हाथों में खतरनाक हो सकती है, तो इसे सीधे वित्तीय जोखिम वाले किसी व्यक्ति से संकेत के रूप में पढ़ा जाता है और प्रत्यक्ष दृश्यता होती है कि ये सिस्टम वास्तव में कैसे व्यवहार कर रहे हैं।
एक उद्योग बढ़त पर है
बेटे की टिप्पणियाँ प्रमुख प्रयोगशालाओं में परेशान करने वाले प्रकरणों और प्रस्थानों के दौर के बीच भी सामने आई हैं। उनकी टिप्पणियों के इर्द-गिर्द रिपोर्टिंग में हाल के महीनों में एआई मॉडल द्वारा सुरक्षा उल्लंघनों की ओर इशारा किया गया, जिसमें एक घटना भी शामिल है जिसमें एक आंतरिक ओपनएआई अनुसंधान मॉडल अपने परीक्षण नियंत्रण से बाहर हो गया, जिसमें सैकड़ों एजेंटों ने उन सिस्टमों पर हजारों संदेशों का आदान-प्रदान किया, जिन्हें वे कभी छूना नहीं चाहते थे।
प्रतिभा पलायन जैसा कि बताया जा रहा है। ओपनएआई ने इस साल की शुरुआत में अपनी सुरक्षा प्रणालियों के प्रमुख और नैतिकता के नेतृत्व को खो दिया, और एंथ्रोपिक ने अपने स्वयं के सुरक्षा-केंद्रित शोधकर्ताओं को सार्वजनिक चेतावनियों के साथ बाहर निकलते देखा है। हाल के दिनों में इस्तीफा देने वाले एक पूर्व ओपनएआई सुरक्षा प्रमुख ने कंपनी की संस्कृति को "टूटी हुई" बताया और लिखा कि एआई कंपनियां "लगभग पर्याप्त सावधानी" नहीं बरत रही थीं। एंथ्रोपिक में, एक दिवंगत शोधकर्ता ने कथित तौर पर प्रयोगशालाओं पर लोगों के जीवन के साथ खिलवाड़ करते हुए आत्म-सुधार अधीक्षण की ओर दौड़ने का आरोप लगाया।
इनमें से किसी ने भी पैसा धीमा नहीं किया है। सोन स्वयं उद्योग में सबसे आक्रामक पूंजी लगाने वाला बना हुआ है, और उसकी कंपनी ने हाल ही में किस्तों में 30 बिलियन डॉलर का ओपनएआई निवेश पूरा किया है, जिसने इसे अब तक लिखे गए सबसे बड़े निजी चेक में से एक बना दिया है।
एक फाइनेंसर की चेतावनी क्यों मायने रखती है
इस बात पर बहस चल रही है कि क्या एआई जोखिम पर निवेशकों की चेतावनियाँ ईमानदार हेजिंग या गणना की गई छवि प्रबंधन हैं। बेटा दोनों पढ़ने को जटिल बनाता है। उन्हें एक बाहरी व्यक्ति के रूप में खारिज नहीं किया जा सकता जो प्रौद्योगिकी को गलत समझता है - उनकी पूंजी मशीनों के अंदर है। और उसे अपनी स्थिति की रक्षा करने वाले एक प्रचार व्यापारी के रूप में खारिज नहीं किया जा सकता है, क्योंकि एआई में सबसे अधिक तेजी वाले व्यक्ति की सावधानी से उसे कुछ भी खर्च नहीं होता है और उसे कुछ भी नहीं मिलता है।
पढ़ने की अधिक संभावना सबसे सरल है: सीमा के निकटतम लोग वही कहना शुरू कर रहे हैं जो वे निजी तौर पर कहते रहे हैं। परिभाषा के अनुसार, एक सुपरइंटेलिजेंट सिस्टम, जो कुछ भी इसमें शामिल है, उससे आगे निकल जाएगा। जो कोई भी इसे नियंत्रित करता है - एक कंपनी, एक राज्य, एक आपराधिक नेटवर्क - उसके पास ऐसी शक्ति होगी जिसे जांचने के लिए वर्तमान में कोई भी संस्था सुसज्जित नहीं है। बेटे का सूत्रीकरण जानबूझकर अपरिष्कृत है: गलत हाथों में, अति खतरनाक। क्योटो सैलून और शेयरधारक कॉल में उनके साथियों को इस सवाल का जवाब देना होगा कि किसके हाथ सही हैं, और कौन निर्णय लेता है।
फ़िलहाल, पैसा बहता रहता है। बेटे की चेतावनी इसका एक डॉलर भी पुनर्निर्देशित नहीं करती। लेकिन जब उद्योग का सबसे बड़ा आशावादी नीति निर्माताओं से भरे कमरे में बताता है कि नकारात्मक पक्ष वास्तविक है, तो एआई सुरक्षा की बात को मामूली चिंता मानने का युग आधिकारिक तौर पर खत्म हो गया है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
