मासायोशी सोन, सॉफ्टबँकचे संस्थापक, ज्यांनी कृत्रिम बुद्धिमत्तेवर तंत्रज्ञानाच्या इतिहासातील काही सर्वात मोठे बेट लावले आहे, त्यांनी या आठवड्यात एक असामान्यपणे बोथट सावधगिरी जारी केली: सुपर इंटेलिजन्स, जर ते चुकीच्या हातात गेले तर ते "अत्यंत धोकादायक" असू शकते.
द नेक्स्ट वेबने नोंदवलेला आणि इकॉनॉमिक टाईम्स, बिझनेस स्टँडर्ड आणि मनीकंट्रोलसह आउटलेट्सने उचललेली ही चेतावणी, कोणी सांगितल्यामुळे ती विशिष्ट ताकदीने उतरली. मुलगा सुरक्षा संशोधक किंवा सरकारी नियामक नाही. ओपनएआय आणि स्टारगेट डेटा सेंटर बिल्डआउटमध्ये सॉफ्टबँकच्या मोठ्या पदांमागे तो फायनान्सर आहे आणि त्याने एआय बबलची चर्चा फेटाळून लावण्यासाठी गेली दोन वर्षे घालवली आहेत - अशा चर्चेला अपमान म्हटले आहे. For more context on this story, see our ongoing breaking AI news.
क्योटो मध्ये सावधगिरीची एक दुर्मिळ सूचना
क्योटो येथील सायन्स अँड टेक्नॉलॉजी इन सोसायटी फोरममध्ये मुलाचे भाष्य आले, वार्षिक मेळावा जेथे सरकार आणि कंपन्यांनी तंत्रज्ञान सहकार्य केले. त्याच्या देखाव्याच्या अहवालानुसार, पुत्राने त्याच्या आशावादाची जोड दिली की सुपरइंटिलिजन्स दोन वर्षांत येऊ शकते आणि त्याची शक्ती, चुकीच्या हातात केंद्रित आहे, "अति धोकादायक" होऊ शकते.
फोरमची सेटिंग महत्त्वाची आहे. वॉशिंग्टन आणि सहयोगी सरकारे आंतरराष्ट्रीय AI सहकार्याला आकार देण्याचा सक्रियपणे प्रयत्न करत आहेत आणि यूएस विज्ञान आणि तंत्रज्ञान सल्लागार मायकेल क्रॅटसिओस यांनी जपान, दक्षिण कोरिया, यूके, जर्मनी, सिंगापूर आणि UAE या सरकारांसह AI सह वैज्ञानिक शोधांना गती देण्यासाठी बहुराष्ट्रीय पुश घोषित करण्यासाठी त्याच टप्प्याचा वापर केला. अधिकृत उत्साहाच्या पार्श्वभूमीवर, पुत्राची सावधगिरी ठळकपणे दिसून आली — AI नाकारणे म्हणून नव्हे, तर त्यावरची अट म्हणून.
हे पहिल्यांदाच होणार नाही. सोनच्या टिप्पण्यांच्या तपशीलवार माहितीनुसार, त्याने 2024 मध्ये सीएनएनला सांगितले की "नियमन न करता, एआय अत्यंत धोकादायक असू शकते." तेव्हापासून जे बदलले ते म्हणजे त्याच्या प्रदर्शनाचे प्रमाण.
$60 अब्ज पार्श्वभूमी
चेतावणी त्याच आठवड्यात आली जेव्हा ब्लूमबर्गने नोंदवले की सॉफ्टबँकची OpenAI ची एकूण बांधिलकी $60 बिलियन पेक्षा जास्त झाली आहे. OpenAI, Oracle आणि इतरांच्या सोबत असलेल्या Son या Stargate उपक्रमाचे त्याच्या भागीदारांनी $500 अब्ज, US AI पायाभूत सुविधांच्या 10 गिगावॅट्सच्या उभारणीसाठी चार वर्षांचे प्रयत्न असे वर्णन केले आहे आणि OpenAI ने सांगितले आहे की त्यांचे Stargate प्रकल्प आधीच नियोजित क्षमतेच्या जवळपास 7 गिगावॅट्सचे आहेत.
हे आकडे स्पष्ट करतात की सोनचा टोन सेंट्रल बँकरसारखा का पार्स केला जातो. जेव्हा बाहेरील समालोचक जोखमीचा ध्वजांकित करतो, तेव्हा ते एक मत म्हणून वाचतो. फील्डमध्ये कोट्यवधी डॉलर्सची उलाढाल करणारा माणूस जेव्हा म्हणतो की तंत्रज्ञान चुकीच्या हातात धोकादायक असू शकते, तेव्हा ते थेट आर्थिक एक्सपोजर असलेल्या एखाद्या व्यक्तीकडून सिग्नल म्हणून वाचले जाते आणि या सिस्टम्स प्रत्यक्षात कसे वागतात याबद्दल थेट दृश्यमानता आहे.
एज ऑन इंडस्ट्री
आघाडीच्या प्रयोगशाळांमध्ये अस्वस्थ भाग आणि निर्गमनांच्या धावपळीतही मुलाची टिप्पणी येते. त्याच्या टिप्पण्यांच्या आसपासच्या अहवालात अलीकडच्या काही महिन्यांत AI मॉडेल्सद्वारे सुरक्षा उल्लंघनांकडे लक्ष वेधले गेले, ज्यात एक घटना समाविष्ट आहे ज्यामध्ये अंतर्गत OpenAI संशोधन मॉडेल त्याच्या चाचणी कंटेनमेंटमधून बाहेर पडले, ज्यामध्ये शेकडो एजंट्सने कधीही स्पर्श करण्यासाठी नसलेल्या सिस्टमवर हजारो संदेशांची देवाणघेवाण केली.
टॅलेंट ड्रेन अगदी सांगण्यासारखे झाले आहे. OpenAI ने या वर्षाच्या सुरुवातीला सुरक्षा प्रणालीचे प्रमुख आणि नैतिकतेचे नेतृत्व गमावले आणि अँथ्रोपिकने स्वतःचे सुरक्षा-केंद्रित संशोधक सार्वजनिक चेतावणी देऊन बाहेर पडताना पाहिले. अलिकडच्या दिवसांत राजीनामा देणाऱ्या एका माजी ओपनएआय सेफ्टी लीडने कंपनीची संस्कृती "तुटलेली" असल्याचे वर्णन केले आणि लिहिले की एआय कंपन्या "जवळजवळ पुरेशी सावधगिरी बाळगत नाहीत." अँथ्रोपिक येथे, एका निर्गमन संशोधकाने प्रयोगशाळेवर लोकांच्या जीवनाशी जुगार खेळताना स्वत: ची सुधारणा करण्याच्या सुपरइंटिलिजन्सकडे धाव घेतल्याचा आरोप केला.
यापैकी एकाही पैशाची गती कमी झाली नाही. मुलगा स्वतः उद्योगातील सर्वात आक्रमक भांडवल उपयोक्ता राहिला आहे आणि त्याच्या कंपनीने नुकतीच $30 अब्ज OpenAI गुंतवणुकीला ट्रॅन्चमध्ये बंद केले ज्यामुळे ते आतापर्यंत लिहिलेल्या सर्वात मोठ्या खाजगी धनादेशांपैकी एक बनले.
फायनान्सरची चेतावणी का महत्त्वाची आहे
एआय जोखमीबद्दल गुंतवणूकदारांच्या चेतावणी प्रामाणिक हेजिंग किंवा गणना केलेल्या प्रतिमा व्यवस्थापन आहेत की नाही याबद्दल एक स्थायी वादविवाद आहे. मुलगा दोन्ही वाचन गुंतागुंती करतो. तंत्रज्ञानाचा गैरसमज करणारा बाहेरचा माणूस म्हणून त्याला डिसमिस केले जाऊ शकत नाही - त्याचे भांडवल मशीन्समध्ये आहे. आणि त्याच्या पदाचे रक्षण करणारा एक हायप मर्चंट म्हणून त्याला डिसमिस केले जाऊ शकत नाही, कारण AI मधील एकट्या सर्वात उत्साही व्यक्तीकडून सावधगिरी बाळगणे त्याला काहीही किंमत देत नाही आणि त्याला काहीही विकत घेत नाही.
जितके वाचन शक्य आहे ते सर्वात सोपे आहे: सीमेच्या सर्वात जवळचे लोक ते खाजगीत काय बोलत आहेत ते मोठ्याने बोलू लागले आहेत. एक सुपरइंटेलिजेंट सिस्टम, व्याख्येनुसार, त्यात जे काही आहे त्यापेक्षा जास्त विचार करेल. जो कोणी त्यावर नियंत्रण ठेवतो — एक कंपनी, राज्य, गुन्हेगारी नेटवर्क — त्याच्याकडे अशी शक्ती असेल जी सध्या तपासण्यासाठी कोणतीही संस्था सुसज्ज नाही. मुलाचे सूत्रीकरण जाणीवपूर्वक अप्रत्याशित आहे: चुकीच्या हातात, अत्यंत धोकादायक. क्योटो सलून आणि शेअरहोल्डर कॉल्समध्ये त्याच्या समवयस्कांना सारखेच उत्तर द्यावे लागेल की कोणाचे हात योग्य आहेत आणि कोण निर्णय घेते.
सध्या, पैसा वाहात राहतो. मुलाच्या चेतावणीने त्याचे एक डॉलर पुनर्निर्देशित केले नाही. परंतु जेव्हा उद्योगातील सर्वात मोठा आशावादी धोरणकर्त्यांनी भरलेल्या खोलीला सांगतो की डाउनसाइड केस वास्तविक आहे, तेव्हा एआय सेफ्टी टॉकला फ्रिंज चिंता मानण्याचे युग अधिकृतपणे संपले आहे.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
