20 हून अधिक संशोधक - त्यापैकी नोबेल पारितोषिक विजेते जेफ्री हिंटन, सहकारी एआय प्रणेते योशुआ बेंगियो, मानववंशीय सह-संस्थापक जॅक क्लार्क आणि ओपनएआयचे मुख्य शास्त्रज्ञ जेकब पाचोकी - यांनी सरकारांना एआय "बुद्धिमत्ता स्फोट" साठी तयार होण्याचा इशारा दिला आहे जो ते म्हणतात की तंत्रज्ञानाच्या इतिहासातील सर्वात परिणामकारक विकास असू शकतो.

"What If automating AI R&D मुळे बुद्धिमत्तेचा स्फोट होतो" असे शीर्षक असलेले पेपर, तंत्रज्ञानातील धावपळ प्रगती होण्यापूर्वी राजकारण्यांना कृती करण्याचे आवाहन करते. त्याचे लेखक "एआय प्रगतीचे नाट्यमय एआय-चालित प्रवेग, प्रगती संकुचित करते जे अन्यथा अनेक महिने किंवा त्याहून कमी कालावधीत" असे वर्णन करतात. एआय संशोधनाच्या ताज्या बातम्या चा मागोवा घेणाऱ्या वाचकांसाठी, अहवालावर कोणी स्वाक्षरी केली त्यापेक्षा त्याच्या अलार्मसाठी कमी उल्लेखनीय आहे: संपूर्ण शैक्षणिक आणि प्रतिस्पर्धी सीमा प्रयोगशाळेतील आकडेवारी, संयुक्तपणे असे सिद्ध करते की स्वयंचलित संशोधन ही परिस्थिती धोरण निर्माते कमीत कमी तयार आहेत.

बुद्धिमत्ता स्फोट म्हणजे काय

लेखकांची मध्यवर्ती चिंता म्हणजे AI प्रणाली मानवी हस्तक्षेपाशिवाय स्वतःला सुधारण्याची शक्यता आहे - ही प्रक्रिया पुनरावृत्ती होणारी स्वयं-सुधारणा म्हणून ओळखली जाते, ज्याला पेपरमध्ये स्वयंचलित AI संशोधन आणि विकास म्हणून संदर्भित केले जाते.

एकदा का AI प्रणाली AI R&D मध्ये तज्ञ-स्तरीय क्षमतांपर्यंत पोहोचल्यानंतर, पेपरमध्ये असा युक्तिवाद केला जातो की, एकच विकसक शीर्ष मानवी संशोधकांच्या "लाखो" समतुल्य कार्यबल चालवू शकतो. AI R&D स्वयंचलित करणे हे लेखकांच्या मते, बुद्धिमत्तेच्या स्फोटाचे सर्वात संभाव्य ट्रिगर आहे, कारण AI सिस्टम आधीच त्यांचे स्वतःचे तंत्रज्ञान सुधारण्यात योगदान देत आहेत — आणि त्यांनी तयार केलेल्या सुधारित सिस्टम तयार झाल्यानंतर ते वेगाने तैनात केले जाऊ शकतात.

"बुद्धीमत्तेचा स्फोट हा मानवी इतिहासातील सर्वात परिणामकारक तांत्रिक विकास असू शकतो, अनेक वर्षांच्या प्रगतीला महिन्यांत किंवा त्यापेक्षा कमी कालावधीत संकुचित करणे, एआय सिस्टमवरील मानवी नियंत्रणास धोका निर्माण करणे आणि राज्ये, कंपन्या आणि सरकारच्या शाखांमधील शक्तीवरील तपासणी गंभीरपणे खोडून काढणे," पेपरमध्ये म्हटले आहे, द गार्डियनच्या मते.

लेखक खिडकी बंद का म्हणत आहेत

अहवालाची निकड टाइमलाइनच्या दाव्यावर अवलंबून आहे: आज चकचकीत दिसणाऱ्या AI सिस्टीम 2028 पर्यंत मानवी संघांना काही महिने लागणाऱ्या R&D प्रकल्पांना पूर्णपणे स्वयंचलित करू शकतात.

"एआय आर अँड डी ऑटोमेशनमधील उत्पादकता नफा अद्याप बुद्धिमत्तेचा स्फोट घडवून आणण्यासाठी आवश्यक असलेल्या उंबरठ्यावर पोहोचलेला नाही, परंतु नवीन प्रणालींकडून होणारे नफा त्या उंबरठ्यावर पोहोचण्याची शक्यता आहे," लेखक लिहितात. "एकदा गुप्तचर स्फोट सुरू झाला की, कारवाईची खिडकी बंद होऊ शकते."

पेपर जोडते की "प्राथमिक पुरावे सूचित करतात की सॉफ्टवेअर-चालित बुद्धिमत्ता स्फोट शक्य आहे", ज्यामुळे "अत्यंत सक्षम किंवा अतिमानवी एआय प्रणालींचा अत्यंत जलद विकास" होऊ शकतो.

ते ध्वजांकित धोका

बुद्धिमत्तेचा स्फोट वैद्यकीय प्रगती आणि वेगवान तांत्रिक झेप देऊ शकतो, परंतु लेखक तीन प्रमुख धोके दर्शवतात:

  • पळलेले धोके. शक्तिशाली प्रणाली जैविक आणि सायबर धोके सक्षम करू शकतात जे त्यांचा सामना करण्यासाठी आवश्यक असलेल्या उपाययोजनांपेक्षा वेगाने विकसित होतात.
  • नियंत्रण गमावले. AI R&D मध्ये मानवांचा सहभाग कमी झाल्यामुळे, त्यांनी तयार केलेल्या सिस्टीमला निर्देशित करण्याची आणि मर्यादित करण्याची संधी ते गमावू शकतात.
  • स्ट्रॅटेजिक अस्थिरता. राज्ये एक माफक लीड - सायबरस्पेसमध्ये, उदाहरणार्थ - निर्णायक राष्ट्रीय फायद्यात रूपांतरित करण्यासाठी गुप्तचर स्फोटाचा वापर करू शकतात.

अहवाल स्पष्ट आहे की हे परिणाम "अनिश्चित" आहेत. विशिष्ट सामग्री किंवा नियामक आवश्यकतांसाठी दिलेल्या पुरवठा साखळी लागू करण्यासाठी तांत्रिक प्रगतीला वेळ लागू शकतो आणि AI प्रणाली देखील जोखीम कमी करण्याच्या गतीला गती देऊ शकतात.

सरकारने काय करावे

लेखक म्हणतात की बुद्धिमत्तेच्या स्फोटाची तयारी करणे "सरकारी नेतृत्वाच्या सर्वोच्च स्तरांसह तातडीचे प्राधान्य असले पाहिजे", आणि उमेदवार धोरणांचा संच तयार करा:

  • AI कंपन्यांमध्ये स्वतंत्र ऑडिटर्स एम्बेड करण्यासह, AI-संबंधित R&D वर पारदर्शक प्रगती अहवाल आवश्यक
  • दिलेल्या कालावधीत एआय प्रणाली किती वेगाने सुधारू शकते यावर मर्यादा घालणे
  • विशिष्ट AI R&D प्रकल्पांना विराम देणे सक्षम करण्यासाठी डेटा केंद्रांसह कार्य करणे
  • स्वयंचलित AI R&D प्रणाली पूर्णपणे वेगळ्या आहेत आणि मानवी नियंत्रणातून बाहेर पडू शकत नाहीत याची खात्री करणे
  • गुप्तचर स्फोट घडवून आणू शकतील अशा परिस्थितींसाठी "आपत्कालीन प्रतिसाद योजना" तयार करणे

प्रस्ताव हे वेस्टर्न एआय धोरणामार्फत आधीच पुढे जाणाऱ्या कल्पनांचा विस्तार करतात - अनिवार्य घटना अहवाल, तृतीय-पक्ष मूल्यमापन आणि गणना प्रशासन — परंतु त्यांना एका विशिष्ट अंतिम बिंदूवर लागू करा: संशोधनाचेच ऑटोमेशन.

हे लेखक का आणि आता का

स्वाक्षरी करणारे कागदाला असामान्य वजन देतात. हिंटन आणि बेंजिओ हे आधुनिक AI चे दोन "गॉडफादर" आहेत, जे न्यूरल नेटवर्क्सवरील पायाभूत कामासाठी ओळखले जातात; त्यांनी तयार करण्यात मदत केलेल्या तंत्रज्ञानाबद्दल चेतावणी देणारे दोघेही प्रमुख आवाज बनले आहेत. क्लार्कने अँथ्रोपिकची सह-स्थापना केली आणि पाचोकी OpenAI चे मुख्य शास्त्रज्ञ आहेत.

त्यांचा इशारा त्या दिशेने मोजता येण्याजोगा उद्योग चळवळी दरम्यान जमीन. एन्थ्रोपिकने म्हटले आहे की एआय आता स्वतःचे 80% कोड तयार करते, तर ओपनएआय नवीन मॉडेल्सच्या प्रशिक्षणासारख्या क्षेत्रात स्वायत्त एआय एजंट्स वापरते, द गार्डियनच्या म्हणण्यानुसार. दोन्ही प्रयोगशाळांनी AI विकास सुरक्षिततेच्या दृष्टीने गंभीर स्थितीत पोहोचत असल्याची चेतावणी दिल्यानंतर स्वतंत्र मूल्यांकनकर्त्यांनी त्यांच्या मॉडेलचे मूल्यांकन करण्यास सहमती दर्शविली आहे.

लेखकांना पाहिजे त्या गतीने सरकारे पुढे जातील का हा दुसरा प्रश्न आहे. परंतु पेपरचा मूळ युक्तिवाद - की ब्रेक तयार करण्याचा क्षण कारला त्यांची आवश्यकता होण्यापूर्वीचा आहे - आता मशीनच्या सर्वात जवळच्या लोकांनी समर्थन केले आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →