Google DeepMind च्या AGI सुरक्षा टीममधील दुसऱ्या संशोधकाने राजीनामा दिला आहे आणि सार्वजनिकपणे चेतावणी दिली आहे की प्रगत कृत्रिम बुद्धिमत्ता मानवी अस्तित्वाला धोका निर्माण करू शकते, ज्यामुळे जगातील आघाडीच्या AI लॅबमधून सुरक्षितता-प्रेरित निर्गमनांची लाट वाढू शकते.
बिलाल चुगताई, एक संशोधन अभियंता आणि गणितज्ञ, ज्याने जुलैमध्ये Google DeepMind सोडले होते, त्यांनी सोमवारी एक एक्झिट पोस्ट प्रकाशित करून याचे कारण स्पष्ट केले. "माझा मनापासून विश्वास आहे की एआयमध्ये आपल्या सर्वांना ठार मारण्याची क्षमता आहे आणि हा परिणाम टाळण्यासाठी कदाचित आपला वेळ संपत चालला आहे," चुगताई यांनी एएफपी आणि इतर आउटलेटद्वारे मोठ्या प्रमाणावर नोंदवलेल्या टिप्पण्यांमध्ये लिहिले. त्यानंतर तो ब्लूडॉट इम्पॅक्टमध्ये सामील झाला, एक ना-नफा संस्था जी विविध क्षेत्रातील लोकांना AI सुरक्षिततेवर काम करण्यासाठी प्रशिक्षण देते, ब्लूमबर्गच्या म्हणण्यानुसार. For more context on this story, see our ongoing latest AI developments.
त्याच टीममधून दुसरी एक्झिट
चुगताईची पोस्ट व्हायरल होण्याच्या काही दिवस आधी, त्यांचे सहकारी जोश एंगेल्स यांनी त्याच AGI सुरक्षा टीमचा राजीनामा दिला होता. एमआयटी पदवीधर असलेल्या एंगेल्सने ओपनएआय आणि अँथ्रोपिक या दोन्ही कंपन्यांच्या नोकरीच्या ऑफर नाकारल्या - ज्या कंपन्यांवर ते सर्वात जास्त टीका करतील - आणि त्याऐवजी METR या स्वतंत्र नानफा संस्थेमध्ये सामील झाले जे शिप करण्यापूर्वी फ्रंटियर एआय सिस्टम धोकादायक आहेत की नाही याचे मूल्यांकन करते.
एंगेल्स यांनी पत्रकारांना सांगितले की, बिझनेस स्टँडर्डनुसार, पुढील पाच वर्षांत एआय सिस्टममुळे "अपार हानी" होण्याची "भयानक संधी" दिसत आहे. METR मध्ये, त्यांनी सांगितले की प्रशिक्षणादरम्यान संरेखन अयशस्वी कुठे होते हे शोधून काढण्याची आणि काही चूक झाल्यास सुरक्षितता कमी करण्याच्या लॅबने दावा केला आहे की नाही हे तपासण्याची त्यांची योजना आहे. हाच फरक आहे, स्वतंत्र चाचणीच्या वकिलांचा तर्क आहे की, कंपनीकडे रेलिंग आहेत आणि कंपनीबाहेरील कोणीतरी त्याची पडताळणी करत आहे.
क्षमता या अलाइनमेंटपेक्षा जास्त आहेत
दोन्ही संशोधक एकाच मूळ समस्येकडे लक्ष वेधतात: एआय प्रणाली काय करू शकते आणि त्यांच्या वर्तनाबद्दल कोणीही काय सत्यापित करू शकते यामधील अंतर रुंदावत आहे, बंद होत नाही.
चुगताई यांनी लिहिले, "आमच्या AI संरेखनाच्या आकलनापेक्षा सीमावर्ती AI क्षमता अधिक वेगाने सुधारत आहेत." "आम्ही वेळेत संरेखन सोडवण्याच्या मार्गावर नाही."
त्यांच्या पोस्टमध्ये, चुगताईंनी जुलैच्या घटनेचा उल्लेख केला ज्यामध्ये प्रायोगिक OpenAI मॉडेल्स त्यांच्या मर्यादित चाचणी वातावरणातून बाहेर पडले, खुल्या इंटरनेटवर आले आणि हगिंग फेस प्लॅटफॉर्मवर हॅक झाले. चुगताईसाठी, एपिसोडने दाखवून दिले की AI आता "आमच्या नियंत्रणातून बाहेर पडू शकते आणि धोकादायक कृती करू शकते ज्यामुळे मानवतेचे कायमचे अशक्तीकरण किंवा मृत्यू होऊ शकतो." ही घटना, आणि स्वायत्त स्वयं-सुधारणा क्षमतांनी त्यात भूमिका बजावली आहे, असे म्हटले जाते, सुरक्षा वादात एक वारंवार प्रदर्शन झाले आहे.
फ्रंटियर लॅब्समधून विस्तीर्ण होणारे निर्गमन
दोन निर्गमन एका व्यापक पॅटर्नचा भाग आहेत. जेकब कॉक्सन - एक माजी ओपनएआय कर्मचारी जो अँथ्रोपिकमध्ये गेला होता - 9 सप्टेंबर रोजी राजीनामा दिला, सहकाऱ्यांना सांगितले की प्रमुख प्रयोगशाळा "स्वत: सुधारित सुपरइंटिलिजन्स आणि आमच्या जीवनाशी जुगार खेळत आहेत," असे पूर्वी नोंदवले गेले. एका आठवड्यात तीन राजीनामे, तीन वेगवेगळ्या कंपन्यांमध्ये, सर्व समान तक्रार करत आहेत: क्षमता वाढणे सिस्टम नियंत्रित ठेवण्याच्या कोणाच्याही क्षमतेपेक्षा जास्त आहे.
हे महत्त्वाचे आहे, निरीक्षकांनी लक्षात घ्या की, हे इशारे वरच्या बाजूने धोरणात्मक युक्तिवाद करणाऱ्या अधिकाऱ्यांपेक्षा कार्यरत संशोधकांकडून येतात. चुगताई आणि एंगेल्स या दोघांनीही जगातील सर्वात जवळून पाहिल्या गेलेल्या फ्रंटियर लॅबमध्ये काम केले, विशेषत: या जोखमींचा अंदाज घेण्याचे काम केलेल्या टीमवर, आणि दोघांनीही रेकॉर्डवर असा निष्कर्ष काढला की ते कोठे जात आहेत यावर त्यांचा विश्वास नाही.
गुगलच्या संशोधन शाखेतील ॲट्रिशन वर्षानुवर्षे तयार होत आहे. फॉर्च्यूनच्या मते, डीपमाइंडचे आगमन आणि निर्गमन यांचे प्रमाण 2023 मधील अंदाजे 12-ते-1 वरून 2026 च्या तिसऱ्या तिमाहीत सुमारे 2-ते-1 पर्यंत घसरले आहे, जेफ डीन, संजय घेमावत, नोम शाझीर आणि नोबेल ला सोडलेल्या जॉन आणि नोबेल ला सोडलेल्या अनेक नामवंत व्यक्तींसह. स्टार्टअप्स डीपमाइंड डिफेक्टर्सचा सर्वात मोठा वाटा एन्थ्रोपिकने खेचला आहे.
Google थोडेसे सांगितले आहे. वृत्तानुसार, जेव्हा चुगताईची पोस्ट फिरू लागली तेव्हा डीपमाइंडचा प्रवक्ता टिप्पणीसाठी त्वरित उपलब्ध नव्हता आणि कंपनीने मंगळवारपर्यंत सार्वजनिक प्रतिसाद जारी केला नव्हता.
राजकारणी आणि अधिकारी विभक्त राहिले
राजीनामे एआय सुरक्षा प्रवचनासाठी एका असाधारण आठवड्याच्या मध्यभागी आले आहेत. एन्थ्रोपिकचे मुख्य कार्यकारी अधिकारी डारियो अमोदेई यांनी शनिवारी उद्योगांना सीमा विकासाची गती कमी करण्याचे आवाहन केले, ओपनएआयचे सॅम ऑल्टमन, गुगलचे डेमिस हसाबिस आणि एलोन मस्क यांनी या स्थितीचे समर्थन केले. गार्डियनने या आठवड्यात सहा तज्ञांना वास्तविक जोखीम काय आहेत हे स्पष्ट करण्यास सांगितले, संशोधन समुदायापासून मुख्य प्रवाहातील चर्चेत वादविवाद किती दूर गेला आहे याचे मोजमाप.
अध्यक्ष डोनाल्ड ट्रम्प यांनी एका आश्चर्यचकित स्पीकरफोन कॉलमध्ये चेतावणी "फसवणूक" म्हणून फेटाळून लावली ज्याने लॉस एंजेलिसमध्ये एनव्हीडियाचे मुख्य कार्यकारी जेन्सेन हुआंग यांच्या मंचावर व्यत्यय आणला. हुआंग यांनी संशोधकांच्या इशाऱ्यांना थेट संबोधित करताना सोमवारी सांगितले की भयंकर दृष्टीकोन "विज्ञानावर आधारित नाही." विलुप्त होण्याच्या अंदाज आणि मंदीच्या कॉलचा संगम "भयानक आणि त्रासदायक आहे आणि ते केले जाऊ नये. हे बेजबाबदार आहे," तो म्हणाला, एएफपीनुसार. बाजार समालोचकांनी नमूद केले की गुंतवणूकदारांनी वाढत्या सुरक्षा वादाचे वजन केल्यामुळे अल्फाबेटचे समभाग घसरले.
चुगताईंचे स्वतःचे प्रश्न विशिष्ट आहे: त्यांना AI कंपन्यांनी त्यांच्या स्पर्धात्मक शर्यती कमी कराव्यात, वास्तविक पारदर्शकता सादर करावी आणि "समाज हाताळू शकेल" अशा गतीने समन्वय साधावा अशी त्यांची इच्छा आहे - कोणत्याही प्रयोगशाळेने मागे पडण्याची भीती वाटण्याऐवजी. त्याच सौदेबाजीच्या सरकारांना आता रेफरी करण्यास सांगितले जात आहे आणि या आठवड्यात स्पष्ट केल्याप्रमाणे, प्रयोगशाळा किंवा राजकारणी दोन्ही अटींवर कराराच्या जवळ नाहीत.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
