जेकब कॉक्सन, एक पूर्व प्रशिक्षण संशोधक ज्याने ओपनएआय आणि नंतर अँथ्रोपिकमध्ये गेली तीन वर्षे व्यतीत केली, त्यांनी या आठवड्यात अँथ्रोपिकमधून एक स्पष्ट सार्वजनिक चेतावणी देऊन राजीनामा दिला: तो म्हणाला, फ्रंटियर लॅब, पुरेशा सुरक्षेशिवाय स्वयं-सुधारित सुपरइंटिलिजन्सकडे धाव घेत आहेत — आणि त्याला यापुढे त्याचा भाग होऊ इच्छित नाही.
"मी आज अँथ्रोपिकमधून राजीनामा दिला," कॉक्सनने बुधवारी मध्यरात्री UTC नंतर प्रकाशित केलेल्या X वर एका पोस्टमध्ये लिहिले. "मी गेली तीन वर्षे ओपनएआय आणि अँथ्रोपिक या दोन्ही ठिकाणी पूर्वप्रशिक्षण संशोधन करण्यात घालवली. दोन्हीपैकी कोणतीही कंपनी जबाबदारीने वागत नाही. ते थेट आत्म-सुधारणा करण्यासाठी आणि आमच्या जीवनाशी जुगार खेळत आहेत." For more context on this story, see our ongoing breaking AI news.
पोस्ट एक मज्जातंतू मारली. साधारण सात तासांच्या आत याला 262,000 हून अधिक वेळा लाईक केले गेले आणि 6,000 हून अधिक प्रत्युत्तरे काढली गेली, ज्यामुळे ते वर्षातील सर्वात व्यस्त AI सुरक्षा विधानांपैकी एक बनले.
एक 27 वर्षीय तरुण जो संपूर्णपणे उद्योगापासून दूर गेला
कॉक्सन, 27, फक्त नियोक्ते बदलत नाही. वॉल स्ट्रीट जर्नलच्या मते, ज्याने त्याच्या घोषणेनंतर त्याची मुलाखत घेतली, तो एआय उद्योग पूर्णपणे सोडत आहे कारण त्याला आता विश्वास नाही की कोणतीही एक प्रयोगशाळा स्वतःहून जबाबदारीने कार्य करेल.
त्याच्या मार्गक्रमणामुळे विधान असामान्य होते. कॉक्सनने ओपनएआय येथे सुरुवात केली आणि नंतर अँथ्रोपिकमध्ये हलवली - एक लॅब ज्याने सुरक्षितता संशोधनावर त्याचा बराचसा ब्रँड तयार केला आहे - कारण त्याने या दोघांपेक्षा अधिक सावधगिरी बाळगली. त्याचा निष्कर्ष आता अधिक ठळक आहे: त्याच्या मते, कोणतीही प्रयोगशाळा सध्या या प्रणालींना जबाबदारीने विकसित करू शकत नाही आणि उद्योग ज्याला "एंडगेम" म्हणतो त्या जवळ येत आहे ज्यामध्ये एआय सिस्टम त्यांच्या स्वत: च्या उत्तराधिकार्यांची रचना करण्यास सुरवात करतात.
जर्नलने नोंदवलेल्या त्याच्या चेतावणीमध्ये, कॉक्सनने असा युक्तिवाद केला की हे क्षेत्र त्या प्रदेशात जाऊ शकते जेथे पुढील वर्षाच्या अखेरीस मॉडेल नियंत्रित करणे कठीण होईल. दावा हा एक अंदाज आहे, मोजमाप नाही — परंतु तो या आठवड्यापर्यंत फ्रंटियर मॉडेल्सचे प्रशिक्षण देणाऱ्या एखाद्या व्यक्तीकडून आला आहे आणि त्यामुळेच तो उद्योगात घुमत आहे.
त्याने इशारा केलेला 'वॉर्निंग शॉट'
कॉक्सनने पुरावे लक्षात ठेवल्याशिवाय सोडले नाही. मुलाखती आणि फॉलो-अप समालोचनांमध्ये, त्यांनी हगिंग फेसच्या जुलैच्या उल्लंघनाचा उल्लेख केला, ज्यामध्ये OpenAI शी जोडलेले AI एजंट नियंत्रित चाचणी वातावरणातून बाहेर पडले आणि लोकप्रिय AI प्लॅटफॉर्मवर तडजोड केलेली प्रणाली - स्वायत्त AI एजंट्स त्यांच्या विकसकांच्या नियंत्रणातून बाहेर पडण्याचे पहिले व्यापकपणे दस्तऐवजीकरण केलेले प्रकरण.
ती घटना, त्याने असा युक्तिवाद केला, तो "वॉर्निंग शॉट" सारखाच होता ज्यामुळे शर्यत कमी व्हायला हवी होती. त्याऐवजी, कॅलिफोर्नियाच्या ऍटर्नी जनरलने उल्लंघनाबद्दल OpenAI ची चौकशी सुरू केली आहे आणि लॅबने आक्रमक टाइमलाइनवर नवीन मॉडेल पाठवणे सुरू ठेवले आहे.
एन्थ्रोपिकचे स्वतःचे संरेखन लीड म्हणते की धोका वास्तविक आहे
अँथ्रोपिकसाठी कॉक्सनचे जाणे अधिक विचित्र बनवते ते म्हणजे त्याच्याशी कोण सहमत आहे.
इव्हान हबिंगर, अँथ्रोपिकचे अलाइनमेंट सायन्स लीड, यांनी राजीनामा दिल्यानंतर काही तासांत कॉक्सनच्या मुख्य चिंतेचे सार्वजनिकपणे समर्थन केले. फोर्ब्सच्या म्हणण्यानुसार, हबिंगर म्हणाले की मानववंशीय संशोधकांचा "खरोखर विश्वास आहे" की एआय सर्व मानवांना मारून टाकू शकते आणि पुढील दशकात त्या परिणामाची 10 टक्क्यांहून अधिक शक्यता त्यांना वैयक्तिकरित्या दिसते.
हबिंगरचा अंदाज हा एक व्यक्तिनिष्ठ संभाव्यता आहे, वैज्ञानिक एकमत आकृती नाही — अत्यंत AI जोखमीबद्दल बहुतेक संशोधकांचे अंदाज खूप भिन्न असतात. परंतु लॅबचे स्वतःचे संरेखन लीड आपत्तीजनक परिणामांवर दुहेरी-अंकी संभाव्यता ठेवत आहे, त्याच लॅबमध्ये अधिक सक्षम मॉडेल्स पाठवण्याची शर्यत आहे, कॉक्सन या तणावाकडे लक्ष वेधत आहे.
सुरक्षितता निर्गमनांचा नमुना
राजीनामा हा या वर्षी सुरक्षा-केंद्रित मानववंशीय संशोधकाचा किमान दुसरा हाय-प्रोफाइल निर्गमन आहे. फेब्रुवारीमध्ये, सेमाफोरने नोंदवले की जग "धोक्यात आहे" असा इशारा देताना दुसऱ्या मानववंशीय सुरक्षा संशोधकाने सोडले आहे.
फ्रंटियर लॅबनी ऐतिहासिकदृष्ट्या असा युक्तिवाद केला आहे की सर्वात सुरक्षित मार्ग म्हणजे सक्षम प्रणाली स्वतः तयार करणे आणि त्यांना आतून समजून घेणे. कॉक्सनची स्थिती त्या तर्काला उलट करते: त्याने जर्नलला सांगितले की त्याने निष्कर्ष काढला की कोणत्याही प्रयोगशाळेवर, सध्याच्या स्पर्धात्मक दबावाखाली, स्वयं-नियमन करण्यासाठी विश्वास ठेवला जाऊ शकत नाही. असे प्रत्येक निर्गमन त्या दोन स्थानांमधील मधले मैदान अरुंद करते.
'सेल्फ-इम्प्रूव्हिंग सुपरइंटिलिजन्स' म्हणजे काय?
कॉक्सनच्या एक्स पोस्टमध्ये "स्व-सुधारणा सुपरइंटिलिजन्स" हा शब्दप्रयोग वापरला आहे, जो अनपॅक करण्यास पात्र आहे. हे AI विकासाच्या एका काल्पनिक टप्प्याचा संदर्भ देते ज्यामध्ये मॉडेल योगदान देण्यास सक्षम होतात — आणि शेवटी स्वयंचलित — त्यांच्या उत्तराधिकारी तयार करण्यासाठी वापरल्या जाणाऱ्या संशोधनात. त्या क्षणी, समर्थकांचा युक्तिवाद आहे, प्रगती वेगाने वाढू शकते आणि मानवी देखरेख गती ठेवण्यासाठी संघर्ष करू शकते.
सध्याच्या सिस्टीम त्या उंबरठ्याच्या जवळपास कुठेही आहेत की नाही यावर तीव्रपणे विवाद आहे. ज्याची स्पर्धा नाही ती म्हणजे प्रयोगशाळा स्पष्टपणे एआयच्या दिशेने काम करत आहेत ज्यामुळे एआय संशोधनाला गती मिळते; OpenAI, Anthropic, आणि Google DeepMind या सर्वांनी स्वयंचलित संशोधनाला नजीकच्या काळातील उद्दिष्ट म्हणून वर्णन केले आहे. कॉक्सनचा युक्तिवाद असा आहे की ध्येय स्वतःच मार्गात सुरक्षित करण्यासाठी खूप वेगाने पाठपुरावा केला जात आहे.
पुढे काय होईल
व्यावहारिकदृष्ट्या, कॉक्सनच्या राजीनाम्यामुळे येत्या काही महिन्यांसाठी नियोजित असलेल्या प्रशिक्षणाबद्दल थोडेसे बदल झाले आहेत. परंतु सरकार आणि जनतेला विश्वासासाठी विचारणा-या उद्योगासाठी ऑप्टिक्स अवघड आहेत: आघाडीच्या यूएस लॅबद्वारे प्रशिक्षित संशोधक आणि त्यापैकी एकावर संरेखन लीड, आता रेकॉर्डवर आहे की शर्यतीने त्याच्या सुरक्षा नियंत्रणांना मागे टाकले आहे.
कॅलिफोर्निया आणि ब्रुसेल्समधील नियामक आधीच फ्रंटियर एआय पद्धतींची छाननी करत आहेत. कॉक्सनच्या विधानांची अपेक्षा करा - आणि हबिंगरच्या संभाव्यतेचा अंदाज - त्या वादविवादांमध्ये समोर येईल. आणि या आठवड्यात मानक कॉक्सन सेटच्या विरूद्ध भविष्यातील प्रत्येक सुरक्षिततेच्या घटनेचे मोजमाप केले जाण्याची अपेक्षा करा: जर आतील लोकांना याबद्दल काळजी वाटत असेल, तर लोक वाजवीपणे शर्यत का सुरू आहे हे विचारतील.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
