ओपनएआयचे सह-संस्थापक जॉन शुलमन, जे आता थिंकिंग मशिन्समध्ये मुख्य शास्त्रज्ञ म्हणून काम करतात, म्हणाले की त्यांना पुनरावृत्ती होणारी आत्म-सुधारणा अपेक्षित आहे - AI प्रणाली त्यांच्या स्वत: च्या विकासास गती देतील - अंदाजे तीन ते चार वर्षांत, एक टाइमलाइन जी त्यांना या क्षेत्रातील अधिक आक्रमक अंदाजकर्त्यांमध्ये स्थान देते. शुल्मन यांनी शुक्रवारी प्रकाशित द्वारकेश पॉडकास्टच्या गोलमेज भागादरम्यान अंदाज दिला, ज्यामध्ये तीन फ्रंटियर लॅब संशोधकांनी उघडपणे वादविवाद केला की उद्योग त्याच्या कमाल मर्यादेच्या किती जवळ आहे.

संभाषणात सीमेजवळील संशोधक प्रगतीबद्दल कसा विचार करत आहेत यावर एक दुर्मिळ असुरक्षित देखावा सादर केला गेला, एका गोंगाटाच्या आठवड्यात आगमन झाले ज्यामध्ये Nvidia चे CEO जेन्सेन हुआंग यांनी घोषित केले की "AGI आला आहे" आणि 25 फील्ड पदक विजेत्यांच्या गटाने चेतावणी दिली की AI बेंचमार्क-पाठलाग गणिताचे नुकसान करत आहे. नवीनतम AI घडामोडी चा मागोवा घेणाऱ्या वाचकांसाठी, भाग एक उपयुक्त काउंटरवेट आहे: हे लोक सिस्टम तयार करतात आणि ते एकमेकांशी तीव्रपणे असहमत आहेत.

कोण टेबलावर होते

होस्ट द्वारकेश पटेल म्हणाले की त्यांनी पॅनेल एकत्र केले कारण पाहुणे "काहीशा खुल्या लॅब आणि कंपन्या" म्हणून काम करतात, याचा अर्थ ते रेकॉर्डवर बोलू शकतात. शुल्मनमध्ये सामील होणारे बेरेन मिलिज, Zyphra चे मुख्य तंत्रज्ञान अधिकारी, मुक्त-स्रोत मॉडेल विकसित करणारी स्टार्टअप आणि चार्ली ओ'नील, बेसेटन येथील मॉडेल प्रशिक्षण प्रमुख होते.

शुलमनचे क्रेडेन्शियल्स त्याच्या टाइमलाइनच्या चर्चेला विशेष महत्त्व देतात. त्यांनी ओपनएआयची सह-स्थापना केली आणि थिंकिंग मशिन्ससाठी रवाना होण्यापूर्वी, जिथे ते आता मुख्य शास्त्रज्ञ म्हणून काम करत आहेत, चॅटजीपीटीमागील तंत्रे तयार करणाऱ्या मानवी अभिप्राय संशोधनातून सुदृढीकरण शिक्षणाचे नेतृत्व केले.

एकेरी विरुद्ध खटला, स्टीलमॅन

पटेल यांनी एका टोकदार प्रश्नाने खुलासा केला: जर 2036 मध्ये कोट्यवधी सुपरइंटिलिजंट सिस्टम्सशिवाय जग बदलले तर त्याचे तांत्रिक कारण काय असेल? मिलिजने संशयवादासाठी सर्वात मजबूत केस ऑफर केले, ज्याला तो जवळजवळ मोरावेकच्या विरोधाभास-शैलीचा नमुना म्हणतो त्याचे वर्णन केले ज्यामध्ये संशोधकांनी जे काही बेंचमार्क त्यांच्यासमोर ठेवले आहेत ते मॉडेल करतात, तरीही वास्तविक-जगातील परिणाम निराश करतात.

"अजूनही काही कायमस्वरूपी सिम-टू-रिअल अंतर आहे जे सर्व काही ब्लॉक करत आहे," मिलिज म्हणाले, अशा जगाचे वर्णन करताना जेथे AI "लोकांनी बेंचमार्कमध्ये ठेवलेल्या प्रत्येक गोष्टीत अत्यंत चांगले" बनते. त्यांनी जोडले की ते या निकालाची शक्यता कमी मानतात, मजबुतीकरण शिक्षण आधीपासूनच व्यवहारात सामान्यीकृत होत असल्याचा पुरावा दर्शवितो.

शुल्मनने मुख्यत्वे मान्य केले की प्रगती स्वयंचलित नाही. ते म्हणाले, आजच्या मॉडेल्सपेक्षा मानवांचे खरे फायदे आहेत, आणि प्रत्येक नवीन मॉडेलचे प्रकाशन काही क्षेत्रांमध्ये पकडले जाते तर इतरांमध्ये अडथळे राहतात - ज्या पॅटर्नने मागील अनेक उत्पादन चक्रांची व्याख्या केली आहे.

रॅपिड-फायर टाइमलाइन: दोन वर्षे, तीन ते चार, पाच ते दहा

पटेल यांनी आकडा दाबताच पॅनल फुटले. सक्षम व्हाईट कॉलर कर्मचाऱ्यासाठी एआय दहापट उत्पादकता कधी वाढवू शकते असे विचारले असता, शुलमनने प्रथम एकच आकडा देण्यास नकार दिला, नंतर म्हणाला, "मी दोन वर्षे म्हणेन." मिलिज म्हणाले की, काही श्रेणींच्या कामासाठी नफा आधीच 10x पेक्षा जास्त आहे असा युक्तिवाद करून तो "प्रत्यक्षात ते पाहू शकतो." ओ'नील सर्वात पुराणमतवादी होते, "5 ते 10" वर्षे उत्तर देत होते.

पटेल यांनी पुढे पुढे ढकलले, "मुळात फक्त एएसआय" असे चित्रण केले. शुल्मनचा प्रतिसाद: "मी 3-4 वर्षे म्हणेन," ते जोडून की एआय संशोधन स्वतःच "एआयसाठी सर्वात कठीण गोष्टींपैकी एक नाही, कारण त्यात बरेच काम समाविष्ट आहे" जे सध्याचे तंत्र आधीच पोहोचू शकते. इतर संशोधकांकडून अंदाज किती कमी पुशबॅक आला यासाठी एक्सचेंज लक्षणीय होते.

स्वयंचलित संशोधकांना प्रत्यक्षात कसे प्रशिक्षण दिले जाईल

शुल्मनच्या परिस्थितीच्या यांत्रिकीशी निगडित भागाचा बराचसा भाग किंमतीत होता. एआय संशोधन स्वयंचलित करण्यास सक्षम असलेल्या एआय प्रणालींना कसे प्रशिक्षण दिले जाईल असे विचारले असता, शुलमन यांनी "संशोधकांच्या अभिरुचीला आत्मसात करण्यासाठी मानवी अभिप्रायापासून शिकण्याच्या काही संयोजनाचे वर्णन केले आणि केवळ अनेक अभ्यासाचे वातावरण तयार केले."

ते उत्तर उद्योगाचा पैसा कुठे जात आहे याला जोडते. मेकॅनाइझसाठी Google चा नुकताच पूर्ण झालेला करार, एक स्टार्टअप जो प्रशिक्षण एजंट्ससाठी सिम्युलेटेड कामाचे वातावरण तयार करतो, हे अचूकपणे प्रतिबिंबित करते की उत्तम प्रशिक्षण ग्राउंड - फक्त मोठे मॉडेलच नाही - क्षमता वाढीची पुढील फेरी चालवेल. शुलमनने मुख्य अडचण देखील ध्वजांकित केली: नैसर्गिक डेटावर तयार केलेली बक्षीस कार्ये निर्दिष्ट करणे कठीण आहे आणि वापरकर्त्याने कोड संपादन स्वीकारले की नाही यासारखे वरवरचे संकेत प्रशिक्षणाची दिशाभूल करू शकतात.

डिस्टिलेशन विरुद्ध केंद्रीकरण

उद्योग संरचनेशी संबंधित शुल्मनच्या सर्वात ठोस अंदाजांपैकी एक. "मला वाटते डिस्टिलेशन ही मुख्य गोष्ट आहे जी केंद्रीकरण शक्तीच्या विरोधात लढते," तो म्हणाला, मजबुतीकरण शिक्षणाद्वारे शिकलेल्या क्षमता तुलनेने सहजपणे लहान मॉडेल्समध्ये हस्तांतरित केल्या जाऊ शकतात, जे काही कंपन्यांच्या पलीकडे सीमावर्ती-लगतच्या क्षमतेचा प्रसार करू शकतात जे सीमा प्रशिक्षण चालवू शकतात.

मानवांसाठी काय उरले आहे या प्रश्नावर, शुलमन स्पष्ट होते. "मी म्हणेन की मानवांसाठी शेवटची नोकरी, किंवा मानवांसाठीची भूमिका जी सर्वात जास्त काळ टिकेल, हे उद्दिष्ट निश्चित करणे आणि आपल्याला प्रत्यक्षात काय हवे आहे हे ठरवणे आहे," तो म्हणाला. जेव्हा पटेल यांनी "संरेखन हे अंतिम काम आहे" असे सारांशित केले तेव्हा शुल्मन यांनी सहमती दर्शवली: "संरेखन हे एक प्रकारचे उत्तर आहे," हे लक्षात घेता ते योग्य उद्दिष्ट शोधण्यात आणि नंतर प्रत्यक्षात ते साध्य करण्यासाठी विघटित होते.

टाइमलाइन वादात कुठे भाग बसतो

भागाचे उपशीर्षक — "आम्ही कमाल मर्यादेच्या जवळपास कुठेही नाही" — त्याचा एकूण कार्यकाल कॅप्चर करतो: संशोधक ज्यांना मार्ग किती खडबडीत असेल यावर वाद असतानाही, पुढे मोठी धावपट्टी दिसते. चिनी प्रयोगशाळांच्या प्रगतीला काय चालना देत आहे, दीर्घ-क्षितिज मजबुतीकरण शिक्षण सामान्य बुद्धिमत्ता प्राप्त करू शकते का आणि RL ने तसेच कार्य करण्यास का सुरुवात केली आहे यावर चर्चा झाली.

या महिन्यात सर्व बाजूंनी टाइमलाइनवरील सार्वजनिक वादविवाद तीव्र झाले आहेत. हुआंगच्या "एजीआय आला आहे" घोषणेने विश्लेषकांकडून संशय व्यक्त केला ज्यांनी हे वैज्ञानिक दाव्याऐवजी व्यावसायिक केस म्हणून वाचले, तर OpenAI सीईओ सॅम ऑल्टमन यांनी कर्मचाऱ्यांना सांगितले की कंपनी सुरक्षिततेच्या चिंता वाढल्यामुळे अत्याधुनिक विकास कमी करण्यास तयार आहे, ब्लूमबर्गच्या मते. शुल्मनची रिकर्सिव्ह सेल्फ इम्प्रूव्हमेंटसाठी तीन ते चार वर्षांची विंडो मार्केटिंग आणि स्थगिती दरम्यान कुठेतरी बसलेली आहे - आता फील्ड चालविण्याचे तंत्र तयार करण्याचा ट्रॅक रेकॉर्ड असलेल्या एखाद्याकडून कामाचा अंदाज.

तो बरोबर आहे की नाही हे पॅनेलने केवळ प्रदक्षिणा केलेल्या प्रश्नांवर अवलंबून असेल: मजबुतीकरण शिक्षण त्याच्या प्रशिक्षण वातावरणात सामान्यीकरण करत आहे की नाही आणि बेंचमार्क कामगिरी आणि वास्तविक आर्थिक मूल्य यांच्यातील अंतर बंद होत आहे का.

AI च्या पुढे रहा

फ्रंटियर संशोधक AI च्या मर्यादांवर सार्वजनिक चर्चा करत आहेत — कथा विकसित होत असताना तिचे अनुसरण करा.

एआय बझ वायरवर अधिक एआय बातम्या वाचा