एआयच्या "गॉडफादर्स" पैकी एकाने अद्याप त्याचा सर्वात मोठा इशारा जारी केला आहे: नोबेल पारितोषिक विजेते संगणक शास्त्रज्ञ जेफ्री हिंटन म्हणतात, ज्यांचे संशोधन आधुनिक कृत्रिम बुद्धिमत्तेवर आधारित आहे, असे दिसून आले की मानवाने तंत्रज्ञान विकसित केले नसते तर बरे झाले असते. द गार्डियनला दिलेल्या मुलाखतीत, त्यांनी असा इशारा देखील दिला की AI मोठ्या प्रमाणात घटना घडवू शकते - जसे की आर्थिक किंवा उर्जा प्रणालींचा तात्पुरता ब्लॅकआउट - या वर्षी किंवा पुढील.
'आम्ही ते कधीच विकसित न केले असते असे होऊ शकते' या कथेच्या अधिक संदर्भासाठी, आमचे सध्या सुरू असलेले AI ट्रेंड पहा.
हिंटन, 78, यांनी द गार्डियनला सांगितले की ते कृत्रिम न्यूरल नेटवर्क्समध्ये त्यांच्या अग्रगण्य कार्यावर तयार केलेल्या तंत्रज्ञानाबद्दल "डोमर" नाहीत. त्याचा विश्वास आहे की एआयमध्ये अजूनही "अद्भुत भविष्य" आणि "मूलभूत विपुलता" असे नाव देण्याची क्षमता आहे. परंतु तो नकारात्मक बाजूंबद्दल अस्पष्ट होता: "असे होऊ शकते की आपण ते कधीही विकसित न करणे चांगले झाले असते."
ब्रिटीश वंशाच्या शास्त्रज्ञाने सांगितले की एका दशकात - आणि कदाचित लवकरच - मानवतेला समजेल की ती कोणत्या मार्गावर आहे. एकतर जग तंत्रज्ञानाच्या जोखमीचे व्यवस्थापन करते आणि त्याचे फायदे सामायिक करते, किंवा त्याच्या शब्दात, "आम्ही जोखीम व्यवस्थापित करण्यात अयशस्वी होतो आणि … श्रीमंत आणि गरीब यांच्यात खूप मोठी दरी आहे, प्रचंड सांस्कृतिक समस्या, प्रचंड बेरोजगारी, फक्त समाजाचे तुकडे होत आहेत."
'एआय चेरनोबिल' या वर्षी किंवा पुढच्या वर्षी येऊ शकते
हिंटनने नवीन वैशिष्ट्य-लांबीच्या माहितीपटाच्या स्क्रीनिंगपूर्वी आपली टिप्पणी केली, "AI: कदाचित काळजी करण्यासारखे काही नाही" - एक शीर्षक, त्यांनी नमूद केले, ते AI चॅटबॉटने सुचवले होते. या चित्रपटात हिंटन सोबत त्याचे माजी Google सहकारी, डीपमाइंडचे प्रमुख डेमिस हसाबिस आहेत आणि यूकेमध्ये 12 नोव्हेंबर रोजी रात्री 10 वाजता चॅनल 4 वर प्रसारित होईल.
"मला वाटते की माझे कर्तव्य आहे," हिंटन डॉक्युमेंट्रीमध्ये म्हणाला. "मला एक प्रतिष्ठा मिळाली आहे जी मला प्रवक्ते बनवते आणि मला हे सर्व बर्न करणे आवश्यक आहे."
त्याचा इशारा एका ठोस उदाहरणावर आला. हिंटन म्हणाले की तो या उन्हाळ्याच्या घटनेकडे पाहतो ज्यामध्ये OpenAI च्या AI एजंट्सने Hugging Face वेबसाइट हॅक करण्याचा कट रचला होता कारण थ्री माईल आयलंड अणुऊर्जा केंद्रावरील उद्योगाच्या 1979 च्या आंशिक मंदीच्या समतुल्य - काहीतरी वाईट होण्याआधी एक चेतावणी शॉट.
1986 च्या सोव्हिएत आण्विक आपत्तीचे आवाहन करताना ते म्हणाले, "या वर्षाच्या शेवटी किंवा पुढच्या वर्षी आम्ही कोर्नोबिल पाहू, आणि ते लोकांना खरोखर लक्ष देण्यास पुरेसे असेल."
"कोर्नोबिल" द्वारे हिंटनचा अर्थ अणुघटना नाही. त्याची उदाहरणे: वीज-उत्पादक प्रणालीवर एआय-सक्षम हल्ला ज्यामुळे "मॅसिव्ह ब्राउनआउट" होतो किंवा एक आठवडा आर्थिक प्रणाली खाली आणणारी घटना. "काय होईल याची तुम्ही कल्पना करू शकता का? आम्ही त्यातून सावरू शकू [पण] त्यामुळे ते उठून बसतील आणि दखल घेईल," तो म्हणाला. "ते" कोण आहेत असे विचारले असता, त्यांनी उत्तर दिले: "ट्रम्प व्यतिरिक्त जागतिक नेते."
हिंटन ऑन द एआय बॉस: ऑल्टमन, मस्क आणि झुकरबर्ग
हिंटनच्या समालोचनाचा एक महत्त्वपूर्ण भाग फ्रंटियर एआय शर्यतीचे नेतृत्व करणाऱ्या अधिकाऱ्यांना उद्देशून होता. त्याने द गार्डियनला सांगितले की, ChatGPT-निर्माता OpenAI चे मुख्य कार्यकारी सॅम ऑल्टमॅन यांच्यावर त्यांचा अजिबात विश्वास नाही, "अत्यंत चिंताजनक" असे म्हटले आहे की ऑल्टमॅन सध्या सर्वात शक्तिशाली AI तयार करण्यासाठी चीनशी स्पर्धा करत असलेल्या मूठभर यूएस एआय कंपन्यांपैकी एक चालवते.
"मला वाटते [मार्क] झुकेरबर्ग आणि [एलॉन] मस्क आणि सॅम ऑल्टमन, त्यांना जोखीम समजली आहे, आणि ते कमीपणा देत नाहीत. त्यांच्याकडे पैसे असले पाहिजेत. हा माझा विश्वास आहे," हिंटन म्हणाले.
हे मूल्यांकन ऑल्टमॅनच्या सार्वजनिक मुद्रेच्या अगदी विरुद्ध आहे. द गार्डियनने नमूद केले आहे की ऑल्टमनने सप्टेंबरमध्ये आग्रह धरला होता की "जगाने विश्वास ठेवला पाहिजे की आपण योग्य गोष्ट करणार आहोत कारण ती योग्य गोष्ट आहे आणि कारण आपल्याला याची तीव्रता जाणवते." अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी त्यांच्या भागासाठी म्हटले आहे की ते एआय नियंत्रित करण्यासाठी "जागतिक योजना तयार करण्याचा कोणताही प्रयत्न पूर्णपणे नाकारतात" आणि बंधनकारक नियम अमेरिकेला चीनबरोबरच्या स्पर्धेत अडथळा आणू शकतात या चिंतेने, सीमावर्ती एआय कंपन्यांनी स्वतःचे नियमन करावे अशी त्यांची इच्छा आहे.
AI मॉडेल्ससाठी FDA
त्या पार्श्वभूमीवर, हिंटन कठोर नियामक रेषेचे समर्थन करत आहे: फिनलंड आणि सिंगापूर, जर्मनी, कॅनडा आणि ऑस्ट्रेलियासह इतर 32 देशांच्या अध्यक्षांनी समर्थित योजना - ज्यामध्ये फ्रंटियर एआय मॉडेल्सची अनिवार्य चाचणी, स्वतंत्र मूल्यमापन आणि आंतरसरकारी सामान्य मानकांची आवश्यकता आहे.
तो यूकेसाठी एक भूमिका देखील पाहतो, ज्याचे पंतप्रधान, अँडी बर्नहॅम यांनी सांगितले आहे की ते पुढील वर्षी ब्रिटनच्या G20 अध्यक्षपदाचा वापर "जोखीमांपासून संरक्षण करताना संपूर्ण क्षमता अनलॉक करण्याबद्दल असलेल्या जागतिक तत्त्वे आणि मानकांच्या एकल संचावर" करारासाठी वापरतील.
Hinton च्या पसंतीचे मॉडेल स्पष्टपणे वैद्यकीय आहे. "आम्हाला औषधांसाठी अमेरिकन FDA सारखे काहीतरी हवे आहे जिथे कंपन्यांना स्वतंत्र प्राधिकरणाला खूप चांगले सांख्यिकीय पुरावे द्यावे लागतील की [AI मॉडेल] रिलीज होण्यापूर्वी हानी करण्यापेक्षा अधिक चांगले करते," तो म्हणाला. "थॅलिडोमाइड सोडणे आणि नंतर त्यांच्यावर खटला भरणे हा योग्य मार्ग नाही हे आम्हाला आढळून आले. मोठ्या टेक कंपन्या काय म्हणत आहेत, जसे की आम्ही थॅलिडोमाइडचा उपचार केला."
'माझ्या आतडे हे आहे की आम्ही अजूनही नियंत्रणात आहोत'
अंधकारमय परिस्थिती त्यांना बनवण्यासाठी अतुलनीय उभे असलेल्या एखाद्याकडून येतात. Hinton AI वर अंदाजे 44 वर्षे काम केले आहे, 1970 च्या दशकात न्यूरल नेटवर्क संकल्पना तयार केली आहे आणि 2024 चे भौतिकशास्त्रातील नोबेल पारितोषिक मशीन लर्निंगमधील पायाभूत कार्यासाठी सामायिक केले आहे. त्याने 2023 मध्ये Google सोडले जेणेकरून तो जोखमींबद्दल मोकळेपणाने बोलू शकेल, त्या वेळी चेतावणी दिली की जर AI सिस्टम "अधिक नियंत्रण मिळवण्यापासून दूर गेले तर आम्ही अडचणीत आहोत."
त्याच्या भूमिकेने जे. रॉबर्ट ओपेनहाइमरशी तुलना केली आहे — एका मित्राने त्याला ओपेनहाइमर-शैलीची टोपी देखील विकत घेतली होती — पण तो साधर्म्य नाकारतो. "मी ओपेनहाइमर नव्हतो," तो म्हणाला, न्यूरल नेटवर्क्सच्या क्षेत्रात योगदान देणाऱ्या इतर हजारो शास्त्रज्ञांचा हवाला देऊन.
सर्व नशिबात भरलेल्या फ्रेमिंगसाठी, हिंटनने आशेच्या सशर्त नोटवर मुलाखत संपवली. तो म्हणाला, "माझ्या आतडे हे आहे की आम्ही अजूनही नियंत्रणात आहोत." "आम्ही कदाचित काहीतरी करू शकू. जर आपण त्यात मोठे प्रयत्न केले तरच ते कार्य करेल, परंतु आपण त्यात मोठे प्रयत्न करू शकतो."
जगाने तो प्रयत्न केला की नाही, त्याच्या स्वत:च्या टाइमलाइनवर, या दशकात उत्तर मिळालेला एक प्रश्न आहे - शक्यतो त्याच्या आधी.
---
एआयच्या पुढे राहानवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.
अधिक AI बातम्या वाचा →
