"एआई के गॉडफादर" में से एक ने अब तक की अपनी सबसे कड़ी चेतावनी जारी की है: नोबेल पुरस्कार विजेता कंप्यूटर वैज्ञानिक जेफ्री हिंटन, जिनका शोध आधुनिक कृत्रिम बुद्धिमत्ता पर आधारित है, का कहना है कि इससे यह पता चल सकता है कि इंसानों के लिए यह तकनीक कभी विकसित न करना ही बेहतर होता। द गार्जियन के साथ एक साक्षात्कार में, उन्होंने यह भी चेतावनी दी कि एआई इस साल या अगले साल बड़े पैमाने पर घटना - जैसे वित्तीय या बिजली प्रणालियों का अस्थायी ब्लैकआउट - को ट्रिगर कर सकता है।

'हो सकता है कि इसे विकसित न करना ही हमारे लिए बेहतर होता' इस कहानी पर अधिक संदर्भ के लिए, हमारे चल रहे AI रुझान देखें।

78 वर्षीय हिंटन ने द गार्जियन को बताया कि वह कृत्रिम तंत्रिका नेटवर्क में अपने अग्रणी काम से बनी तकनीक के बारे में "बर्बाद करने वाले" नहीं हैं। उनका मानना ​​​​है कि एआई में अभी भी वह देने की क्षमता है जिसे उन्होंने "अद्भुत भविष्य" और "कट्टरपंथी प्रचुरता" कहा है। लेकिन नकारात्मक पक्ष के बारे में वह स्पष्ट थे: "हो सकता है कि हमारे लिए इसे विकसित न करना ही बेहतर होता।"

ब्रिटिश मूल के वैज्ञानिक ने कहा कि एक दशक के भीतर - और संभवतः उससे भी पहले - मानवता को पता चल जाएगा कि वह किस रास्ते पर है। या तो दुनिया प्रौद्योगिकी के जोखिमों का प्रबंधन करती है और इसके लाभ को साझा करती है, या, उनके शब्दों में, "हम जोखिमों का प्रबंधन करने में विफल रहते हैं और ... अमीर और गरीब, बड़ी सांस्कृतिक समस्याएं, बड़े पैमाने पर बेरोजगारी, बस समाज के टुकड़े-टुकड़े होने के बीच एक बड़ा अंतर है।"

एक 'एआई चेरनोबिल' इस साल या अगले साल आ सकता है

हिंटन ने एक नई फीचर-लेंथ डॉक्यूमेंट्री, "एआई: संभवतः नथिंग टू वरी अबाउट" की स्क्रीनिंग से पहले अपनी टिप्पणियाँ कीं - उन्होंने कहा, एक शीर्षक, जिसे एआई चैटबॉट द्वारा सुझाया गया था। फिल्म में हिंटन के साथ उनके पूर्व Google सहयोगी, डीपमाइंड प्रमुख डेमिस हसाबिस शामिल हैं, और यह यूके में 12 नवंबर को रात 10 बजे चैनल 4 पर प्रसारित होता है।

डॉक्युमेंट्री में हिंटन ने कहा, "मुझे लगता है कि मेरा एक कर्तव्य है।" "मुझे एक प्रतिष्ठा मिली है जो मुझे एक प्रवक्ता बनाती है और मुझे इस पर अपना सब कुछ खर्च करने की जरूरत है।"

उनकी चेतावनी एक ठोस मिसाल पर आधारित थी। हिंटन ने कहा कि वह इस गर्मी की घटना को देखते हैं जिसमें ओपनएआई के एआई एजेंटों ने हगिंग फेस वेबसाइट को हैक करने की साजिश रची थी, क्योंकि यह उद्योग 1979 में थ्री माइल आइलैंड परमाणु ऊर्जा स्टेशन में आंशिक मंदी के बराबर था - इससे भी बदतर कुछ होने से पहले एक चेतावनी।

उन्होंने 1986 की सोवियत परमाणु आपदा का जिक्र करते हुए कहा, "या तो इस साल के अंत में या अगले साल हम चोर्नोबिल देखेंगे, और यह लोगों को वास्तव में ध्यान देने के लिए पर्याप्त हो सकता है।"

"चोर्नोबिल" से हिंटन का मतलब परमाणु घटना नहीं है। उनके उदाहरण: बिजली उत्पादन प्रणाली पर एक एआई-सक्षम हमला जो "बड़े पैमाने पर ब्राउनआउट" का कारण बनता है, या एक ऐसी घटना जो वित्तीय प्रणाली को एक सप्ताह के लिए बंद कर देती है। उन्होंने कहा, "क्या आप कल्पना कर सकते हैं कि क्या होगा? हम इससे उबर सकते हैं [लेकिन] इससे उन्हें उठना होगा और नोटिस लेना होगा।" जब उनसे पूछा गया कि "वे" कौन हैं, तो उन्होंने उत्तर दिया: "ट्रम्प के अलावा अन्य विश्व नेता।"

एआई मालिकों पर हिंटन: ऑल्टमैन, मस्क और जुकरबर्ग

हिंटन की आलोचना का एक महत्वपूर्ण हिस्सा अग्रणी एआई दौड़ में अग्रणी अधिकारियों पर लक्षित था। उन्होंने द गार्जियन को बताया कि उन्हें चैटजीपीटी-निर्माता ओपनएआई के मुख्य कार्यकारी सैम ऑल्टमैन पर "बिल्कुल भी भरोसा नहीं है", उन्होंने इसे "बेहद चिंताजनक" बताया कि ऑल्टमैन मुट्ठी भर अग्रणी अमेरिकी एआई कंपनियों में से एक चलाता है जो वर्तमान में सबसे शक्तिशाली एआई बनाने के लिए चीन से प्रतिस्पर्धा कर रहा है।

हिंटन ने कहा, "मुझे लगता है कि [मार्क] जुकरबर्ग और [एलोन] मस्क और सैम अल्टमैन, वे जोखिमों को समझते हैं, और वे परवाह नहीं करते हैं। उनके पास पैसा होना चाहिए। यह मेरा विश्वास है।"

यह आकलन ऑल्टमैन की सार्वजनिक मुद्रा के बिल्कुल विपरीत है। द गार्जियन ने लिखा है कि ऑल्टमैन ने सितंबर में जोर देकर कहा था कि "दुनिया को भरोसा करना चाहिए कि हम सही काम करने जा रहे हैं क्योंकि यह सही काम है और क्योंकि हम इसकी भयावहता को महसूस करते हैं।" अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने अपनी ओर से कहा है कि वह एआई को नियंत्रित करने के लिए "वैश्विक योजना बनाने के किसी भी प्रयास को पूरी तरह से खारिज करते हैं" और चाहते हैं कि अग्रणी एआई कंपनियां खुद को विनियमित करें, इस चिंता के बीच कि बाध्यकारी नियम संयुक्त राज्य अमेरिका को चीन के साथ प्रतिस्पर्धा में बाधा डाल सकते हैं।

एआई मॉडल के लिए एक एफडीए

उस पृष्ठभूमि के खिलाफ, हिंटन एक सख्त नियामक लाइन का समर्थन कर रहा है: फिनलैंड के राष्ट्रपति और सिंगापुर, जर्मनी, कनाडा और ऑस्ट्रेलिया समेत 32 अन्य देशों द्वारा समर्थित एक योजना - जो फ्रंटियर एआई मॉडल, स्वतंत्र मूल्यांकन और अंतर-सरकारी सामान्य मानकों के अनिवार्य परीक्षण का आह्वान करती है।

वह ब्रिटेन के लिए भी एक भूमिका देखते हैं, जिसके प्रधान मंत्री एंडी बर्नहैम ने कहा है कि वह अगले साल ब्रिटेन की जी20 अध्यक्षता का उपयोग "वैश्विक सिद्धांतों और मानकों के एकल सेट पर समझौते के लिए करेंगे जो जोखिमों से बचाव करते हुए पूरी क्षमता को अनलॉक करने के बारे में हैं।"

हिंटन का पसंदीदा मॉडल स्पष्ट रूप से चिकित्सा है। उन्होंने कहा, "हमें दवाओं के लिए अमेरिकी एफडीए जैसी किसी चीज की जरूरत है, जहां कंपनियों को एक स्वतंत्र प्राधिकरण को बहुत अच्छे सांख्यिकीय साक्ष्य देने होंगे कि [एआई मॉडल] रिलीज होने से पहले नुकसान से ज्यादा अच्छा करता है।" "हमें थैलिडोमाइड के साथ पता चला कि रिहा करना और फिर उन पर मुकदमा करना ऐसा करने का सही तरीका नहीं है। बड़ी तकनीकी कंपनियां जो कह रही हैं वह यह है कि इसके साथ वैसा ही व्यवहार किया जाए जैसा हमने थैलिडोमाइड के साथ किया था।"

'मेरी हिम्मत यह है कि हम अभी भी नियंत्रण में हैं'

धूमिल परिदृश्य किसी ऐसे व्यक्ति से आते हैं जिसके पास उन्हें बनाने की बेजोड़ क्षमता होती है। हिंटन ने लगभग 44 वर्षों तक एआई पर काम किया है, 1970 के दशक में तंत्रिका नेटवर्क अवधारणा को गढ़ा, और मशीन लर्निंग में मूलभूत कार्य के लिए भौतिकी में 2024 का नोबेल पुरस्कार साझा किया। उन्होंने 2023 में Google छोड़ दिया ताकि वह जोखिमों के बारे में खुलकर बात कर सकें, उन्होंने उस समय चेतावनी दी थी कि यदि AI सिस्टम "अधिक नियंत्रण पाने के चक्कर में पड़ जाते हैं, तो हम मुसीबत में पड़ जाएंगे।"

उनकी भूमिका की तुलना जे. रॉबर्ट ओपेनहाइमर से की गई है - एक मित्र ने उनके लिए ओपेनहाइमर-शैली की टोपी भी खरीदी थी - लेकिन उन्होंने इस सादृश्य को अस्वीकार कर दिया। "मैं ओपेनहाइमर नहीं था," उन्होंने तंत्रिका नेटवर्क के क्षेत्र में योगदान देने वाले हजारों अन्य वैज्ञानिकों का हवाला देते हुए कहा।

सभी असफलताओं से भरी रूपरेखा के लिए, हिंटन ने आशा के एक सशर्त नोट पर साक्षात्कार समाप्त किया। उन्होंने कहा, "मेरा मानना ​​है कि हम अभी भी नियंत्रण में हैं।" "हम कुछ करने में सक्षम हो सकते हैं। यह तभी काम करेगा जब हम इसमें बड़ा प्रयास करेंगे, लेकिन हम इसमें बड़ा प्रयास भी कर सकते हैं।"

क्या दुनिया वह प्रयास करती है, उनकी अपनी समयरेखा पर, एक प्रश्न है जिसका उत्तर इस दशक में मिलेगा - संभवतः इससे पहले ही।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →