एंथ्रोपिक के एक सह-संस्थापक का कहना है कि सरकारों को एआई कंपनियों को "किल स्विच" स्थापित करने के लिए मजबूर करने की आवश्यकता हो सकती है - एआई सिस्टम को पूरी तरह से बंद करने के लिए एक तंत्र - और बाहरी निरीक्षकों को यह सत्यापित करने में सक्षम होना चाहिए कि यह वास्तव में काम करता है।

965 बिलियन डॉलर की एआई लैब के सात संस्थापकों में से एक, जैक क्लार्क ने बीबीसी को बताया कि जबकि अधिकांश अग्रणी प्रयोगशालाओं के पास पहले से ही खतरनाक प्रणालियों पर "काटने" के लिए आंतरिक तरीके हैं, समाज ऐसे स्विचों को अनिवार्य और स्वतंत्र रूप से ऑडिट करने योग्य बनाने के लिए "आखिरकार नियम पारित करना चाहता है"। व्यापक एआई सुरक्षा बहस पर नज़र रखने वाले पाठकों के लिए, बढ़ती चेतावनियों के एक सप्ताह के दौरान उनका हस्तक्षेप एक सीमांत प्रयोगशाला के अंदर से अब तक का सबसे ठोस नीति प्रस्ताव है।

"क्या आपको कंपनियों के लिए निश्चित रूप से एक किल स्विच रखना अनिवार्य होना चाहिए? क्या वह किल स्विच किसी तीसरे पक्ष द्वारा सत्यापित किया जा सकता है?" क्लार्क ने प्रौद्योगिकी पत्रकार काली हेज़ और अर्थशास्त्र संपादक फैसल इस्लाम के साथ साक्षात्कार में कहा। "मुझे लगता है कि समाज इस तरह की बात जानना चाहता है और अंततः इसके लिए नियम पारित करना चाहेगा।"

'हम अत्यधिक जोखिमों के साथ पासा पलट रहे हैं'

क्लार्क की सबसे प्रभावशाली टिप्पणी यथास्थिति की पूर्ण अस्वीकृति थी। उद्योग की गति के बारे में पूछे जाने पर उन्होंने कहा कि एआई को "पूरी तरह से अनियमित उद्योग" के रूप में जारी रखने की अनुमति देना एक बुरा विचार था।

उन्होंने कहा, ''हम भारी जोखिमों के साथ पासा पलट रहे हैं।'' "और मुद्दा यह है कि हमें इस उद्योग की दिशा बदलनी होगी।"

अपने कुछ सहयोगियों के विपरीत, क्लार्क ने मानव विलुप्त होने के जोखिम पर कोई संख्या बताने से इनकार कर दिया। "मुझे नहीं लगता कि ये आँकड़े उतने उपयोगी हैं," उन्होंने कहा - एंथ्रोपिक शोधकर्ता इवान हुबिंगर के साथ एक उल्लेखनीय विरोधाभास, जिन्होंने पिछले हफ्ते कहा था कि उनका व्यक्तिगत रूप से मानना ​​​​है कि अगले दशक के भीतर एआई से मानव विलुप्त होने की 10% से अधिक संभावना है, और एआई अग्रणी जेफ्री हिंटन के साथ, जिन्होंने शुक्रवार को बीबीसी को बताया कि 10% का अनुमान "अनुचित नहीं था।"

क्लार्क ने जिस बात पर विवाद नहीं किया वह यात्रा की दिशा है। एआई, जैसा कि उन्होंने उसी साक्षात्कार में कहा था, "दिन प्रति दिन अधिक शक्तिशाली" है - और उन्होंने तर्क दिया कि किसी भी शटडाउन आवश्यकता की विशिष्टताएं, जिसमें इसे कौन सत्यापित करेगा और कैसे शामिल है, अब एआई के आसपास होने वाली "बड़ी नीतिगत बातचीत" में शामिल हैं।

विधायी गति के साथ एक प्रस्ताव

क्लार्क का प्रस्ताव शून्य में नहीं उतर रहा है। अमेरिकी सांसदों ने पहले से ही किल स्विच एक्ट नामक कानून को आगे बढ़ाया है, जिसके लिए फ्रंटियर एआई डेवलपर्स को अपने सिस्टम में शटडाउन तंत्र बनाने की आवश्यकता होगी - एक बिल एआई बज़ वायर ने पिछले महीने कवर किया था क्योंकि दुष्ट एजेंट घटनाओं के बाद इसकी तात्कालिकता बढ़ गई थी।

इस विचार को भी खुले संदेह का सामना करना पड़ता है। यूके में, व्यापार सचिव जोनाथन रेनॉल्ड्स ने बीबीसी को बताया कि उन्हें यह अवधारणा मददगार नहीं लगी, उन्होंने कहा कि वह "वास्तव में निश्चित नहीं हैं कि व्यवहार में इसका क्या मतलब होगा," और चेतावनी दी कि अतिनियमन से देश विदेशी-विकसित मॉडलों से कट सकता है।

पृष्ठभूमि: एक सुरक्षा गृह युद्ध - और एक आईपीओ

क्लार्क की टिप्पणियाँ एक सप्ताह तक सीमित हैं जिसमें एआई सुरक्षा सेमिनार विषय से फ्रंट-पेज समाचार तक चली गई है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने सप्ताहांत में सीमांत विकास की गति को धीमा करने और अधिक बारीकी से निगरानी करने का आह्वान किया, जबकि इस बात पर जोर दिया कि कोई भी ठहराव "व्यावसायिक लाभ का त्याग किए बिना" आना चाहिए। इसके बाद उन्होंने सीएनएन के एंडरसन कूपर के साथ एक साक्षात्कार में उस मामले को मुख्यधारा के अमेरिकी दर्शकों के सामने रखा, जिस पर प्रतिक्रिया देने के लिए कॉक्सन स्वयं नेटवर्क पर उपस्थित हुए। यह टिप्पणी पूर्व एंथ्रोपिक शोधकर्ता जैकब कॉक्सन द्वारा मानवता के भाग्य के बारे में चेतावनी देने वाले एक वायरल इस्तीफे पोस्ट के बाद आई, जिसने बदले में हुबिंगर के विलुप्त होने के अनुमान को प्रेरित किया। द गार्जियन ने अपनी ओर से इस बात की जांच की कि यह विशेष प्रलय की चेतावनी वहां क्यों पहुंची जहां पिछली चेतावनी फीकी पड़ गई थी।

तकनीकी उद्योग के कुछ हिस्सों में इन अलार्मों का खुले तौर पर उपहास किया गया है। हगिंग फेस के सीईओ क्लेमेंट डेलांग्यू ने कॉक्सन को विलुप्त होने के जोखिम का मुखपत्र बनाने के निर्णय का मज़ाक उड़ाते हुए लिखा: "क्षमा करें, लेकिन जैकब से एआई विलुप्त होने के जोखिम के बारे में पूछना आपके एसी वाले से जलवायु परिवर्तन के बारे में पूछने जैसा है।" ग्रिंडर के सीईओ जॉर्ज एरिसन ने यह तर्क देते हुए आगे कहा कि भय फैलाना व्यावसायिक रूप से प्रेरित है। उन्होंने कहा, "इन मूल्यांकनों को सही ठहराने का एकमात्र तरीका वास्तव में यह दावा करना है: 'मैं हर उद्योग पर कब्जा करने जा रहा हूं और मैं हर काम पर कब्जा करने जा रहा हूं, और मेरा एआई वह सारा काम करने जा रहा है।"

इस बहस के नतीजे पर भारी मात्रा में पैसा भी लगा हुआ है। एंथ्रोपिक 965 अरब डॉलर के मूल्यांकन पर आरंभिक सार्वजनिक पेशकश की तैयारी कर रहा है, जबकि ओपनएआई - जिसका हाल ही में मूल्य 852 अरब डॉलर है - के सार्वजनिक होने की उम्मीद थी, इससे पहले सीईओ सैम ऑल्टमैन ने शुक्रवार को कहा था कि सुरक्षा विवाद के कारण इस साल आईपीओ नहीं होगा। एरिसन जैसे आलोचकों का तर्क है कि विनाशकारी बयानबाजी और धन उगाही की पिच एक ही सिक्के के दो पहलू हैं; क्लार्क का जवाब है कि उद्योग को बिना किसी परवाह के अपना रास्ता बदलना होगा।

एक अनिवार्य, सत्यापन योग्य किल स्विच कभी कानून बनेगा या नहीं, यह उन कानून निर्माताओं पर निर्भर करेगा जिन्होंने अब तक अमेरिकी अर्थव्यवस्था को शक्ति देने वाले उद्योग को बाधित करने के लिए बहुत कम भूख दिखाई है। लेकिन पहली बार, प्रौद्योगिकी के सबसे शक्तिशाली अंदरूनी सूत्रों में से एक स्पष्ट रूप से उन्हें प्रयास करने के लिए आमंत्रित कर रहा है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →