एंथ्रोपिक के सीईओ डारियो अमोदेई ने अपने "वी मस्ट पेस द फ्रंटियर" निबंध को प्रकाशित करने के कुछ घंटों बाद सरकारों से एआई की दौड़ को धीमा करने का आह्वान किया, एक तीखी प्रतिक्रिया हैकर न्यूज़ पर चढ़नी शुरू हुई, जो अंततः दिन की सबसे अधिक अपवोट की गई कहानियों में से एक बन गई। इसका तर्क, लेखक और डेवलपर जैकब गोल्ड द्वारा एक खुले पत्र में दिया गया है, बेहद सरल है: यदि अमोदेई एआई को धीमा करने के बारे में ईमानदार है, तो एक ऐसा कानून है जिसकी वह मांग कर सकता है जो वास्तव में ऐसा करेगा - और कोई अन्य प्रयोगशाला कार्यकारी इसका प्रस्ताव नहीं कर सकता है। प्रत्येक एआई मॉडल की आवश्यकता होती है जिसे कंपनी जनता को ओपन वेट के रूप में जारी करने की पेशकश करती है।
"मुझे विश्वास है कि आप ईमानदार हैं," पत्र सीधे अमोदेई को संबोधित करते हुए खुलता है, "इसलिए मैं आपसे एक अलग कानून की मांग कर रहा हूं, जो वास्तव में चीजों को धीमा कर देगा, भले ही इसके लिए आपकी ओर से वास्तविक बलिदान की आवश्यकता होगी।" पत्र ने निश्चित रूप से चिंता में डाल दिया है क्योंकि यह अमोदेई के तर्क को खारिज करने के बजाय उसके सबसे मजबूत संस्करण के साथ जुड़ा हुआ है - और क्योंकि यह आज एआई में सबसे परिणामी नीतिगत बहस के बीच में आता है, एक बहस जिसे हम अपने [एआई नीति कवरेज] (https://aibuzzwire.news) में रोजाना देखते हैं।
अमोदेई ने क्या प्रस्ताव रखा, और गोल्ड क्यों कहता है कि यह काम नहीं करेगा
अमोदेई के निबंध ने एंथ्रोपिक को एम्बेडेड तृतीय-पक्ष मूल्यांकनकर्ताओं के प्रति प्रतिबद्ध किया और सरकारों से उस प्रतिबद्धता से मेल खाने के लिए हर दूसरी अग्रणी कंपनी की आवश्यकता के लिए कहा। पोलिटिको के अनुसार, सैम ऑल्टमैन कुछ ही घंटों में सहमत हो गए - "मैं डारियो से सहमत हूं कि हमें सीमा को गति देने की जरूरत है," ओपनएआई भी मूल्यांकनकर्ता की प्रतिबद्धता से मेल खाता है। पहली नज़र में, यह एक अभूतपूर्व संरेखण है: दुनिया की दो सबसे मूल्यवान एआई प्रयोगशालाओं के प्रमुख सार्वजनिक रूप से धीमा होने के लिए कह रहे हैं।
गोल्ड के पत्र का तर्क है कि यह वास्तव में आम सहमति है जिससे पर्यवेक्षकों को संदेहास्पद होना चाहिए। यह चेतावनी देता है, "आपने जो भी विनियमन मांगा है उसका अंत कब्ज़े में होगा।" एंबेडेड मूल्यांकनकर्ता, सीमा की गणना, अविश्वास छूट के साथ उद्योग समन्वय - "यह सब वर्तमान सीमांत प्रयोगशालाओं की मदद से लिखा जाता है, क्योंकि कोई भी इसे लिखने के लिए तकनीकी विवरणों को अच्छी तरह से नहीं समझता है।" एक बार जब ऐसे नियम कानून बन जाते हैं, तो हर घटना में एक नियम जोड़ा जाता है और कोई भी कभी नहीं हटाया जाता है, और दिग्गज अनुपालन टीमों का खर्च उठा सकते हैं जो छोटे चुनौती देने वालों को बाहर रखते हैं। "आपको धीमा करने के बजाय," पत्र अमोदेई को बताता है, "यह आपकी स्थिति और मुनाफे की रक्षा करता है।"
ओपन-वेट प्रतिप्रस्ताव
वैकल्पिक सोने के रेखाचित्र जानबूझकर कुंद हैं। कंपनी द्वारा जनता के लिए पेश किए जाने वाले किसी भी एआई मॉडल को उसके प्रकाशित वजन के साथ भेजना होगा। आंतरिक और अनुसंधान मॉडल अछूते रहेंगे, और सरकारें अप्रकाशित सिस्टम तक पहुंच बनाए रखेंगी - लेकिन एंथ्रोपिक को अपने अगले फ्रंटियर मॉडल के वजन को उसी दिन प्रकाशित करना होगा जिस दिन इसे जारी किया जाएगा, और ओपनएआई को भी ऐसा ही करना होगा। "इसमें खेलने या चकमा देने जैसा कुछ भी नहीं है," पत्र का अंत है, "यहां तक कि आपके लिए भी।"
यह तंत्र नौकरशाही के बजाय वित्तीय है। जैसा कि गोल्ड बताते हैं, फ्रंटियर मॉडल के विकास के लिए फंडिंग उन मूल्यांकनों पर निर्भर करती है जो मान लेते हैं कि भार मालिकाना रहेगा। एक जनादेश उस धारणा को उलट देता है: यदि प्रत्येक सार्वजनिक रिलीज़ खुली है, तो प्रतिस्पर्धात्मक लाभ उस व्यक्ति को मिलता है जो सबसे अच्छा मॉडल प्रशिक्षित करता है, न कि जो कोई उस तक पहुंच बेचता है, निजी मूल्यांकन में निहित प्रीमियम कम हो जाता है, और अगले प्रशिक्षण के लिए उपलब्ध धन सिकुड़ जाता है - "प्रत्येक प्रयोगशाला में एक बार में, नियामक द्वारा कुछ भी तय किए बिना।" वास्तव में, यह एक तर्क है कि बंद मॉडलों से बाजार की अपेक्षा दौड़ का इंजन है, और अपेक्षा को हटाने से इंजन खत्म हो जाता है।
क्यों अमोदेई, विशेष रूप से
अमोदेई ही वह व्यक्ति क्यों है जो यह प्रस्ताव रख सकता है, इसके लिए पत्र का मामला उसके रिकॉर्ड पर आधारित है, और यह विशेष रूप से सम्मानजनक है। गोल्ड ने उन्हें 2020 के अंत में ओपनएआई छोड़ने और एंथ्रोपिक की स्थापना करने का श्रेय दिया, "जब सुरक्षित कैरियर कदम रहना था," वर्षों तक अपने स्वयं के उद्योग के विनियमन की वकालत करने के साथ, और अपने स्वयं के बाजार को सिकोड़ने वाले निर्यात नियंत्रणों को आगे बढ़ाने के साथ। उन्होंने नोट किया कि एंथ्रोपिक ने खुद को एक कानूनी मिशन के साथ एक सार्वजनिक लाभ निगम के रूप में संरचित किया है - "मानवता के दीर्घकालिक लाभ के लिए उन्नत एआई का जिम्मेदार विकास और रखरखाव" - जो इसके नेतृत्व को इस तरह के कानून से होने वाले वित्तीय नुकसान को अवशोषित करने की अनुमति देगा। अमोदेई का अपना निबंध, गोल्ड कहता है, एंथ्रोपिक नियमन की वकालत करता है "तब भी जब यह हम पर प्रचार, 'डूमरिज़्म', या नियामक कब्ज़ा करने का आरोप लगाता है।"
संशयवादी स्पष्ट प्रतिवादों पर ध्यान देंगे, और पत्र उनका पूरी तरह से उत्तर नहीं देता है: ओपन वेट दुरुपयोग को आसान बनाता है और साथ ही प्रगति को कठिन बनाता है, एक ओपन-वेट जनादेश को प्रत्येक प्रयोगशाला के निवेशकों से भयंकर विरोध का सामना करना पड़ेगा, और चीनी ओपन मॉडल पर अमोदेई के पहले के पदों के आलोचकों को प्रस्ताव में पुराने झगड़े की गूंज सुनाई देगी। लेकिन पत्र की मुख्य चुनौती इसकी अपनायी जा रही नीति पर निर्भर नहीं करती। यह उस तनाव पर निर्भर करता है जिसे वह स्पष्ट रूप से नाम देता है: एक प्रयोगशाला जो सरकारों से बाकी सभी को धीमा करने के लिए कहती है, जबकि उसका अपना मूल्यांकन आगे रहने पर निर्भर करता है, उसने अभी तक ऐसा कुछ भी नहीं मांगा है जिससे उसे कोई कीमत चुकानी पड़े।
एक बहस जो अब अपरिहार्य है
क्या अमोदेई प्रतिक्रिया देता है या नहीं, यह लगभग मुद्दे से परे है। एक ही दिन के भीतर, फ्रंटियर लैब क्षमता पर प्रतिस्पर्धा करने से लेकर गति की आवश्यकता पर सहमत होने की ओर बढ़ गए, और सार्वजनिक प्रतिक्रिया यह पूछने से आगे बढ़ गई कि क्या एआई खतरनाक है या नहीं, यह पूछने के लिए कि क्या इसके बारे में चेतावनी देने वाले लोगों पर विश्वास किया जा सकता है। गोल्ड का पत्र - एक असुविधाजनक प्रश्न के चारों ओर लपेटे गए नीति विवरण के कुछ सौ शब्द - उस संदेह की सबसे तीव्र अभिव्यक्ति बन गए हैं, और इसकी वायरलिटी से पता चलता है कि पेसिंग बहस न केवल वाशिंगटन में बल्कि हैकर न्यूज जैसे प्लेटफार्मों पर सार्वजनिक रूप से लड़ी जाएगी, जहां ओपन-वेट समुदाय वर्षों से इस तर्क में बदलाव कर रहा है।
एआई से आगे रहें
विनियमन, खुले वजन और एआई की गति पर लड़ाई - प्रचार के बिना कवर की गई।
अधिक AI समाचार पढ़ें →
