Google डीपमाइंड ने कृत्रिम सामान्य बुद्धिमत्ता के इर्द-गिर्द बातचीत को व्यापक बनाने के लिए समर्पित एक नया संस्थान लॉन्च किया है - और इसके उद्घाटन निबंधों में अमेरिकी नेतृत्व वाली संस्था के लिए डेमिस हसाबिस का एक ठोस प्रस्ताव शामिल है जो तैनाती से पहले फ्रंटियर एआई मॉडल का मूल्यांकन करेगा।

टेकक्रंच के अनुसार, गूगल और गूगल डीपमाइंड शोधकर्ताओं द्वारा बुधवार को लॉन्च किए गए डीपमाइंड इंस्टीट्यूट में डीपमाइंड के सह-संस्थापक शेन लेग को इसके प्रबंध संपादक के रूप में सूचीबद्ध किया गया है, साथ ही गूगल के कार्यकारी जेम्स मनिका और गूगल डीपमाइंड के अध्यक्ष डेमिस हसाबिस को निदेशक के रूप में सूचीबद्ध किया गया है। For more context on this story, see our ongoing AI industry coverage.

असहमत होने की गुंजाइश

संस्थान का घोषित उद्देश्य वास्तविक असहमति को सामने लाना है - जिसमें Google के भीतर भी शामिल है। घोषणा में कहा गया है, "वे हमेशा सहमत नहीं होंगे, और वे संभवतः अपना मन बदल लेंगे, क्योंकि तेजी से आगे बढ़ने वाली सीमा पर अधिक डेटा और जानकारी सामने आएगी।"

इसके पहले संग्रह में संभावित एजीआई व्यवधान के प्रबंधन के लिए आर्थिक नीतियों, मानव-पठनीय मॉडल तर्क को संरक्षित करने, मानव उत्कर्ष के सिद्धांतों और सीमांत एआई मॉडल के मूल्यांकन के लिए एक रूपरेखा को कवर करने वाले चार निबंध शामिल हैं।

खुली असहमति को संस्थागत बनाना कॉर्पोरेट एआई लैब के लिए एक असामान्य कदम है, जहां सार्वजनिक संदेश को सख्ती से नियंत्रित किया जाता है। डिज़ाइन के अनुसार, संस्थान Google के शोधकर्ताओं को उन पदों पर बहस करने का स्थान देता है जो कंपनी के व्यावसायिक हितों - या एक-दूसरे के हितों के साथ टकराव हो सकता है।

पारदर्शिता निबंध: 'अपारदर्शी सीरियल गहराई' देखें

डीपमाइंड सुरक्षा शोधकर्ता रोहिन शाह और एंका ड्रैगन के चार निबंधों में से एक में तर्क दिया गया है कि एआई की पारदर्शिता की सिकुड़ती खिड़की - एक मॉडल के चरण-दर-चरण तर्क को देखने और जांचने की क्षमता - अपरिहार्य नहीं है, यहां तक ​​कि नए आर्किटेक्चर सबसे शक्तिशाली मॉडल की निगरानी करना कठिन बनाते हैं।

लेखकों का कहना है कि डेवलपर्स और नियामकों को सीधे सुरक्षा व्यापार-बंद का सामना करना चाहिए। सीधे तौर पर, इसका मतलब यह हो सकता है कि जिसे वे "अपारदर्शी क्रमिक गहराई" कहते हैं उसे सीमित करना - एक मॉडल एक पठनीय तर्क ट्रेस उत्पन्न किए बिना अनुक्रमिक गणना की मात्रा निष्पादित कर सकता है - या डेवलपर्स को यह प्रदर्शित करने की आवश्यकता होती है कि कम पारदर्शी सिस्टम व्याख्या करने योग्य सिस्टम के समान ही निगरानी योग्य रहते हैं।

प्रस्ताव उल्लेखनीय है क्योंकि यह व्याख्या के नुकसान को पैमाने के अपरिहार्य परिणाम के बजाय डिजाइन और नीति विकल्प के रूप में मानता है, जो उन आवश्यकताओं के लिए द्वार खोलता है जिन्हें विनियमन में लिखा जा सकता है।

हस्साबिस का प्रस्ताव: एक अमेरिकी सीमांत मानक निकाय

सबसे परिणामी निबंध हसाबिस का हो सकता है। उन्होंने अमेरिका के नेतृत्व वाली फ्रंटियर एआई मानक संस्था का प्रस्ताव रखा है, जिसे सबसे उन्नत एआई मॉडल का मूल्यांकन करने का काम सौंपा जाएगा। ढांचे के तहत, डेवलपर्स शुरू में रिलीज से 30 दिन पहले तक स्वेच्छा से समीक्षा के लिए मॉडल प्रस्तुत करेंगे। एक बार जब मूल्यांकन प्रणाली प्रभावी साबित हो जाती है, तो संयुक्त राज्य अमेरिका में फ्रंटियर मॉडल तैनात करने के लिए इसके परीक्षण पास करना एक आवश्यकता बन सकती है।

संस्था एआई कंपनियों के परामर्श से मूल्यांकन डिजाइन करके शुरू करेगी, लेकिन अंततः स्वतंत्र, अज्ञात मूल्यांकन विकसित करेगी - जिसे निबंध "हेल्ड-आउट" परीक्षण कहता है - प्रयोगशालाओं को अपने मॉडलों को ज्ञात बेंचमार्क के अनुरूप बनाने से रोकने के लिए, सार्वजनिक मूल्यांकन शासनों का एक अच्छी तरह से प्रलेखित विफलता मोड।

हसाबिस ने तनाव बढ़ने का भी दरवाजा खुला छोड़ दिया है: यदि स्थिति की गंभीरता की मांग की गई तो ढांचे को बढ़ाया जा सकता है, जिसमें संभावित रूप से फ्रंटियर एआई डेवलपर्स के बीच समन्वित मंदी भी शामिल है।

अन्य दो निबंध क्यों मायने रखते हैं

शेष दो निबंध - एजीआई व्यवधान के प्रबंधन के लिए आर्थिक नीतियों और मानव उत्कर्ष के सिद्धांतों पर - एक संग्रह है जो एजीआई को पूरी तरह से तकनीकी के बजाय एक समाज-व्यापी समस्या के रूप में मानता है। आर्थिक विस्थापन लंबे समय से उन्नत एआई के आसपास सबसे ठोस सार्वजनिक चिंता रही है, और इसे मूल्यांकन नीति और व्याख्या के साथ तैयार करने से पता चलता है कि संस्थान चाहता है कि नीति निर्माता अलग-अलग बहस के बजाय टुकड़ों को एक एजेंडे के रूप में देखें।

वह चौड़ाई Google की स्थिति के बारे में भी एक संकेत है। कंपनी उद्यम ग्राहकों और सरकारी अनुबंधों के लिए प्रतिस्पर्धा कर रही है, साथ ही यह तर्क भी दे रही है कि सीमांत प्रणालियों को बाहरी जांच की आवश्यकता है। तनाव को ख़त्म करने के बजाय उसे प्रकाशित करना, संस्थान का मुख्य आधार है।

चिंता से लेकर ठोस प्रस्तावों तक

निबंध तब आते हैं जब उद्योग की सुरक्षा बहस चिंता के व्यापक बयानों से विशिष्ट तंत्रों की ओर स्थानांतरित हो जाती है: प्रकटीकरण आवश्यकताएं, बाहरी जांच, और - यदि सुरक्षा उपाय पीछे रह जाते हैं - समन्वित मंदी। टेकक्रंच के अनुसार, इस सप्ताह यह बदलाव तेज हो गया क्योंकि उद्योग जगत के नेताओं ने फ्रंटियर एआई विकास को "गति" देने के एंथ्रोपिक सीईओ डारियो अमोदेई के आह्वान के तत्वों का समर्थन किया।

समय मायने रखता है. अटलांटिक के दोनों किनारों पर सरकारें इस बात पर विचार कर रही हैं कि उन प्रणालियों की निगरानी कैसे की जाए जिनकी क्षमताएं मूल्यांकन बुनियादी ढांचे की तुलना में तेजी से आगे बढ़ रही हैं। एक प्रस्ताव जो एक अग्रणी एआई लैब के अंदर उत्पन्न होता है - और जिसमें दांतों के साथ पूर्व-रिलीज़ समीक्षा शामिल है - नीति निर्माताओं को एक टेम्पलेट देता है जिसे उद्योग ने स्वयं नाममात्र रूप से समर्थन दिया है, जो ऐतिहासिक रूप से सार्थक एआई विनियमन के लिए एक शर्त रही है।

क्या देखना है

Google से संस्थान की संपादकीय स्वतंत्रता पहली परीक्षा होगी। यदि निबंधों में ऐसे पदों को शामिल करना जारी रखा जाता है जो Google के वाणिज्यिक रोडमैप के विरुद्ध हैं - जैसा कि पारदर्शिता निबंध में कहा गया है - तो यह स्थान एजीआई नीति बहस में एक गंभीर योगदानकर्ता बन सकता है। यदि यह कॉर्पोरेट मैसेजिंग की ओर बढ़ता है, तो यह भीड़ भरे क्षेत्र में एक और पीआर चैनल होगा।

किसी भी तरह, पदार्थ अब मेज पर है: एआई में सबसे शक्तिशाली आंकड़ों में से एक द्वारा सार्वजनिक रूप से पूर्व-रिलीज़ मूल्यांकन आवश्यकताओं, आयोजित परीक्षण और यहां तक ​​​​कि एक समन्वित मंदी का तर्क दिया जा रहा है। अब सवाल यह नहीं है कि क्या फ्रंटियर मॉडल का स्वतंत्र रूप से मूल्यांकन किया जाना चाहिए, बल्कि सवाल यह है कि मूल्यांकन कौन करता है - और किस समय सारिणी पर।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →