Google DeepMind ने कृत्रिम सामान्य बुद्धिमत्तेच्या आसपासच्या संभाषणाचा विस्तार करण्यासाठी समर्पित एक नवीन संस्था सुरू केली आहे — आणि त्याच्या उद्घाटन निबंधांमध्ये यूएस-नेतृत्वाखालील संस्थेसाठी डेमिस हसाबिसचा ठोस प्रस्ताव समाविष्ट आहे जो तैनातीपूर्वी फ्रंटियर AI मॉडेल्सचे मूल्यांकन करेल.

टेकक्रंचच्या म्हणण्यानुसार, Google आणि Google DeepMind संशोधकांनी बुधवारी सुरू केलेली DeepMind संस्था, DeepMind सह-संस्थापक शेन लेग यांना व्यवस्थापकीय संपादक म्हणून सूचीबद्ध करते, Google कार्यकारी जेम्स मनीका आणि Google DeepMind चेअर Demis Hassabis सोबत संचालक म्हणून. For more context on this story, see our ongoing more AI stories.

असहमत होण्याची खोली

संस्थेचा नमूद केलेला उद्देश खरा असहमती दर्शवणे आहे — गुगलमध्येच. "ते नेहमी सहमत नसतील, आणि ते कदाचित त्यांचे मत बदलतील, कारण अधिक डेटा आणि माहिती वेगाने पुढे जाणाऱ्या सीमेवर प्रकाशात येते," घोषणा वाचते.

त्याच्या पहिल्या संग्रहात संभाव्य AGI व्यत्यय व्यवस्थापित करण्यासाठी आर्थिक धोरणे, मानवी-वाचनीय मॉडेल तर्क जतन करणे, मानवी उत्कर्षासाठी तत्त्वे आणि फ्रंटियर AI मॉडेलचे मूल्यांकन करण्यासाठी एक फ्रेमवर्क समाविष्ट करणारे चार निबंध समाविष्ट आहेत.

कॉर्पोरेट एआय लॅबसाठी खुले मतभेद संस्थात्मक करणे ही एक असामान्य चाल आहे, जिथे सार्वजनिक संदेशवहन कडकपणे नियंत्रित केले जाते. डिझाईननुसार, संस्था Google च्या संशोधकांना कंपनीच्या व्यावसायिक हितसंबंधांशी किंवा एकमेकांच्या हितसंबंधांशी विरोधाभास करू शकतील अशा पोझिशन्सवर युक्तिवाद करण्यासाठी जागा देते.

पारदर्शकता निबंध: 'अपारदर्शक सीरियल डेप्थ' पहा

DeepMind सुरक्षा संशोधक रोहिन शाह आणि आंका ड्रॅगन यांच्या चार निबंधांपैकी एक, असा युक्तिवाद करतो की AI ची पारदर्शकता कमी होत चाललेली विंडो — मॉडेलचे चरण-दर-चरण तर्क पाहण्याची आणि तपासण्याची क्षमता — अपरिहार्य नाही, जरी नवीन आर्किटेक्चर्स सर्वात शक्तिशाली मॉडेल्सचे परीक्षण करणे कठीण करतात.

लेखक म्हणतात की विकासक आणि नियामकांनी थेट सुरक्षा व्यापार-ऑफचा सामना केला पाहिजे. ठोसपणे, याचा अर्थ ते ज्याला "अपारदर्शक सिरीयल डेप्थ" म्हणतात ते मर्यादित करणे असा होऊ शकतो — एक मॉडेल वाचनीय तर्क ट्रेस तयार केल्याशिवाय करू शकतील अशा अनुक्रमिक गणनेचे प्रमाण — किंवा विकसकांना हे दाखवून देण्याची आवश्यकता आहे की कमी पारदर्शक प्रणाली स्पष्टीकरण करण्यायोग्य प्रणालींप्रमाणेच निरीक्षण करण्यायोग्य राहतील.

हा प्रस्ताव लक्षणीय आहे कारण तो स्पष्टीकरणक्षमतेच्या तोट्याला आकाराच्या अपरिहार्य परिणामाऐवजी डिझाइन आणि धोरण निवड म्हणून हाताळतो, ज्यामुळे नियमनात लिहिल्या जाऊ शकतील अशा आवश्यकतांचे दरवाजे उघडतात.

हसाबिसचा प्रस्ताव: यूएस फ्रंटियर मानक संस्था

सर्वात परिणामकारक निबंध हसाबिसचा असू शकतो. त्यांनी सर्वात प्रगत AI मॉडेल्सचे मूल्यमापन करण्यासाठी यूएस-नेतृत्वाखालील फ्रंटियर AI मानक संस्था प्रस्तावित केली आहे. फ्रेमवर्क अंतर्गत, डेव्हलपर सुरुवातीला रिलीझ होण्यापूर्वी 30 दिवसांपर्यंत पुनरावलोकनासाठी स्वेच्छेने मॉडेल सबमिट करतील. एकदा मूल्यमापन प्रणाली प्रभावी ठरल्यानंतर, युनायटेड स्टेट्समध्ये फ्रंटियर मॉडेल्स तैनात करण्यासाठी तिच्या चाचण्या उत्तीर्ण करणे आवश्यक होऊ शकते.

संस्था AI कंपन्यांशी सल्लामसलत करून मूल्यांकनांची रचना करून सुरुवात करेल, परंतु अखेरीस स्वतंत्र, अघोषित मूल्यमापन विकसित करेल - ज्याला निबंध "होल्ड-आउट" चाचण्या म्हणतात - प्रयोगशाळांना त्यांचे मॉडेल ओळखल्या जाणाऱ्या बेंचमार्कनुसार तयार करण्यापासून रोखण्यासाठी, सार्वजनिक मूल्यमापन पद्धतींचा एक चांगला दस्तऐवजीकरण केलेला अपयश मोड.

हसाबिसने देखील वाढीसाठी दार उघडे ठेवले: फ्रेमवर्क "परिस्थितीच्या गांभीर्याने मागणी केल्यास" तयार केले जाऊ शकते," संभाव्यत: फ्रंटियर एआय डेव्हलपर्समधील समन्वित मंदीचा समावेश आहे.

इतर दोन निबंध महत्त्वाचे का आहेत

उरलेले दोन निबंध — AGI व्यत्यय व्यवस्थापित करण्यासाठी आर्थिक धोरणांवर आणि मानवी उत्कर्षासाठीच्या तत्त्वांवर — AGI ला पूर्णपणे तांत्रिक समस्या न मानता समाजव्यापी समस्या म्हणून हाताळणारे संग्रह तयार करतात. आर्थिक विस्थापन ही प्रगत AI च्या आसपासची सर्वात मूर्त सार्वजनिक चिंतेची बाब आहे आणि मूल्यमापन धोरण आणि व्याख्येच्या बरोबरीने त्याची रचना करणे हे सूचित करते की संस्थेला धोरणकर्त्यांनी स्वतंत्र वादविवादांऐवजी एक अजेंडा म्हणून तुकडे पहावेत.

ती रुंदी Google च्या स्थितीबद्दल देखील एक सिग्नल आहे. कंपनी एंटरप्राइझ ग्राहकांसाठी आणि सरकारी करारांसाठी स्पर्धा करत आहे आणि त्याचवेळी असा युक्तिवाद करत आहे की फ्रंटियर सिस्टमला बाहेरून छाननीची आवश्यकता आहे. तणाव कमी करण्याऐवजी प्रकाशित करणे, हा संस्थेचा मुख्य आधार आहे.

चिंतेपासून ठोस प्रस्तावांपर्यंत

उद्योगातील सुरक्षितता वादविवाद चिंतेच्या विस्तृत विधानांमधून विशिष्ट यंत्रणांकडे सरकत असताना हे निबंध येतात: प्रकटीकरण आवश्यकता, बाहेरची छाननी आणि — जर सुरक्षितता मागे पडली तर — समन्वित मंदी. टेकक्रंचनुसार, एन्थ्रोपिक सीईओ डारियो अमोदेईच्या "वेगवान" फ्रंटियर एआय डेव्हलपमेंटच्या कॉलच्या घटकांना उद्योग नेत्यांनी मान्यता दिल्याने या आठवड्यात या शिफ्टला वेग आला.

वेळेला महत्त्व आहे. अटलांटिकच्या दोन्ही बाजूंची सरकारे अशा प्रणालींचे निरीक्षण कसे करायचे यावर विचार करत आहेत ज्यांच्या क्षमता मूल्यमापन पायाभूत सुविधांपेक्षा वेगाने प्रगती करत आहेत. अग्रगण्य AI लॅबमध्ये उद्भवणारा प्रस्ताव — आणि त्यात दातांसह प्री-रिलीझ पुनरावलोकन समाविष्ट आहे — धोरणकर्त्यांना एक टेम्प्लेट देते ज्याला उद्योगाने स्वतःच नाममात्र मान्यता दिली आहे, जी ऐतिहासिकदृष्ट्या अर्थपूर्ण AI नियमनाची पूर्व शर्त आहे.

काय पहावे

संस्थेचे Google वरील संपादकीय स्वातंत्र्य ही पहिली चाचणी असेल. जर निबंधांमध्ये गुगलच्या व्यावसायिक रोडमॅपच्या विरोधात असलेल्या पोझिशन्सचा समावेश करणे सुरू ठेवले तर — जसे की पारदर्शकता निबंध वादातीत आहे — हे ठिकाण AGI धोरण चर्चेसाठी गंभीर योगदान देणारे ठरू शकते. जर ते कॉर्पोरेट मेसेजिंगकडे वळले तर ते गर्दीच्या क्षेत्रात आणखी एक पीआर चॅनेल असेल.

कोणत्याही प्रकारे, पदार्थ आता टेबलवर आहे: प्री-रिलीझ मूल्यमापन आवश्यकता, आयोजित केलेल्या चाचण्या आणि अगदी समन्वित मंदीचा AI मधील सर्वात शक्तिशाली व्यक्तींकडून सार्वजनिकपणे तर्क केला जात आहे. फ्रंटियर मॉडेल्सचे स्वतंत्रपणे मूल्यांकन केले जावे की नाही हा प्रश्न यापुढे आहे, परंतु मूल्यांकन कोण करते - आणि कोणत्या वेळापत्रकानुसार.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →