Anthropic ने METR कडून एक संघ देणे सुरू केले आहे, जे फ्रंटियर AI मॉडेल्सचे मूल्यांकन करते, "कर्मचाऱ्यासारखा प्रवेश" त्याच्या अंतर्गत सिस्टममध्ये - कंपनी हार्डवेअर, ऑफिस स्पेस आणि टूल्स त्याच्या स्वत: च्या जोखीम मूल्यांकन संघ वापरतात याच्या बरोबरीने — त्यामुळे बाह्य गट स्वतंत्रपणे Anthropic च्या जोखमीचे मूल्यांकन करू शकतो आणि त्याचे मॉडेल काय आहे ते प्रकाशित करू शकतो.

अँथ्रोपिकच्या ब्लॉगवर बुधवारी घोषित केलेली व्यवस्था, AI कंपन्यांनी सामान्यत: सहन केलेल्या ऑडिट-शैलीतील नातेसंबंधांपेक्षाही पुढे आहे आणि ती एक अशी तरतूद आहे जी वेगळी आहे: METR त्याच्या जोखीम मूल्यांकनांचे परिणाम प्रकाशित करेल आणि Anthropic प्रकाशनाला व्हेटो करू शकत नाही.

"कर्मचारी सारखा प्रवेश" म्हणजे काय

सहा METR कर्मचाऱ्यांना कंपनीचे हार्डवेअर, ऑफिस स्पेस आणि अंतर्गत टूल्स आणि सिस्टम्समध्ये प्रवेश देण्यात आला आहे ज्याचे वर्णन Anthropic स्वतःच्या जोखीम मूल्यांकन संघांना मिळालेल्या बरोबरीने करते. स्पष्टपणे परिभाषित केलेल्या श्रेण्यांच्या लहान संख्येच्या बाहेर — ग्राहकांबद्दलचा डेटा, ॲटर्नी-क्लायंट विशेषाधिकार माहिती आणि मॉडेल आर्किटेक्चर्सबद्दलची माहिती — Anthropic म्हणते की त्यांच्या कर्मचाऱ्यांना METR टीमसोबत माहिती सामायिक करण्यासाठी प्रोत्साहित केले जाते जसे ते संरेखन जोखमीवर काम करणाऱ्या सहकारी कर्मचाऱ्यांसह करतात.

प्रतिबद्धता मुद्दाम अरुंद आहे. यात अंमलात आणण्यायोग्य करारांतर्गत कार्यरत असलेल्या एका लहान संघाचा समावेश आहे आणि इतर METR कर्मचाऱ्यांना त्या कार्यसंघाच्या कार्यापासून दूर केले जाते — इतर प्रकल्पांवर अँथ्रोपिकसह सहयोग करणाऱ्या संशोधकांसह. Anthropic नोट करते की सेटअप काही पात्र लोकांना देते, जे Anthropic च्या सुरक्षा मानकांनुसार काम करतात, कंपनी कशी चालते याचे जवळचे दृश्य; इतर संस्थांसाठी अँथ्रोपिकची किंवा त्यांच्या ग्राहकांची माहिती मिळवण्याचे चॅनेल नाही.

प्रकाशन हक्क, रेलिंगसह

करारांतर्गत, METR मानववंशाच्या जोखीम पातळी, घटना किंवा पद्धतींचे त्याचे विश्लेषण प्रकाशित करेल. एन्थ्रोपिक प्रकाशन अवरोधित करू शकत नाही, परंतु जेव्हा माहिती वर वर्णन केलेल्या पूर्वनिर्धारित श्रेणींमध्ये येते तेव्हा त्यास सुधारणे आवश्यक असू शकते — आणि त्या श्रेणींमध्ये काय येते किंवा नाही हे अँथ्रोपिक स्वतः ठरवते. METR, त्याच्या भागासाठी, प्राप्त झालेल्या प्रवेश आणि माहितीच्या पातळीबद्दल काही विधाने करण्याचा अधिकार राखून ठेवते, एक काउंटरवेट रिडेक्शन पॉवर म्यूट बटण बनण्यापासून रोखण्यासाठी डिझाइन केलेले आहे.

अँथ्रोपिक का उघडत आहे

हे पाऊल अँथ्रोपिकने गेल्या महिन्यात मजबूत स्वतंत्र, तृतीय-पक्षाचे मॉडेल आणि सुरक्षा पद्धतींचे मूल्यांकन आणि सुपर इंटेलिजन्सवर व्हाईट हाऊस करारावर स्वाक्षरी करण्यासाठी केलेल्या वचनबद्धतेचे अनुसरण करते, ज्यामध्ये AI कंपन्यांनी स्वतंत्र बाह्य ऑडिटर्स किंवा मूल्यांकनकर्त्यांसह भागीदारी करण्याचे वचन दिले होते. हे विद्यमान नातेसंबंध देखील वाढवते: गेल्या वर्षभरात, अँथ्रोपिकने त्याच्या जोखीम अहवालांच्या अनेक पुनरावलोकनांवर METR सोबत काम केले.

पोर्टफोलिओमध्ये METR एकटा नाही. Anthropic म्हणते की ते SecureBio आणि Accenture सोबत मूल्यांकनकर्ते म्हणून काम करत आहे — Accenture च्या फॅकल्टीला सप्टेंबरमध्ये कंपनीचे पहिले एम्बेडेड मूल्यांकनकर्ता म्हणून नाव देण्यात आले — आणि हगिंग फेससह इतर अनेक संस्थांशी सुरुवातीच्या काळात चर्चा सुरू आहे. त्या आधीच्या टप्प्यातील भागीदारी अधिक मर्यादित माहिती प्रवेश आणि प्रकाशन अधिकारांसह येतात तर कंपनी कोणत्या प्रकारची भागीदारी कार्य करते हे शिकते.

बँक-पर्यवेक्षण साधर्म्य

एंथ्रोपिकची स्वतःची फ्रेमिंग फायनान्सकडून कर्ज घेते. बाहेरील लोकांपेक्षा बँकांना त्यांच्या स्वतःच्या जोखमीच्या स्थानांबद्दल अधिक माहिती असते, म्हणून नियामक सर्वात मोठ्या बँकांमध्ये काम करण्यासाठी निवासी परीक्षकांना नियुक्त करतात; जर एखाद्या बँकेच्या जोखीम घेण्यामुळे जनतेला धोका निर्माण होऊ शकतो, तर तृतीय पक्ष ते आधीच पाहण्याचा प्रयत्न करतात. कंपनी एम्बेडेड मूल्यमापनाला त्या तर्कशास्त्राची AI उद्योगाची आवृत्ती म्हणून स्थान देते - ज्या क्षेत्रात बिल्डरला नेहमी वॉचडॉगपेक्षा अधिक माहिती असते अशा क्षेत्रात मजबूत सुरक्षा निरीक्षणाकडे एक पाऊल.

हे सर्व अंतर्भूत करणे हे एक नमूद केलेले उद्दिष्ट आहे: फ्रंटियर एआय कंपनीच्या सिस्टीमबद्दल स्वतंत्र मूल्यांकनकर्त्यांना काय समजते आणि कंपनी स्वतःला काय समजते यामधील अंतर कमी करणे.

मूल्यांकनकर्त्यांना काय हवे आहे

ॲन्थ्रोपिकला अर्थपूर्ण मूल्यमापनाची आवश्यकता काय आहे हे देखील या घोषणेमध्ये मांडण्यात आले आहे: अलाइनमेंट फेकिंग सारख्या घटनांद्वारे मूल्यांकन कसे चुकीचे होऊ शकते हे समजून घेण्यासह फ्रंटियर मॉडेल क्षमतांचे मूल्यांकन करण्यात कौशल्य; स्वातंत्र्य, म्हणजे मूल्यमापन केलेल्या कंपनीवर कोणतीही इक्विटी किंवा आर्थिक किंवा ऑपरेशनल अवलंबित्व नाही; जोखमींचे अर्थपूर्ण मूल्यांकन करण्यासाठी पुरेसा प्रवेश, नवीनतम मॉडेल्सच्या पलीकडे ते कसे प्रशिक्षित केले गेले आणि संरक्षण कसे कार्य करतात; आणि मॉडेल किंवा प्रक्रियेची निरीक्षणे आणि मूल्यांकन प्रकाशित करण्याचे स्वातंत्र्य.

संपूर्ण उद्योगासाठी एक चाचणी केस

व्यवस्थेचा न्याय त्याच्या आउटपुटद्वारे केला जाईल. नवीन प्रवेश प्रणाली अंतर्गत METR चे प्रथम प्रकाशित मूल्यमापन हे दर्शवेल की कर्मचा-यांसारखा प्रवेश वास्तविक दातांसह निष्कर्ष काढतो किंवा कंपनीने स्वतः परिभाषित केलेल्या रेडिएक्शन श्रेण्यांद्वारे ट्रिम केलेले अहवाल. संशयवादी लक्षात घेतील की अँथ्रोपिक श्रेणी सीमा नियंत्रित करते आणि पायलट संघ लहान आहे; समर्थक हे लक्षात ठेवतील की एक प्रकाशन अधिकार एन्थ्रोपिक व्हेटो करू शकत नाही हे फ्रंटियर लॅब्समध्ये खरोखरच नवीन आहे.

एकतर, उद्योग पाहत आहे. जर METR च्या एम्बेडेड ऍक्सेसने सामग्रीचे निष्कर्ष काढले आणि ते अशक्तपणे प्रकाशित केले तर, व्हाईट हाऊसच्या करारावर स्वाक्षरी केलेल्या प्रत्येक प्रयोगशाळेसाठी मॉडेल हे स्पष्ट टेम्पलेट बनते — आणि स्वैच्छिक निरीक्षण अनिवार्य ऑडिटसाठी पर्याय असू शकते की नाही हे मोजणारे धोरणकर्त्यांसाठी एक बेंचमार्क बनते. AI सुरक्षा धोरणाच्या चालू कव्हरेजसाठी आणि त्याला आकार देणाऱ्या AI उद्योग बातम्या साठी, AI Buzz Wire प्रत्येक विकासाचे अनुसरण करते जसे ते खंडित होते.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →