एंथ्रोपिक ने एमईटीआर की एक टीम देना शुरू कर दिया है, जो एक गैर-लाभकारी संस्था है जो फ्रंटियर एआई मॉडल का मूल्यांकन करती है, अपने आंतरिक सिस्टम तक "कर्मचारी जैसी पहुंच" देती है - कंपनी हार्डवेयर, कार्यालय स्थान और उपकरण लगभग उसकी अपनी जोखिम मूल्यांकन टीमों के उपयोग के बराबर हैं - ताकि बाहरी समूह स्वतंत्र रूप से एंथ्रोपिक के फ्रंटियर मॉडल के जोखिमों का आकलन कर सके और जो पाता है उसे प्रकाशित कर सके।

बुधवार को एंथ्रोपिक के ब्लॉग पर घोषित की गई व्यवस्था, एआई कंपनियों द्वारा आम तौर पर सहन किए गए ऑडिट-शैली संबंधों से कहीं आगे जाती है, और यह एक ऐसे प्रावधान के साथ आती है जो सामने आता है: एमईटीआर अपने जोखिम मूल्यांकन के परिणामों को प्रकाशित करेगा, और एंथ्रोपिक प्रकाशन को वीटो नहीं कर सकता है।

वास्तव में "कर्मचारी जैसी पहुंच" का क्या मतलब है

एमईटीआर के छह कर्मचारियों को कंपनी के हार्डवेयर, कार्यालय स्थान और आंतरिक उपकरणों और प्रणालियों तक पहुंच प्रदान की गई है, जिसे एंथ्रोपिक लगभग अपनी जोखिम मूल्यांकन टीमों को प्राप्त होने वाली राशि के बराबर बताता है। स्पष्ट रूप से परिभाषित श्रेणियों की एक छोटी संख्या के बाहर - ग्राहकों के बारे में डेटा, वकील-ग्राहक विशेषाधिकार प्राप्त जानकारी, और मॉडल आर्किटेक्चर के बारे में जानकारी - एंथ्रोपिक का कहना है कि उसके कर्मचारियों को एमईटीआर टीम के साथ जानकारी साझा करने के लिए प्रोत्साहित किया जाता है जैसे वे संरेखण जोखिम पर काम करने वाले साथी कर्मचारी के साथ करेंगे।

जुड़ाव जानबूझकर संकीर्ण है. इसमें प्रवर्तनीय समझौतों के तहत काम करने वाली एक छोटी टीम को शामिल किया गया है, और अन्य एमईटीआर कर्मचारियों को उस टीम के काम से अलग कर दिया गया है - जिसमें वे शोधकर्ता भी शामिल हैं जो अन्य परियोजनाओं पर एंथ्रोपिक के साथ सहयोग करते हैं। एंथ्रोपिक नोट करता है कि यह सेटअप एंथ्रोपिक के सुरक्षा मानकों के तहत काम करने वाले कुछ योग्य लोगों को कंपनी कैसे संचालित होती है, इसके बारे में बारीकी से जानकारी देता है; यह अन्य संगठनों के लिए एंथ्रोपिक या उसके ग्राहकों की जानकारी प्राप्त करने का माध्यम नहीं है।

प्रकाशन अधिकार, रेलिंग के साथ

समझौते के तहत, METR एंथ्रोपिक के जोखिम स्तरों, घटनाओं या प्रथाओं का अपना विश्लेषण प्रकाशित करेगा। एंथ्रोपिक प्रकाशन को रोक नहीं सकता है, लेकिन जब जानकारी ऊपर वर्णित पूर्वनिर्धारित श्रेणियों में आती है तो इसमें संशोधन की आवश्यकता हो सकती है - और एंथ्रोपिक स्वयं निर्णय लेता है कि उन श्रेणियों में क्या आता है या क्या नहीं। एमईटीआर, अपनी ओर से, पहुंच के स्तर और प्राप्त जानकारी के बारे में कुछ बयान देने का अधिकार सुरक्षित रखता है, रिडक्शन पावर को म्यूट बटन बनने से रोकने के लिए डिज़ाइन किया गया एक प्रतिकार।

मानवशास्त्र क्यों खुल रहा है

यह कदम पिछले महीने एंथ्रोपिक द्वारा अपने मॉडलों और सुरक्षा प्रथाओं के मजबूत स्वतंत्र, तीसरे पक्ष के मूल्यांकन और सुपर इंटेलिजेंस पर व्हाइट हाउस समझौते पर हस्ताक्षर के लिए की गई प्रतिबद्धता का अनुसरण करता है, जिसमें एआई कंपनियों ने स्वतंत्र बाहरी लेखा परीक्षकों या मूल्यांकनकर्ताओं के साथ साझेदारी करने का वादा किया था। यह मौजूदा संबंध को भी बढ़ाता है: पिछले वर्ष में, एंथ्रोपिक ने एमईटीआर के साथ अपनी जोखिम रिपोर्टों की कई समीक्षाओं पर काम किया।

METR पोर्टफोलियो में अकेला नहीं है। एंथ्रोपिक का कहना है कि वह मूल्यांकनकर्ताओं के रूप में सिक्योरबायो और एक्सेंचर के साथ भी काम कर रहा है - एक्सेंचर के संकाय को सितंबर में कंपनी का पहला एम्बेडेड मूल्यांकनकर्ता नामित किया गया था - और हगिंग फेस सहित कई अन्य संगठनों के साथ शुरुआती चर्चा चल रही है। पहले चरण की साझेदारियाँ अधिक सीमित सूचना पहुंच और प्रकाशन अधिकारों के साथ आती हैं जबकि कंपनी सीखती है कि किस प्रकार की साझेदारी काम करती है।

बैंक-पर्यवेक्षण सादृश्य

एंथ्रोपिक का अपना फ़्रेमिंग वित्त से उधार लेता है। बैंक अपने जोखिम की स्थिति के बारे में बाहरी लोगों की तुलना में अधिक जानते हैं, इसलिए नियामक सबसे बड़े बैंकों के अंदर काम करने के लिए निवासी परीक्षकों को नियुक्त करते हैं; यदि किसी बैंक के जोखिम लेने से जनता को खतरा हो सकता है, तो तीसरे पक्ष इसे पहले से ही देखने का प्रयास करते हैं। कंपनी एम्बेडेड मूल्यांकन को एआई उद्योग के उस तर्क के संस्करण के रूप में पेश करती है - एक ऐसे क्षेत्र में मजबूत सुरक्षा निरीक्षण की ओर एक कदम जहां बिल्डर हमेशा वॉचडॉग से अधिक जानता है।

यह सब अंतर्निहित एक घोषित लक्ष्य है: एक अग्रणी एआई कंपनी के सिस्टम के बारे में स्वतंत्र मूल्यांकनकर्ता क्या समझते हैं और कंपनी स्वयं क्या समझती है, के बीच अंतर को कम करना।

मूल्यांकनकर्ताओं को क्या चाहिए

घोषणा में यह भी बताया गया है कि एंथ्रोपिक का मानना है कि सार्थक मूल्यांकन के लिए क्या आवश्यक है: सीमांत मॉडल क्षमताओं का आकलन करने में विशेषज्ञता, जिसमें यह समझना भी शामिल है कि संरेखण फ़ेकिंग जैसी घटनाओं के माध्यम से मूल्यांकन कैसे गलत हो सकता है; स्वतंत्रता, जिसका अर्थ मूल्यांकन की जा रही कंपनी में कोई इक्विटी या वित्तीय या परिचालन निर्भरता नहीं है; जोखिमों का सार्थक मूल्यांकन करने के लिए पर्याप्त पहुंच, नवीनतम मॉडलों से आगे बढ़कर उन्हें कैसे प्रशिक्षित किया गया और सुरक्षा उपाय कैसे कार्य करते हैं; और किसी मॉडल या प्रक्रिया की टिप्पणियों और आकलन को प्रकाशित करने की स्वतंत्रता।

संपूर्ण उद्योग के लिए एक परीक्षण मामला

व्यवस्था का आकलन उसके आउटपुट से होगा। नई पहुंच व्यवस्था के तहत एमईटीआर का पहला प्रकाशित मूल्यांकन दिखाएगा कि क्या कर्मचारी जैसी पहुंच वास्तविक दांतों के साथ निष्कर्ष निकालती है या कंपनी द्वारा परिभाषित रिडक्शन श्रेणियों द्वारा छंटनी की गई रिपोर्ट तैयार करती है। संशयवादी ध्यान देंगे कि एंथ्रोपिक श्रेणी की सीमाओं को नियंत्रित करता है और पायलट टीम छोटी है; समर्थक ध्यान देंगे कि एंथ्रोपिक जिस प्रकाशन को वीटो नहीं कर सकता, वह वास्तव में सीमांत प्रयोगशालाओं के बीच नया है।

किसी भी तरह, उद्योग देख रहा है। यदि एमईटीआर की एम्बेडेड पहुंच सामग्री निष्कर्षों को सामने लाती है और उन्हें बिना किसी बाधा के प्रकाशित करती है, तो मॉडल व्हाइट हाउस समझौते पर हस्ताक्षर करने वाली प्रत्येक प्रयोगशाला के लिए स्पष्ट टेम्पलेट बन जाता है - और नीति निर्माताओं के लिए एक बेंचमार्क बन जाता है कि क्या स्वैच्छिक निरीक्षण अनिवार्य ऑडिट का स्थान ले सकता है। एआई सुरक्षा नीति और इसे आकार देने वाले [एआई उद्योग समाचार] (https://aibuzzwire.news) के चल रहे कवरेज के लिए, एआई बज़ वायर प्रत्येक विकास का अनुसरण करता है क्योंकि यह टूटता है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →