जब आप किसी मित्र से व्यक्तिगत रूप से बात करते हैं, तो आप उन्हें देख सकते हैं, सुन सकते हैं, उनसे हाथ मिला सकते हैं। जब आप किसी एआई मॉडल से बात करते हैं, तो आपके पास इनमें से लगभग कोई भी आश्वासन नहीं होता है। एंथ्रोपिक का नया शोध बिल्कुल उसी अंतर को लक्षित करता है: कंपनी ने अनुमान के क्रिप्टोग्राफ़िक प्रमाणों पर प्रगति प्रकाशित की है, जिसमें फ्लैशप्रोव नामक एक प्रणाली भी शामिल है जो साबित कर सकती है - गणितीय रूप से, संविदात्मक रूप से नहीं - कि प्रतिक्रिया वास्तव में उस मॉडल से आई है जिसका वह दावा करता है।

समस्या फ़्लैशप्रोव पते चुपचाप संरचनात्मक है। आज किसी मॉडल से पूछताछ करने वाला उपयोगकर्ता यह जांच नहीं कर सकता है कि प्रतिक्रियाएं उस विशिष्ट मॉडल से आई हैं जिसका डेवलपर दावा कर रहा है कि वह प्रतिक्रिया दे रहा है, जबकि लागत कारणों से रूटिंग सेवा द्वारा गुप्त रूप से प्रतिस्थापित किया गया है, या यहां तक ​​​​कि एक हमलावर द्वारा टोकन स्ट्रीम के साथ छेड़छाड़ की गई है। केवल आउटपुट से निर्णय करना अविश्वसनीय है, भले ही उत्तर उत्कृष्ट दिखें। ऐसे उद्योग में जहां एक ही चैट विंडो लोड के तहत चुपचाप एक सस्ते मॉडल पर जा सकती है, यह कोई काल्पनिक चिंता का विषय नहीं है - यह डिफ़ॉल्ट ट्रस्ट मॉडल है। इस तरह के काम की अधिक कवरेज के लिए, हमारा [एआई शोध समाचार] (https://aibuzzwire.news) देखें।

सिद्ध अनुमान कठिन क्यों है

सिद्ध अनुमान का लक्ष्य सीमित कम्प्यूटेशनल संसाधनों वाले उपयोगकर्ता को - और किसी मॉडल के निजी भार तक पहुंच नहीं होने देना है - यह सत्यापित करना है कि दी गई प्रतिक्रिया वास्तव में उस मॉडल द्वारा उत्पादित की गई थी। स्पष्ट दृष्टिकोण, स्वयं मॉडल को फिर से चलाना, एक गैर-स्टार्टर है: फ्रंटियर मॉडल के वजन को निजी रखा जाता है, और उनके खिलाफ प्रतिक्रिया की जांच करने के लिए एक सामान्य उपयोगकर्ता, या यहां तक ​​​​कि एक अच्छी तरह से वित्त पोषित मूल्यांकनकर्ता की तुलना में कहीं अधिक गणना की आवश्यकता होगी।

एंथ्रोपिक का दृष्टिकोण zkSNARKs पर निर्भर करता है, जो मजबूत छिपने और दक्षता गुणों के साथ शून्य-ज्ञान प्रमाणों का एक परिवार है जो उन्हें कार्य के लिए विशिष्ट रूप से उपयुक्त बनाता है। एक प्रदाता एक बार एक मॉडल के लिए प्रतिबद्ध होता है, फिर प्रत्येक प्रतिक्रिया के लिए एक कॉम्पैक्ट प्रमाण तैयार करता है कि उत्तर की गणना प्रतिबद्ध मॉडल द्वारा की गई थी - जबकि प्रमाण स्वयं मॉडल के वजन को छिपाते हैं। आर्किटेक्चर को छिपाना सिस्टम का लक्ष्य नहीं है; वज़न छिपाना है.

संख्याएँ

पोस्ट में दक्षता के आंकड़े कहानी का तकनीकी मूल हैं, क्योंकि बड़े मॉडलों के लिए प्रमाण निर्माण ऐतिहासिक रूप से बहुत धीमी गति से किया गया है। 400-बिलियन-पैरामीटर मिश्रण-विशेषज्ञ मॉडल, लामा 4 मेवरिक के लिए, एक एकल NVIDIA H100 जीपीयू लगभग 110 टोकन प्रति सेकंड पर प्रूफ उत्पन्न करता है, प्रति 1,024-टोकन अनुरोध पर लगभग 19 एमबी के प्रूफ आकार के साथ, 4-बिट परिमाणित वजन और प्रीफिल में पूर्णांक अंकगणित का उपयोग करता है।

वह गति एक लागत पर आती है: प्रूफ जेनरेशन में केवल मॉडल को वीएलएलएम पर चलाने में लगभग 70 से 95 गुना जीपीयू समय लगता है, जो एक व्यापक रूप से उपयोग किया जाने वाला ओपन-सोर्स इंट्रेंस लाइब्रेरी है। महँगा, दूसरे शब्दों में - लेकिन पहली बार परिमाण के उसी क्रम में जिस चीज़ को सिद्ध किया जा रहा है, और, एंथ्रोपिक के अनुसार, पिछले ओपन-सोर्स सिस्टम की तुलना में काफी तेज़ है, जो परिमाण के क्रम से पीछे है।

क्लाउड ने इसे बनाया - और लीन ने दावों का ऑडिट किया

पहली कहानी के अंदर एक दूसरी कहानी भी उलझी हुई है। पोस्ट के अनुसार, क्लाउड ने स्वयं अनुमान के लिए zkSNARKs में सुधार किए, क्रिप्टोग्राफ़िक प्रूफ़ सिस्टम के लिए अच्छी तरह से स्थापित डिज़ाइन सिद्धांतों पर भरोसा करते हुए क्रिप्टोग्राफी और सुरक्षा साहित्य से अत्याधुनिक उपकरणों को लागू करने के नए तरीके खोजे।

एंथ्रोपिक उस वर्कफ़्लो के साथ आने वाले जोखिम के बारे में स्पष्ट है: क्लाउड अनुकूलन में अच्छा है, लेकिन अक्सर ऐसे निर्णय लेता है जिनका मूल्यांकन करना कठिन होता है, खासकर बड़े जटिल सिस्टम में। जवाबी उपाय औपचारिक सत्यापन है। कंपनी दावा की गई सुरक्षा गारंटी के लिए एक औपचारिक सत्यापन भाषा, लीन में शीर्ष-स्तरीय श्रव्य विवरण प्रदान करती है - एआई के चतुर अनुकूलन और उन उपयोगकर्ताओं के बीच मशीन-जांच की गई गणित, जिन्हें उन पर भरोसा करना होता है।

पूरा स्टैक अपाचे 2.0 लाइसेंस के तहत जारी किया जा रहा है: ब्लॉग पोस्ट, सिस्टम के विवरणों को समझाने वाली एक तकनीकी रिपोर्ट, एक प्रोटोकॉल विवरण, एक प्रोवर और दो सत्यापनकर्ताओं सहित निष्पादन योग्य कोड - सी ++ में एक तेज़ सत्यापनकर्ता और लीन में एक सिद्ध रूप से सही सत्यापनकर्ता - साथ ही लीन स्वयं को प्रमाणित करता है और ऑडिटिंग में सहायता के लिए एक इंटरैक्टिव विज़ुअलाइज़र।

अनुपालन से लेकर एआई पेसिंग संधियों तक

मानवशास्त्रीय रेखाचित्र ऐसे मामलों का उपयोग करते हैं जो नियमित से लेकर भू-राजनीतिक तक होते हैं। स्वतंत्र मूल्यांकनकर्ता जो रिलीज से पहले और बाद में एआई मॉडल का परीक्षण करते हैं, उन्हें यह जानना होगा कि वे जिस मॉडल का मूल्यांकन कर रहे हैं वह वही मॉडल है जिसे पेश किया जा रहा है। जो ग्राहक किसी तृतीय-पक्ष रूटिंग सेवा के माध्यम से किसी मॉडल तक पहुंचते हैं, वे आश्वासन चाहते हैं कि टोकन उसी मॉडल से आए हैं जिसके लिए उन्होंने भुगतान किया है। और सुरक्षा परिदृश्य में, एक साइबर हमलावर जो किसी दिए गए मॉडल का प्रतिरूपण करते हुए टोकन स्ट्रीम को संशोधित करता है, वह इस तरह से पता लगाने योग्य हो जाता है कि अकेले आउटपुट निरीक्षण कभी भी हासिल नहीं कर सकता है।

पोस्ट में नामित सबसे महत्वाकांक्षी एप्लिकेशन एआई पेसिंग आवश्यकताओं के अनुपालन का सत्यापन है - समझौतों का उभरता हुआ वर्ग, स्वैच्छिक और सरकारी, जो यह नियंत्रित करने का प्रयास करता है कि सीमांत क्षमताएं कितनी तेजी से आगे बढ़ती हैं। आज ऐसी प्रतिबद्धताएं भरोसे और कागजी कार्रवाई पर टिकी हैं। अनुमान के क्रिप्टोग्राफ़िक प्रमाण निरीक्षण के करीब कुछ प्रदान करते हैं: यह दावा करने के बजाय प्रदर्शित करने का एक तरीका कि कौन सा मॉडल किसी दिए गए कार्यभार को पूरा कर रहा है।

शोधकर्ता स्पष्ट हैं कि यह मध्यवर्ती प्रगति है, पूर्ण शोध एजेंडा नहीं, और वे इस लक्ष्य के साथ प्रकाशित कर रहे हैं कि अन्य लोग काम लें और इसमें सुधार करें। वह फ़्रेमिंग स्वयं एक संकेत है: सिद्ध अनुमान क्रिप्टोग्राफी-सेमिनार विचार प्रयोग से एक इंजीनियरिंग समस्या में स्थानांतरित हो गया है, जिसे एक फ्रंटियर लैब अब खुले तौर पर तैनात करने के लिए सस्ता बनाने के लिए दौड़ रही है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →