जेव्हा तुम्ही एखाद्या मित्राशी वैयक्तिकरित्या बोलता तेव्हा तुम्ही त्यांना पाहू शकता, त्यांना ऐकू शकता, त्यांचे हात हलवू शकता. जेव्हा तुम्ही एआय मॉडेलशी बोलता, तेव्हा तुमच्याकडे यापैकी कोणतेही आश्वासन नसते. अँथ्रोपिकचे नवीन संशोधन नेमके त्याच अंतरावर लक्ष केंद्रित करते: कंपनीने अनुमानाच्या क्रिप्टोग्राफिक पुराव्यांवर प्रगती प्रकाशित केली आहे, ज्यामध्ये फ्लॅशप्रोव्ह नावाची प्रणाली समाविष्ट आहे जी सिद्ध करू शकते — गणितीयदृष्ट्या, करारानुसार नाही — की तो दावा करत असलेल्या मॉडेलकडून खरोखर प्रतिसाद आला आहे.

समस्या FlashProve पत्ते शांतपणे संरचनात्मक आहे. आज मॉडेलची चौकशी करणारा वापरकर्ता हे तपासू शकत नाही की प्रतिसाद विशिष्ट मॉडेलमधून आला आहे की नाही विकासकाने दावा केला आहे की, किमतीच्या कारणास्तव राउटिंग सेवेद्वारे किंवा टोकन प्रवाहात छेडछाड करणाऱ्या आक्रमणकर्त्याने गुप्तपणे बदली केली आहे. उत्तरे उत्कृष्ट दिसत असली तरीही केवळ आउटपुटवरून निर्णय घेणे अविश्वसनीय आहे. ज्या उद्योगात तीच चॅट विंडो शांतपणे लोडखाली स्वस्त मॉडेलकडे जाऊ शकते, ती काल्पनिक चिंता नाही — ते डीफॉल्ट ट्रस्ट मॉडेल आहे. यासारख्या कामाच्या अधिक कव्हरेजसाठी, आमच्या AI संशोधन बातम्या पहा.

सिद्ध करणे कठीण का आहे

मर्यादित संगणकीय संसाधने असलेल्या वापरकर्त्याला - आणि मॉडेलच्या खाजगी वजनामध्ये प्रवेश नसणे - दिलेला प्रतिसाद त्या मॉडेलद्वारे खरोखरच तयार केला गेला होता हे सत्यापित करणे हे सिद्ध करण्यायोग्य अनुमानाचे उद्दिष्ट आहे. स्वतः मॉडेल पुन्हा चालवणे हा स्पष्ट दृष्टीकोन आहे: सीमावर्ती मॉडेल्सचे वजन खाजगी ठेवले जाते आणि त्यांच्या विरूद्ध प्रतिसाद तपासण्यासाठी सामान्य वापरकर्ता किंवा अगदी चांगल्या अर्थसहाय्यित मूल्यांकनकर्त्याला परवडेल त्यापलीकडे गणना करणे आवश्यक आहे.

एन्थ्रोपिकचा दृष्टीकोन zkSNARKs वर झुकतो, एक शून्य-ज्ञान पुराव्याचे कुटुंब ज्यामध्ये मजबूत लपविलेले आणि कार्यक्षमतेचे गुणधर्म आहेत जे त्यांना कार्यासाठी अद्वितीयपणे योग्य बनवतात. प्रदाता एकदा मॉडेलला कमिट करतो, नंतर प्रत्येक प्रतिसादासाठी एक संक्षिप्त पुरावा तयार करतो की उत्तर वचनबद्ध मॉडेलद्वारे मोजले गेले होते — तर पुरावे स्वतः मॉडेलचे वजन लपवतात. आर्किटेक्चर लपवणे हे व्यवस्थेचे ध्येय नाही; वजन लपवणे आहे.

संख्या

पोस्टमधील कार्यक्षमतेचे आकडे हा कथेचा तांत्रिक गाभा आहे, कारण मोठ्या मॉडेल्ससाठी पुरावे तयार करणे हे ऐतिहासिकदृष्ट्या अत्यंत कमी प्रमाणाचे आदेश आहेत. Llama 4 Maverick साठी, 400-अब्ज-पॅरामीटर मिश्रण-ऑफ-एक्सपर्ट मॉडेल, एकल NVIDIA H100 GPU सुमारे 110 टोकन प्रति सेकंदाने पुरावे व्युत्पन्न करते, 4-बिट प्री-बिट इनक्युटेक्ट आणि प्री-बिट इनक्युटेम इनक्युटेज वापरून, अंदाजे 19 MB प्रति 1,024-टोकन विनंतीचा पुरावा आकार.

ती गती खर्चात येते: प्रूफ जनरेशन साधारणपणे वापरलेली ओपन-सोर्स इन्फरन्स लायब्ररी, vLLM वर मॉडेल चालवण्याच्या GPU वेळेच्या अंदाजे 70 ते 95 पट घेते. महाग, दुसऱ्या शब्दांत — परंतु प्रथमच गोष्ट सिद्ध होत असलेल्या परिमाणाच्या त्याच क्रमाने, आणि, मानववंशशास्त्रानुसार, पूर्वीच्या ओपन-सोर्स सिस्टमपेक्षा बऱ्यापैकी वेगवान, जी परिमाणांच्या ऑर्डरने मागे आहे.

क्लॉडने ते तयार केले — आणि लीन दाव्यांचे ऑडिट करते

पहिल्या आत दुमडलेली दुसरी कथा आहे. पोस्टनुसार, क्लॉडनेच क्रिप्टोग्राफिक प्रूफ सिस्टमसाठी सुस्थापित डिझाइन तत्त्वांवर अवलंबून राहून क्रिप्टोग्राफी आणि सुरक्षा साहित्यातून अत्याधुनिक साधने लागू करण्यासाठी नवीन मार्ग शोधून अनुमान काढण्यासाठी zkSNARKs वर सुधारणा केल्या.

मानववंश त्या कार्यप्रवाहात येणाऱ्या जोखमीबद्दल प्रामाणिक आहे: क्लॉड ऑप्टिमायझेशनमध्ये चांगला आहे, परंतु अनेकदा असे निर्णय घेतो ज्यांचे मूल्यांकन करणे कठीण असते, विशेषत: मोठ्या जटिल प्रणालींमध्ये. काउंटरमेजर म्हणजे औपचारिक पडताळणी. कंपनी दावा केलेल्या सुरक्षिततेच्या हमींसाठी लीन या औपचारिक पडताळणी भाषेत उच्च-स्तरीय ऑडिट करण्यायोग्य विधाने प्रदान करते — मशीन-चेक केलेले गणित AI चे चतुर ऑप्टिमायझेशन आणि त्यावर विश्वास ठेवणारे वापरकर्ते यांच्यामध्ये उभे आहे.

Apache 2.0 लायसन्स अंतर्गत संपूर्ण स्टॅक जारी केला जात आहे: ब्लॉग पोस्ट, सिस्टमचे तपशील स्पष्ट करणारा एक तांत्रिक अहवाल, प्रोटोकॉल वर्णन, एक प्रोव्हर आणि दोन व्हेरिफायरसह एक्झिक्युटेबल कोड — C++ मधील एक जलद पडताळक आणि लीन मधील एक अचूक व्हेरिफायर — तसेच लीनचे स्वतःचे पुरावे आणि परस्परसंवादी व्हेरिफायर.

अनुपालन ते AI पेसिंग करार

मानववंशीय रेखाचित्रे अशी प्रकरणे वापरतात जी नित्यक्रमापासून ते भौगोलिक राजकीय पर्यंत असतात. एआय मॉडेल्सची रिलीझ करण्यापूर्वी आणि नंतर चाचणी करणाऱ्या स्वतंत्र मूल्यांकनकर्त्यांना हे माहित असणे आवश्यक आहे की ते कोणत्या मॉडेलचे मूल्यमापन करत आहेत ते सादर केले जात आहे. जे क्लायंट तृतीय-पक्ष रूटिंग सेवेद्वारे मॉडेलमध्ये प्रवेश करतात त्यांना खात्री हवी असते की टोकन त्यांनी ज्या मॉडेलसाठी पैसे दिले त्यामधून आले आहेत. आणि सुरक्षिततेच्या परिस्थितीत, दिलेल्या मॉडेलची तोतयागिरी करताना टोकन स्ट्रीममध्ये बदल करणारा सायबर अटॅकर अशा प्रकारे शोधण्यायोग्य बनतो की केवळ आउटपुट तपासणी कधीही साध्य करू शकत नाही.

पोस्टमध्ये नाव देण्यात आलेला सर्वात महत्वाकांक्षी अर्ज म्हणजे AI पेसिंग आवश्यकतांच्या अनुपालनाची पडताळणी - करारांचा उदयोन्मुख वर्ग, स्वयंसेवी आणि सरकारी, जो सीमावर्ती क्षमता किती वेगाने प्रगती करतात यावर शासन करण्याचा प्रयत्न करतो. आज अशा वचनबद्धता विश्वास आणि कागदावर अवलंबून आहेत. अनुमानाचे क्रिप्टोग्राफिक पुरावे तपासणीच्या जवळ काहीतरी देतात: कोणते मॉडेल दिलेल्या वर्कलोडची सेवा करत आहे, असे ठामपणे सांगण्याऐवजी प्रदर्शित करण्याचा एक मार्ग.

संशोधक स्पष्टपणे सांगतात की ही मध्यंतरी प्रगती आहे, पूर्ण झालेला संशोधन अजेंडा नाही आणि ते काम इतरांनी घ्यावेत आणि त्यात सुधारणा करावी या उद्देशाने ते प्रकाशित करत आहेत. ते फ्रेमिंग स्वतःच एक सिग्नल आहे: सिद्ध करता येण्याजोगा अनुमान क्रिप्टोग्राफी-सेमिनार विचार प्रयोगातून अभियांत्रिकी समस्येकडे वळला आहे की एक फ्रंटियर लॅब आता तैनात करण्याइतपत स्वस्त बनवण्यासाठी उघडपणे धावत आहे.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →