Google रिसर्च ने विश्वसनीय निष्पादन वातावरण पर निर्मित अगली पीढ़ी के फ़ेडरेटेड लर्निंग सिस्टम की घोषणा की है, और टीम एक ऐसा दावा कर रही है जिसे कुछ साल पहले अप्राप्य के रूप में खारिज कर दिया गया होगा: फ़ेडरेटेड लर्निंग के लिए पहली बार बाहरी रूप से सत्यापन योग्य केंद्रीय अंतर गोपनीयता गारंटी। सिस्टम, जिसे जीबोर्ड पर लागू किया जा रहा है, क्रिप्टोग्राफ़िक सत्यापन और सार्वजनिक लॉग के साथ लंबे समय से चली आ रही "हम पर भरोसा करें" व्यवस्था को बदल देता है जिसका बाहरी ऑडिटर वास्तव में निरीक्षण कर सकते हैं। गोपनीयता-संरक्षण मशीन लर्निंग के चल रहे कवरेज के लिए, हमारे नवीनतम एआई विकास का अनुसरण करें।

संघीय शिक्षा में विश्वास का अंतर

फ़ेडरेटेड लर्निंग, जिसे Google ने 2017 में पेश किया था, एक विशिष्ट समस्या को हल करने वाली थी: उस डेटा को केंद्रीय रूप से एकत्र किए बिना उपयोगकर्ता डेटा पर उपयोगी मॉडल को कैसे प्रशिक्षित किया जाए। किसी सर्वर पर अपरिष्कृत टाइपिंग व्यवहार अपलोड करने के बजाय, डिवाइस स्थानीय रूप से मॉडल अपडेट की गणना करते हैं और केवल उन अपडेट का योगदान करते हैं। यह दृष्टिकोण चुपचाप उन चीज़ों को उल्लेखनीय मात्रा में शक्ति प्रदान करता है जिन्हें उपयोगकर्ता हर दिन छूते हैं - जीबोर्ड में अगले शब्द की भविष्यवाणी और स्मार्ट कंपोज़, Google संदेशों में उत्तर सुझाव और एंड्रॉइड में स्मार्ट टेक्स्ट चयन।

लेकिन मूल वास्तुकला के केंद्र में भरोसे की कमी थी। उपकरणों ने तत्काल एकत्रीकरण के लिए अपना डेटा अपलोड किया, और बाहरी लोगों के पास यह सत्यापित करने का कोई तरीका नहीं था कि डेटा को कभी भी लॉग नहीं किया गया, बनाए रखा गया या निरीक्षण नहीं किया गया। सर्वर-साइड पर जो कुछ हुआ उसके लिए उपयोगकर्ताओं को Google की बात माननी पड़ी। बाद में, सिक्योर एग्रीगेशन ने क्रिप्टोग्राफ़िक सुरक्षा जोड़ी ताकि व्यक्तिगत योगदान को अलग-अलग नहीं पढ़ा जा सके - लेकिन वह तकनीक अत्याधुनिक केंद्रीय अंतर गोपनीयता एल्गोरिदम जैसे मैट्रिक्स फ़ैक्टराइज़ेशन डीपी-एफटीआरएल के साथ संगत नहीं थी, और इसने अभी भी एक धारणा को अछूता छोड़ दिया: अंतर गोपनीयता शोर को सही ढंग से जोड़ने के लिए Google पर भरोसा करना पड़ा। ग़लत कॉन्फ़िगर किया गया शोर पैरामीटर गलती करने वाली कंपनी को छोड़कर सभी के लिए अदृश्य होगा।

नई प्रणाली कैसे काम करती है

नया डिज़ाइन सीधे तौर पर विश्वास की धारणा पर हमला करता है। यह क्लाइंट ग्रेडिएंट गणना को विश्वसनीय निष्पादन वातावरण के अंदर सर्वर पर ले जाता है - और फिर उस सर्वर तर्क को प्रमाणित करता है, इसलिए ऑपरेटर को अब बिल्कुल भी भरोसा करने की आवश्यकता नहीं है। टीईई एक हार्डवेयर-पृथक प्रोसेसर एन्क्लेव है जिसका रनिंग कोड बाहरी लोगों द्वारा क्रिप्टोग्राफ़िक रूप से सत्यापित किया जा सकता है; यदि एन्क्लेव अपने दावे के अलावा कुछ और करता है, तो सत्यापन टूट जाता है।

Google की घोषणा के अनुसार, सिस्टम चार मुख्य घटकों का समन्वय करता है। सबसे पहले, डेटा अपलोड: डिवाइस स्थानीय रूप से प्रशिक्षण उदाहरणों को एन्क्रिप्ट करते हैं और एक एक्सेस नीति को पूर्व-अधिकृत करते हैं जो सूचीबद्ध करती है कि कौन सी टीईई गणना डेटा को संसाधित कर सकती है - और उन नीतियों को सार्वजनिक पारदर्शिता लॉग में दिखाई देनी चाहिए। दूसरा, आरएएफटी सर्वसम्मति प्रोटोकॉल चलाने वाले टीईई से निर्मित एक कुंजी प्रबंधन प्रणाली केवल प्रकाशित नीति से मेल खाने वाले वर्कलोड के लिए डिक्रिप्शन कुंजी जारी करती है। तीसरा, कार्यभार निष्पादन: एक रूट टीईई एक पायथन प्रशिक्षण लूप चलाता है और कार्यकर्ता टीईई को उप-कार्य सौंपता है, ऑर्केस्ट्रेशन को फेडरेटेड लैंग्वेज नामक सिस्टम द्वारा नियंत्रित किया जाता है, जो Google के टेन्सरफ्लो फेडरेटेड फ्रेमवर्क से प्राप्त होता है। एन्क्लेव से केवल अलग-अलग निजी मॉडल वज़न जारी किए जाते हैं। चौथा, दोष-सहिष्णु पुनर्प्राप्ति: प्रत्येक प्रशिक्षण दौर एक केएमएस-एन्क्रिप्टेड पुनर्प्राप्ति स्थिति को बचाता है ताकि रूट या कार्यकर्ता विफलताएं प्रगति प्रशिक्षण को नष्ट न करें।

वास्तव में गारंटी की जाँच क्यों की जा सकती है

सत्यापनीयता का दावा कॉर्पोरेट सत्यापन के बजाय सार्वजनिक साक्ष्य की श्रृंखला पर आधारित है। एक्सेस नीतियां रेकोर, सिगस्टोर के सार्वजनिक पारदर्शिता लॉग में प्रकाशित की जाती हैं, इसलिए बाहरी ऑडिटर प्रत्येक सर्वर वर्कलोड को ट्रैक कर सकते हैं जो डिवाइस का डेटा संभवतः फ़ीड कर सकता है। KMS और डेटा-प्रोसेसिंग बायनेरिज़ ओपन-सोर्स कोड से प्रतिलिपि प्रस्तुत करने योग्य हैं, जिसका अर्थ है कि कोई भी प्रकाशित स्रोत को संकलित कर सकता है और पुष्टि कर सकता है कि यह उत्पादन में चल रहे बायनेरिज़ से मेल खाता है।

नीतियां सीधे तौर पर पायथन प्रशिक्षण कार्यक्रम का वर्णन करती हैं, जो गोपनीयता आर्किटेक्चर में सबसे आम खामियों को दूर करती है: गोपनीयता नीति क्या कहती है और कोड वास्तव में क्या करता है, के बीच का अंतर। मालिकाना मॉडल आर्किटेक्चर की सुरक्षा के लिए, टीईई रनटाइम पर क्रमबद्ध तर्क को साइडलोड करने का समर्थन करते हैं - लेकिन एक कठिन बाधा के साथ कि सभी गोपनीयता-प्रासंगिक तर्क को प्रमाणित कार्यक्रम में हार्डकोडेड रहना चाहिए। Google के स्वयं के बुनियादी ढांचे के कर्मचारियों सहित वर्कलोड ऑपरेटर, केवल मेट्रिक्स और अलग-अलग निजी मॉडल वजन देखते हैं। एन्क्रिप्टेड डेटा को अपलोड करने के बाद केवल एक सीमित समय के लिए डिक्रिप्ट किया जा सकता है, उस विंडो को सीमित करके जिसमें किसी भी चीज़ का निरीक्षण किया जा सकता है।

वादों से सबूत तक

डिज़ाइन का महत्व किसी एक घटक से कम उसके द्वारा उत्पन्न बोझ में बदलाव से है। मशीन लर्निंग में गोपनीयता की गारंटी को ऐतिहासिक रूप से नीति दस्तावेजों, आंतरिक ऑडिट और ऑपरेटर की प्रतिष्ठा द्वारा समर्थित वादों के रूप में तैयार किया गया है। यह प्रणाली उन वादों को कलाकृतियों में बदल देती है - सत्यापन रिपोर्ट, पारदर्शिता-लॉग प्रविष्टियाँ, प्रतिलिपि प्रस्तुत करने योग्य निर्माण - जिन्हें कोई संदेहवादी Google के आंतरिक तक पहुंच के बिना सत्यापित कर सकता है।

यह दो अनुसंधान समुदायों के उल्लेखनीय अभिसरण का भी प्रतीक है जिन्होंने ज्यादातर समानांतर में काम किया है। विश्वसनीय निष्पादन वातावरण और विभेदक गोपनीयता विभिन्न समस्याओं का समाधान करते हैं: टीईई प्रतिबंधित करता है कि डेटा पर कौन गणना कर सकता है, जबकि डीपी प्रतिबंधित करता है कि कोई भी गणना लीक हो सकती है। उन्हें एक एकल प्रमाणित कार्यक्रम के तहत संयोजित करना, सत्यापित एन्क्लेव के अंदर डीपी शोर पीढ़ी के साथ, अलगाव में प्रत्येक दृष्टिकोण की अवशिष्ट कमजोरी को संबोधित करता है।

अभी यह सिस्टम Google के अपने स्टैक में चल रहा है, जो कि Gboard द्वारा संचालित प्रशिक्षण कार्यभार को सशक्त बनाता है। क्या सत्यापन योग्य गोपनीयता पूरे उद्योग में एक प्रतिस्पर्धी अपेक्षा बन जाती है - जिस तरह प्रमाणपत्रों के लिए पारदर्शिता लॉगिंग को मानकीकृत करने के बाद HTTPS ने किया था - यह इस बात पर निर्भर करेगा कि क्या उपयोगकर्ता और नियामक अन्य एआई प्रदाताओं से वह प्रश्न पूछना शुरू करते हैं जिसका उत्तर देने के लिए इस प्रणाली को डिज़ाइन किया गया है: इसे साबित करें।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →