گوگل ریسرچ نے ٹرسٹڈ ایگزیکیوشن ماحولیات پر بنائے گئے اگلی نسل کے فیڈریٹڈ لرننگ سسٹم کا اعلان کیا ہے، اور ٹیم ایک ایسا دعویٰ کر رہی ہے جسے چند سال پہلے ناقابل رسائی قرار دے کر مسترد کر دیا گیا ہو گا: پہلی بار فیڈریٹڈ لرننگ کے لیے بیرونی طور پر قابل تصدیق مرکزی تفریق کی رازداری کی ضمانت۔ نظام، جس کا اطلاق Gboard پر کیا جا رہا ہے، ایک دیرینہ "ہم پر بھروسہ کریں" کے انتظامات کو کرپٹوگرافک اٹیسٹیشن اور پبلک لاگز سے بدل دیتا ہے جس کا اصل میں باہر کے آڈیٹرز معائنہ کر سکتے ہیں۔ پرائیویسی کو محفوظ رکھنے والی مشین لرننگ کی جاری کوریج کے لیے، ہماری تازہ ترین AI پیش رفت* پر عمل کریں۔

فیڈریٹڈ لرننگ میں اعتماد کا فرق

فیڈریٹڈ لرننگ، جسے گوگل نے 2017 میں متعارف کرایا تھا، ایک مخصوص مسئلہ کو حل کرنے والا تھا: اس ڈیٹا کو مرکزی طور پر جمع کیے بغیر صارف کے ڈیٹا پر کارآمد ماڈلز کی تربیت کیسے کی جائے۔ کسی سرور پر ٹائپنگ کے خام رویے کو اپ لوڈ کرنے کے بجائے، ڈیوائسز مقامی طور پر ماڈل اپڈیٹس کی گنتی کرتے ہیں اور صرف ان اپڈیٹس میں حصہ ڈالتے ہیں۔ یہ نقطہ نظر خاموشی سے صارفین کو ہر روز چھونے والی چیزوں کی ایک قابل ذکر مقدار کو طاقت دیتا ہے — اگلے لفظ کی پیشن گوئی اور Gboard میں اسمارٹ کمپوز، گوگل میسجز میں جوابی تجاویز، اور اینڈرائیڈ میں اسمارٹ ٹیکسٹ سلیکشن۔

لیکن اصل فن تعمیر کے مرکز میں اعتماد کا فرق تھا۔ آلات نے اپنا ڈیٹا فوری طور پر جمع کرنے کے لیے اپ لوڈ کیا، اور باہر کے لوگوں کے پاس اس بات کی تصدیق کرنے کا کوئی طریقہ نہیں تھا کہ راستے میں ڈیٹا کو کبھی لاگ ان، برقرار یا معائنہ نہیں کیا گیا تھا۔ سرور کی طرف جو ہوا اس کے لیے صارفین کو گوگل کا لفظ لینا پڑا۔ بعد میں، سیکیور ایگریگیشن نے کرپٹوگرافک تحفظ شامل کیا تاکہ انفرادی شراکت کو تنہائی میں پڑھا نہ جا سکے — لیکن یہ تکنیک جدید ترین مرکزی تفریق پرائیویسی الگورتھم جیسے میٹرکس فیکٹرائزیشن DP-FTRL کے ساتھ مطابقت نہیں رکھتی تھی، اور اس نے پھر بھی ایک مفروضہ کو ادھورا چھوڑ دیا: گوگل کو درست طریقے سے مختلف شامل کرنے کے لیے بھروسہ کرنا ضروری نہیں تھا۔ غلط کنفیگر کردہ شور کا پیرامیٹر ہر کسی کے لیے پوشیدہ ہو گا سوائے اس کمپنی کے جو غلطی کر رہی ہے۔

نیا نظام کیسے کام کرتا ہے۔

نیا ڈیزائن اعتماد کے مفروضے پر براہ راست حملہ کرتا ہے۔ یہ کلائنٹ گریڈینٹ کمپیوٹیشن کو سرور پر منتقل کرتا ہے — ایک ٹرسٹڈ ایگزیکیوشن انوائرمنٹ کے اندر — اور پھر اس سرور کی منطق کو قابل تصدیق بنا دیتا ہے، اس لیے آپریٹر پر اب بالکل بھی بھروسہ کرنے کی ضرورت نہیں ہے۔ TEE ایک ہارڈ ویئر سے الگ تھلگ پروسیسر انکلیو ہے جس کے چلانے والے کوڈ کی خفیہ طور پر باہر کے لوگوں سے تصدیق کی جا سکتی ہے۔ اگر انکلیو اپنے دعوے کے علاوہ کچھ کرتا ہے تو تصدیق ٹوٹ جاتی ہے۔

گوگل کے اعلان کے مطابق یہ نظام چار بنیادی اجزاء کو مربوط کرتا ہے۔ سب سے پہلے، ڈیٹا اپ لوڈ: آلات مقامی طور پر تربیتی مثالوں کو خفیہ کرتے ہیں اور رسائی کی پالیسی کو پہلے سے اجازت دیتے ہیں جس میں یہ فہرست دی جاتی ہے کہ کون سے TEE کمپیوٹیشنز ڈیٹا پر کارروائی کر سکتے ہیں — اور ان پالیسیوں کو عوامی شفافیت کے لاگ میں ظاہر ہونا چاہیے۔ دوسرا، RAFT اتفاق رائے پروٹوکول چلانے والے TEEs سے بنایا گیا کلیدی انتظامی نظام صرف کام کے بوجھ کے لیے ڈکرپشن کیز جاری کرتا ہے جو شائع شدہ پالیسی سے میل کھاتا ہے۔ تیسرا، کام کے بوجھ پر عمل درآمد: ایک روٹ TEE ایک Python ٹریننگ لوپ چلاتا ہے اور Google کے TensorFlow Federated فریم ورک سے اخذ کردہ Federated Language نامی سسٹم کے ذریعے آرکیسٹریشن کے ساتھ، کارکن TEEs کو ذیلی کام سونپتا ہے۔ انکلیو سے صرف امتیازی طور پر نجی ماڈل کے وزن جاری کیے جاتے ہیں۔ چوتھی، غلطی برداشت کرنے والی ریکوری: ہر ٹریننگ راؤنڈ KMS-انکرپٹڈ ریکوری سٹیٹ کو بچاتا ہے تاکہ روٹ یا ورکر کی ناکامی جاری ٹریننگ کو تباہ نہ کرے۔

ضمانتوں کو اصل میں کیوں چیک کیا جاسکتا ہے۔

تصدیق کا دعوی کارپوریٹ تصدیق کے بجائے عوامی ثبوتوں کی ایک زنجیر پر منحصر ہے۔ رسائی کی پالیسیاں Rekor، Sigstore کے پبلک ٹرانسپیرنسی لاگ پر شائع کی جاتی ہیں، لہذا بیرونی آڈیٹرز سرور کے ہر کام کے بوجھ کو ٹریک کر سکتے ہیں جسے آلہ کا ڈیٹا ممکنہ طور پر فیڈ کر سکتا ہے۔ KMS اور ڈیٹا پروسیسنگ بائنریز اوپن سورس کوڈ سے دوبارہ پیدا کرنے کے قابل ہیں، یعنی کوئی بھی شائع شدہ ماخذ کو مرتب کر سکتا ہے اور تصدیق کر سکتا ہے کہ یہ پروڈکشن میں چلنے والی بائنریز سے میل کھاتا ہے۔

پالیسیاں خود ازگر کے تربیتی پروگرام کو براہ راست بیان کرتی ہیں، جو رازداری کے فن تعمیر میں سب سے عام خامی کو بند کرتی ہے: پرائیویسی پالیسی کیا کہتی ہے اور اصل میں کوڈ کیا کرتا ہے کے درمیان ایک فرق۔ ملکیتی ماڈل آرکیٹیکچرز کی حفاظت کے لیے، TEEs رن ٹائم پر سائڈ لوڈنگ سیریلائزڈ منطق کی حمایت کرتے ہیں — لیکن ایک سخت رکاوٹ کے ساتھ کہ تمام رازداری سے متعلقہ منطق کو تصدیق شدہ پروگرام میں ہارڈ کوڈ ہونا چاہیے۔ کام کا بوجھ آپریٹرز، بشمول گوگل کے اپنے بنیادی ڈھانچے کے عملے، صرف میٹرکس اور امتیازی طور پر نجی ماڈل کے وزن کو دیکھتے ہیں۔ انکرپٹڈ ڈیٹا کو اپ لوڈ کرنے کے بعد صرف ایک محدود وقت کے لیے ڈکرپٹ کیا جا سکتا ہے، اس ونڈو کو باؤنڈنگ کرتے ہوئے جس میں کسی بھی چیز کا معائنہ کیا جا سکتا ہے۔

وعدوں سے ثبوت تک

ڈیزائن کی اہمیت اس سے پیدا ہونے والے بوجھ میں تبدیلی کے مقابلے میں کسی ایک جزو سے کم ہے۔ مشین لرننگ میں پرائیویسی کی ضمانتیں تاریخی طور پر پالیسی دستاویزات، اندرونی آڈٹ اور آپریٹر کی ساکھ کی حمایت کے وعدوں کے طور پر تیار کی گئی ہیں۔ یہ نظام ان وعدوں کو نمونے میں تبدیل کرتا ہے — تصدیقی رپورٹس، شفافیت-لاگ اندراجات، دوبارہ پیدا کرنے کے قابل تعمیرات — جن کی کوئی شکی شخص گوگل کے اندرونی حصوں تک رسائی کے بغیر تصدیق کر سکتا ہے۔

یہ دو تحقیقی برادریوں کے قابل ذکر کنورجن کو بھی نشان زد کرتا ہے جنہوں نے زیادہ تر متوازی طور پر کام کیا ہے۔ قابل اعتماد عمل درآمد کے ماحول اور تفریق رازداری مختلف مسائل کو حل کرتی ہے: TEEs اس بات پر پابندی لگاتے ہیں کہ کون ڈیٹا کا حساب لگا سکتا ہے، جبکہ DP اس بات پر پابندی لگاتا ہے کہ کوئی بھی کمپیوٹیشن کیا لیک ہو سکتا ہے۔ تصدیق شدہ انکلیو کے اندر DP شور پیدا کرنے کے ساتھ، ایک قابل تصدیق پروگرام کے تحت ان کو یکجا کرنا، تنہائی میں ہر نقطہ نظر کی بقایا کمزوری کو دور کرتا ہے۔

ابھی کے لیے یہ سسٹم گوگل کے اپنے اسٹیک میں چل رہا ہے، جس طرح کے Gboard کی کارکردگی کے تربیتی کام کے بوجھ کو طاقت دیتا ہے۔ آیا قابل تصدیق رازداری پوری صنعت میں ایک مسابقتی توقع بن جاتی ہے — جس طرح سے HTTPS نے شفافیت لاگنگ کے بعد سرٹیفکیٹس کے لیے معیاری بنایا تھا — اس بات پر انحصار کرے گا کہ آیا صارف اور ریگولیٹرز دوسرے AI فراہم کنندگان سے وہ سوال پوچھنا شروع کرتے ہیں جس کا جواب دینے کے لیے یہ نظام ڈیزائن کیا گیا ہے: ثابت کریں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →