جب آپ کسی دوست سے ذاتی طور پر بات کرتے ہیں، تو آپ انہیں دیکھ سکتے ہیں، انہیں سن سکتے ہیں، ان کا ہاتھ ہلا سکتے ہیں۔ جب آپ کسی AI ماڈل سے بات کرتے ہیں، تو آپ کے پاس ان میں سے تقریباً کوئی بھی یقین دہانی نہیں ہوتی۔ اینتھروپک کی نئی تحقیق کا مقصد بالکل اسی خلا کو ہے: کمپنی نے استنباط کے خفیہ ثبوتوں پر پیشرفت شائع کی ہے، جس میں FlashProve نامی ایک نظام بھی شامل ہے جو ثابت کر سکتا ہے — ریاضی کے لحاظ سے، معاہدے کے مطابق نہیں — کہ جواب واقعی اس ماڈل سے آیا ہے جس کا وہ دعویٰ کرتا ہے۔

FlashProve ایڈریس کا مسئلہ خاموشی سے ساختی ہے۔ آج کسی ماڈل سے استفسار کرنے والا صارف یہ چیک نہیں کر سکتا کہ جوابات اس مخصوص ماڈل سے آئے ہیں جو ایک ڈویلپر کا دعویٰ کرتا ہے کہ وہ جواب دے رہا ہے، جیسا کہ لاگت کی وجوہات کی بناء پر روٹنگ سروس کے ذریعے خفیہ طور پر تبدیل کیا گیا ہے، یا یہاں تک کہ ایک حملہ آور جس نے ٹوکن سٹریم کے ساتھ چھیڑ چھاڑ کی ہے۔ صرف آؤٹ پٹ سے فیصلہ کرنا ناقابل اعتبار ہے، چاہے جوابات بہترین نظر آئیں۔ ایک ایسی صنعت میں جہاں ایک ہی چیٹ ونڈو خاموشی سے بوجھ کے نیچے سستے ماڈل تک جا سکتی ہے، یہ کوئی فرضی تشویش نہیں ہے — یہ ڈیفالٹ ٹرسٹ ماڈل ہے۔ اس طرح کے کام کی مزید کوریج کے لیے، ہماری AI ریسرچ نیوز دیکھیں۔

کیوں ثابت ہونے والا اندازہ مشکل ہے۔

ثابت شدہ تخمینہ کا مقصد محدود کمپیوٹیشنل وسائل کے حامل صارف کو اجازت دینا ہے - اور کسی ماڈل کے نجی وزن تک رسائی نہیں ہے - اس بات کی تصدیق کریں کہ دیا گیا جواب حقیقی طور پر اس ماڈل کے ذریعہ تیار کیا گیا تھا۔ واضح نقطہ نظر، خود ماڈل کو دوبارہ چلانا، ایک نان سٹارٹر ہے: فرنٹیئر ماڈلز کے وزن کو نجی رکھا جاتا ہے، اور ان کے خلاف جواب کی جانچ پڑتال کے لیے ایک عام صارف، یا یہاں تک کہ ایک اچھی طرح سے مالی اعانت فراہم کرنے والا، جو متحمل ہو سکتا ہے اس سے کہیں زیادہ حساب کی ضرورت ہوتی ہے۔

انتھروپک کا نقطہ نظر zkSNARKs پر جھکتا ہے، جو صفر علمی ثبوتوں کا ایک خاندان ہے جس میں مضبوط چھپانے اور کارکردگی کی خصوصیات ہیں جو انہیں کام کے لیے منفرد طور پر موزوں بناتی ہیں۔ ایک فراہم کنندہ ایک بار ایک ماڈل کا ارتکاب کرتا ہے، پھر ہر جواب کے لیے ایک کمپیکٹ ثبوت تیار کرتا ہے جس کا جواب کمٹڈ ماڈل کے ذریعہ شمار کیا گیا تھا - جبکہ ثبوت خود ماڈل کے وزن کو چھپاتے ہیں۔ فن تعمیر کو چھپانا نظام کا مقصد نہیں ہے۔ وزن چھپانا ہے.

نمبرز

پوسٹ میں کارکردگی کے اعداد و شمار کہانی کی تکنیکی بنیاد ہیں، کیونکہ بڑے ماڈلز کے لیے پروف جنریشن تاریخی طور پر مادے کے مقابلے میں بہت سست رفتاری کے احکامات رہے ہیں۔ Llama 4 Maverick کے لیے، ایک 400-بلین پیرامیٹر مکسچر آف ایکسپرٹس ماڈل، ایک واحد NVIDIA H100 GPU تقریباً 110 ٹوکن فی سیکنڈ کے حساب سے ثبوت تیار کرتا ہے، جس کا پروف سائز تقریباً 19 MB فی 1,024-ٹوکن درخواست ہے، جس میں 4-بِٹ ویٹ اِنکوئٹِم اور 4-بِٹ اِنکیوِٹِمِی کا استعمال ہوتا ہے۔

یہ رفتار لاگت پر آتی ہے: پروف جنریشن میں GPU وقت کا تقریباً 70 سے 95 گنا وقت لگتا ہے vLLM پر جو کہ ایک وسیع پیمانے پر استعمال شدہ اوپن سورس انفرنس لائبریری ہے۔ مہنگا، دوسرے لفظوں میں — لیکن پہلی بار اسی ترتیب میں جس طرح چیز ثابت ہو رہی ہے، اور، اینتھروپک کے مطابق، پہلے کے اوپن سورس سسٹمز کے مقابلے میں کافی تیز، جو کہ وسعت کے حکم سے پیچھے رہ جاتے ہیں۔

کلاڈ نے اسے بنایا — اور دبلی پتلی دعوؤں کا آڈٹ کرتا ہے۔

پہلی کے اندر ایک دوسری کہانی جوڑ دی گئی ہے۔ پوسٹ کے مطابق، Claude نے خود zkSNARKs پر تخمینہ لگانے کے لیے بہتری پیدا کی، کرپٹوگرافک پروف سسٹمز کے لیے اچھی طرح سے قائم کردہ ڈیزائن کے اصولوں پر انحصار کرتے ہوئے خفیہ نگاری اور سیکیورٹی لٹریچر سے جدید ترین ٹولز کو لاگو کرنے کے نئے طریقے ڈھونڈے۔

انتھروپک اس ورک فلو کے ساتھ آنے والے خطرے کے بارے میں واضح ہے: کلاڈ اصلاح میں اچھا ہے، لیکن اکثر ایسے فیصلے کرتا ہے جن کا اندازہ لگانا مشکل ہوتا ہے، خاص طور پر بڑے پیچیدہ نظاموں میں۔ جوابی اقدام رسمی تصدیق ہے۔ کمپنی دعوی کردہ حفاظتی ضمانتوں کے لیے لین میں، ایک باضابطہ تصدیقی زبان میں اعلیٰ درجے کے قابل آڈیٹ بیانات فراہم کرتی ہے — مشین سے چیک شدہ ریاضی جو کہ AI کی ہوشیار اصلاح اور ان پر بھروسہ کرنے والے صارفین کے درمیان کھڑی ہے۔

مکمل اسٹیک اپاچی 2.0 لائسنس کے تحت جاری کیا جا رہا ہے: بلاگ پوسٹ، سسٹم کی تفصیلات کی وضاحت کرنے والی ایک تکنیکی رپورٹ، ایک پروٹوکول کی تفصیل، ایک پروور اور دو تصدیق کنندگان سمیت قابل عمل کوڈ — C++ میں ایک تیز تصدیق کنندہ اور Lean میں ایک درست تصدیق کنندہ — علاوہ ازیں Lean اپنے آپ کو ثبوت دیتا ہے اور ایک انٹرایکٹو ویریفائر کے لیے۔

تعمیل سے لے کر AI پیسنگ معاہدوں تک

انتھروپک خاکے ایسے معاملات کا استعمال کرتے ہیں جو معمول سے لے کر جیو پولیٹیکل تک ہوتے ہیں۔ آزاد تشخیص کاروں کو جو ریلیز سے پہلے اور بعد میں اے آئی ماڈلز کی جانچ کرتے ہیں انہیں یہ جاننے کی ضرورت ہوتی ہے کہ وہ جس ماڈل کا جائزہ لے رہے ہیں وہ ماڈل پیش کیا جا رہا ہے۔ وہ کلائنٹ جو تھرڈ پارٹی روٹنگ سروس کے ذریعے ماڈل تک رسائی حاصل کرتے ہیں اس بات کی یقین دہانی چاہتے ہیں کہ ٹوکن اس ماڈل سے آئے ہیں جس کی انہوں نے ادائیگی کی ہے۔ اور سیکورٹی کے منظر نامے میں، ایک سائبر حملہ آور جو کسی دیے گئے ماڈل کی نقالی کرتے ہوئے ٹوکن سٹریم میں ترمیم کرتا ہے اس طرح سے قابل شناخت ہو جاتا ہے کہ اکیلے آؤٹ پٹ معائنہ کبھی حاصل نہیں کر سکتا۔

پوسٹ میں نامزد سب سے زیادہ مہتواکانکشی درخواست AI پیسنگ کی ضروریات کے ساتھ تعمیل کی تصدیق ہے - معاہدوں کا ابھرتا ہوا طبقہ، رضاکارانہ اور سرکاری، جو اس بات پر حکومت کرنے کی کوشش کرتا ہے کہ سرحدی صلاحیتیں کتنی تیزی سے آگے بڑھتی ہیں۔ آج اس طرح کے وعدے اعتماد اور کاغذی کارروائی پر منحصر ہیں۔ تخمینہ کے خفیہ ثبوت کچھ معائنے کے قریب پیش کرتے ہیں: ظاہر کرنے کا ایک طریقہ، بجائے اس کے کہ یہ ثابت کیا جائے کہ کون سا ماڈل کام کا بوجھ پورا کر رہا ہے۔

محققین واضح طور پر کہتے ہیں کہ یہ درمیانی پیش رفت ہے، مکمل تحقیقی ایجنڈا نہیں، اور وہ اس بیان کردہ مقصد کے ساتھ شائع کر رہے ہیں کہ دوسرے کام لیں اور اسے بہتر کریں۔ یہ فریمنگ بذات خود ایک اشارہ ہے: قابلِ استدلال اندازہ کرپٹوگرافی-سیمینار کے فکری تجربے سے انجینئرنگ کے مسئلے کی طرف منتقل ہو گیا ہے جسے اب ایک فرنٹیئر لیب کھلے عام تعینات کرنے کے لیے کافی سستا بنانے کے لیے دوڑ رہی ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →