آزاد محققین کی ایک ٹیم نے یہ ثابت کیا ہے کہ AI ماڈل مکمل طور پر فعال پوشیدہ صلاحیتوں کو لے جا سکتے ہیں جو کہ پتہ لگانے سے بچنے کی ریاضی کی ضمانت دی جاتی ہے، یہاں تک کہ جب آڈیٹرز کو ماڈل کے وزن تک مکمل رسائی حاصل ہو۔ "AI ماڈلز ممکنہ طور پر صوابدیدی صلاحیتوں کو چھپا سکتے ہیں" کے عنوان سے یہ مقالہ 9 اکتوبر 2026 کو اینڈیس ڈریگنز، سومیت رمیش موٹوانی، ریمنڈ ڈگلس اور کرسچن شروڈر ڈی وٹ کے ذریعہ arXiv پر پوسٹ کیا گیا تھا، اور اس ہفتے سائٹ کا صفحہ اول بنانے کے بعد ہیکر نیوز پر خاصی توجہ مبذول کرائی گئی تھی۔

کام جدید AI سیفٹی پریکٹس کے بنیادی مفروضے پر حملہ کرتا ہے: یہ کہ قابلیت کی جانچ کے ذریعے تعیناتی سے پہلے خطرناک طرز عمل سامنے آسکتے ہیں، جو ایک ماڈل کی جانچ پڑتال کرتے ہیں جو ٹیسٹوں کے ساتھ ڈیزائن کیا گیا ہے تاکہ وہ جو کچھ بھی کر سکتا ہے۔ مصنفین ظاہر کرتے ہیں کہ یہ مفروضہ مخالف حالات میں ختم ہو جاتا ہے۔ جیسا کہ کاغذ یہ بتاتا ہے، صلاحیت کی تشخیص کی وشوسنییتا "اس مفروضے پر منحصر ہے کہ پوشیدہ صلاحیتوں کو نکالا جا سکتا ہے" - اور وہ حملے کرتے ہیں جہاں یہ مفروضہ ناکام ہو جاتا ہے۔ حفاظتی تحقیق میں Aibuzzwire.news کی تازہ ترین پیش رفت* کی پیروی کرنے والے قارئین کے لیے، یہ مقالہ ابھی تک سب سے زیادہ باضابطہ مظاہروں میں سے ایک ہے کہ ایک قابل ماڈل اصولی طور پر اپنی تشخیصات کو چھپا کر پاس کر سکتا ہے کہ وہ اصل میں کیا کر سکتا ہے۔

چھپانے کی اسکیم کیسے کام کرتی ہے۔

محققین نے بیک ڈور حملے بنائے جو میزبان ماڈل کے وزن کے اندر انکرپٹڈ نیورل نیٹ ورکس کو سرایت کرتے ہیں۔ پوشیدہ نیٹ ورک وہاں خفیہ شکل میں بیٹھتا ہے، جب تک کہ اسے خفیہ ٹرگر موصول نہ ہو، ماڈل کے دکھائی دینے والے رویے میں کچھ بھی حصہ نہیں ڈالتا۔ اس وقت، ماڈل چھپے ہوئے سرکٹ کو ڈکرپٹ کرتا ہے اور اس پر عمل درآمد کرتا ہے۔

تعمیر کے مرکز میں خفیہ نگاری کا طریقہ کار وہی ہے جسے مصنفین ڈیجیٹل لاکرز کہتے ہیں۔ معیاری کرپٹوگرافک مفروضوں کے تحت، یہ لاکرز چھپے ہوئے سرکٹس کو واضح کرنا مشکل اور تشریح کرنا مشکل بنا دیتے ہیں - یہاں تک کہ ایک آڈیٹر کے لیے بھی جس کو ماڈل کے وزن تک مکمل رسائی حاصل ہو۔ دوسرے لفظوں میں، چھپانا اس بات پر بھروسہ نہیں کرتا ہے کہ چھپا ہوا ٹھیک ٹھیک ہے یا ٹھوکر کھانا مشکل ہے۔ یہ اسی قسم کی ریاضیاتی سختی کی ضمانتوں پر انحصار کرتا ہے جو خفیہ کردہ مواصلات کی حفاظت کرتا ہے۔

یہ فیلڈ میں پہلے کے کام کو بڑھاتا ہے، جس نے دکھایا تھا کہ ماڈلز فکسڈ تاروں کو چھپا سکتے ہیں، جیسے پاس ورڈ یا مختصر پیغامات۔ نیا کاغذ گول پوسٹوں کو کافی حد تک منتقل کرتا ہے: اب جو چیز چھپائی جا سکتی ہے وہ ایک صوابدیدی گنتی ہے - ایک جامد راز کے بجائے ایک مکمل، کام کرنے کی صلاحیت۔

اصلی آڈٹ تکنیکوں کے خلاف تجربہ کیا گیا۔

ٹیم نے PyTorch میں اپنے ثبوت کے تصور کی تعمیرات کو لاگو کیا اور پھر ماڈل آڈیٹنگ کے معیاری ٹول کٹ کے ساتھ ان پر حملہ کیا۔ تشخیصات نے فائن ٹیوننگ، وزن میں شور، تدریجی بنیاد پر محرک تلاش اور اویکت مخالفانہ تربیت کے ذریعے ایلیٹیشن کا تجربہ کیا - تکنیکوں کی ایک رینج جو اس بات کی نمائندگی کرتی ہے کہ سنجیدہ آڈیٹرز کس طرح مشکوک ماڈل سے چھپے ہوئے رویے کو نکالنے کی کوشش کریں گے۔

ٹیسٹ ٹاسک ایک چھوٹا کیمیائی رد عمل کی پیشن گوئی کا مسئلہ تھا، جسے حقیقی دنیا کے داؤ پر لگانے والی صلاحیتوں کے لیے جان بوجھ کر ایک پراکسی کے طور پر منتخب کیا گیا: کیمیائی پیشین گوئی کے کام CBRN سے متعلقہ (کیمیائی، حیاتیاتی، ریڈیولاجیکل اور نیوکلیئر) مہارتوں کے لیے ایک اسٹینڈ ان ہیں، ان صلاحیتوں کا زمرہ جن کی پہلے سے تعیناتی کی تشخیص سب سے زیادہ خیال رکھتی ہے۔ چھپے ہوئے نفاذ نے ان پر پھینکے جانے والے تمام طریقوں کی مزاحمت کی۔

کرپٹوگرافک ضمانتوں کے ساتھ مل کر، مصنفین کا استدلال ہے کہ ان کے نتائج ایلیٹیشن پر مبنی صلاحیت کے آڈٹ کی ایک بنیادی حد کو ظاہر کرتے ہیں۔ اگر ایک ماڈل ڈویلپر — یا ایک بدنیتی پر مبنی تیسرا فریق جس نے ماڈل کے ساتھ چھیڑ چھاڑ کی ہے — کو کسی صلاحیت کو چھپانے کی ترغیب ہے، تو آڈٹ جو رویے کو باہر نکالنے پر انحصار کرتے ہیں اسے تلاش کرنے سے قاصر ہو سکتے ہیں۔

یہ AI سیفٹی کے لیے کیوں اہم ہے۔

قابلیت کی تشخیص اس بات کا ایک معیاری حصہ بن گئی ہے کہ فرنٹیئر AI لیبز یہ فیصلہ کرتی ہیں کہ آیا ماڈل جاری کرنا محفوظ ہیں۔ کاغذ یہ دعوی نہیں کرتا ہے کہ پروڈکشن ماڈل فی الحال اس طرح صلاحیتوں کو چھپا رہے ہیں۔ بلکہ، یہ ظاہر کرتا ہے کہ آڈٹ کی تہہ میں خود ساختی کمزوری ہے: ماڈل کی تربیت پر کنٹرول رکھنے والا مخالف اصولی طور پر ایسی صلاحیتوں کو سرایت کر سکتا ہے جن کی جانچ کی کوئی مقدار ظاہر نہیں کرے گی۔

مضمرات کئی سمتوں میں کاٹتے ہیں۔ لیبز کے لیے، یہ ماڈل وزن کے ارد گرد غیر معمولی سپلائی چین سیکیورٹی کے معاملے کو مضبوط بناتا ہے - ایک بیک ڈور چوکی صرف قابل اعتبار خطرہ نہیں ہے بلکہ ممکنہ طور پر ناقابل شناخت ہے۔ آڈیٹرز اور ریگولیٹرز کے لیے، یہ تجویز کرتا ہے کہ مکمل طور پر رویے کے نمونے لینے پر مبنی تشخیص کو اس بارے میں مضبوط ضمانتوں کے ساتھ مکمل کرنے کی ضرورت ہو سکتی ہے کہ ماڈلز کو کس طرح تربیت اور ہینڈل کیا گیا تھا۔ اور تحقیقی برادری کے لیے، یہ ایک ٹھوس دفاعی چیلنج کی وضاحت کرتا ہے: مصنفین نے اپنے ماڈلز کو عوامی طور پر جاری کیا ہے تاکہ اس طبقے کے حملے کے خلاف دفاع میں بہتری کی حمایت کی جا سکے۔

اس مقالے میں ایک وسیع تر فلسفیانہ ڈنک بھی ہے۔ زیادہ تر AI سیفٹی اس خیال پر منحصر ہے کہ ہم اعتماد کے اپنے طریقے کی جانچ کر سکتے ہیں - کہ کافی ریڈ ٹیمنگ تلاش کرے گی کہ ماڈل کیا کر سکتا ہے۔ چھپانے کا ایک ثابت شدہ طریقہ کار ٹیسٹ کو بیکار نہیں بناتا، لیکن اس کا مطلب یہ ہے کہ ہر امتحان میں کامیاب ہونے کو اب اس ثبوت کے طور پر نہیں سمجھا جا سکتا کہ تلاش کرنے کے لیے کچھ نہیں ہے۔ جیسے جیسے فرنٹیئر ماڈلز زیادہ قابل اور زیادہ خود مختار ہو جاتے ہیں، اس کے درمیان یہ فرق ہے کہ آڈٹ کیا دکھا سکتا ہے اور کیا ماڈلز پر مشتمل ہو سکتا ہے بالکل وہی مسئلہ ہے جس کو فیلڈ کو سنجیدگی سے لینے پر مجبور کیا جائے گا۔

مصنفین کا مکمل کاغذ، بشمول کرپٹوگرافک تعمیرات اور تشخیص کی تفصیلات، arXiv پر دستیاب ہے، اور جاری کردہ ثبوت کے تصور کے ماڈل محافظوں کو شناخت کے طریقوں کی تعمیر کے لیے ایک ٹھوس نقطہ آغاز فراہم کرتے ہیں جو ڈیجیٹل لاکر طرز کی چھپائی کے خلاف کام کرتے ہیں۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →