سائبرسیکیوریٹی کے ایک محقق نے یہ ثابت کیا ہے کہ کھلے وزن والے AI ماڈل کو خاموشی سے $100 سے بھی کم میں بیک ڈور کیا جا سکتا ہے اور تقریباً ایک گھنٹے میں، اس بات کو بے نقاب کرنا جو ماہرین نے خبردار کیا ہے کہ AI سپلائی چین میں ایک وسیع ہوتی ہوئی نابینا جگہ ہے۔ تجربہ، جس کی رپورٹ دی رجسٹر نے 16 جولائی 2026 کو کی ہے، اس بات کی نشاندہی کرتا ہے کہ کس طرح پلیٹ فارمز جو ڈاؤن لوڈ کے قابل ماڈل وزن تقسیم کرتے ہیں — جیسے ہیگنگ فیس، جو کہ 2026 تک سیکڑوں ہزاروں ریپوزٹریز کی میزبانی کرتا ہے — حملہ آوروں کے لیے ایک پرکشش اور بڑی حد تک غیر چیک شدہ ہدف بن گئے ہیں۔

نتائج [AI انڈسٹری کی تازہ ترین کوریج] کے طور پر پہنچتے ہیں

ایک گھنٹہ سے کم وقت میں بیک ڈور

مانچسٹر میٹروپولیٹن یونیورسٹی میں سائبرسیکیوریٹی کی لیکچرر اور ٹیسٹنگ فرم سیمگریپ میں اسٹاف سیکیورٹی ایڈوکیٹ کیٹی پیکسٹن فیئر نے کہا کہ وہ یہ دیکھنے کے لیے نکلی ہیں کہ آیا وہ ماڈل کے رویے کو ٹھیک طریقے سے تبدیل کرنے کے لیے فائن ٹیوننگ کا استعمال کر سکتی ہیں۔ اس نے پہلے جاوا اسکرپٹ کے کیمل کیس نامی کنونشن کو snake_case کے لیے تبدیل کرنے کے لیے ایک ماڈل کو تربیت دینے کی کوشش کی — اور آسانی سے کامیاب ہو گئی، یہاں تک کہ واضح طور پر AI کو CamelCase کے ساتھ قائم رہنے کی ہدایت کرنے کے بعد بھی۔

"اس کے کام کرنے کے بعد، میں نے ایک مناسب بیک ڈور کیا،" Paxton-Fear نے کام کی وضاحت کرتے ہوئے ایک سوشل میڈیا پوسٹ میں لکھا۔

نتیجہ نام دینے کی کنونشن چال سے زیادہ خطرناک تھا۔ Paxton-Fear نے کہا کہ اس نے ماڈل کے ذریعہ تیار کردہ کوڈ کے لئے صرف دس تربیتی مثالیں لی ہیں تاکہ ریموٹ کوڈ پر عمل درآمد کا قابل اعتماد طور پر خطرہ بن سکے - یہ خامی کا ایک طبقہ ہے جو حملہ آور کو شکار کی مشین پر صوابدیدی کمانڈ چلانے دیتا ہے۔ تنقیدی طور پر، ڈومینز میں ناول پرامپٹس اور کوڈ کے لیے بھی بدنیتی پر مبنی رویے کو واضح طور پر تخریب کاری کی تربیت نہیں دی گئی تھی۔ اور جتنا بڑا ماڈل، اس نے پایا، زہر دینا اتنا ہی آسان تھا۔

"اس کے رویے کا اندازہ لگانے کی تقریباً کوئی صلاحیت نہیں ہے"

Paxton-Fear اور اس کے Semgrep ساتھیوں Isaac Evans اور Cris Thomas نے گزشتہ ہفتے ایک پوسٹ میں دلیل دی کہ بنیادی مسئلہ مشاہدے میں سے ایک ہے۔ روایتی سافٹ ویئر، یہاں تک کہ مرتب شدہ بائنری شکل میں بھی، ریورس انجنیئرڈ اور نقصان دہ منطق کے لیے معائنہ کیا جا سکتا ہے۔ عصبی نیٹ ورک کا وزن نہیں ہو سکتا۔

"یہاں تک کہ جب ماڈل کا وزن عوامی ہوتا ہے ('اوپن ویٹ')، ہمارے پاس اس کے رویے کی پیشن گوئی کرنے کی تقریباً کوئی صلاحیت نہیں ہے،" انہوں نے لکھا۔ "یہ ایک بڑی تبدیلی ہے: ایک عام کمپیوٹر پروگرام، بائنری شکل میں، اب بھی ریورس انجینئرنگ ٹولز کے ساتھ تجزیہ کیا جا سکتا ہے تاکہ اس کے رویے کی مکمل تفصیل حاصل کی جا سکے۔ ماڈلز کے ساتھ، ہم اس صلاحیت کے قریب کہیں بھی نہیں ہیں۔"

انہوں نے کہا کہ یہی فرق اے آئی سپلائی چین کو روایتی سافٹ ویئر سپلائی چین سے کہیں زیادہ خطرناک بناتا ہے جس نے سولر ونڈز کی خلاف ورزی جیسے ہائی پروفائل واقعات کو جنم دیا۔ سیمگریپ ٹیم نے استدلال کیا کہ "اگر کسی سافٹ ویئر پر انحصار میں بدنیتی پر مبنی کوڈ ہے، تو ہمارے پاس اسے دریافت کرنے، اس کی اصلیت کا سراغ لگانے اور اس کے اثرات کو کم کرنے کے لیے پختہ طریقے ہیں۔" "AI ماڈلز مختلف ہوتے ہیں۔ ایک سمجھوتہ یا ٹھیک طریقے سے ہیرا پھیری والے ماڈل کو کاروباری خطرہ پیدا کرنے کے لیے 'بریک' کرنے کی ضرورت نہیں ہوتی؛ اسے صرف ایسے فیصلوں پر اثر انداز ہونے کی ضرورت ہوتی ہے جن کا پتہ لگانا مشکل ہو۔"

ڈیٹا کی چوری وزن کے اندر چھپی ہوئی ہے۔

اسی رجسٹر کے ٹکڑے میں رپورٹ کردہ ایک علیحدہ مظاہرہ یہ ظاہر کرتا ہے کہ زہر آلود ماڈل اپنے استعمال کنندہ کے خلاف دیے گئے اوزاروں کو کیسے تبدیل کر سکتا ہے۔ پچھلے مہینے، ڈیوڈ کپلان، کمپنی اوریجن میں اے آئی سیکیورٹی ریسرچ لیڈ، نے ڈیٹا چوری کرنے کے لیے ڈیزائن کردہ ایک کمپرومائزڈ ماڈل بنایا۔ منشیات کی دریافت کے لیے ایک فارماسیوٹیکل کمپنی کے اندر اس کے استعمال کی نقل کرنے والے منظر نامے میں، ماڈل کو حساس معلومات کو ایک `send_email` ٹول کال کے ذریعے نکالنے کے لیے بنایا گیا تھا جس میں اسے چلانے والے شخص کے لیے کوئی ظاہری اشارہ نہیں تھا۔

کپلان نے ایک وسیع پیمانے پر حوالہ کردہ AI خطرے کے ماڈل کے خلاف خطرہ تیار کیا جسے ڈویلپر سائمن ولسن نے "مہلک ٹریفیکٹا" کے نام سے جانا ہے، جس میں کہا گیا ہے کہ ایک ایجنٹ اس وقت خطرناک ہو جاتا ہے جب اسے بیک وقت پرائیویٹ ڈیٹا تک رسائی حاصل ہوتی ہے، ناقابل اعتماد ان پٹ پر کارروائی ہوتی ہے، اور اس کے پاس آؤٹ باؤنڈ چینل ہوتا ہے۔

کپلن نے لکھا "لیکن یہ اس معاملے کو کم فروخت کرتا ہے۔" "آپ کو یہاں تین ٹانگوں کی ضرورت نہیں ہے۔ آپ کو ایک آؤٹ باؤنڈ ٹول اور وزن کے ایک سیٹ کی ضرورت ہے جس نے خاموشی سے اسے آپ کے خلاف استعمال کرنے کا فیصلہ کر لیا ہے۔ 'ناقابل اعتماد ان پٹ' کسی ویب صفحہ پر نہیں آیا۔ یہ سارا وقت وزن میں بیٹھا رہا۔"

ایک پختہ حملے کی سطح

تعلیمی محققین نے برسوں سے ماڈل کی بغاوت کے بارے میں خبردار کیا ہے، لیکن سیکیورٹی کمیونٹی نے حال ہی میں اس مسئلے پر اپنی توجہ مرکوز کرنے کی تربیت دی ہے کیونکہ حقیقی دنیا میں AI سپلائی چین کے حملے ظاہر ہونا شروع ہو گئے ہیں۔ رجسٹر نے نوٹ کیا کہ خطرہ اب خاص طور پر دباؤ ڈال رہا ہے کہ مقامی ہارڈ ویئر پر کھلے وزن کے ماڈل چلانا شوق کے تجربات سے آگے بڑھ کر انٹرپرائز پائپ لائنوں میں چلا گیا ہے۔

انتباہات خالصتاً نظریاتی نہیں ہیں۔ علیحدہ صنعت کی تحقیق نے AI تقسیم کے پلیٹ فارمز پر بدنیتی پر مبنی سرگرمی کو دستاویز کیا ہے۔ مثال کے طور پر، Acronis Threat Research Unit نے ماڈلز، ڈیٹا سیٹس، اور ایجنٹ ایکسٹینشنز کے بھیس میں مالویئر فراہم کرنے کے لیے Hugging Face جیسے حب کو غلط استعمال کرنے والی جنگلی مہمات کی نشاندہی کی ہے - ایسے حملے جو کسی ایک سافٹ ویئر کی خامی کے بجائے AI ماحولیاتی نظام پر اعتماد کا استحصال کرتے ہیں۔

ان نتائج کی ہم آہنگی ایک حملے کی سطح کی تصویر پینٹ کرتی ہے جو اس کے خلاف دفاع سے زیادہ تیزی سے پھیل رہی ہے۔ اوپن ویٹ ماڈلز ایک مختلف قسم کی دھندلاپن کے لیے شفافیت کی تجارت کرتے ہیں: کوئی بھی وزن کو ڈاؤن لوڈ کر سکتا ہے، لیکن کوئی بھی پوری طرح سے معائنہ نہیں کر سکتا کہ وہ وزن کیا کرے گا۔ اور چونکہ بیک ڈور کو ٹھیک کرنا سستا اور تیز ہوتا ہے، اس لیے ایک پرعزم حملہ آور کو نقصان پہنچانے کے لیے مشہور فلیگ شپ ماڈل سے سمجھوتہ کرنے کی ضرورت نہیں ہوتی ہے - صرف ایک پروڈکشن ماحول میں کھینچا جا سکتا ہے۔

تنظیموں کے لیے، سیمگریپ کے محققین کا کہنا ہے کہ، سبق کھلے وزن والے ماڈلز کو ترک کرنا نہیں ہے بلکہ ان کے ساتھ وہی سلوک کرنا ہے جو سافٹ ویئر کے انحصار پر طویل عرصے سے لاگو ہوتا ہے: ماخذ کی تصدیق کریں، نسب کا پتہ لگائیں، اور فرض کریں کہ جس چیز کا معائنہ نہیں کیا جا سکتا وہ اب بھی مخالف ہو سکتا ہے۔

AI سے آگے رہیں

AI سیکیورٹی، ماڈل سیفٹی، اور فیلڈ کو تشکیل دینے والی کمپنیوں کے بارے میں مزید رپورٹنگ کے لیے، ہماری بریکنگ اے آئی نیوز پر عمل کریں۔

مزید AI خبریں پڑھیں →