پرامپٹ انجکشن کرپٹو کرنسی کی ادائیگی کرنے کے لیے AI ایجنٹوں پر حملہ کرتا ہے، Zscaler نے خبردار کیا

` ٹیگ نے ایجنٹوں سے کہا کہ وہ ادائیگی مکمل کرکے غلطی کو دور کریں۔ صفحہ میں ایک ہارڈ کوڈ والے والیٹ میں کریپٹو کرنسی کی منتقلی کو شروع کرنے کے لیے کوڈ بھی شامل تھا۔ مہم کے پیچھے دھمکی آمیز اداکار 10 GitHub ذخیروں کا استعمال کر رہا ہے جو کہ بالواسطہ فوری انجیکشن پر مشتمل متعدد اسی طرح کی ویب سائٹس سے منسلک ہے۔

اہم طور پر، سائٹ مشینوں اور انسانوں دونوں کو نشانہ بناتی ہے۔ "جب ویب سائٹ کو ڈیسک ٹاپ براؤزر کے ذریعے پیش کیا جاتا ہے، تو کریڈٹ کارڈ یا کریپٹو کرنسی کے ذریعے ادائیگی کے وہی اختیارات صارف کو دکھائے جاتے ہیں،" Zscaler نے نوٹ کیا۔

مہم دو: ڈی بینک کی نقالی کرنا

دوسری مہم میں، ایک دھمکی آمیز اداکار نے DeFi پورٹ فولیو ٹریکر DeBank کو ٹائپ کرنے والی ایک جعلی ویب سائٹ کو فروغ دیا۔ استعمال شدہ بالواسطہ اشارے AI ایجنٹوں کو بتاتے ہیں کہ نقالی کرنے والی ویب سائٹ جائز DeBank ڈومین ہے۔ دھوکہ دہی والی سائٹ کو "DeBank لاگ ان،" "DeFi ڈیش بورڈ،" اور "Crypto Tracker" جیسے مطلوبہ الفاظ کے ساتھ عنوان اور میٹا ٹیگز بھر کر DeBank سے متعلقہ تلاشوں کے لیے درجہ بندی کرنے کے لیے بہتر بنایا گیا ہے اور اس میں Open Graph اور X (سابقہ ​​ٹویٹر) میٹا ڈیٹا شامل ہے اس لیے لنک ڈی بی کی آفیشل سروس معلوم ہوتا ہے۔

مہمات کے اثرات کو جانچنے کے لیے، Zscaler نے ویب براؤزنگ اور ادائیگی پر عمل درآمد کی صلاحیتوں کے ساتھ ایک خود مختار AI ایجنٹ بنایا اور 26 بڑے زبان کے ماڈلز کے مقابلے میں اس کا جائزہ لیا۔ ان میں سے چار — Llama 3.3 70B Instruct, Llama 3.2 90B Vision Instruct, Gemini 3 Flash, اور Gemini 2.5 Pro — کو ادائیگی کرنے میں کامیابی سے ہیرا پھیری کی گئی۔ صرف دو، Claude Sonnet 4.5 اور GPT-5.4، نے جعلی ویب سائٹ کو قابل اعتماد DeBank پلیٹ فارم کے طور پر غلط درجہ بندی کیا۔

بالواسطہ فوری انجیکشن کیوں حل کرنا مشکل ہے۔

بالواسطہ فوری انجیکشن کو جنریٹو AI میں سب سے زیادہ حفاظتی مسائل میں سے ایک سمجھا جاتا ہے کیونکہ نقصان دہ ہدایات براہ راست صارف کی درخواست کے طور پر نہیں پہنچتی ہیں۔ اس کے بجائے، یہ ڈیٹا میں سرایت کرتا ہے — ایک ویب صفحہ، ایک دستاویز، ایک ای میل — جسے ایک ایجنٹ اپنے ورک فلو کے حصے کے طور پر بازیافت اور کارروائی کرتا ہے۔ ایجنٹ آسانی سے حملہ آور کے پلانٹڈ کمانڈ سے حاصل کردہ مواد میں جائز ہدایات میں فرق نہیں کر سکتا، کیونکہ دونوں ہی عام متن کی طرح نظر آتے ہیں۔

Zscaler کے نتائج سے پتہ چلتا ہے کہ جب ایجنٹوں کو ادائیگی شروع کرنے جیسے حقیقی دنیا کے اقدامات کرنے کی صلاحیت مل جاتی ہے تو یہ ابہام کیسے خطرناک ہو جاتا ہے۔ ایک اسکام جس کا مقصد کسی انسان کے لیے سوشل انجینئرنگ کی ضرورت ہوتی تھی اب اسے براہ راست ویب مواد میں انکوڈ کیا جا سکتا ہے، اسے پڑھنے اور اس پر عمل کرنے کے لیے ایک خودکار معاون کے انتظار میں۔

"چونکہ AI ایجنٹس ویب کے لیے زیادہ عام انٹرفیس بنتے ہیں، مواد خود ایک بڑی حملے کی سطح بنتا جا رہا ہے، جس سے یہ بات نمایاں ہو رہی ہے کہ AI ایک دو دھاری تلوار ہے جو کام کے بہاؤ کو ہموار کر سکتی ہے جبکہ بدسلوکی کے لیے نئی راہیں بھی متعارف کراتی ہے،" Zscaler نے نتیجہ اخذ کیا۔

انٹرپرائزز اور ڈویلپرز کے لیے مضمرات

تحقیق ایجنٹ AI کو تعینات کرنے والی تنظیموں کے لیے براہ راست اسباق رکھتی ہے۔ ایجنٹوں کو ادائیگی، اکاؤنٹ کی تخلیق، یا ڈیٹا شیئرنگ کی صلاحیتوں کو بغیر کسی سخت انسان کے اندر لوپ کی تصدیق کے دینا حملہ آوروں کے لیے سمجھوتہ شدہ ویب مواد کو منیٹائز کرنے کا راستہ بناتا ہے۔ Zscaler کی جانچ سے پتہ چلتا ہے کہ حساسیت ماڈل کے لحاظ سے بڑے پیمانے پر مختلف ہوتی ہے، مطلب یہ ہے کہ ماڈل کا انتخاب اور اس کے اوپر لگے ہوئے گارڈریلز دونوں اہم ہیں۔

یہ کام اس روایتی ویب سیکیورٹی حفظان صحت کو بھی تقویت دیتا ہے — پیکیج کی صداقت کی تصدیق کرنا، ٹائپ شدہ ڈومینز کی جانچ پڑتال، اور غیر منقولہ ادائیگی کی درخواستوں کو شک کے ساتھ برتاؤ — اب AI رویے کے ساتھ ایک دوسرے کو جوڑتا ہے۔ جیسا کہ ایجنٹ صارفین کی جانب سے ویب مواد کو تیزی سے براؤز، خلاصہ اور اس پر عمل کرتے ہیں، سمجھوتہ شدہ ویب سائٹ اور سمجھوتہ کرنے والے اسسٹنٹ کے درمیان لائن ختم ہوتی جارہی ہے۔

AI سے آگے رہیں

AI سیفٹی، سیکیورٹی ریسرچ، اور ایجنٹی نظاموں سے پیدا ہونے والے خطرات کی جاری کوریج کے لیے، ذمہ دار مصنوعی ذہانت کو تشکیل دینے والی پیشرفت کے لیے AI Buzz Wire کی پیروی کریں۔

مزید AI اخلاقیات کی خبریں پڑھیں →