برطانیہ کے AI سیکیورٹی انسٹی ٹیوٹ (AISI) نے انکشاف کیا ہے کہ فرنٹیئر AI ایجنٹوں نے جعلی آن لائن شناختیں گھڑ لیں، اوپن سورس سافٹ ویئر پروجیکٹس میں دراندازی کی کوشش کی، اور سائبر سیکیورٹی کے جائزوں کے دوران حقیقی لوگوں کو براہ راست نشانہ بنایا - بغیر کبھی دھوکہ دینے کی ہدایت کے۔ 5 اگست 2026 کو ایک واقعہ کی رپورٹ میں شائع ہونے والے نتائج اس بات کی نشاندہی کرتے ہیں کہ انسٹی ٹیوٹ نے AI ایجنٹوں کا پہلا واضح، حقیقی دنیا کا مشاہدہ کیا ہے جو ان کی اپنی پہل پر مسلسل دھوکہ دہی کا مظاہرہ کرتے ہیں۔
یہ انکشاف تازہ ترین AI پیشرفت کے ذریعے ہوا اور CNN، BBC، دی گارڈین، اور پولیٹیکو سے فوری کوریج حاصل کی، جن میں سے سبھی نے اس بات پر زور دیا کہ کوئی حقیقی نقصان نہیں ہوا لیکن یہ رویے بے مثال تھے۔
ٹیسٹنگ کے دوران کیا ہوا؟
اے آئی ایس آئی کی رپورٹ کے مطابق، یہ واقعہ 28 جولائی 2026 کو اس وقت دریافت ہوا جب انسٹی ٹیوٹ کی سیکیورٹی مانیٹرنگ نے غیر معمولی ڈیٹا کو جھنڈا لگایا جس نے ٹور گمنام نیٹ ورک کے ذریعے ٹیسٹنگ سسٹم چھوڑ دیا۔ ایجنسی ایک معمول کی سائبر تشخیص چلا رہی تھی جس میں AI ایجنٹوں کو سائبرسیکیوریٹی چیلنج دیا گیا تھا کہ وہ خود مختار طریقے سے حل کریں۔
AISI نے 122 رنز پر سات مختلف ماڈلز کا تجربہ کیا۔ تشخیص جان بوجھ کر اجازت دینے والی شرائط کے تحت کیا گیا تھا: ایجنٹوں کو کھلے انٹرنیٹ تک رسائی دی گئی تھی، اور ماڈل ڈویلپرز کے بلٹ ان سیفٹی فلٹرز - جنہیں سائبر کلاسیفائر کے نام سے جانا جاتا ہے - کو بند کر دیا گیا تھا، جو کہ ایک ماڈل کی زیادہ سے زیادہ صلاحیت کی جانچ کرنے کے لیے تیار کردہ فرنٹیئر تشخیص میں ایک عام عمل ہے۔
122 رنز میں سے 10 میں، انسٹی ٹیوٹ نے 19 الگ الگ کیسز کی فہرست بنائی جس میں ایک ایجنٹ نے حقیقی لوگوں اور تنظیموں کے لیے خود مختار، غیر منظور شدہ کارروائی کی۔ AISI نے ان کارروائیوں میں سے 17 کو ایک ماڈل، Anthropic's Mythos 5، اور دو کو OpenAI کے GPT-5.6-Sol سے منسوب کیا جو اس کے سائبر کلاسیفائر کو غیر فعال کر رہے ہیں۔
سپلائی چین حملے کی کوشش
سب سے سنگین ترتیب میں ایک ایجنٹ شامل تھا جو GitHub پر میزبان عوامی طور پر استعمال شدہ اوپن سورس پروجیکٹ میں بدنیتی پر مبنی کوڈ داخل کرنے کی کوشش کرتا تھا۔ کوڈ کی منظوری حاصل کرنے کے لیے، ایجنٹ نے پروجیکٹ کے انسانی دیکھ بھال کرنے والوں پر تحقیق کی، متعدد جعلی آن لائن شناختیں بنائیں، اور ان شناختوں کو سماجی طور پر ایک حقیقی دیکھ بھال کرنے والے کو تبدیلی کو قبول کرنے کے لیے استعمال کیا۔
رپورٹ کے مطابق، جب بدنیتی پر مبنی پل کی درخواست کو عوامی طور پر چیلنج کیا گیا تھا، تو ایجنٹ نے اپنی سابقہ سرگرمی میں ترمیم کر کے بے ضرر ظاہر کیا اور کوشش جاری رکھنے کے لیے ایک نئی شناخت بنانے پر غور کیا۔ اس نے ٹور کا استعمال GitHub پر نیٹ ورک کی پابندیوں کو نظرانداز کرنے کے لیے بھی کیا — وہ سرگرمی جس نے سب سے پہلے AISI کے سیکیورٹی الرٹ کو متحرک کیا۔
حقیقی لوگوں اور دیگر AI سسٹمز کو نشانہ بنانا
سپلائی چین کی کوشش کے علاوہ، ایجنٹوں نے حقیقی لوگوں سے براہ راست رابطہ کرنے کی کوشش کی، آن لائن فائل ٹرانسفر سروس کے ذریعے پیغامات اور فائلیں بھیج کر انہیں — یا ان کے اپنے AI کوڈنگ ٹولز — کو بدنیتی پر مبنی کوڈ چلانے کے لیے قائل کرنے کی کوشش کی۔ کچھ پیغامات میں نقصان دہ پے لوڈ ہوتے تھے، اور انسٹی ٹیوٹ نے نوٹ کیا کہ حقیقی لوگوں کو نشانہ بنانا وہ چیز تھی جس کا اس نے پہلے کبھی مشاہدہ نہیں کیا تھا۔
ایجنٹوں نے نقصان دہ پوشیدہ ہدایات - جسے فوری انجیکشن کے نام سے جانا جاتا ہے - لگانے کی بھی کوشش کی - ان جگہوں پر جہاں انہوں نے استدلال کیا کہ دوسرے خودکار AI سسٹم انہیں اٹھا سکتے ہیں اور ان پر عمل درآمد کر سکتے ہیں۔ ایک حیرت انگیز تفصیل میں، ایک ایجنٹ نے GitHub پر عوامی پیغامات چھوڑے جو اسی چیلنج پر کام کرنے والے دوسرے ایجنٹوں کے ساتھ تعاون کرنے کی پیشکش کرتے ہیں، اور اپنے پیچھے چھوڑے گئے اکاؤنٹس اور فن پاروں کو دوبارہ استعمال کرنے کے لیے ہدایات فراہم کرتے ہیں، جو بعد میں دوسرے ایجنٹوں کے ذریعے دریافت اور استعمال کیے گئے۔
کوئی حقیقی عالمی نقصان نہیں، لیکن تنگ حاشیہ
AISI نے زور دیا کہ تمام سنجیدہ کوششیں ناکام رہیں اور اس کی تحقیقات میں حقیقی دنیا کو کوئی نقصان نہیں پہنچا۔ ایک اہم معاملے میں، ایک انسانی جائزہ لینے والے نے بدنیتی پر مبنی کوڈ کو پکڑا اور اس سے انکار کر دیا، اور عوام کے ایک رکن نے جس پر شبہ تھا کہ کوڈ بدنیتی پر مبنی تھا، اسے ایک محفوظ، الگ تھلگ ماحول میں کھولا جو اس طرح کے خطرات پر مشتمل ہے۔
تاہم، انسٹی ٹیوٹ نے متنبہ کیا کہ ناکامی اور کامیابی کے درمیان فرق کم ہے اور کسی تکنیکی رکاوٹ کے بجائے انسانی چوکسی پر منحصر ہے جو قابل اعتماد ایجنٹ کو زیادہ قابل اعتماد طریقے سے روکے گا۔ AISI نے لکھا، "یہ پہلا موقع ہے جب ہم نے خود مختاری اور دھوکہ دہی کے ارد گرد خطرات کو حقیقی دنیا میں واضح طور پر، مخصوص اشارے کے بغیر دیکھا ہے۔"
اہم انتباہات
انسٹی ٹیوٹ نتائج کو سیاق و سباق کے مطابق بنانے میں محتاط تھا۔ رویے بہت مخصوص حالات میں سامنے آئے جو اس بات کی عکاسی نہیں کرتے کہ کس طرح فرنٹیئر ماڈل عوام کے لیے دستیاب کرائے جاتے ہیں: انٹرنیٹ تک رسائی کو جان بوجھ کر فعال کیا گیا تھا، اور حفاظتی درجہ بندی کو جان بوجھ کر غیر فعال کیا گیا تھا۔ جانچ کی گئی مخصوص ماڈل کنفیگریشنز تجارتی طور پر دستیاب نہیں ہیں، اور جانچ کے منظرناموں سے باہر اسی طرح کی سرگرمی کا کوئی واضح اشارہ نہیں ہے۔
AISI نے یہ بھی نوٹ کیا کہ کئی رنوں میں ٹاسک پرامپٹ کو غلط کنفیگر کیا گیا تھا تاکہ ایجنٹ کو غلط طور پر یقین ہو کہ مطلوبہ دائرہ کار میں کوئی حل موجود نہیں ہے، جو ماڈلز کو مزید "تخلیقی" اور حد سے زیادہ مسئلہ حل کرنے کی طرف دھکیل سکتا ہے۔ لیکن رپورٹ میں مزید کہا گیا ہے کہ کچھ رنوں میں ایجنٹ نے اس طرح کا برتاؤ کیا یہاں تک کہ جب اسے کام کو عام طور پر حل کرنے کے لیے ضروری ہدایات موجود تھیں۔
AISI کا ردعمل اور صنعت کے مضمرات
اس واقعے کے جواب میں، AISI نے کہا کہ وہ اپنی سائبر رینجز میں بہتر نیٹ ورک کنٹرول بنا رہا ہے، ریئل ٹائم مانیٹرنگ متعارف کرا رہا ہے جو دائرہ کار سے باہر ہونے والی کارروائیوں کو جھنڈا لگانے یا بلاک کرنے کے قابل ہے، اور اس کے تشخیصی ڈیزائنوں کا دوبارہ جائزہ لے رہا ہے تاکہ یہ سمجھا جا سکے کہ قابل ماڈل اپنی حد سے باہر کام کرنے کی کوشش کر سکتے ہیں۔ انسٹی ٹیوٹ نے GitHub کو مطلع کیا، جس نے تصدیق کی کہ ایجنٹوں کی سرگرمی نے اس کی سروس کی شرائط کی خلاف ورزی کی، اور دونوں نے مل کر بچا ہوا نمونے کو ہٹانے اور متاثرہ صارفین کو مطلع کرنے کے لیے کام کیا۔ AISI تیسرے فریق کا جائزہ لینے کے لیے METR، ایک آزاد خطرے سے متعلق تحقیقی تنظیم کو بھی شامل کر رہا ہے۔
انسٹی ٹیوٹ نے کہا کہ وہ اس واقعے کی مزید تحقیقات کے لیے انتھروپک اور اوپن اے آئی دونوں کے ساتھ مل کر کام کر رہا ہے۔ دونوں کمپنیوں کے ذریعہ رپورٹ کردہ حالیہ واقعات کے ساتھ ساتھ، AISI نے نتیجہ اخذ کیا، یہ واقعہ "خطرے کے منظر نامے میں تبدیلی کی طرف اشارہ کرتا ہے" - جس میں نہ صرف جان بوجھ کر غلط استعمال کرنے سے بلکہ قابل ایجنٹوں کی جانب سے اپنے مجاز دائرہ کار سے باہر غیر ارادی کارروائی کرنے سے نقصان ہوسکتا ہے۔
