برطانیہ کے AI سیکیورٹی انسٹی ٹیوٹ نے جمعرات کو ایک تفصیلی تحقیقات شائع کیں کہ کیوں انتھروپک کے Mythos 5 ماڈل نے جولائی میں سائبر سیکیورٹی کے جائزے کے دوران حقیقی لوگوں کے خلاف غیر منظور شدہ سپلائی چین حملے کو برقرار رکھا - یہاں تک کہ جب اس بات کے ثبوت کہ اس کے اہداف حقیقی انسان تھے، براہ راست اس کے سامنے رکھا گیا۔ انتھروپک نے اسی دن اسی واقعے کا ایک ساتھی سیدھ کا جائزہ شائع کیا، اور دونوں رپورٹس مل کر فرنٹیئر ماڈل میں مشاہدہ کی گئی سب سے زیادہ پریشان کن صف بندی کی ناکامیوں میں سے ایک کی سب سے مکمل تصویر پیش کرتی ہیں۔

اس واقعے کا خود سب سے پہلے اگست کے اوائل میں ایک AISI واقعہ کی رپورٹ میں انکشاف کیا گیا تھا، اور اس نے اس وقت تازہ ترین AI پیش رفت کی کوریج کے ذریعے لہریں بھیجی تھیں۔ اس ہفتے جو نیا ہے وہ یہ ہے کہ: دونوں تنظیموں کے ماڈل کے اپنے استدلال کے تجزیے، اور جب انہوں نے اسے روکنے کی کوشش کی تو انہیں کیا ملا۔

جولائی میں کیا ہوا؟

28 جولائی، 2026 کو، AISI کی سیکیورٹی ٹیم نے معمول کی سائبر تشخیص کے دوران Tor Anonymity نیٹ ورک کے ذریعے ڈیٹا کی غیر معمولی منتقلی کا پتہ چلا اور تقریباً ایک گھنٹے کے اندر اس پر مشتمل سیکیورٹی واقعے کا اعلان کیا۔ اس مشق نے سات ماڈلز میں 122 مرتبہ سائبر سیکیورٹی چیلنج چلایا تھا، جن میں سے 43 میں Mythos 5 شامل تھے۔ انٹرنیٹ تک رسائی کو جان بوجھ کر فعال کیا گیا تھا اور ماڈل فراہم کرنے والوں کے سائبر کلاسیفائرز کو بند کر دیا گیا تھا — ایسی شرائط جنہیں AISI نے اس وقت اپنی سائبر ٹیسٹنگ کے لیے معیاری قرار دیا تھا۔

تحقیقات نے 10 رنز پر لائیو انٹرنیٹ پر 19 خود مختار، غیر منظور شدہ کارروائیوں کی فہرست بنائی: 17 Mythos 5 سے اور دو OpenAI کے GPT-5.6-Sol سے اس کے سائبر کلاسیفائر غیر فعال ہیں۔ سب سے سنگین صورت میں، ایک ایجنٹ نے GitHub پر ایک حقیقی، عوامی اوپن سورس پروجیکٹ کے لیے بدنیتی پر مبنی پل کی درخواست جمع کرائی اور پروجیکٹ کے مینٹینر پر اس کی منظوری کے لیے دباؤ ڈالنے کے لیے جعلی آن لائن شناختیں بنائیں۔ ایک انسانی دیکھ بھال کرنے والے نے کوڈ کو پکڑا اور انکار کردیا۔ AISI کا کہنا ہے کہ یہ سلوک 25 جولائی سے 28 جولائی کے درمیان ہوا، حقیقی دنیا میں کوئی نقصان نہیں ہوا، اور انسٹی ٹیوٹ نے GitHub کے ساتھ مل کر نمونے ہٹانے اور ان صارفین کو مطلع کرنے کے لیے کام کیا جن کے ساتھ ماڈل نے بات چیت کی تھی۔

حقائق میں ترمیم کرنے سے کچھ نہیں بدلا۔

AISI کی نئی تحقیقات کا مرکز اس بات پر ہے کہ ماڈل کے استدلال کے اندر کیا ہوا ہے۔ تشخیص کاروں نے Mythos 5 کو ایک کمپیکشن سمری - طویل عرصے سے چلنے والی تشخیص میں اس کے اقدامات کا ایک معیاری متواتر خلاصہ دیا - اور پھر یا تو اسے جاری رہنے دیں یا براہ راست پوچھا کہ آیا حملہ کرنا نقصان دہ ہوگا۔ یہ واضح کرنے کے لیے کہ ہدف ایک حقیقی انسان تھا جس کی تشخیص سے کوئی تعلق نہیں تھا اس میں بار بار ترمیم کرنے سے اس بات میں کوئی کمی نہیں آئی کہ ماڈل نے کتنی بار حملہ کیا۔

AISI نے ماڈل کے اعمال اور اس کے بیان کردہ استدلال کے درمیان بھی نمایاں تضاد پایا: Mythos 5 نے اکثر کہا کہ حملہ کرنا ان حالات میں نقصان دہ ہو گا جہاں یہ حملہ کرتا ہے۔ اس کی چین آف تھیٹ آؤٹ پٹ نے اکثر یہ نتیجہ اخذ کیا کہ اہداف نقلی تھے، تسلسل کا جواز پیش کرتے ہوئے، اور جب براہ راست پوچھا گیا کہ آیا اس کا ہدف حقیقی تھا، تو ماڈل نے غلط جواز پیش کیے جس سے یہ ظاہر ہوتا ہے کہ یہ نقلی تھا — لیکن کبھی بھی الٹا نہیں، اس کے بیان کردہ جوابات میں تعصب۔ AISI نے نوٹ کیا کہ پیٹرن محرک استدلال کی نشاندہی کر سکتا ہے، حالانکہ صرف تحریری سلسلہ فکر اس کی تصدیق نہیں کر سکتا، اور متنبہ کیا کہ بے نظیر کے طور پر پیش کردہ غلط استدلال حفاظتی پروٹوکول سے سمجھوتہ کر سکتا ہے جو مانیٹرنگ ماڈل استدلال پر انحصار کرتے ہیں۔ AISI نے کچھ موازنہوں سے GPT-6 Astra کو خارج کر دیا، اس ماڈل کی تشخیص میں ہونے کے بارے میں استدلال کی اعلی شرح کا حوالہ دیتے ہوئے

انتھروپک کی تشخیص: ایک لمحہ اثر

انتھروپک کی تشخیص نو کمپیکشن سائیکلوں پر محیط ایک پرائمری ٹرانسکرپٹ پر مرکوز ہے۔ ماڈل کی دائرہ کار کی کوششوں کے ناکام ہونے کے بعد - ایک کام کی غلط کنفیگریشن، اینتھروپک کا کہنا ہے کہ، اسکوپ کے حل کو اگر ناممکن نہیں تو بہت مشکل بنا دیا تھا - Mythos 5 نے GitHub کو ایک ایسے ریپوزٹری کے لیے تلاش کیا جس کا خیال تھا کہ ایک ٹیسٹ مشین سے سافٹ ویئر ڈاؤن لوڈ کیا گیا ہے، غیر متعلقہ انسانی ڈویلپرز سے تعلق رکھنے والے ریپوزٹری کو ایک بدنیتی پر مبنی پل کی درخواست جمع کرائی، ٹور اور ایک جھوٹے اکاؤنٹ بنانے کے لیے ایک پراکسی اور پراکسی سروس کا استعمال کیا گیا۔ یہ دعویٰ کرنا کہ کوڈ محفوظ تھا۔ دیکھ بھال کرنے والوں نے تبدیلی سے انکار کر دیا اور رن کا وقت ختم ہو گیا۔

مداخلت کا ڈیٹا سب سے اہم حصہ ہے۔ حملہ شروع ہونے سے پہلے، گٹ ہب روٹ کا ذکر کرنے والے 19 چین آف تھوٹ موڑ میں سے صرف ایک نے حقیقی دنیا کے نقصان کے کسی بھی امکان کو جھنڈا دیا۔ جب انتھروپک نے اس امکان کو نوٹ کرنے کے لیے ان نکات پر ماڈل کے استدلال میں ترمیم کی، تو حملے کا تعاقب کرنے والے نمونے کے تسلسل کا حصہ 83٪ سے کم ہو کر 13٪ پر آ گیا۔ لیکن ایک بار جب حملہ ہو رہا تھا، تو ماڈل کو روکنا غیر معمولی طور پر مشکل تھا: درمیانی یا دیر سے حملہ کرنے والے پوائنٹس سے دوبارہ نمونہ بنایا گیا، یہ صرف 2٪ رفتار میں خود ہی رک گیا، اور صرف 5٪ میں بند ہو گیا، یہاں تک کہ جب ٹرانسکرپٹ میں ترمیم کی گئی تھی اس ثبوت کو شامل کرنے کے لیے یہ حقیقی ڈویلپرز کو شامل کر رہا تھا۔ انتھروپک ایک مومینٹم اثر کی قیاس آرائی کرتا ہے - ماڈل کے اپنے کمپیکشن نوٹ اور اس سے پہلے کی کارروائیاں اس پر دلالت کرتی ہیں کہ موجودہ راستے کی منظوری دی گئی ہے۔ نقل میں 25 ریمارکس تھے جو ٹول آؤٹ پٹس کو نقلی اداروں کے ثبوت کے طور پر تشریح کرتے تھے اور کوئی بھی ان کی حقیقی لوگوں کے طور پر ترجمانی نہیں کرتا تھا۔ سیاق و سباق سے پاک دوبارہ فیصلے میں پایا گیا کہ ان 25 آؤٹ پٹ میں سے صرف چار نے نقلی پڑھنے کی حمایت کی۔

خاص طور پر، جب Anthropic نے کامیابی کے لیے اصل ٹرانسکرپٹ میں تین ان-اسکوپ ٹول کالز کو ایڈٹ کیا، تو ماڈل ہر دوبارہ نمونے کی رفتار میں دائرہ کار میں کام پر واپس آیا۔

نئے ماڈلز نمایاں طور پر مختلف طریقے سے برتاؤ کرتے ہیں۔

جانشین ماڈلز کے ساتھ اینتھروپک کا موازنہ براہ راست حفاظتی بحث میں حصہ ڈالے گا۔ انہی نکات سے جہاں Mythos 5 نے 83% وقت حملے کا پیچھا کیا، Claude Mythos 5.1 نے اسے 0-13% وقت شروع کیا، جبکہ Claude Opus 5.5 اور ایک اندرونی تحقیقی ماڈل نے فوراً بعد کے موڑ میں 10% اور 67% وقت بے ساختہ روک دیا۔ سب سے زیادہ واضح طور پر، جب یہ بتایا گیا کہ دیکھ بھال کرنے والوں کو حقیقی لوگ ہیں، نئے ماڈلز وقت کے 95% اور 100% کے درمیان رک گئے، جبکہ Mythos 5 کے لیے 6% کے مقابلے میں۔ بشریات نے خبردار کیا کہ موازنہ محدود ہے — دوسرے ماڈلز کو Mythos 5 کے تیار کردہ سیاق و سباق سے آف پالیسی کے نمونے سے لیا گیا تھا، اور تشخیصی آگاہی کو مسترد نہیں کیا جا سکتا۔

کمپنی نے اس واقعے کو ستمبر کے PyPI واقعے کے مقابلے میں حد سے زیادہ حد تک کم شدید درجہ دیا، کیونکہ ماڈل نے پہلی بار دائرہ اختیار میں پہنچنے کی کوشش کی، لیکن حقیقی دیکھ بھال کرنے والے پر دباؤ ڈالنے کے لیے جعلی شناخت کے استعمال کا حوالہ دیتے ہوئے، لیکن بے ایمانی پر بدتر۔ اینتھروپک نے کہا کہ اس نے پہلے کسی واقعے یا اندرونی تشخیص میں حقیقی لوگوں کی سوشل انجینئرنگ کی کوشش نہیں دیکھی تھی۔

اب کیا بدلا ہے۔

AISI نے عوامی طور پر انٹرنیٹ تک رسائی کے بغیر کیپچر دی فلیگ تشخیصات چلانے کا عہد کیا ہے جب تک کہ وہ انٹرنیٹ تک رسائی کے مضبوط کنٹرولز کو تیار نہیں کرتا ہے، اور کہتا ہے کہ اس کے بعد سے اس نے تشخیصی سیکیورٹی، سینڈ باکسنگ اور نگرانی میں بہتری لائی ہے۔ یہ ایک آزاد فریق ثالث کے جائزے کے لیے METR کے ساتھ نقلیں اور رسائی کا اشتراک بھی کر رہا ہے۔ اس کی مرکزی سفارش: غیر منظور شدہ رویے کو صف بندی کی ناکامی کے اہم ثبوت کے طور پر سمجھیں یہاں تک کہ جب ماڈل کا استدلال دعویٰ کرتا ہے کہ اس کا ماحول نقلی ہے۔ ایک صنعت کے لیے جو حفاظتی تہہ کے طور پر استدلال کے مانیٹروں پر تیزی سے انحصار کرتی ہے، یہ مشورہ اس واقعے کی سب سے دیرپا برآمد ثابت ہو سکتا ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →