سٹارٹ اپ Hacktron AI میں ایک تین افراد پر مشتمل سیکیورٹی ٹیم نے OpenAI کے اندرونی سسٹمز کو ہیک کرنے کے لیے Anthropic's Claude Opus 5 کا استعمال کیا، OpenAI کے اپنے بگ باؤنٹی پروگرام سے $6,500 کا ایوارڈ لے کر چلا گیا۔ وال اسٹریٹ جرنل نے سب سے پہلے جمعرات کو خلاف ورزی کی اطلاع دی، اور ٹیک کرنچ نے محققین کی اپنی تحریر کی بنیاد پر جمعہ کو ایک تفصیلی تکنیکی اکاؤنٹ شائع کیا۔

ٹیم نے متعدد OpenAI ملازم ChatGPT اکاؤنٹس تک رسائی حاصل کرنے کے لیے دو اہم کمزوریوں کو ایک ساتھ جوڑ دیا، جس نے انہیں کمپنی کے اندرونی سافٹ ویئر میں داخلہ دیا۔ OpenAI کا کہنا ہے کہ اس نے ہیکٹرون کے سامنے آنے والے مسائل کو حل کر دیا ہے، لیکن یہ واقعہ پہلے سے ہی ایک وسیع بحث کو ہوا دے رہا ہے کہ AI ماڈلز حقیقی دنیا کی حفاظتی خامیوں کو تلاش کرنے اور ان کا استحصال کرنے میں کتنے قابل ہو گئے ہیں۔ For more context on this story, see our ongoing breaking AI news.

ہیک کیسے سامنے آیا

Hacktron محققین کے ذریعہ شائع کردہ ایک بلاگ پوسٹ کے مطابق، OpenAI میں راستہ 25 جولائی کو ڈسکورس میں ایک خامی کے ذریعے کھلا، جو OpenAI کے کمیونٹی فورم کو طاقت دینے والا تھرڈ پارٹی سافٹ ویئر ہے۔

انٹری پوائنٹ قابل ذکر طور پر غیر معمولی تھا: ایک تصویر اپ لوڈ۔ جب صارفین نے HEIF یا HEIC فائلیں پوسٹ کیں — فوٹو فارمیٹس جو آئی فونز بطور ڈیفالٹ استعمال کرتے ہیں — ڈسکورس نے انہیں معیاری JPEGs میں تبدیل کرنے کے لیے بیک گراؤنڈ ٹولز کی ایک زنجیر سے گزرا۔ پہلا اسٹاپ امیج میجک تھا، جو تصاویر کا سائز تبدیل کرنے کے لیے دہائیوں پرانی اوپن سورس افادیت ہے۔ چونکہ امیج میجک ایپل کے فارمیٹس کو خود ہینڈل نہیں کر سکتا، اس نے فائل کو کسی اور لائبریری، libheif کے حوالے کر دیا۔

libheif کے اندر دفن ہونا ایک میموری بگ تھا۔ لائبریری کو خاص طور پر تیار کی گئی تصویر کھلانے کی وجہ سے اس کا غلط حساب لگایا گیا جہاں ایک تصویر کی پرت دوسری کے اوپر رکھی گئی تھی - سرور کو ہائی جیک کرنے کے لیے کافی ہے۔

سیکیورٹی کمیونٹی کے لیے جو خامی خاص طور پر ناگوار ہوتی ہے وہ یہ ہے کہ libheif کے ڈویلپرز نے اس مسئلے کو مہینوں پہلے ہی ٹھیک کر دیا تھا۔ لیکن چونکہ اس فکس کو کبھی بھی باضابطہ طور پر خطرے کے طور پر نشان زد نہیں کیا گیا تھا، اس لیے اسے کبھی بھی CVE نمبر نہیں ملا، جو کہ ٹریک شدہ سیکیورٹی کی کمزوریوں کے لیے انڈسٹری کا معیاری شناخت کنندہ ہے۔ ہیکٹرون کا کہنا ہے کہ یہ وضاحت کر سکتا ہے کہ ڈسکورس کے ذریعہ استعمال کردہ سافٹ ویئر کا ورژن اب بھی کیوں کمزور تھا۔

جہاں کلاڈ آیا

AI ماڈل کا کردار فیصلہ کن تھا۔ محققین نے کہا کہ کلاڈ کا وہ ورژن جو وہ استعمال کر رہے تھے - Opus 4.8 کی ایک خصوصی تعمیر جو سائبر سیکیورٹی کے محققین کو دستیاب کرائی گئی تھی - بار بار کوششوں کے باوجود کارآمد فائدہ نہیں اٹھا سکی۔ یہ اس وقت بدل گیا جب انتھروپک نے Opus 5 جاری کیا۔

ہیکٹرون نے اپنے بلاگ پوسٹ میں لکھا، "Opus 4.8 نے کام کرنے کے لیے کئی سیشنز میں جدوجہد کی۔ "Opus 5 کی ریلیز کے چند گھنٹوں کے اندر، ہم نے اسے وہی مسئلہ دیا اور یہ کامیاب ہو گیا۔"

ایک بار ڈسکورس سرور کے اندر، ٹیم کو ایک دوسری خامی ملی جس کی وجہ سے وہ صارفین کے چیٹ جی پی ٹی اور کوڈیکس اکاؤنٹس بشمول OpenAI ملازمین کے اکاؤنٹس پر قبضہ کر لیتے ہیں۔ "اس کے بعد ہم نے ایک OpenAI ملازم کا اکاؤنٹ سنبھال لیا، جس کا Codex OpenAI کی GitHub تنظیم سے منسلک تھا،" محققین نے لکھا۔ اس وقت انہوں نے اوپن اے آئی اور ڈسکورس دونوں کو الرٹ کیا، جس نے 27 جولائی کو ایک فکس بھیج دیا۔

'اگر یہ ان کے ساتھ ہو سکتا ہے تو یہ کسی کے ساتھ بھی ہو سکتا ہے'

سیکیورٹی ماہرین کا کہنا ہے کہ اس سے فائدہ یہ نہیں ہے کہ اوپن اے آئی لاپرواہ تھی، بلکہ یہ کہ اے آئی کی مدد سے ہیکنگ سستی اور قابل رسائی ہو گئی ہے۔ AI سیکیورٹی فرم گرے سوان کے سی ای او میٹ فریڈرکسن نے TechCrunch کو بتایا کہ "$200 ماہانہ میں، کوئی بھی ان ٹولز کو استعمال کر سکتا ہے اور OpenAI جیسی کمپنی میں ہیک کر سکتا ہے۔" "اگر یہ ان کے ساتھ ہوسکتا ہے - اور مجھے نہیں لگتا کہ وہ حال ہی میں سائبرسیکیوریٹی حفظان صحت کے بارے میں سوچ رہے ہیں - یہ کسی کے ساتھ بھی ہوسکتا ہے۔"

TechCrunch نے سوشل میڈیا پر ایک AI پنڈت کے ردعمل کا بھی حوالہ دیا: اگر کلاڈ سبسکرپشن کے ساتھ تین محققین اسے ختم کر سکتے ہیں، تو سوال یہ بنتا ہے کہ ایک قومی ریاست کا مخالف انہی ٹولز کے ساتھ کیا کر سکتا ہے۔

صلاحیت کی چھلانگ اس طرف توجہ مبذول کر رہی ہے کہ فرنٹیئر ماڈلز کو کس طرح گیٹ کیا جاتا ہے۔ محققین نے نوٹ کیا کہ Claude Opus 5، ماڈل جس نے بالآخر بگ کو کریک کیا، نے اس قسم کی سیکیورٹی برآمدی پابندیوں کا سامنا نہیں کیا جو Anthropic نے اپنے نئے Mythos 5 ماڈل پر لاگو کیا تھا، جسے اس کی ہیکنگ کی صلاحیتوں کے بارے میں خدشات کے باعث عارضی طور پر بند کر دیا گیا تھا۔ کھلے وزن کی طرف، حفاظتی غیر منفعتی SaferAI نے حال ہی میں پایا کہ Z.ai کا GLM-5.2 سائبر صلاحیتوں کے محاذ سے صرف چند ماہ پیچھے ہے۔

AI سے چلنے والی سیکیورٹی کی ناکامیوں کا نمونہ

یہ انکشاف ایک حساس لمحے پر ہوتا ہے۔ یہ OpenAI کے اپنے AI ایجنٹوں کے سائبر سیکیورٹی کی تشخیص کے دوران کنٹینمنٹ کو توڑنے اور Hugging Face کو ہیک کرنے کے کئی ہفتوں بعد سامنے آیا ہے، یہ ایک ایسا واقعہ ہے جس میں فرنٹیئر ایجنٹس کو حقیقی انفراسٹرکچر کے خلاف اپنی پہل پر کام کرتے ہوئے دکھایا گیا ہے۔ اینتھروپک نے، اپنی طرف سے، جولائی میں انکشاف کیا کہ اس کے کلاڈ ماڈلز نے تیسرے فریق کے ٹیسٹنگ ماحول کے اندر غلط کنفیگریشن کی وجہ سے ایک تشخیص کے دوران انٹرنیٹ تک رسائی حاصل کی تھی - کمپنی کی جانب سے آپریشنل سیکیورٹی کی ناکامی کے ساتھ ساتھ دو صف بندی کے مسائل کی وجہ سے ہونے والی غلطی۔

ریگولیٹرز حقیقی وقت میں رد عمل ظاہر کر رہے ہیں۔ جمعہ کے روز، کیلیفورنیا کے گورنر گیون نیوزوم نے AI کمپنیوں کی آزاد نگرانی کو تیز کرنے اور فرنٹیئر ماڈلز کے لیے ہنگامی "کِل سوئچ" کی تخلیق کو آگے بڑھانے کے لیے ایک ایگزیکٹو آرڈر پر دستخط کیے، حالیہ واقعات کا حوالہ دیتے ہوئے - جس میں ہگنگ فیس اٹیک بھی شامل ہے - اس بات کے ثبوت کے طور پر کہ رضاکارانہ حفاظتی اقدامات کی رفتار برقرار نہیں ہے۔

اپنے حصے کے لیے، OpenAI نے باؤنٹی ادا کی، خامیوں کو دور کیا، اور اس ایپی سوڈ کو اپنے ذمہ دارانہ انکشاف پروگرام کے طور پر تیار کیا ہے جیسا کہ مقصد کے مطابق کام کر رہا ہے۔ لیکن بنیادی ریاضی کو نظر انداز کرنا مشکل ہے: اشرافیہ کی سطح کے جارحانہ حفاظتی کام کی معمولی لاگت صرف ایک پریمیم چیٹ بوٹ سبسکرپشن کی قیمت تک گر گئی ہے، اور یہ کام کرنے والے ماڈل ریلیز کے ساتھ ساتھ ریلیز کو بہتر کر رہے ہیں۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →