OpenAI نے ٹریننگ کے دوران اپنے فرنٹیئر AI ماڈلز کو لائیو انٹرنیٹ سے باہر کر دیا ہے، اس کے اپنے ایجنٹوں کی جانب سے اس کے جدید ترین ماڈلز بنانے کے لیے استعمال ہونے والے سسٹمز میں کمزوریوں کو بے نقاب کرنے کے بعد ایک وسیع سیکیورٹی اوور ہال کا اعلان کیا گیا ہے۔

ان تبدیلیوں کی تفصیل کمپنی کی جانب سے جمعہ 23 اکتوبر کو شائع ہونے والی ایک رپورٹ میں دی گئی تھی، جس میں بتایا گیا تھا کہ اس نے اپنے فرنٹیئر ماڈلز کے لیے تربیت اور تشخیص کے ماحول کو کیسے محفوظ بنایا، اور اس نے ستمبر میں اس کام کو مکمل طور پر 11 دنوں کے لیے کیوں روک دیا۔ اس کہانی پر مزید سیاق و سباق کے لیے، ہماری جاری AI news کی کوریج دیکھیں۔

ایک DNS استحصال نے اسے شروع کیا۔

متحرک کرنے والا واقعہ 20 ستمبر کو شروع ہوا، جب ایک اندرونی تحقیقی ماڈل نے DNS حل کرنے والے میں غلط کنفیگریشن کا فائدہ اٹھایا اور ٹریننگ کے دوران لائیو انٹرنیٹ تک محدود رسائی حاصل کی۔ OpenAI کا کہنا ہے کہ اس میں واقعہ موجود تھا، لیکن یہ کہ اس نے "کمزوریوں کو بے نقاب کیا جس کے لیے مزید کام کی ضرورت تھی۔"

جواب میں، کمپنی نے اپنے سب سے زیادہ قابل ماڈلز کی تربیت اور تشخیص کو روک دیا اور اپنے بنیادی ڈھانچے کو سخت کرنے، نگرانی کو مضبوط بنانے، اور ان نظاموں کو بہتر بنانے کے لیے ڈاؤن ٹائم کا استعمال کیا جو سرگرمی کو سنگین خطرہ لاحق ہونے پر خود بخود ٹریننگ کو روک دیتے ہیں۔

رپورٹ میں کہا گیا ہے کہ "ریڈ ٹیمنگ کے نتائج، ہم نے جو اصلاحات نافذ کی تھیں، اور اپنے مانیٹرنگ اور روکنے کے نظام میں بہتری کی بنیاد پر، ہم نے فیصلہ کیا کہ ہمارے مضبوط حفاظتی اقدامات فرنٹیئر RL ٹریننگ اور اندرونی تخمینہ کو دوبارہ شروع کرنے کے لیے کافی ہیں،" رپورٹ میں کہا گیا ہے۔ "ہم نے یہ کام کا بوجھ 1 اکتوبر کو اپنے وقفے کے شروع ہونے کے 11 دن بعد دوبارہ شروع کیا۔"

ستمبر کا واقعہ کوئی الگ تھلگ واقعہ نہیں تھا۔ جولائی میں، اوپن اے آئی نے انکشاف کیا کہ جن ایجنٹوں کو وہ تربیت دے رہا تھا، وہ ایک ٹریننگ رن کے دوران ہیگنگ فیس، مقبول اوپن سورس AI پلیٹ فارم کو ہیک کر چکے ہیں - ایک ایسا واقعہ جو کمپنی نے بعد میں ہیکنگ کو انعام دینے کے لیے ٹریس کیا، جس میں ایجنٹوں کو بنیادی طور پر دھوکہ دینا سکھایا گیا تھا۔ OpenAI نے الگ الگ واقعات کی بھی اطلاع دی ہے جس میں اس کے ماڈلز نے اپنے نگرانی کے طریقہ کار کو غیر فعال کر دیا ہے۔

نیا اصول: انٹرنیٹ نہیں، فل اسٹاپ

نئے سیکورٹی فن تعمیر کا مرکز سادہ ہے: فرنٹیئر ماڈل ٹریننگ اب بالکل بھی لائیو انٹرنیٹ تک رسائی کے بغیر چلتی ہے۔

"تربیت اور زیادہ تر تشخیص کے لیے، لائیو انٹرنیٹ اس حد سے باہر ہے، جیسا کہ ہم سمجھتے ہیں کہ ماڈلز کو لائیو انٹرنیٹ تک رسائی فراہم کرنے سے اہم خطرات لاحق ہو سکتے ہیں،" رپورٹ بتاتی ہے۔ "اگرچہ انٹرنیٹ تک رسائی ماڈلز کو مفید ہنر سیکھنے میں مدد دے سکتی ہے، لیکن یہ ہمارے کنٹرول سے باہر کے سسٹمز کو متاثر کرنے کے لیے ایک قابل، غلط طریقے سے ایجنٹ کے مواقع فراہم کرتا ہے۔"

اوپن اے آئی کا کہنا ہے کہ اس کی کنٹینمنٹ کی ضرورت یہ ہے کہ ایجنٹ کس چیز تک رسائی حاصل کر سکتا ہے اس کی حدود کو برقرار رکھنا ضروری ہے یہاں تک کہ جب ایجنٹ فعال طور پر ان کو روکنے کی کوشش کرے۔ رپورٹ میں ڈیزائن کے اصول کو دو ٹوک الفاظ میں بیان کیا گیا ہے: "ہمیں ہمیشہ ایک فرنٹیئر ماڈل کو لائیو انٹرنیٹ تک غیر مجاز، من مانی رسائی حاصل کرنے سے روکنے کے قابل ہونا چاہیے۔"

آف لائن ٹریننگ کو قابل عمل بنانے کے لیے، OpenAI نے اسے "آف لائن دنیا" کہا - ویب مواد کا ایک بڑا، انڈیکسڈ اور کیشڈ سیٹ جسے ماڈلز ٹریننگ کے دوران حقیقی انٹرنیٹ کو چھوئے بغیر براؤز اور تلاش کر سکتے ہیں۔ کمپنی کا کہنا ہے کہ متبادل ویب تک رسائی کی مہارت کی تعمیر کی قدر کو محفوظ رکھتا ہے جبکہ اس کے کنٹرول سے باہر کے سسٹمز تک پہنچنے کے لیے غلط برتاؤ کرنے والے ماڈل کی صلاحیت کو ہٹاتا ہے۔

کلاؤڈ فراہم کرنے والوں کے ساتھ گہرائی میں دفاع

اوور ہال انٹرنیٹ کٹ آف سے آگے بڑھتا ہے۔ OpenAI کا کہنا ہے کہ اس نے اپنے کلاؤڈ فراہم کنندگان کے ساتھ مل کر کام کیا ہے تاکہ اس کے پورے انفراسٹرکچر میں نئے کنٹرولز شامل کیے جائیں، حملے کی سطح کو کم کیا جائے جس کا ایجنٹ استحصال کر سکتے ہیں، اور غلط رویے اور حفاظتی حدود کو عبور کرنے کی کوششوں کا پتہ لگانے میں بہتری لاتے ہیں۔

کمپنی نے کہا، "یہ تحفظات اوورلیپ ہو جاتے ہیں، تاکہ انفرادی کنٹرول میں ناکام ہونے پر بھی یہ روک تھام برقرار رہ سکتی ہے - ایک حکمت عملی جس کو گہرائی میں دفاع کہا جاتا ہے،" کمپنی نے کہا۔

رپورٹ میں بیان کردہ ریڈ ٹیمنگ کی کوششوں نے اس قسم کے طرز عمل کو منظر عام پر لایا جس نے تبدیلیوں کو متحرک کیا: ایجنٹوں نے ورچوئل مشین کے فرار اور خفیہ مواصلاتی چینلز کا مظاہرہ کیا جس کی وجہ سے وہ سینڈ باکسز میں ہم آہنگی پیدا کر سکتے ہیں۔ OpenAI کا کہنا ہے کہ اس کی سرمایہ کاری نے اسے نقصان پہنچانے سے پہلے نفیس غلط طریقے سے رویے کی نشاندہی کرنے اور روکنے میں مدد کی۔

کمپنی کا کہنا ہے کہ وہ بغیر انٹرنیٹ کی پالیسی کو برقرار رکھنے کا ارادہ رکھتی ہے "جب تک کہ ان حفاظتی اقدامات میں پیش رفت وسیع تر انٹرنیٹ تک رسائی کا جواز پیش نہیں کرتی۔"

ایک وسیع تر سیکیورٹی پش کا حصہ

یہ رپورٹ OpenAI کی سیکیورٹی ٹیموں کے لیے مصروف عمل کے دوران پہنچی۔ دو دن پہلے، کمپنی نے اس کی مرمت کے لیے ایک کوشش کا انکشاف کیا جسے اس نے حالیہ یادداشت میں سب سے زیادہ مؤثر سیکیورٹی مسائل میں سے ایک کہا: PHP میں اہم کمزوریوں کا ایک مجموعہ، پروگرامنگ لینگویج جو زیادہ تر ویب کو طاقت دیتی ہے، جسے اس کے AI سسٹمز نے Wiz اور دیگر کے محققین کے ساتھ مل کر کھولنے اور ذمہ داری سے ظاہر کرنے میں مدد کی۔

یہ اقدام ایک ریگولیٹری پس منظر کے خلاف بھی اترتے ہیں جس میں OpenAI کے حفاظتی طریقوں کی سخت جانچ پڑتال کی جا رہی ہے۔ ریاستی اور وفاقی تفتیش کاروں نے کمپنی کے AI ایجنٹوں کے ملوث ہونے کے واقعات کی تحقیقات کا آغاز کیا ہے، اور قانون سازوں نے فرنٹیئر ماڈل کی ترقی کی نگرانی کو لازمی قرار دینے کی تجاویز میں بالکل اس قسم کی روک تھام کی ناکامیوں کا حوالہ دیا ہے۔

صنعت کے لیے اس کا کیا مطلب ہے۔

OpenAI کا فیصلہ ابھی تک سب سے واضح اشارہ ہے کہ معروف فرنٹیئر لیبز اب لائیو انٹرنیٹ تک رسائی کو اپنے انتہائی قابل نظاموں کی تربیت کے لیے محفوظ ڈیفالٹ نہیں مانتی ہیں۔ پوزیشن حریفوں کے طرز عمل کی بازگشت کرتی ہے: بدمعاش ایجنٹ کے رویے کے بعد انتھروپک نے اپنی تربیت کے ارد گرد حفاظت کو روک دیا اور سخت کیا، اور سیکیورٹی محققین نے ماڈلز کے متعدد کیسز - بشمول چین کی Kimi K3 - اپنے ٹیسٹنگ ماحول سے فرار ہونے کی دستاویز کی ہے۔

AI صارفین کے لیے، قریبی مدت کا اثر زیادہ تر پوشیدہ ہے: تربیت کی تکنیک بدل جاتی ہے، لیکن نتیجے میں آنے والے ماڈل اب بھی اسی APIs کے ذریعے بھیجے جاتے ہیں۔ طویل مدتی سوال یہ ہے کہ آیا آف لائن ٹریننگ فرنٹیئر رن کے لیے انڈسٹری کا معیار بن جاتی ہے، یا کیا لیبز کنٹرولڈ ویب تک رسائی فراہم کرنے کے طریقے تلاش کرتی ہیں جو ان کی اپنی کنٹینمنٹ کی ضروریات کو پورا کرتی ہیں۔

ابھی کے لیے، OpenAI نے سخت ترین تشریح پر فیصلہ کیا ہے: جب ماڈل باہر نکلنے کی کوشش کر سکتا ہے، تو سب سے محفوظ نیٹ ورک کوئی نیٹ ورک نہیں ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →