اوپن اے آئی نے اپنے آنے والے آسٹرا ماڈل کی ریلیز کو سست کر دیا ہے جب ماڈل نے سائبر سکیورٹی کی صلاحیتوں کا اتنا مضبوط مظاہرہ کیا کہ وہ اندرونی وقفے کو متحرک کر سکتا ہے، کمپنی نے 7 اگست 2026 کو تصدیق کی۔ Astra نے مبینہ طور پر اس سے رابطہ کیا جسے OpenAI "نازک" سائبر رسک تھریشولڈ کے طور پر درجہ بندی کرتا ہے، جس سے یہ کمپنی کے حفاظتی فریم ورک کے تحت اس سطح کے قریب پہنچنے والا پہلا ماڈل ہے۔
تازہ ترین AI حفاظتی خبروں اور پالیسی کوریج کے لیے، AI Buzz Wire ملاحظہ کریں۔
کیا ہوا؟
Axios نے سب سے پہلے 7 اگست کو ترقی کی اطلاع دی، اسے ایک خصوصی انکشاف کے طور پر بیان کیا کہ OpenAI سائبر صلاحیتوں کا حوالہ دیتے ہوئے Astra کی ریلیز کو سست کر رہا ہے۔ دی ورج نے صورتحال کو اوپن اے آئی کے ایک نئے ماڈل پر بریک لگانے کے طور پر بیان کیا کیونکہ اسے بعض سیکیورٹی سے متعلقہ ڈومینز میں بہت طاقتور سمجھا جاتا تھا۔
بلومبرگ نے رپورٹ کیا کہ اوپن اے آئی نے ایسٹرا ماڈل پر کچھ کام خاص طور پر سائبر خدشات پر روک دیا۔ دی گارڈین نے تصدیق کی ہے کہ موقوف ماڈل کی صلاحیتوں کے ارد گرد سیکورٹی کے تحفظات سے متعلق ہے۔
اوپن اے آئی کا جواب
OpenAI نے 7 اگست کو "سائبر کی اہم صلاحیتوں کے اگلے محاذ پر جواب دینا" کے عنوان سے ایک بلاگ پوسٹ شائع کی، جس میں سائبر سیکیورٹی ڈومینز میں خطرناک حد تک پہنچنے والے ماڈلز کے انتظام کے لیے اپنے نقطہ نظر کا خاکہ پیش کیا۔
فوربس نے 9 اگست کو اطلاع دی کہ اوپن اے آئی نے ایسٹرا کو اس وقت روک دیا جب ماڈل کمپنی کے تیاری کے فریم ورک کے تحت پہلی مرتبہ "اہم" سائبر رسک لیول کے قریب پہنچ گیا۔ یہ اے آئی سیفٹی گورننس میں ایک اہم لمحہ کی نشاندہی کرتا ہے، کیونکہ کسی بھی سابقہ ماڈل نے اس درجہ بندی سے رجوع نہیں کیا تھا۔
CNBC نے 10 اگست کو اطلاع دی کہ OpenAI نے نئے ماڈل پر کنٹرول سخت کر دیا ہے کیونکہ وسیع تر AI سیکورٹی بحث میں شدت آتی گئی ہے۔ نیٹ ورک نے نوٹ کیا کہ یہ فیصلہ AI ماڈل کے ہیکس کی تیزی اور اس بات کی بڑھتی ہوئی جانچ کے درمیان آیا ہے کہ فرنٹیئر ماڈل سائبر سیکیورٹی کے کاموں کو کس طرح سنبھالتے ہیں۔
اہم صلاحیت کی حد
OpenAI کا تیاری کا فریم ورک سائبرسیکیوریٹی سمیت متعدد ڈومینز میں ماڈل کے خطرات کی درجہ بندی کرتا ہے، اور خطرے کی سطح کو کم سے لے کر نازک تک تفویض کرتا ہے۔ اہم سطح ان صلاحیتوں کی نمائندگی کرتی ہے جو جدید ترین سائبر حملوں میں معنی خیز طور پر مدد کر سکتی ہیں، جیسے کہ ناول کی کمزوریوں کو دریافت کرنا، ایکسپلائٹ کوڈ لکھنا، یا پیمانے پر جارحانہ کارروائیوں کو خودکار بنانا۔
ہیلپ نیٹ سیکیورٹی کے مطابق، اوپن اے آئی نے ممکنہ اہم سائبر صلاحیتوں پر ایسٹرا کو لاک ڈاؤن کر دیا۔ کمپنی کے فریم ورک کو اس خطرے کی سطح پر ماڈل جاری کرنے سے پہلے اضافی حفاظتی اقدامات، تشخیصات اور ممکنہ طور پر بیرونی جائزے کی ضرورت ہوتی ہے۔
حقیقت یہ ہے کہ آسٹرا اس حد تک پہنچی ہے فرنٹیئر ماڈلز کی تیز رفتار ترقی کی عکاسی کرتی ہے۔ جیسا کہ ماڈلز کوڈنگ، استدلال اور نظام کے تجزیہ میں زیادہ قابل ہو جاتے ہیں، دفاعی اور جارحانہ سائبر سیکیورٹی دونوں میں ان کی ممکنہ افادیت متناسب طور پر بڑھتی ہے۔
یہ کیوں اہمیت رکھتا ہے۔
Astra pause رضاکارانہ AI حفاظتی وعدوں کے لیے ایک اہم ٹیسٹ کیس کی نمائندگی کرتا ہے۔ اوپن اے آئی کا اندرونی حفاظتی جائزوں کی بنیاد پر فلیگ شپ ماڈل کی ریلیز کو سست کرنے کا فیصلہ یہ ظاہر کرتا ہے کہ سرحدی صلاحیت کی حدیں محض نظریاتی تعمیرات نہیں ہیں۔ وہ حقیقی ماڈلز کے ذریعہ متحرک ہو رہے ہیں۔
یہ پیش رفت ایسے وقت میں سامنے آئی ہے جب AI سے چلنے والے سائبر خطرات کے بارے میں تشویش میں اضافہ ہوا ہے۔ ہیکر نیوز نے نوٹ کیا کہ اوپن اے آئی کے اگلے ماڈل نے سائبر کی کارکردگی اتنی مضبوط دکھائی کہ وقفے کو متحرک کیا جا سکے۔ سائبرسیکیوریٹی کمیونٹی اس بات کو قریب سے دیکھ رہی ہے کہ آیا فرنٹیئر اے آئی ماڈلز کو کمزوری کی دریافت کو خودکار بنانے یا پیمانے پر ایکسپلائٹ کوڈ تیار کرنے کے لیے استعمال کیا جا سکتا ہے۔
Gizmodo نے ایک زیادہ شکی ڈھانچہ پیش کیا، تجویز کیا کہ سب سے زیادہ طاقتور ماڈلز ہی نہیں ہیں جو سائبر سیکیورٹی کے بڑے واقعات کا سبب بن سکتے ہیں، اس بات کی نشاندہی کرتے ہوئے کہ کم ماڈل پہلے ہی حقیقی دنیا کے حملوں میں ملوث ہو چکے ہیں۔
وسیع تر پالیسی سیاق و سباق
Astra توقف ایک تیز تر ریگولیٹری منظر نامے کے درمیان آتا ہے۔ یوروپی یونین کے AI ایکٹ میں ہائی رسک AI سسٹمز کی دفعات شامل ہیں، اور ریاستہائے متحدہ فرنٹیئر AI صلاحیتوں کو کنٹرول کرنے کے لیے اپنا فریم ورک تیار کر رہا ہے۔ صنعت کے مبصرین نوٹ کرتے ہیں کہ OpenAI جیسی کمپنیوں کی طرف سے رضاکارانہ حفاظتی وقفے مستقبل کے ضابطہ کار طریقوں سے آگاہ کر سکتے ہیں۔
اس فیصلے سے مسابقتی سوالات بھی اٹھتے ہیں۔ اگر OpenAI حفاظتی خدشات کی وجہ سے اپنی ریلیز کی رفتار کو سست کر دیتا ہے جبکہ حریف تیزی سے آگے بڑھتے ہیں، تو مارکیٹ کی حرکیات بدل سکتی ہے۔ تاہم، ایسا لگتا ہے کہ OpenAI شرط لگا رہا ہے کہ ذمہ دارانہ تعیناتی انٹرپرائز صارفین اور ریگولیٹرز کے ساتھ طویل مدتی اعتماد پیدا کرے گی۔
آگے کیا آتا ہے۔
OpenAI نے Astra کی ریلیز کے لیے نظر ثانی شدہ ٹائم لائن کا اعلان نہیں کیا ہے۔ کمپنی کے بلاگ پوسٹ سے پتہ چلتا ہے کہ وہ نئے تشخیصی طریقے اور حفاظتی پروٹوکول تیار کر رہی ہے جو خاص طور پر سائبر صلاحیت کی اہم سطحوں تک پہنچنے والے ماڈلز کے لیے ڈیزائن کیے گئے ہیں۔
وقفہ AI صنعت میں بڑھتے ہوئے تناؤ کو بھی نمایاں کرتا ہے۔ جیسے جیسے ماڈلز زیادہ قابل ہوتے جاتے ہیں، مفید سائبرسیکیوریٹی ٹولز اور خطرناک جارحانہ صلاحیتوں کے درمیان لائن کو کھینچنا مشکل ہوتا جاتا ہے۔ کمپنیاں اس لائن کو کس طرح نیویگیٹ کرتی ہیں وہ نہ صرف ان کے اپنے پروڈکٹ کے روڈ میپ بلکہ آنے والے سالوں کے لیے AI گورننس کی شکل کا تعین کر سکتی ہیں۔
AI سے آگے رہیں
AI پالیسی، حفاظت، اور فرنٹیئر ماڈل کی پیشرفت کی گہرائی سے کوریج کے لیے، AI Buzz Wire کو فالو کریں۔
مزید AI خبریں پڑھیں
