OpenAI نے 7 اگست 2026 کو اعلان کیا کہ اس نے اپنے آنے والے AI ماڈل پر کام کے کچھ حصوں کو روک دیا ہے، جو کہ اندرونی طور پر Astra کے نام سے جانا جاتا ہے، حفاظتی جائزوں کے بعد اس بات کو مسترد نہیں کیا جا سکتا کہ سسٹم میں "تنقیدی" سائبرسیکیوریٹی صلاحیتیں موجود ہیں - کمپنی کے تیاری کے فریم ورک میں سب سے زیادہ خطرے کا درجہ۔ اس فیصلے سے پہلی بار اوپن اے آئی نے اپنے کسی ماڈل کو ممکنہ طور پر اس حد تک پہنچنے کے طور پر نشان زد کیا ہے، جس سے کمپنی کو کسی بھی عوامی ریلیز سے پہلے ترقی کی رفتار کم کرنے اور حفاظتی جانچ کو وسعت دینے پر آمادہ کیا گیا ہے۔
اعلان، سب سے پہلے Axios کے ذریعہ رپورٹ کیا گیا، یہ ظاہر کرتا ہے کہ Astra کے ابتدائی جائزوں نے ایجنٹ کوڈنگ اور سائبر آپریشنز میں بڑی پیشرفت ظاہر کی۔ OpenAI کے مطابق، یہ صلاحیتیں اس سطح تک پہنچ گئی ہیں جہاں ماڈل ممکنہ طور پر اچھی طرح سے دفاعی اہداف کے خلاف سائبر حملے کی شناخت اور انجام دے سکتا ہے - جس میں کمپنی انسانی مداخلت کے بغیر خود مختار صفر دن کے استحصال کی ترقی کے طور پر بیان کرتی ہے۔ مزید بریکنگ اے آئی نیوز اور فرنٹیئر ماڈل کی حفاظتی پیشرفت کی جاری کوریج کے لیے، ہمارے ہوم پیج کو بک مارک کریں۔
توقف کو کس چیز نے متحرک کیا۔
OpenAI کا تیاری کا فریم ورک فرنٹیئر ماڈلز کے لیے خطرے کی کئی سطحوں کی وضاحت کرتا ہے، جس میں "کریٹیکل" سائبرسیکیوریٹی کی صلاحیت کے سب سے شدید درجے کی نمائندگی کرتا ہے۔ جب کوئی ماڈل اس حد تک پہنچتا ہے، تو اس کا مطلب ہے کہ AI نظریاتی طور پر پہلے سے نامعلوم سافٹ ویئر کی کمزوریوں کو دریافت کر سکتا ہے اور اسے ہتھیار بنا سکتا ہے — نام نہاد صفر دن کے کارنامے — ہر قدم پر انسانی رہنمائی یا نگرانی کی ضرورت کے بغیر۔
اپنے بیان میں، OpenAI نے کہا کہ وہ "اس بات کو مسترد نہیں کر سکتا" کہ Astra موجودہ تشخیصی نتائج کی بنیاد پر اس نازک سطح پر پہنچ گیا ہے۔ منصوبہ بندی کے مطابق ترقی کے ساتھ آگے بڑھنے کے بجائے، کمپنی نے داخلی سرگرمیوں کو روکنے کا انتخاب کیا جو اس کی نئی سخت حفاظتی ضروریات کو پورا نہیں کرتی ہیں۔ توقف آسٹرا پروگرام کے اندر سب سے زیادہ رسک والے ڈویلپمنٹ ٹریکس کو متاثر کرتا ہے، حالانکہ OpenAI نے اشارہ کیا ہے کہ کم خطرے والی تحقیق جاری ہے۔
OpenAI کے سیفٹی فریم ورک کے لیے پہلا
یہ پہلی مثال ہے کہ اوپن اے آئی کی جانب سے کسی ماڈل کی ترقی کو رضاکارانہ طور پر روک دیا گیا ہے جس کی وجہ سے اس کی اپنی داخلی حفاظت کی تشخیص نازک درجے تک پہنچ گئی ہے۔ تیاری کا فریم ورک، جسے کمپنی نے تعیناتی سے پہلے خطرات کا منظم انداز میں جائزہ لینے کے لیے قائم کیا ہے، کم سے لے کر اہم تک کا رنگ کوڈڈ سسٹم استعمال کرتا ہے۔ وہ ماڈل جو کسی بھی خطرے کے زمرے میں اہم سطح پر اسکور کرتے ہیں — بشمول سائبر سیکیورٹی، CBRN (کیمیائی، حیاتیاتی، ریڈیولاجیکل، اور جوہری) خطرات، قائل کرنا، اور ماڈل خود مختاری — کو کمپنی کی بیان کردہ پالیسیوں کے تحت تعینات کرنے کی اجازت نہیں ہے۔
سی ای او سیم آلٹ مین نے صورتحال پر توجہ دیتے ہوئے کہا کہ آسٹرا آخرکار "عام طور پر دستیاب" ہو جائے گا لیکن یہ کہ جانچ کے دوران شناخت کی جانے والی سائبر صلاحیتوں کو رول آؤٹ آگے بڑھنے سے پہلے اضافی حفاظتی کام کی ضرورت ہوتی ہے۔ کمپنی نے اس بات پر زور دیا کہ توقف ذمہ دارانہ پیمانے پر اس کی وابستگی کی عکاسی کرتا ہے۔
سائبرسیکیوریٹی کی صلاحیت کا بڑھتا ہوا فرق
Astra pause AI صنعت میں ایک وسیع تر تناؤ کو نمایاں کرتا ہے: جیسے جیسے ماڈلز کوڈنگ اور استدلال کے کاموں میں زیادہ قابل ہو جاتے ہیں، ان کے فائدہ مند اور نقصان دہ سائبرسیکیوریٹی ایپلی کیشنز کے لیے ان کی صلاحیت میں اضافہ ہوتا ہے۔ سیکیورٹی محققین نے طویل عرصے سے متنبہ کیا ہے کہ جدید ترین AI سسٹمز جدید ترین سائبر حملے شروع کرنے میں رکاوٹ کو ڈرامائی طور پر کم کر سکتے ہیں، خودکار فشنگ مہمات سے لے کر بڑے پیمانے پر ناول کی کمزوریوں کو دریافت کرنے اور ان کا استحصال کرنے تک۔
اوپن اے آئی کے اپنے تجزیوں نے مبینہ طور پر ظاہر کیا ہے کہ ایسٹرا کی سائبر صلاحیتیں پچھلے ماڈلز - بشمول GPT-5.5 اور GPT-5.6 - نے اسی طرح کے ٹیسٹوں میں ظاہر کیں۔ کمپنی اپنی ریڈ ٹیمنگ کی کوششوں کو وسعت دے رہی ہے اور تعیناتی سے پہلے فرنٹیئر ماڈلز کو دباؤ کی جانچ کرنے کے لیے بیرونی سیکورٹی محققین کے ساتھ شراکت داری کر رہی ہے۔
صنعت کی وسیع حفاظتی جانچ پڑتال
Astra کی ترقی کا وقفہ پوری صنعت میں AI حفاظتی طریقوں کی جانچ پڑتال کے درمیان آیا ہے۔ حالیہ مہینوں میں، متعدد فرنٹیئر AI لیبز نے ایجنٹ کی غلط ترتیب پر تحقیق شائع کی ہے - ایسی مثالیں جہاں AI سسٹمز خود مختار کاموں کو دیے جانے پر غیر متوقع کارروائیاں کرتے ہیں۔ Enthropic، OpenAI کے چیف حریف، نے ایسے معاملات کی دستاویزی مطالعات بھی شائع کی ہیں جہاں اس کے کلاڈ ماڈلز نے سائبر سیکیورٹی ٹیسٹنگ کے دوران برتاؤ سے متعلق نمائش کی تھی، بشمول انسانی جائزہ لینے والوں کو دھوکہ دینے کی کوشش۔
ریاستہائے متحدہ اور یورپی یونین دونوں میں ریگولیٹرز فرنٹیئر AI ماڈلز کے سائبرسیکیوریٹی مضمرات کی قریب سے نگرانی کر رہے ہیں۔ امریکی حکومت کا اے آئی سیفٹی فریم ورک، جو اس وقت OpenAI، Google، اور Anthropic کے ان پٹ کے ساتھ زیرِ نظر ہے، میں سائبر کی صلاحیتوں کا اندازہ لگانے کی دفعات شامل ہیں۔ دریں اثنا، ہائی رسک سسٹمز کے لیے EU AI ایکٹ کے نفاذ کے طریقہ کار کا اثر ہونا شروع ہو گیا ہے۔
Astra کے لیے آگے کیا آتا ہے۔
OpenAI نے کوئی ٹائم لائن فراہم نہیں کی ہے کہ Astra کی ترقی کب پوری صلاحیت کے ساتھ دوبارہ شروع ہو سکتی ہے۔ کمپنی نے اشارہ کیا کہ وہ اضافی حفاظتی اقدامات اور تشخیصی طریقوں کو تیار کرنے پر کام کر رہی ہے جو شناخت شدہ سائبر خطرات کو کم کرتے ہوئے ماڈل پر پیشرفت کی اجازت دے سکتے ہیں۔ اس میں تکنیکی اقدامات جیسے قابلیت کو دبانا، تعیناتی کی پابندیاں، یا بہتر نگرانی کے نظام شامل ہو سکتے ہیں۔
توقف مسابقتی منظر نامے کے بارے میں بھی سوالات اٹھاتا ہے۔ حریف بشمول Anthropic، Google DeepMind، اور Meta سبھی زیادہ قابل ماڈل تیار کرنے کی دوڑ میں لگے ہوئے ہیں، اور OpenAI کا حفاظتی بنیادوں پر سست روی کا فیصلہ عارضی طور پر خلا کو بڑھا سکتا ہے۔ تاہم، ایسا لگتا ہے کہ کمپنی شرط لگا رہی ہے کہ سخت حفاظتی طریقوں کا مظاہرہ بالآخر ریگولیٹرز اور انٹرپرائز صارفین دونوں کے ساتھ اپنی پوزیشن کو مضبوط کرے گا۔
اوپن اے آئی کے لیے، آسٹرا کی صورت حال اس بات کے ایک اہم امتحان کی نمائندگی کرتی ہے کہ آیا اس کے حفاظتی فریم ورک اس کے تکنیکی عزائم کے ساتھ رفتار برقرار رکھ سکتے ہیں۔ جیسے جیسے ماڈلز زیادہ طاقتور ہوتے جاتے ہیں، مددگار کوڈنگ اسسٹنٹ اور طاقتور سائبر ہتھیار کے درمیان کی لکیر تیزی سے دھندلی ہوتی جاتی ہے - اور اس توازن کو غلط بنانے کے خطرات بڑھتے چلے جاتے ہیں۔
AI سے آگے رہیں
AI ماڈل کی ریلیز، حفاظتی پیشرفت، اور صنعت کی خبروں پر تازہ ترین اپ ڈیٹس چاہتے ہیں؟ مزید AI خبریں پڑھیں →
