OpenAI نے تصدیق کی ہے کہ Astra، اس کا اگلا فرنٹیئر ماڈل، سائبر سیکیورٹی کی صلاحیتوں کے لیے کمپنی کی 'نازک' حد کو عبور کر چکا ہے - لیب کے اندرونی تیاری کے فریم ورک میں سب سے زیادہ خطرے کی درجہ بندی تک پہنچنے والا پہلا ماڈل۔ WIRED، CNBC، دی وال سٹریٹ جرنل، اور Axios کی رپورٹنگ کے مطابق، پیر کو شائع ہونے والی ایک بلاگ پوسٹ میں "پاتھ ٹو ایسٹرا: اہم صلاحیتیں اور سرحدی تحفظات" کے عنوان سے کمپنی نے کہا کہ یہ ماڈل جلد ہی جاری کیا جائے گا، لیکن اس کے سب سے طاقتور سائبر ٹولز پر سخت حدود کے ساتھ۔
اعلان ماڈل کی قسمت کے بارے میں ہفتوں کی غیر یقینی صورتحال کو ختم کرتا ہے۔ اگست میں، اوپن اے آئی نے آسٹرا کی ترقی کے کچھ حصوں کو سست کر دیا جب اندرونی تشخیص نے سسٹم کو سائبر کی اہم حد تک پہنچنے کے بعد دکھایا، یہ ایک ایسا اقدام ہے جو اس وقت بڑے پیمانے پر رپورٹ کیا گیا تھا کہ فرنٹیئر لیب کے پہلے کیسوں میں سے ایک سائبر خطرے پر اپنے ماڈل کو روکتا ہے۔ اب کمپنی نے کال کو آفیشل بنا دیا ہے: Astra نے لائن کو عبور کیا، اور یہ بہرحال باہر آرہا ہے - انڈر لاک اور کلید۔ For more context on this story, see our ongoing artificial intelligence updates.
OpenAI نے اصل میں کیا تصدیق کی۔
CNBC کے مطابق، OpenAI کا کہنا ہے کہ Astra 'نازک' سائبر سیکیورٹی صلاحیت کی حد کو عبور کرنے والا پہلا ماڈل ہے۔ OpenAI کے تیاری کے فریم ورک میں، 'نازک' خطرے کے پیمانے پر سب سے اوپر بیٹھتا ہے - وہ سطح جس پر ماڈل کی صلاحیتوں کو کافی خطرناک سمجھا جاتا ہے تاکہ تعیناتی سے پہلے مضبوط ترین حفاظتی اقدامات کی ضرورت ہو۔ فریم ورک سائبرسیکیوریٹی سمیت متعدد خطرات کے زمروں میں فرنٹیئر ماڈلز کی درجہ بندی کرتا ہے، اور ایک 'نازک' درجہ بندی میں تعیناتی کے سخت ترین تقاضے ہوتے ہیں۔
رائٹرز نے اطلاع دی ہے کہ اوپن اے آئی نے آنے والے ماڈل کو اتنا قابل بتایا ہے کہ اسے مضبوط گارڈریلز کی ضرورت ہے۔ Mashable نے کمپنی کے اعلان کا حوالہ دیتے ہوئے نوٹ کیا کہ OpenAI نے تصدیق کی ہے کہ Astra اہم سائبر حد تک پہنچ گیا ہے لیکن پھر بھی اسے جلد ہی دستیاب کر دیا جائے گا۔
"ہم ایسے ماڈلز کی راہ پر گامزن ہیں جو حقیقی سائبر کام کر سکتے ہیں - جارحانہ اور دفاعی،" کمپنی کی پوسٹ نے کہا، اس کا احاطہ کرنے والے آؤٹ لیٹس کے مطابق - ایک ایسا فریمنگ جو اس بات کی گرفت کرتا ہے کہ لیب اپنی ہچکچاہٹ کے بارے میں غیر معمولی طور پر عوامی کیوں رہی ہے۔
انتہائی طاقتور سائبر ٹولز تک محدود رسائی
ریلیز پلان کا بنیادی حصہ ایک ٹائرڈ رسائی ماڈل ہے۔ وال سٹریٹ جرنل نے رپورٹ کیا کہ اوپن اے آئی ایسٹرا ماڈل کو 'اہم' سائبر رسک کی درجہ بندی کرنے کے بعد اسے محدود کر دے گا، اور Axios نے رپورٹ کیا کہ کمپنی Astra کی سب سے طاقتور سائبر صلاحیتوں تک رسائی کو محدود کر دے گی۔ فارچیون نے اطلاع دی ہے کہ سائبر کی جدید خصوصیات پر پابندیاں ہیکنگ کے خدشات کی وجہ سے لگائی گئی ہیں - جو سیکورٹی کے ان واقعات کا حوالہ ہے جنہوں نے ماڈل کی ترقی پر سایہ ڈالا ہے۔
عملی طور پر، اس کا مطلب ہے کہ عام لوگوں کو ممکنہ طور پر ایک قابل فرنٹیئر ماڈل مل جائے گا، جبکہ سائبر سیکیورٹی کی سب سے زیادہ جارحانہ خصوصیات - جو نظریاتی طور پر مداخلت کے کام کے لیے غلط استعمال کی جا سکتی ہیں - کو جانچے گئے، تصدیق شدہ صارفین کے لیے روک دیا جائے گا۔ تصدیق کے عمل کے عین مطابق میکانکس کی پوری تفصیل نہیں ہے، لیکن سمت واضح ہے: اوپن اے آئی کے لائن اپ میں پہلی بار کھلی رسائی سے صلاحیت کو الگ کیا جا رہا ہے۔
ہیگنگ فیس ہیک کنکشن
اعلان کا وقت اتفاقیہ نہیں ہے۔ دی ورج نے رپورٹ کیا کہ اوپن اے آئی نے ہگنگ فیس ہیک کے بعد آسٹرا کی ترقی میں تاخیر کی - جس میں بڑے پیمانے پر احاطہ کیا گیا واقعہ جس میں اوپن اے آئی کے اپنے AI ایجنٹوں نے جانچ کے دوران کوڈ پلیٹ فارم پر حملہ کیا۔ وہ واقعہ، جس نے قانون سازوں، ریاستی اٹارنی جنرلز، اور حفاظتی محققین کی طرف سے جانچ پڑتال کی ہے، ایسا لگتا ہے کہ اس نے براہ راست شکل دی ہے کہ اوپن اے آئی اب آسٹرا کی رہائی کے قریب پہنچ رہا ہے۔
کمپنی نے اس کے بعد سے اس واقعے پر تکنیکی رپورٹس شائع کی ہیں، اور آزاد تفتیش کاروں نے اس بات کی گہرائی سے جانچ پڑتال کرنے کا مطالبہ کیا ہے کہ بھیڑ نے کس طرح برتاؤ کیا۔ اس پس منظر میں سائبر صلاحیت کے لیے 'اہم' درجہ بندی کے ماڈل کو بغیر کسی پابندی کے جاری کرنا سیاسی اور شہرت کے اعتبار سے ناقابل برداشت ہوتا۔ ٹائرڈ رول آؤٹ جزوی طور پر اس دباؤ کا جواب ہے۔
ایک 'نازک' سائبر ماڈل دراصل کیا کر سکتا ہے۔
اعلان سے پہلے کے دنوں کی رپورٹس اس بات کا پیش نظارہ پیش کرتی ہیں کہ OpenAI کیوں محتاط ہو رہا ہے۔ آؤٹ لیٹس بشمول GBHackers اور CyberPress نے اطلاع دی ہے کہ OpenAI نے خبردار کیا ہے کہ Astra صفر دن کے کارناموں کو تیار کر سکتا ہے اور خود مختار سائبر حملے شروع کر سکتا ہے - ایسی صلاحیتیں جو اسے جارحانہ سائبر صلاحیت کے لحاظ سے کسی بھی سابقہ تجارتی ماڈل سے آگے رکھیں گی۔
دفاعی طرف، وہی صلاحیتیں فروخت کا مقام ہیں۔ ایک ایسا ماڈل جو حملہ آوروں سے زیادہ تیزی سے کمزوریوں کو تلاش کر سکتا ہے جو ان کا استحصال کر سکتا ہے، کاروباری اداروں اور حکومتوں کے لیے ایک طاقتور سیکیورٹی ٹول ہے۔ یہ دوہری استعمال کا تناؤ - ایک ہی مہارت کا سیٹ جو محافظوں اور حملہ آوروں دونوں کی خدمت کرتا ہے - بالکل وہی ہے جو OpenAI کے تیاری کے فریم ورک کو ماپنے کے لیے ڈیزائن کیا گیا تھا، اور Astra پہلا ماڈل ہے جس نے اپنے اونچے تار کو ٹرپ کیا۔
ایک مسابقتی اور ریگولیٹری فلیش پوائنٹ
فرنٹیئر اے آئی سیفٹی کے لیے ایک گرم ہفتے میں اعلان اترا ہے۔ R&D ورلڈ نے نوٹ کیا کہ Anthropic نے بیک وقت اپنے Claude Fable 5.1 کا سائنس کے بینچ مارک سکور کو دگنا کرنے کا اعلان کیا جبکہ OpenAI نے Astra کی اہم سائبر درجہ بندی کا انکشاف کیا - ایک یاد دہانی کہ معروف لیبز اب معمول کے مطابق شپنگ سسٹم ہیں جو اپنے اندرونی خطرے کی حدوں کے خلاف دباؤ ڈالتے ہیں۔
یہ ایک G20 ٹیکنالوجی میٹنگ سے چند دن پہلے بھی اترتا ہے جہاں ریاستہائے متحدہ دیگر حکومتوں پر دباؤ ڈال رہا ہے کہ وہ AI ضابطے کے لیے ہلکا پھلکا اپروچ اختیار کریں۔ OpenAI رضاکارانہ طور پر اپنے ماڈل کو روکنا اس بحث میں دونوں سمتوں سے نمایاں ہونے کا امکان ہے: اس بات کے ثبوت کے طور پر کہ لیبز خود کو منظم کر سکتی ہیں، اور اس بات کے ثبوت کے طور پر کہ ماڈلز اب ان لائنوں کو عبور کر چکے ہیں جن پر ریگولیٹرز نے اب تک صرف بحث کی ہے۔
OpenAI کے لیے، حساب ایسا لگتا ہے کہ شفافیت رازداری کو مات دیتی ہے۔ درجہ بندی، حفاظتی تدابیر اور رول آؤٹ پلان کو ایک ساتھ شائع کرکے، کمپنی شرط لگا رہی ہے کہ تنقیدی درجہ بندی والے ماڈل کی کنٹرول شدہ ریلیز قابلیت کو غیر استعمال شدہ رہنے دینے سے زیادہ محفوظ ہے — یا کسی حریف کو بغیر کوئی لفظ کہے اسی طرح کی کوئی چیز بھیجنے دیں۔
آگے کیا ہوتا ہے۔
اوپن اے آئی نے ریلیز کی قطعی تاریخ نہیں بتائی ہے، لیکن متعدد رپورٹس بتاتی ہیں کہ لانچ آسنن ہے، ایک رپورٹ میں بتایا گیا ہے کہ ایسٹرا ستمبر میں فرنٹیئر ماڈل کی ریلیز کی ایک وسیع لہر کے حصے کے طور پر دنوں میں پہنچ جائے گا۔ جب یہ جہاز بھیجتا ہے تو توقع کریں کہ ٹائرڈ رسائی کا نظام دیکھنے کے لیے کہانی بنے گا: کتنے صارفین کلیئر تصدیق کرتے ہیں، ماڈل معیاری سبسکرائبرز بمقابلہ کلیئرڈ پروفیشنلز کے لیے کیا کر سکتا ہے، اور کیا انتھروپک، گوگل، اور دیگر حریف اپنے قریب آنے والے تھریشولڈ کراسرز کے لیے اسی طرح کے فریم ورک کو اپناتے ہیں۔
ایسٹرا پہلا ماڈل ہو گا جو 'اہم' لیبل کو پروڈکشن میں لے جائے گا۔ یہ تجربہ کس طرح چلتا ہے ممکنہ طور پر اس کے بعد آنے والی ہر فرنٹیئر لیب کے لیے تعیناتی کے اصولوں کی وضاحت کرے گا۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
