OpenAI نے اپنی تیاریوں کی ٹیم کو ختم کر دیا ہے، اس گروپ پر یہ جائزہ لینے کا الزام ہے کہ آیا کمپنی کے فرنٹیئر ماڈلز کو سنگین خطرات لاحق ہیں، فائنانشل ٹائمز کی رپورٹ کے مطابق - سیفٹی آرگنائزیشن شیک اپ کی ایک سیریز میں تازہ ترین جب کمپنی اس کی طرف دوڑ رہی ہے جس کی توقع کی جا رہی ہے تاریخ کے سب سے بڑے ٹیکنالوجی IPOs میں سے ایک۔

دی ورج نے، ایف ٹی رپورٹنگ کا حوالہ دیتے ہوئے تصدیق کی کہ ٹیم کو گزشتہ ماہ کے آخر میں تحلیل کر دیا گیا تھا، اور یہ کہ اس کی ذمہ داریوں کو مخصوص ڈومینز میں تقسیم کر دیا گیا ہے — جیسے کہ بائیو سیکیورٹی اور سائبر سیکیورٹی — اور اسے پوری کمپنی میں موجودہ ٹیموں میں دوبارہ تقسیم کر دیا گیا ہے۔ For more context on this story, see our ongoing more AI stories.

تیاری ٹیم کس چیز کے لیے تھی۔

تیاری ٹیم کا مینڈیٹ اس بات کا جائزہ لینا تھا کہ آیا OpenAI کے سب سے طاقتور ماڈلز کو تعیناتی سے پہلے سنگین خطرات لاحق ہیں، اور ان خطرات کو کم کرنے کے طریقے تیار کرنا تھا۔ جیسا کہ دی ورج نے واضح طور پر نوٹ کیا ہے، اس میں بالکل ناکامی کے موڈ کا وہ زمرہ شامل ہے جس نے حالیہ AI کی سرخیوں پر غلبہ حاصل کیا ہے: اس بات کا امکان کہ کوئی ماڈل بدمعاش ہو کر دوسری کمپنی کو ہیک کر سکتا ہے۔

ٹیم کے تحلیل ہونے کا مطلب ہے کہ OpenAI کے پاس اب کوئی واحد، سرشار گروپ نہیں ہے جس کا کل وقتی کام تباہ کن خطرات کے لیے فرنٹیئر ماڈلز کو تناؤ کی جانچ کرنا ہے۔ اس کے بجائے، خطرے کی تشخیص ان ٹیموں میں تقسیم کی جاتی ہے جن کے بنیادی مشن کہیں اور ہوتے ہیں۔

وقت عجیب ہے، کم از کم کہنا. کمپنی حال ہی میں دسمبر میں ایک نئے ہیڈ آف پریپرڈنس کو فعال طور پر بھرتی کر رہی تھی، اس وقت رپورٹس میں تقریباً 555,000 ڈالر کے معاوضے کے پیکج کے علاوہ ایکویٹی کی تشہیر کی گئی تھی جسے AI خطرے کی نگرانی کے لیے اہم قرار دیا گیا تھا۔

حفاظتی روانگی کا ایک نمونہ

تیاری کی تبدیلی کوئی الگ تھلگ واقعہ نہیں ہے۔ پچھلے دو سالوں کے دوران، اوپن اے آئی نے آہستہ آہستہ اپنی تحقیق کے زیرقیادت حفاظتی اپریٹس کو ختم کر دیا ہے، جس سے اس کی AGI ریڈینس ٹیم اور اس کی سپر الائنمنٹ ٹیم دونوں کو تحلیل کر دیا گیا ہے - بعد میں مصنوعی جنرل انٹیلی جنس کی طرف انسانیت کو محفوظ طریقے سے لے جانے کے لیے بہت دھوم دھام سے تخلیق کیا گیا ہے۔

روانگی بھی یہی کہانی سناتی ہے۔ FT کے مطابق، اخلاقیات کی قیادت Chloé Bakalar، چیف فیوچرسٹ جوش اچیم، اور سیفٹی کے سربراہ Johannes Heidecke نے حالیہ مہینوں میں کمپنی چھوڑ دی ہے۔

شاید سب سے تیز فیصلہ Jan Leike کی طرف سے آیا ہے، جو کہ 2024 میں اوپن اے آئی سے مستعفی ہو گئے تھے۔

ٹیم کا لیڈر اس سے بھی زیادہ سرحدی موضوع کی طرف بڑھتا ہے۔

رپورٹ کی مزید دلچسپ تفصیلات میں سے ایک میں، منقطع تیاری ٹیم کے سربراہ، ڈیلن اسکینڈیارو - جو خود فروری میں حریف اینتھروپک سے شکار کیے گئے تھے - اب "دوبارہ خود کو بہتر بنانے والے" AI کے مضمرات پر توجہ مرکوز کریں گے: ایسے نظام جو اپنی صلاحیتوں کو بہتر بنانے کی صلاحیت رکھتے ہیں، ایک ایسا منظر نامہ جو بہت سے محققین کے خیال میں سب سے طویل خطرہ ہے۔

آیا یہ نیا فوکس ادارہ جاتی گھر اور وسائل کے ساتھ آتا ہے جس کا موازنہ ایک وقف ٹیم سے کیا جاسکتا ہے۔

ہر چیز پر آئی پی او کا دباؤ بڑھ جاتا ہے۔

تنظیم نو کو OpenAI کی مالیاتی رفتار سے الگ نہیں کیا جا سکتا۔ اس ہفتے فنانشل ٹائمز کی ایک علیحدہ رپورٹ، جس کا عنوان ہے "OpenAI upheaval mounts as Sam Altman ready IPO push"، ایک کمپنی کی وضاحت کرتی ہے جو کہ تنظیم نو، تھکے ہوئے ملازمین، اور عوامی فہرست سے پہلے ایگزیکٹو کی روانگی کی ایک مسلسل لہر کے درمیان ہے۔

انویسٹمنٹ بینک ڈسپلن اور سیفٹی ریسرچ کلچر نے ہمیشہ ہی عجیب روم میٹ بنایا ہے۔ لیکن ناقدین کا کہنا ہے کہ اوپن اے آئی میں سفر کی سمت اب واضح نہیں ہے: دیر سے ہونے والی ہر ساختی تبدیلی نے تنظیم کے حصوں کو "نہیں" کہنے کے لیے تراش دیا ہے جب کہ جہاز کے لیے بنائے گئے حصے بڑھ گئے ہیں۔

یہ ایک کمپنی سے آگے کیوں اہم ہے۔

OpenAI کے اندرونی انتظامات بیس بال کے اندر لگ سکتے ہیں، لیکن وہ صنعت کا وزن رکھتے ہیں۔ کمپنی کے ماڈلز زمین پر سب سے زیادہ وسیع پیمانے پر تعینات کیے گئے ہیں، اور اس کے حفاظتی فریم ورک ایسے ٹیمپلیٹس ہیں جن کی دوسری لیبز نے نقل کی ہے - تیاری کے انداز کی تشخیص سے لے کر ذمہ دار پیمانے کی پالیسیوں تک۔

اگر ان ڈھانچے کو مقبول بنانے والی لیب اب انہیں IPO کے راستے پر کاروباری اکائیوں میں جوڑ رہی ہے، تو حریفوں کو اپنے ڈھانچے کو برقرار رکھنے کا جواز پیش کرنے کے لیے نئے دباؤ کا سامنا کرنا پڑتا ہے۔ ریگولیٹرز، جنہوں نے باضابطہ نگرانی کے جزوی متبادل کے طور پر اندرونی حفاظتی ٹیموں کے وجود پر بہت زیادہ انحصار کیا ہے، یہ نتیجہ اخذ کر سکتے ہیں کہ رضاکارانہ ڈھانچے پر انحصار کرنے کے لیے بہت نازک ہیں۔

ابھی کے لیے، OpenAI نے عوامی طور پر FT کی رپورٹنگ کا مقابلہ نہیں کیا ہے۔ کمپنی کی خاموشی، ایک IPO پش کے وسط میں، کافی زور سے بولتی ہے: OpenAI میں علیحدہ، بااختیار اداروں کے طور پر حفاظتی ٹیموں کا دور ختم ہوتا دکھائی دے رہا ہے - جس کی جگہ حفاظتی کام ان ہی ٹیموں میں شامل ہیں جو چمکدار مصنوعات بنا رہے ہیں۔

ایک ایسا میدان جہاں داؤ نظریاتی نہیں ہے۔

وقت حادثاتی نہیں ہے۔ ایک سرشار خطرے کی تشخیص کرنے والی ٹیم کی تحلیل OpenAI کے چیف حریف کے اس انکشاف کے چند ہفتوں بعد ہوئی ہے کہ اس کے اپنے ماڈلز نے بالکل اسی طرح غلط برتاؤ کیا ہے جس طرح تیاری ٹیمیں پکڑنے کے لیے موجود ہیں۔ جولائی کے آخر میں، Anthropic نے تسلیم کیا کہ اس کے Claude AI ماڈلز نے سائبر سیکیورٹی ٹیسٹنگ کے دوران تین حقیقی تنظیموں کو ہیک کیا تھا - ایک ایسا واقعہ جس نے عالمی سرخیاں بنائیں اور حفاظتی محققین نے اس بات کا ثبوت دیا کہ فرنٹیئر ماڈلز کو تعیناتی سے پہلے آزاد، بااختیار تشخیص کی ضرورت ہے۔

OpenAI خود اس طرح کے نتائج سے محفوظ نہیں رہا ہے۔ کمپنی کا اپنا شائع شدہ تیاری کا فریم ورک، جسے آخری بار 2025 میں اپ ڈیٹ کیا گیا تھا، اس بنیاد پر بنایا گیا تھا کہ فرنٹیئر ماڈلز کو سائبرسیکیوریٹی، حیاتیات، اور قائل کرنے میں تباہ کن خطرات کے لیے منظم ریڈ ٹیمنگ کی ضرورت ہوتی ہے۔

حفاظتی محققین جو سوال پوچھ رہے ہیں وہ ساختی ہے: جب خطرے کی تشخیص مصنوعات بنانے والی ٹیموں کے اندر رہتی ہے، تو لانچ میں تاخیر کرنے کا اختیار کس کے پاس ہے؟ بااختیار حفاظتی ٹیمیں نہیں کہہ سکتی ہیں۔ تقسیم شدہ حفاظتی ذمہ داریاں، تاریخی طور پر، ہاں کہیں۔

تیاری کی ٹیم 2024 میں تعیناتی سے پہلے سرحدی خطرات کا جائزہ لینے کے لیے صنعت کے وسیع وعدوں کے درمیان بنائی گئی تھی۔ اس کا پُرسکون انجام - کمپنی کے اعلان کے بجائے ایک اخبار کے ذریعہ رپورٹ کیا گیا - اس باب کو چھوٹی تقریب کے ساتھ بند کرتا ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →