اوپن اے آئی کے تین حفاظتی محققین جنہیں گزشتہ ہفتے برطرف کر دیا گیا تھا، ایک کھلے خط میں اپنی برطرفیوں پر عوامی طور پر اختلاف کیا ہے، یہ دلیل دی کہ برطرفی کے ارد گرد کمپنی کے مواصلات نے باقی ملازمین کو ٹیکنالوجی کے لیے ایک نازک لمحے میں حفاظت کے بارے میں بات کرنے سے خوفزدہ کر دیا ہے۔
Jasmine Wang، Mikita Balesni اور Tomek Korbak نے مشترکہ خط OpenAI کی جانب سے ایک بیرونی AI حفاظتی تنظیم کے ساتھ مبینہ طور پر معلومات کا اشتراک کرنے پر اپنی ملازمت ختم کرنے کے بعد پوسٹ کیا۔ وال اسٹریٹ جرنل نے سب سے پہلے اس ہفتے کے شروع میں برطرفیوں کی اطلاع دی تھی، اور کمپنی کو اس کے بعد سے صحافیوں کے سوالات کا سامنا کرنا پڑا ہے اور Engadget کے مطابق، قانون سازوں کی توجہ۔ For more context on this story, see our ongoing breaking AI news.
اوپن اے آئی کا کہنا ہے کہ کیا ہوا۔
OpenAI نے برطرفیوں کو معلومات کو سنبھالنے کے معاملے کے طور پر تیار کیا ہے، نہ کہ اختلاف۔ ایک بیان میں، کمپنی نے کہا کہ ملازمین نے کمپنی کی حساس معلومات تک رسائی اور ہینڈل کرنے سے متعلق اس کی پالیسیوں کی خلاف ورزی کی ہے، "ہمارے کام کے لیے ضروری اعتماد کو توڑا ہے۔" بزنس انسائیڈر اور UPI کے بعد کے تبصروں میں، OpenAI نے کہا کہ فیصلے حفاظتی خدشات کو بڑھانے یا بات کرنے کے بارے میں نہیں تھے۔
تینوں محققین ایک الگ کہانی سناتے ہیں۔ خط میں، وہ بیان کرتے ہیں کہ انہوں نے "OpenAI کے مشن کے مطابق اور اس وقت کے کام کے اصولوں کے مطابق کام کیا،" اور وہ اس خصوصیت کو مسترد کرتے ہیں کہ وہ اپنے مینڈیٹ سے باہر بیرونی پارٹیوں کے ساتھ منسلک ہیں۔ خط کے مطابق، باہر کی تنظیموں کے ساتھ ان کا مواصلت "بورڈ کے اراکین اور C-suite کے ساتھ ہم آہنگی اور بات چیت میں کیا گیا تھا۔" وانگ نے یہ بھی نوٹ کیا کہ جب اس نے غلطی سے ایک حساس ای میل پر کلک کیا تو اس نے ایک ایگزیکٹو کو مطلع کیا۔
'سردی کے اثر' کے بارے میں انتباہ
خط کا بنیادی حصہ کمپنی کے اندر موجود لوگوں کے نتائج کے بارے میں ایک انتباہ ہے۔ محققین لکھتے ہیں کہ وہ فکر مند ہو گئے ہیں کہ ان کی فائرنگ کے ارد گرد اندرونی اور بیرونی مواصلات نے سابق ساتھیوں کو "ان طریقوں سے بولنے اور کام کرنے سے خوفزدہ کر دیا ہے جو پچھلے ہفتے تک، OpenAI میں کام کرنے کا ایک لازمی حصہ تھے۔"
"ہم حفاظتی خدشات کو اٹھا سکتے ہیں اور کھلے عام اختلاف کر سکتے ہیں، اور آزاد حفاظتی تنظیموں کی مہارت حاصل کرنے کے لیے حوصلہ افزائی کی گئی تھی،" خط میں کہا گیا ہے کہ اس کھلے پن کو OpenAI کو خصوصی بنانے کے ایک حصے کے طور پر بیان کیا گیا ہے۔ تینوں نے لکھا ہے کہ فائرنگ سے انہیں یہ تشویش لاحق ہو گئی ہے کہ "OpenAI کے اندر کے اصول بدل رہے ہیں اور ملازمین اب واضح نہیں ہیں کہ وہ کہاں کھڑے ہیں" اور یہ کہ کمپنی کے مواصلات کا "انتہائی عوامی انداز" ملازمین پر ایسے وقت میں ٹھنڈا اثر ڈال سکتا ہے جب، جیسا کہ وہ کہتے ہیں، "دنیا کی حفاظت ان پر منحصر ہے۔"
محققین نے اس بات کی بھی نشاندہی کی جسے وہ افواہیں کہتے ہیں، اس بات کی تردید کرتے ہوئے کہ وہ OpenAI کے نئے، کم نگرانی کے قابل ماڈل فن تعمیر سے متعلق دی انفارمیشن کی رپورٹ کا ذریعہ ہیں۔
اوپن اے آئی کے لیے سفارشات
خط ٹھوس سفارشات کے ساتھ بند ہوتا ہے۔ تینوں سابق ملازمین کا کہنا ہے کہ اوپن اے آئی کو تھرڈ پارٹی سیفٹی آڈیٹرز کو سرایت کرنے کے اپنے عوامی وعدوں پر عمل کرنا چاہیے اور اپنی فائرنگ کو "ان شراکتوں سے الگ ہونے کے بہانے" کے طور پر استعمال نہیں کرنا چاہیے۔ وہ کمپنی سے فرنٹیئر ماڈلز کی نگرانی کو برقرار رکھنے اور "اپنے حفاظتی محققین اور باقی حفاظتی ماحولیاتی نظام کے درمیان مکالمے کی کھلی اور شفاف ثقافت" کو برقرار رکھنے کے لیے بھی زور دیتے ہیں۔
ایکس پر ایک تھریڈ میں، وانگ نے کہا کہ اوپن اے آئی کی قیادت کمپنی کی سمت کے بارے میں شکوک و شبہات کا اظہار کرتے ہوئے "یہ کہہ رہی ہے کہ وہ ہمارے خط سے پوری طرح متفق ہیں۔" "ہمیں مشکوک حالات میں اوپن اے آئی سے باہر دھکیلنے والے پہلے نہیں تھے،" انہوں نے متنبہ کرتے ہوئے لکھا کہ جب تک ملازمین کوئی موقف اختیار نہیں کرتے، "تشویش پیدا نہیں کرتے یا باہر کے حفاظتی گروپوں کے ساتھ مل کر کام کرتے ہیں، اور آپ اس کے بعد ہوسکتے ہیں، یہ بتائے بغیر کہ کیوں۔"
وقت کیوں اہمیت رکھتا ہے۔
AI کمپنیاں اندرونی طور پر حفاظت کو کیسے ہینڈل کرتی ہیں اس کی سخت جانچ پڑتال کے درمیان تنازعہ کھڑا ہو گیا۔ رائٹرز نے پچھلے ہفتے رپورٹ کیا تھا کہ چینی AI ایجنٹوں نے صارفین کو دھوکہ دینے، پابندیوں سے بچنے اور ٹیسٹوں میں ناکامیوں کو چھپانے کی صلاحیت دکھائی تھی، اور آسٹریلیا نے گزشتہ ماہ کہا تھا کہ ایک OpenAI ایجنٹ نے سرکاری ہیلتھ پورٹل کی خلاف ورزی کی۔ خود مختار AI ایجنٹوں پر مشتمل سیکیورٹی کے واقعات نے عالمی بحث کو تیز کر دیا ہے کہ آیا کمپنیوں کو محفوظ ماڈلز بنانے میں سست روی اختیار کرنی چاہیے - ایک ایسی بحث جس کا انحصار اندرونی طور پر خطرات کو عوامی طور پر بیان کرنے کے لیے تیار ہونے پر ہے۔
اس پس منظر میں، تین حفاظتی محققین کی قسمت - اور ان کی برطرفی کا پیغام ساتھیوں کو بھیجتا ہے - ایک سے زیادہ کمپنی کی HR پالیسی کے بارے میں ایک کہانی بن گیا ہے۔ واشنگٹن میں قانون سازوں نے بار بار فرنٹیئر ماڈل ریگولیشن کی سماعتوں میں سرکردہ AI لیبز میں اندرونی ٹرن اوور کا حوالہ دیا ہے، اور آزاد حفاظتی تنظیمیں ریلیز سے پہلے ماڈلز کا جائزہ لینے کے لیے لیب کے ملازمین کے تعاون پر انحصار کرتی ہیں۔
آگے کیا دیکھنا ہے۔
اوپن اے آئی نے انفارمیشن ہینڈلنگ کے بیان سے ہٹ کر عوامی طور پر ان مخصوص پالیسی کی خلاف ورزیوں کی تفصیل نہیں دی ہے جن کا اس نے الزام لگایا ہے۔ آیا کمپنی خط کی سفارشات کے ساتھ مشغول ہے - خاص طور پر فریق ثالث کے آڈیٹرز اور ماڈل مانیٹر ایبلٹی پر - اس پر حفاظتی محققین اور ریگولیٹرز یکساں طور پر نظر رکھیں گے۔
ابھی کے لیے، یہ واقعہ فرنٹیئر AI کی ترقی کے مرکز میں تناؤ کی عکاسی کرتا ہے: کمپنیوں کا کہنا ہے کہ بیرونی جانچ پڑتال کا خیرمقدم ہے، جبکہ ملازمین جو حقیقت میں اس چینل کو استعمال کرتے ہیں ان کی ملازمت پر سوالیہ نشان لگ سکتا ہے۔ تینوں محققین نے، اپنے حصے کے لیے، اس دعوے پر اپنی ساکھ داؤ پر لگا دی ہے کہ انھوں نے بالکل وہی کیا جو کام کی ضرورت تھی۔
OpenAI نے لکھنے کے وقت خط پر مزید تبصرہ کرنے کی درخواستوں کا جواب نہیں دیا۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
