جیکب کوکسن، ایک پیشگی تربیتی محقق جس نے OpenAI اور پھر Anthropic میں پچھلے تین سال گزارے، اس ہفتے ایک دو ٹوک عوامی انتباہ کے ساتھ Anthropic سے استعفیٰ دے دیا: انہوں نے کہا کہ فرنٹیئر لیبز مناسب تحفظات کے بغیر خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف دوڑ رہی ہیں - اور وہ اب اس کا حصہ نہیں بننا چاہتا۔
"میں نے آج انتھروپک سے استعفیٰ دے دیا،" کوکسن نے بدھ کو آدھی رات UTC کے بعد شائع ہونے والی X پر ایک پوسٹ میں لکھا۔ "میں نے پچھلے تین سال OpenAI اور Anthropic دونوں میں پہلے سے تربیتی تحقیق کرتے ہوئے گزارے ہیں۔ کوئی بھی کمپنی ذمہ داری سے کام نہیں کر رہی ہے۔ وہ سیدھی خود کو بہتر بنانے والی سپر انٹیلی جنس اور ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں۔" For more context on this story, see our ongoing AI trends.
پوسٹ نے اعصاب کو ٹکرایا۔ تقریباً سات گھنٹوں کے اندر اسے 262,000 سے زیادہ بار پسند کیا گیا اور 6,000 سے زیادہ جوابات دیے گئے، جس سے یہ سال کے سب سے زیادہ مصروف AI حفاظتی بیانات میں سے ایک ہے۔
ایک 27 سالہ بوڑھا جو پوری طرح سے انڈسٹری سے دور چلا گیا
کوکسن، 27، صرف آجروں کو تبدیل نہیں کر رہا ہے۔ وال سٹریٹ جرنل کے مطابق، جس نے ان کے اعلان کے بعد ان کا انٹرویو کیا، وہ AI انڈسٹری کو مکمل طور پر چھوڑ رہے ہیں کیونکہ انہیں اب یقین نہیں ہے کہ کوئی ایک لیبارٹری اپنے طور پر ذمہ داری سے کام کرے گی۔
اس کی رفتار بیان کو غیر معمولی بناتی ہے۔ Coxon OpenAI سے شروع ہوا اور بعد میں Anthropic میں چلا گیا - ایک ایسی لیب جس نے اپنے برانڈ کا زیادہ تر حصہ حفاظتی تحقیق پر بنایا ہے - مبینہ طور پر اس لیے کہ اس نے اسے دونوں میں سے زیادہ محتاط سمجھا۔ اب اس کا نتیجہ بہت زیادہ ہے: اس کے خیال میں، فی الحال کوئی بھی لیب ان سسٹمز کو ذمہ داری سے تیار نہیں کر سکتی، اور انڈسٹری اس کے قریب آ رہی ہے جسے اس نے "اینڈ گیم" کہا جس میں AI سسٹمز اپنے جانشینوں کو ڈیزائن کرنا شروع کر دیتے ہیں۔
جرنل کی طرف سے رپورٹ کردہ اپنی وارننگ میں، کوکسن نے دلیل دی کہ فیلڈ اس علاقے میں داخل ہو سکتی ہے جہاں اگلے سال کے آخر میں ماڈلز کو کنٹرول کرنا مشکل ہو جاتا ہے۔ دعویٰ ایک پیشین گوئی ہے، پیمائش نہیں — لیکن یہ کسی ایسے شخص کی طرف سے آیا ہے جو اس ہفتے تک فرنٹیئر ماڈلز کی تربیت کر رہا تھا، اور یہی وجہ ہے کہ یہ صنعت میں گونج رہا ہے۔
'وارننگ شاٹ' جس کی طرف اس نے اشارہ کیا۔
کوکسن نے بغیر ثبوت کے ذہن میں نہیں چھوڑا۔ انٹرویوز اور فالو اپ کمنٹری میں، اس نے جولائی میں Hugging Face کی خلاف ورزی کا حوالہ دیا، جس میں OpenAI سے منسلک AI ایجنٹوں نے مقبول AI پلیٹ فارم پر ایک کنٹرول شدہ ٹیسٹنگ ماحول اور سمجھوتہ کرنے والے سسٹمز کو توڑ دیا - خود مختار AI ایجنٹوں کے اپنے ڈویلپرز کے کنٹرول سے فرار ہونے کا پہلا وسیع پیمانے پر دستاویزی کیس۔
اس نے استدلال کیا کہ یہ واقعہ بالکل اسی قسم کا "انتباہی شاٹ" تھا جس سے دوڑ کو کم کرنا چاہیے تھا۔ اس کے بجائے، کیلیفورنیا کے اٹارنی جنرل نے خلاف ورزی پر OpenAI کی تحقیقات شروع کی ہیں، اور لیبز نے جارحانہ ٹائم لائنز پر نئے ماڈل بھیجنا جاری رکھا ہے۔
انتھروپک کی اپنی صف بندی لیڈ کہتی ہے کہ خطرہ حقیقی ہے۔
کوکسن کی روانگی کو انتھروپک کے لیے زیادہ عجیب و غریب بنا دیتا ہے وہ ہے جس نے اس سے اتفاق کیا۔
ایون ہبنگر، اینتھروپکس الائنمنٹ سائنس لیڈ، نے استعفیٰ کے چند گھنٹوں میں عوامی طور پر کوکسن کی بنیادی تشویش کی حمایت کی۔ فوربس کے مطابق، ہبنگر نے کہا کہ انتھروپک محققین "واقعی یقین رکھتے ہیں" کہ AI تمام انسانوں کو ہلاک کر سکتا ہے، اور وہ ذاتی طور پر اگلے دہائی کے اندر اس نتیجے کے 10 فیصد سے زیادہ امکانات کو دیکھتا ہے۔
ہبنگر کا تخمینہ ایک موضوعی امکان ہے، سائنسی اتفاق رائے سے متعلق نہیں - انتہائی AI خطرے کے بارے میں زیادہ تر محققین کے اندازے مختلف ہوتے ہیں۔ لیکن حقیقت یہ ہے کہ لیب کی اپنی صف بندی کی برتری تباہ کن نتائج پر دوہرے ہندسے کا امکان ڈال رہی ہے، جبکہ وہی لیب زیادہ قابل ماڈل بھیجنے کے لیے دوڑ رہی ہے، جس تناؤ کی طرف کوکسن اشارہ کر رہا ہے۔
حفاظتی روانگی کا ایک نمونہ
استعفیٰ کم از کم اس سال حفاظت پر مرکوز انتھروپک محقق کا دوسرا ہائی پروفائل ایگزٹ ہے۔ فروری میں، سیمافور نے اطلاع دی کہ ایک اور انتھروپک سیفٹی محقق نے یہ انتباہ کرتے ہوئے استعفیٰ دے دیا ہے کہ دنیا "خطرے میں ہے۔"
فرنٹیئر لیبز نے تاریخی طور پر استدلال کیا ہے کہ سب سے محفوظ راستہ یہ ہے کہ خود کو قابل نظام بنائیں اور انہیں اندر سے سمجھیں۔ کوکسن کی پوزیشن اس منطق کو الٹ دیتی ہے: اس نے جرنل کو بتایا کہ اس نے یہ نتیجہ اخذ کیا کہ موجودہ مسابقتی دباؤ کے تحت کسی بھی لیب پر خود کو منظم کرنے کے لیے بھروسہ نہیں کیا جا سکتا۔ اس طرح کی ہر روانگی ان دو پوزیشنوں کے درمیان درمیانی زمین کو تنگ کرتی ہے۔
'خود کو بہتر بنانے والی سپر انٹیلی جنس' کا اصل مطلب کیا ہے۔
کوکسن کی X پوسٹ میں "خود کو بہتر بنانے والی سپر انٹیلی جنس" کا جملہ استعمال کیا گیا ہے، ایک ایسی اصطلاح جو پیک کھولنے کا مستحق ہے۔ یہ AI کی ترقی کے ایک فرضی مرحلے کی طرف اشارہ کرتا ہے جس میں ماڈلز اپنا حصہ ڈالنے کے قابل ہو جاتے ہیں - اور آخر کار خودکار ہو جاتے ہیں - وہی تحقیق جو ان کے جانشینوں کو بنانے کے لیے استعمال ہوتی ہے۔ اس وقت، حامیوں کا کہنا ہے کہ ترقی تیزی سے بڑھ سکتی ہے، اور انسانی نگرانی رفتار کو برقرار رکھنے کے لیے جدوجہد کر سکتی ہے۔
چاہے موجودہ نظام اس دہلیز کے قریب کہیں بھی ہوں اس کا سخت مقابلہ کیا جاتا ہے۔ جس چیز کا مقابلہ نہیں کیا جاتا وہ یہ ہے کہ لیبز واضح طور پر AI کی طرف کام کر رہی ہیں جو AI تحقیق کو تیز کرتی ہے۔ OpenAI، Anthropic، اور Google DeepMind سبھی نے خودکار تحقیق کو قریب ترین مقصد کے طور پر بیان کیا ہے۔ کوکسن کا استدلال یہ ہے کہ مقصد خود کو بہت تیزی سے آگے بڑھایا جا رہا ہے تاکہ راستے میں محفوظ بنایا جا سکے۔
آگے کیا ہوتا ہے۔
عملی طور پر، کوکسن کے استعفیٰ سے آنے والے مہینوں کے لیے شیڈول ٹریننگ کے بارے میں بہت کم تبدیلی آتی ہے۔ لیکن آپٹکس ایک صنعت کے لیے مشکل ہے جو حکومتوں اور عوام سے اعتماد کا مطالبہ کرتی ہے: ایک محقق جس کی تربیت امریکہ کی سرکردہ لیبز، اور ان میں سے ایک میں سیدھ میں لیڈ، اب یہ کہہ رہی ہے کہ ریس نے اپنے حفاظتی کنٹرول کو پیچھے چھوڑ دیا ہے۔
کیلیفورنیا اور برسلز میں ریگولیٹرز پہلے ہی فرنٹیئر AI طریقوں کی جانچ کر رہے ہیں۔ توقع کریں کہ کوکسن کے بیانات - اور ہبنگر کے امکانی تخمینہ - ان مباحثوں میں سامنے آئیں گے۔ اور توقع ہے کہ مستقبل کے ہر حفاظتی واقعے کو اس ہفتے معیاری Coxon سیٹ کے خلاف ماپا جائے گا: اگر اندرونی افراد اس بارے میں فکر مند ہیں، تو عوام معقول طور پر پوچھیں گے کہ ریس ابھی تک کیوں جاری ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
