انتھروپک کے اندر سے عوامی انتباہات کی ایک لہر اس ہفتے تیز ہوگئی جب AI کمپنی کے متعدد محققین نے مصنوعی ذہانت کے ایک سابق ساتھی کے apocalyptic تشخیص کی بازگشت کی - ایلون مسک کی طرف سے ایک طنزیہ ردعمل کھینچا ، جس نے تجویز کیا کہ چیخ و پکار ایک مربوط "سائیوپ" تھی۔

دی گارڈین کے مطابق، یہ اضافہ انتھروپک محقق جیکب کوکسن کے ایک وائرل پوسٹ میں استعفیٰ دینے کے اعلان کے ایک دن بعد آیا، جس میں لکھا گیا کہ نہ تو انتھروپک اور نہ ہی اوپن اے آئی – اس کا سابق آجر – ذمہ داری سے اے آئی ماڈل بنا رہے تھے اور "ہماری زندگیوں کے ساتھ جوا کھیل رہے تھے۔" دھندلاہٹ کے بجائے، تنازعہ بڑھتا گیا کیونکہ موجودہ انتھروپک عملے نے حمایت میں اپنے خوفناک جائزے پوسٹ کیے ہیں۔ For more context on this story, see our ongoing artificial intelligence updates.

انتباہات کا انبار

اینا وانگ، جو اینتھروپک میں مصنوعی جنرل انٹیلی جنس سیفٹی پر کام کرتی ہیں اور پہلے گوگل کے ڈیپ مائنڈ میں کام کر چکی ہیں، نے جمعرات کو کہا کہ کمپنی میں بہت سے لوگ تیزی سے قابل ماڈلز سے لاحق خطرات کے لیے منصوبہ بندی کے لیے ترقی کو سست کرنا چاہتے ہیں۔

"ابھی تک کوئی قابل عمل سائنسی منصوبہ نہیں ہے کہ بار بار خود کو بہتر بنانے والے AI سے خطرات کو حل کیا جائے،" وانگ نے X پر لکھا۔

ایک اور اینتھروپک ملازم، ڈریک تھامس نے کہا کہ وہ کوکسن کے ٹیکنالوجی کی تعمیر سے الگ ہونے کے فیصلے کا احترام کرتے ہیں۔ تھامس نے لکھا، "معاملات بہت تیزی سے آگے بڑھ رہے ہیں، ہمارے پاس اس حد تک یقین دہانی نہیں ہے جو ہم ASI [مصنوعی سپر انٹیلی جنس] کے لیے چاہیں گے۔"

سیمیول مارکس، جو کمپنی میں حفاظتی تحقیق پر کام کرتے ہیں، نے دلیل دی کہ صنعت کے اندر خدشات کو بڑے پیمانے پر شیئر کیا جاتا ہے - اور یہ کہ سنیارٹی خطرے کی گھنٹی سے منسلک ہے۔ مارکس نے لکھا، "AI ڈویلپرز کا خیال ہے کہ ان کی ٹیکنالوجی انسانی معدومیت (یا اسی طرح کے برے نتائج) کا سبب بن سکتی ہے۔" "یہ اگلے چند سالوں میں ہو سکتا ہے۔ عام طور پر، ملازم جتنا سینئر ہوگا، اتنا ہی زیادہ فکر مند ہوگا۔"

ایون ہبنگر، جو خود کو اینتھروپک کے الائنمنٹ ڈویژن میں ایک لیڈر کے طور پر بیان کرتا ہے، سب سے آگے چلا گیا۔ "ہم واقعی دل سے یقین رکھتے ہیں کہ AI تمام انسانوں کو مار سکتا ہے!" Hubinger نے لکھا، انہوں نے مزید کہا کہ وہ ذاتی طور پر اگلی دہائی کے اندر امکان کو 10 فیصد سے اوپر رکھتا ہے۔

سی بی ایس نیوز کی رپورٹنگ کے بعد دی انسائیڈر نوٹ کرتا ہے کہ ایک انتھروپک محقق نے AI کو 10 فیصد سے زیادہ موقع تفویض کیا ہے جس کا سبب انسانی معدومیت ہے، اور دی جاپان ٹائمز کی کوریج کہ انتباہات نے ریاستہائے متحدہ میں نئے AI قوانین کے لیے نئے مطالبات کیے ہیں۔

کستوری: 'ایک سیٹ اپ کی طرح لگتا ہے'

ایلون مسک نے سخت مخالفانہ نظریہ اپنایا۔ دنیا کے امیر ترین شخص نے اپنے سوشل پلیٹ فارم X پر لکھا، "ایک سیٹ اپ کی طرح لگتا ہے۔"

کوکسن نے سیلفی کے ساتھ جواب دیا: "میں حقیقی ہوں اور یہ میرے حقیقی عقائد ہیں۔ آپ اپنے xAI محققین سے میرے بارے میں پوچھ سکتے ہیں اگر آپ نے انہیں برطرف نہیں کیا ہوتا۔"

قدامت پسند تھنک ٹینک کیپٹل ریسرچ کے ایک محقق پارکر تھائر کے ذریعہ پیش کردہ تھیوری کو مسک اور دیگر ہمدردانہ آوازوں نے مزید تقویت بخشی، جس نے تجویز کیا کہ - بہت کم ثبوتوں کے ساتھ، دی گارڈین نوٹ - کہ کوکسن کی پوسٹ ایک "بہت نفیس اور اچھی مالی امداد سے چلنے والے PR آپریشن کا افتتاحی اقدام تھا تاکہ ڈیموکریٹس کو دوبارہ قبول کرنے میں مدد حاصل کی جا سکے۔"

ارب پتی ہیج فنڈ مینیجر بل اک مین نے تھائر کی پوسٹ کو ایک لفظی جواب کے ساتھ نقل کیا: "دلچسپ۔"

مسک نے بعد میں وضاحت کی۔ "مجھے لگتا ہے کہ اس نفسیاتی آپشن (بہتر اصطلاح کی کمی کی وجہ سے) کی بنیاد ایک طویل عرصے سے تیار کی گئی ہے،" انہوں نے پوسٹ کیا۔ "یہ صرف وہ میچ تھا جس نے آگ جلا دی۔"

انتھروپک اپنے نقطہ نظر کا دفاع کرتا ہے۔

اپنے ملازمین کے انتباہات اور باہر سے ہونے والے حملوں کے درمیان پھنسے ہوئے، اینتھروپک نے عوامی ردعمل کی پیشکش کی۔

کمپنی کے ایک ترجمان نے دی گارڈین کو بتایا، "ہم ہمیشہ سے شفاف رہے ہیں کہ AI بہت زیادہ فوائد اور بے مثال خطرات لائے گا۔" "ان خطرات سے نمٹنے کے لیے، ہم صنعت میں کچھ مضبوط حفاظتی تدابیر کے ساتھ ماڈلز بنانا جاری رکھے ہوئے ہیں۔"

کمپنی نے دستاویزی اور غلط استعمال میں خلل ڈالنے کے اپنے ٹریک ریکارڈ کی طرف اشارہ کیا۔ انتباہات کے وائرل ہونے کے اسی دن، اینتھروپک نے اپنی ستمبر کے خطرے کی انٹیلی جنس رپورٹ جاری کی، جس میں بتایا گیا کہ کس طرح کمپنی نے اپنے AI ماڈلز کا استعمال کرتے ہوئے ایک حیاتیاتی ہتھیار بنانے کی کوشش کو ختم کیا - سائبر حملوں اور اثر و رسوخ کی کارروائیوں میں خلل ڈالنے والی مہمات کے ساتھ۔ الجزیرہ اور بی بی سی ان آؤٹ لیٹس میں شامل تھے جنہوں نے جمعے کو بائیو ویپن کے نتائج کو اجاگر کیا۔

شک کرنے والے ایک مختلف خطرہ دیکھتے ہیں۔

ہر کوئی معدومیت کی تشکیل کو قبول نہیں کرتا ہے۔ گیری مارکس، سائنسدان اور دیرینہ اے آئی کے نقاد، نے دلیل دی کہ ٹیکنالوجی پہلے سے ہی نقصان پہنچا رہی ہے جو سپر انٹیلی جنس منظرناموں سے قطع نظر کارروائی کی ضمانت دیتی ہے - موجودہ دور کے نقصان پر اے آئی کے بائیکاٹ کا مطالبہ۔

معدومیت سے زیادہ، مارکس نے دی گارڈین کو بتایا کہ وہ "اے آئی سے پیدا ہونے والے پیتھوجینز، AI سے پیدا ہونے والی غلط معلومات کے ذریعے شروع ہونے والی جنگوں یا بڑھنے والی جنگوں سے، اہم انفراسٹرکچر کو تباہ کرنے والے ہیکس وغیرہ سے" تباہی کے خطرے کے بارے میں فکر مند ہیں۔ میں نے جو کچھ بھی نہیں دیکھا ہے اس سے کوئی اشارہ نہیں ملتا کہ اس میں سے کوئی بھی کنٹرول میں ہے۔"

اس کی پوزیشن خود AI حفاظتی بحث کے اندر ایک تقسیم کی نشاندہی کرتی ہے: ان لوگوں کے درمیان جو طویل مدتی، مستقبل کے نظاموں سے تہذیبی سطح کے خطرے پر مرکوز ہیں، اور جو آج کے ماڈلز سے ٹھوس نقصانات پر مرکوز ہیں۔

ایک بحث جو اندرونی رہنے سے انکار کرتی ہے۔

ایک محقق کے استعفیٰ کے خط کے طور پر جو شروع ہوا وہ ایک بہت ہی عوامی ریفرنڈم بن گیا ہے کہ کس طرح AI انڈسٹری اپنے سب سے طاقتور نظام بنا رہی ہے۔ اینتھروپک کے اندر، ملازمین کھلے عام بحث کر رہے ہیں کہ آیا محفوظ ترقی کے لیے ان کی اپنی ٹائم لائنز پھسل گئی ہیں۔ اس کے باہر، انتباہات کو ایک بڑھتی ہوئی پولرائزڈ سیاسی لڑائی میں جوڑا جا رہا ہے کہ آیا حکومتوں کو مداخلت کرنی چاہیے یا نہیں۔

گارڈین کی رپورٹنگ سے پتہ چلتا ہے کہ بہت سے انتھروپک عملہ ان خدشات کو نجی طور پر شیئر کرتے ہیں لیکن عوامی طور پر بات نہیں کرتے ہیں۔ اگر ان میں سے زیادہ لوگ Coxon، Wang، Thomas، Marks اور Hubinger کی پیروی کرتے ہیں، تو معروف AI لیبز پر سست ہونے کا دباؤ — اور ریگولیٹرز پر عمل کرنے کے لیے — صرف بڑھے گا۔

_یہ مضمون دی گارڈین کی رپورٹنگ پر مبنی ہے، جس میں سی بی ایس نیوز، دی جاپان ٹائمز، الجزیرہ اور بی بی سی کے اضافی سیاق و سباق شامل ہیں۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →