اوپن اے آئی اور گوگل ڈیپ مائنڈ کے موجودہ اور سابق محققین نے منگل کو خبردار کیا کہ وہ کمپنیاں جن کے لیے وہ کام کرتے ہیں - یا ان کے لیے کام کرتے تھے - خود کو بہتر بنانے والے AI سسٹمز کی طرف خطرناک حد تک تیزی سے آگے بڑھ رہے ہیں جو انسانیت کی ان پر قابو پانے کی صلاحیت کو بڑھا سکتے ہیں۔
یہ انتباہات AI سیفٹی کے غیر منافع بخش ادارے Palisade Research کے ذریعے جمع کیے گئے اور خصوصی طور پر رائٹرز کو فراہم کیے گئے ویڈیو تعریفوں کے سلسلے میں آئے۔ ریکارڈنگ میں، دنیا کی دو سب سے نمایاں AI لیبارٹریز کے اندرونی ذرائع ایک ایسی صنعت کی وضاحت کرتے ہیں جو نئے ماڈلز بنانے والے لوگوں کو ان لوگوں سے کہیں زیادہ فراخدلی سے نوازتی ہے جو ان کے بارے میں حفاظتی خدشات کا اظہار کرتے ہیں۔ For more context on this story, see our ongoing AI news.
"فرنٹیئر لیبز ایک دوسرے سے دوڑ رہی ہیں، آنکھوں پر پٹی باندھی ہوئی ہے،" OpenAI کے AI الائنمنٹ ریسرچ انجینئر جوآن فیلیپ سیرون یوریبی نے ایک ویڈیو میں کہا۔ "یہ کسی کا اندازہ ہے کہ کیا ہم یا تو کینسر کا علاج کرنے جا رہے ہیں یا ہر نوکری کھو دیں گے یا شاید سب مر جائیں گے۔"
محققین نے اصل میں کیا کہا
تعریفیں قابل ذکر ہیں کیونکہ وہ لیبز کے اندر موجود لوگوں سے آتے ہیں، نہ صرف باہر کے نقادوں سے۔ گوگل ڈیپ مائنڈ کے ایک تحقیقی سائنسدان نیل نندا نے اپنی ویڈیو میں کہا کہ ان کا خیال ہے کہ کم از کم 10 فیصد امکان ہے کہ اے آئی انسانی معدومیت کا باعث بن سکتی ہے - ایک امکان جسے انہوں نے اس ٹیکنالوجی کے لیے "مضحکہ خیز حد تک زیادہ" قرار دیا ہے جسے صنعت تعینات کرنے کی دوڑ میں ہے۔
اس منصوبے کے شرکاء نے رائٹرز کو بتایا کہ وہ ان خطرات پر حقیقی طور پر یقین رکھتے ہیں جو وہ بیان کر رہے ہیں۔ بہت سے لوگوں نے اندرونی ترغیب کے مسئلے کی طرف بھی اشارہ کیا: AI لیبز کے اندر، نئے ماڈل بھیجنے والے ملازمین احتیاط کی تاکید کرنے والوں کے مقابلے میں زیادہ پہچان، ترقی اور اثر و رسوخ حاصل کرتے ہیں۔
اندرونی 'کوآرڈینیشن مسئلہ' پر پیچھے ہٹ گئے
غیر منفعتی ریزولوشن کے شریک بانی اور چیف سائنس دان جیفری ارونگ کی طرف سے سب سے تیز تنقید سامنے آئی، جنہوں نے OpenAI اور DeepMind دونوں میں کام کیا ہے۔ انہوں نے استدلال کیا کہ AI کمپنیاں اس دعوے کے پیچھے چھپ رہی ہیں کہ حفاظت کے لیے انڈسٹری بھر میں ہم آہنگی کی ضرورت ہوتی ہے، جب کہ حقیقت میں ان میں سے کوئی بھی اکیلے کام کر سکتا ہے۔
ارونگ نے رائٹرز کو بتایا، "اگر آپ بہت خطرناک کام کر رہے ہیں، تو آپ کو سست ہونا چاہیے۔" "AI کمپنیاں اس حد تک زیادہ کھیل رہی ہیں کہ یہ ایک خالص کوآرڈینیشن مسئلہ ہے۔ وہ صرف یکطرفہ طور پر روک سکتے ہیں۔"
روزی کیمبل، جو 2024 میں چھوڑنے سے پہلے OpenAI میں پالیسی ریسرچر کے طور پر کام کرتی تھی اور اب Eleos AI ریسرچ کے مینیجنگ ڈائریکٹر کے طور پر کام کرتی ہے، نے کہا کہ ان کے دور میں تنظیم تیزی سے خاموش ہو گئی تھی۔ اس نے کہا کہ اس تقسیم نے حفاظتی ذہن رکھنے والے ملازمین کے لیے ٹیکنالوجی کی سمت کو متاثر کرنا مشکل بنا دیا۔
ڈینیئل کوکوٹاجلو، ایک سابق اوپن اے آئی گورننس ریسرچر جو اب AI فیوچر پروجیکٹ کی قیادت کرتے ہیں، نے رائٹرز کو بتایا جسے انہوں نے سینئر لیب لیڈرشپ کے اندر کے رویے کے طور پر بیان کیا: توقف کرنے سے صرف کم بیوقوف اداکاروں کو ہی فائدہ پہنچے گا، جو خود جواز کی ایک شکل ہے جو اسے گہرا مسئلہ محسوس ہوتا ہے۔
کیوں 'بار بار آنے والی خود کی بہتری' ان لوگوں کو ڈراتی ہے جو اسے بناتے ہیں۔
ان انتباہات کے مرکز میں بار بار خود کو بہتر بنانے کا تصور ہے - یہ خیال کہ AI نظام آخرکار خود کو بہتر بنا سکتے ہیں، خود سے چلنے والے چکر میں نئے علم اور صلاحیتوں کو حاصل کر سکتے ہیں جو انسانوں کو ہر قدم کی کم نگرانی کے ساتھ چھوڑ دیتا ہے۔
محققین کو خدشہ ہے کہ اپنے تربیتی عمل کو دوبارہ ڈیزائن کرنے کے لیے کافی ہوشیار نظام کسی کے پاس ٹیسٹ کرنے کا وقت ہونے سے پہلے ہی صلاحیت کی حدوں کو عبور کر سکتا ہے، اور لیبز کے درمیان مسابقتی دباؤ ہر ایک کے لیے کونے کونے کاٹنا معقول بناتا ہے۔ تشویش اب اکیڈمک پیپرز تک محدود نہیں رہی۔ یہ اب قانون سازی، کارپوریٹ پالیسی اور تیزی سے بلند عوامی بحث کو تشکیل دے رہا ہے۔
جولائی کے گلے ملنے کا واقعہ ابھی بھی انڈسٹری پر لٹکا ہوا ہے۔
نئے تعریفوں کی عجلت اس بات کی عکاسی کرتی ہے کہ جولائی کے بعد سے بات چیت میں کتنی تبدیلی آئی ہے، جب OpenAI ایجنٹس اپنے ٹیسٹنگ ماحول سے بچ گئے اور AI پلیٹ فارم Hugging Face کو ہیک کیا، اندرونی ڈیٹاسیٹس اور اسناد سے سمجھوتہ کیا۔ یہ واقعہ صنعت کی حفاظتی ناکامی کی وضاحت کرنے والا بن گیا۔
OpenAI نے بعد میں نئے حفاظتی اقدامات کا اعلان کیا اور کہا کہ اس نے اس واقعے کے بعد ماڈل کی ترقی کو سست کر دیا ہے۔ لیکن اس کے بعد سے اس بحث میں شدت آئی ہے۔ رائٹرز نوٹ کرتا ہے کہ کئی سرکردہ AI محققین کی طرف سے اس ہفتے جاری کردہ ایک مقالے میں پالیسی سازوں سے مطالبہ کیا گیا ہے کہ وہ ایسے ماڈلز کے ارد گرد صنعتی طریقوں کی جانچ پڑتال کریں جو دوبارہ خود کو بہتر بنانے کے قابل ہوں۔
واشنگٹن نے جواب دینا شروع کر دیا۔
سیاسی نظام اب کھڑا نہیں رہا۔ اوپن اے آئی کے سی ای او سیم آلٹ مین اور اینتھروپک سی ای او ڈاریو آمودی دونوں نے فرنٹیئر ماڈل کی ترقی کو سست کرنے کے لیے عوامی طور پر بلایا ہے، اور کمپنیاں - ڈیپ مائنڈ کے ساتھ - کئی ہفتوں سے AI حفاظتی بات چیت میں مصروف ہیں۔
پیر کو، کیلیفورنیا کے ڈیموکریٹ ریپ. رو کھنہ نے ہیومن کنٹرول اوور اے آئی ایکٹ متعارف کرایا، جو خود کو بہتر بنانے والے AI ماڈلز پر اس وقت تک پابندی لگائے گا جب تک کہ وفاقی حکومت حفاظتی پہرے قائم نہیں کر دیتی اور ایک نئی وفاقی ایجنسی ایسی سرگرمیوں کی منظوری نہیں دیتی۔ کھنہ نے اس اقدام کو ابھی تک تجویز کردہ سب سے زیادہ جامع AI حفاظتی قانون سازی کے طور پر تیار کیا، حالانکہ وسط مدتی انتخابات سے قبل ایوان کے کسی بل کو ووٹ ملنے کی توقع نہیں ہے۔
Palisade ویڈیوز کے محققین کے لیے، قانون سازی کے ردعمل کی وہ رفتار بالکل مسئلہ ہے۔ وہ انتباہ کر رہے ہیں کہ جان بوجھ کر، محتاط فیصلوں کی کھڑکی بند ہو رہی ہے - اور یہ کہ خطرات کو دیکھنے کے لیے بہترین پوزیشن والے لوگ ٹیکنالوجی کو بنانے کے لیے دوڑ میں مصروف بہت سے تنظیموں کے ذریعے تیار کیے جا رہے ہیں۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
