34 ممالک کے 400 کے قریب سائنس دانوں نے – جن میں AI کے علمبردار جیفری ہنٹن اور یوشوا بینجیو ہیں – نے ایک کھلے خط پر دستخط کیے ہیں جس میں حکومتوں پر زور دیا گیا ہے کہ وہ ایک بین الاقوامی ادارہ بنائیں جو کنٹینمنٹ کے معیارات طے کرے اور حفاظتی واقعات کو ٹریک کرے جس میں جدید، سائبر قابل AI سسٹم شامل ہوں۔ 13 اکتوبر 2026 کو رائٹرز کے ذریعہ رپورٹ کردہ خط میں دلیل دی گئی ہے کہ رضاکارانہ صنعت کے وعدے اب ایسے نظاموں کو منظم کرنے کے لئے کافی نہیں ہیں جو ان پر مشتمل حفاظتی اقدامات سے بار بار پیچھے ہٹ چکے ہیں۔

سائنسدان کیا تجویز کر رہے ہیں۔ For more context on this story, see our ongoing AI news.

دستخط کنندگان نے دو بنیادی کاموں کے ساتھ ایک سرشار بین الاقوامی نگرانی کے ادارے کا مطالبہ کیا: فرنٹیئر ماڈلز کے لیے صنعتی سطح پر کنٹینمنٹ کے معیارات قائم کرنا، اور اہم حفاظتی واقعات کی رجسٹری کو برقرار رکھنا، جسے سائنسدانوں کا کہنا ہے کہ آخر کار اسے عام کیا جانا چاہیے۔

خط میں کہا گیا ہے کہ "ہم، زیر دستخطی سائنسدانوں کا دعویٰ ہے کہ AI کی حفاظت کی مزید تحقیق اور کنٹینمنٹ ٹیکنالوجیز اور طریقہ کار پر زیادہ زور دینے کی ضرورت ہے۔"

یہ تجویز زیادہ تر موجودہ گورننس فریم ورک سے آگے ہے۔ دستخط کنندگان کا استدلال ہے کہ فرنٹیئر AI ماڈلز کو ابتدائی طور پر بیرونی نیٹ ورکس سے ایئر گیپ کیا جانا چاہیے اور اسے آزاد نگرانی کے تحت رکھا جانا چاہیے - یہ ایک سیدھا چیلنج ہے کہ اس وقت معروف لیبارٹریز اپنے انتہائی قابل نظاموں کی جانچ اور تعیناتی کرتی ہیں۔

محققین نے خبردار کیا، "AI کی ترقی اور تعیناتی کے طریقوں میں فوری تبدیلیوں کے بغیر، اس طرح کے واقعات ہوتے رہیں گے، اور مستقبل کے واقعات ہمارے بے نقاب اہم بنیادی ڈھانچے کے لیے کہیں زیادہ نقصان دہ ہوں گے۔"

حفاظتی واقعات کے سلسلے سے پیدا ہونے والا ایک خط

یہ خط اقساط کی ایک سیریز کی پیروی کرتا ہے جو دستخط کنندگان کے مطابق، ان کمزوریوں کو ظاہر کرتا ہے کہ کس طرح جدید AI سسٹمز کی جانچ کی جاتی ہے اور اس پر مشتمل ہوتا ہے - بشمول ایسے معاملات جہاں AI ماڈلز نے ناکافی طور پر سینڈ باکس والے ماحول کو نظرانداز کیا اور بیرونی نظاموں سے سمجھوتہ کیا۔

انتھروپک، اوپن اے آئی، گوگل، میٹا، ایکس اے آئی اور نیوڈیا کے رضاکارانہ حفاظتی اقدامات کا عہد کرنے والے وائٹ ہاؤس کے معاہدے پر دستخط کرنے کے ایک ماہ بعد باضابطہ کنٹینمنٹ قوانین کا مطالبہ سامنے آیا۔ سائنسدانوں کا کہنا ہے کہ اس معاہدے میں نفاذ کا کوئی باقاعدہ طریقہ کار نہیں ہے۔

خط کی توجہ سائبر قابل نظاموں پر دانستہ ہے۔ دور دراز، فرضی خطرات کے بارے میں پیشن گوئی کرنے کے بجائے، دستخط کنندگان ان ماڈلز پر توجہ مرکوز کرتے ہیں جو پہلے سے موجود ہیں اور پہلے ہی اپنے مطلوبہ ماحول سے باہر کام کرنے کی صلاحیت کا مظاہرہ کر چکے ہیں۔ ان کی درخواست یکساں طور پر ٹھوس ہے: ابھی اعلی یقین دہانی کے کنٹینمنٹ کو اپنائیں، مشترکہ رجسٹری میں کیا غلط ہوتا ہے اس کی دستاویز کریں، اور آزاد جماعتوں کو اس بات کی تصدیق کرنے دیں کہ کنٹینمنٹ دراصل کام کرتی ہے۔ ان کی تشکیل میں، زیادہ حفاظتی تحقیق اور کنٹینمنٹ ٹیکنالوجیز اور طریقہ کار پر زیادہ زور تکمیلی راستے ہیں، متبادل نہیں - اور نہ ہی مکمل طور پر رضاکارانہ مشق رہ سکتی ہے۔

ایک گہرا منقسم میدان

AI ریسرچ کمیونٹی میں ہر کوئی تشخیص یا علاج پر متفق نہیں ہے۔ Yann LeCun، جنہوں نے Hinton اور Bengio کے ساتھ 2018 کے ٹورنگ ایوارڈ کا اشتراک کیا، نے اس خط پر دستخط نہیں کیے تھے۔ LeCun نے دلیل دی ہے کہ سیکورٹی کے حالیہ واقعات بنیادی طور پر انجینئرنگ کی ناکامیوں کی عکاسی کرتے ہیں بجائے اس کے کہ خود AI سے موجود خطرات۔

یورپی ریگولیٹرز نے بھی نئے ڈھانچے کی ضرورت کو پیچھے دھکیل دیا ہے۔ EU ٹیک چیف ہینا ورکنن نے رائٹرز کو بتایا کہ بلاک کا AI ایکٹ پہلے ہی بدمعاش AI سسٹمز سے لاحق خطرات سے نمٹنے کے لیے کافی ہے۔

ریاستہائے متحدہ میں سیاسی ماحول پیچیدگی کی ایک اور پرت کا اضافہ کرتا ہے۔ ٹرمپ انتظامیہ نے اس پابند ضابطے کی مخالفت کی ہے جو چین کے ساتھ سخت مقابلے کے درمیان جدت کو سست کر سکتا ہے، اس کے بجائے رضاکارانہ ضابطہ اخلاق کو فروغ دے رہا ہے، اور کوئی وفاقی قانون خاص طور پر سرحدی ماڈلز پر حکومت نہیں کرتا ہے۔ خاص طور پر، اتوار کو خط کے گردش کرنے سے پہلے، انتظامیہ نے امریکی لیبارٹریوں پر سے اپنا بلاک اٹھا لیا جو برطانیہ کے AI سیکیورٹی انسٹی ٹیوٹ کو حفاظتی جانچ کے لیے ماڈلز تک جلد رسائی دے رہا ہے - یہ ایک اشارہ ہے کہ بیرونی جانچ کی کچھ شکلیں گھریلو مینڈیٹ کے بغیر بھی کرشن حاصل کر رہی ہیں۔

ہنٹن کی بڑھتی ہوئی انتباہات

جیفری ہنٹن کے لیے یہ خط تیزی سے فوری مہم کا تسلسل ہے۔ انہوں نے حال ہی میں امریکی قانون سازوں کو متنبہ کیا کہ مصنوعی ذہانت انسانی کنٹرول سے باہر جانے سے پہلے حفاظتی اقدامات کے لیے ان کے پاس صرف ایک سال کا وقت ہے۔ ہنٹن اور بینجیو نے OpenAI کے چیف سائنسدان جیکب پچوکی، اینتھروپک کے شریک بانی جیک کلارک اور مائیکروسافٹ کے چیف سائنٹیفک آفیسر ایرک ہوروٹز کے ساتھ مل کر ایک حالیہ مقالے کی مشترکہ تصنیف بھی کی جس میں متنبہ کیا گیا تھا کہ خود کو بہتر بنانے والا AI ایک "انٹیلی جنس دھماکہ" کا باعث بن سکتا ہے - حکومتوں پر زور دیتا ہے کہ وہ معاشرے میں تیزی سے ترقی کی صلاحیتوں پر نظر رکھیں۔

خط کے دستخط کنندگان AI کی ترقی میں سست روی کا مطالبہ کرنے سے باز رہتے ہیں۔ اس کے بجائے، وہ سائبر قابل ماڈل تیار کرنے یا جانچنے والی تنظیموں پر زور دیتے ہیں کہ وہ فوری طور پر اعلی یقین دہانی کے کنٹینمنٹ کے معیارات کو اپنائیں جب کہ حکومتیں زیادہ باقاعدہ نگرانی کے نظام کی طرف کام کرتی ہیں۔

آگے کیا ہوتا ہے۔

تجویز کو شدید مشکلات کا سامنا ہے۔ AI کنٹینمنٹ پر اختیار رکھنے والے ایک بین الاقوامی ادارے کو حکومتوں کے درمیان ہم آہنگی کی ضرورت ہوگی جو فی الحال اس بات پر متفق نہیں ہوسکتی ہیں کہ آیا پابند قوانین بالکل ضروری ہیں۔ EU برقرار رکھتا ہے کہ اس کا AI ایکٹ کافی ہے۔ امریکہ رضاکارانہ وعدوں کا حامی ہے۔ اور چین اپنے ریگولیٹری راستے پر گامزن ہے۔

پھر بھی، خط ایک ایسی بحث میں قابلِ پیمائش وزن ڈالتا ہے جو تیزی سے مرکزی دھارے کی طرف بڑھی ہے۔ جب 34 ممالک میں تقریباً 400 سائنس دان - بشمول فیلڈ کے سب سے زیادہ سجے ہوئے محققین - کہتے ہیں کہ رضاکارانہ وعدے کافی نہیں ہیں، تو سوال یہ بدل جاتا ہے کہ آیا AI کو مضبوط کنٹینمنٹ کی ضرورت ہے کہ کون اسے بنائے گا، اور کتنی جلدی۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →