گوگل ڈیپ مائنڈ نے مصنوعی جنرل انٹیلی جنس کے ارد گرد گفتگو کو وسیع کرنے کے لیے وقف ایک نیا انسٹی ٹیوٹ شروع کیا ہے - اور اس کے افتتاحی مضامین میں امریکی زیرقیادت باڈی کے لیے ڈیمس ہاسابیس کی ایک ٹھوس تجویز شامل ہے جو تعیناتی سے پہلے فرنٹیئر AI ماڈلز کا جائزہ لے گی۔
ڈیپ مائنڈ انسٹی ٹیوٹ، جسے گوگل اور گوگل ڈیپ مائنڈ کے محققین نے بدھ کے روز شروع کیا، ڈیپ مائنڈ کے شریک بانی شین لیگ کو اس کے منیجنگ ایڈیٹر کے طور پر، گوگل کے ایگزیکٹو جیمز مانیکا اور گوگل ڈیپ مائنڈ کی چیئر ڈیمس ہاسابیس کو بطور ڈائریکٹر، ٹیک کرنچ کے مطابق درج کرتا ہے۔ For more context on this story, see our ongoing AI trends.
اختلاف کی گنجائش
انسٹی ٹیوٹ کا بیان کردہ مقصد حقیقی اختلاف کو ظاہر کرنا ہے — بشمول خود گوگل کے اندر۔ "وہ ہمیشہ متفق نہیں ہوں گے، اور وہ ممکنہ طور پر اپنا ذہن بدل لیں گے، کیونکہ تیزی سے آگے بڑھنے والے محاذ پر مزید ڈیٹا اور معلومات سامنے آتی ہیں،" اعلان پڑھتا ہے۔
اس کے پہلے مجموعے میں چار مضامین شامل ہیں جن میں ممکنہ AGI خلل کے انتظام کے لیے معاشی پالیسیوں کا احاطہ کیا گیا ہے، انسانی پڑھنے کے قابل ماڈل استدلال کو محفوظ کرنا، انسانی پھلنے پھولنے کے اصول، اور فرنٹیئر AI ماڈلز کا جائزہ لینے کے لیے ایک فریم ورک شامل ہے۔
کھلے اختلاف کو ادارہ بنانا ایک کارپوریٹ AI لیب کے لیے ایک غیر معمولی اقدام ہے، جہاں عوامی پیغام رسانی کو سختی سے کنٹرول کیا جاتا ہے۔ ڈیزائن کے لحاظ سے، انسٹی ٹیوٹ گوگل کے محققین کو ایسی پوزیشنوں پر بحث کرنے کا مقام فراہم کرتا ہے جو کمپنی کے تجارتی مفادات — یا ایک دوسرے کے ساتھ متصادم ہو سکتی ہیں۔
شفافیت کا مضمون: 'مبہم سیریل ڈیپتھ' دیکھیں
ڈیپ مائنڈ کے حفاظتی محققین روہین شاہ اور اینکا ڈریگن کے چار مقالوں میں سے ایک، دلیل دیتا ہے کہ اے آئی کی شفافیت کی سکڑتی ہوئی کھڑکی - ایک ماڈل کی قدم بہ قدم استدلال کو دیکھنے اور جانچنے کی صلاحیت - ناگزیر نہیں ہے، یہاں تک کہ نئے آرکیٹیکچرز سب سے زیادہ طاقتور ماڈلز کی نگرانی کرنا مشکل بنا دیتے ہیں۔
مصنفین کا کہنا ہے کہ ڈویلپرز اور ریگولیٹرز کو سیفٹی ٹریڈ آف کا براہ راست مقابلہ کرنا چاہیے۔ ٹھوس طور پر، اس کا مطلب یہ ہو سکتا ہے کہ وہ جسے "مبہم سیریل گہرائی" کہتے ہیں اسے محدود کرنا — ترتیب وار حساب کتاب کی مقدار جو ایک ماڈل پڑھنے کے قابل استدلال ٹریس پیدا کیے بغیر انجام دے سکتا ہے — یا ڈویلپرز کو یہ ظاہر کرنے کی ضرورت ہوتی ہے کہ کم شفاف نظام صرف قابل تعبیر نظاموں کی طرح نگرانی کے قابل رہتے ہیں۔
یہ تجویز قابل ذکر ہے کیونکہ یہ تشریحی صلاحیت کے نقصان کو پیمانے کے ناگزیر نتیجے کے بجائے ڈیزائن اور پالیسی کے انتخاب کے طور پر مانتی ہے، جس سے ان تقاضوں کا دروازہ کھل جاتا ہے جنہیں ضابطے میں لکھا جا سکتا ہے۔
حسابیس کی تجویز: یو ایس فرنٹیئر اسٹینڈرڈز باڈی
سب سے زیادہ نتیجہ خیز مضمون حسابیس کا ہوسکتا ہے۔ انہوں نے امریکی قیادت میں فرنٹیئر اے آئی اسٹینڈرڈز باڈی کی تجویز پیش کی جسے جدید ترین AI ماڈلز کا جائزہ لینے کا کام سونپا گیا ہے۔ فریم ورک کے تحت، ڈویلپرز ابتدائی طور پر ماڈلز کو ریلیز سے 30 دن پہلے تک جائزے کے لیے رضاکارانہ طور پر جمع کرائیں گے۔ ایک بار تشخیصی نظام کے موثر ثابت ہونے کے بعد، اس کے ٹیسٹ پاس کرنا ریاستہائے متحدہ میں فرنٹیئر ماڈلز کی تعیناتی کے لیے ایک ضرورت بن سکتا ہے۔
باڈی AI کمپنیوں کے ساتھ مشاورت سے جائزوں کو ڈیزائن کرکے شروع کرے گی، لیکن آخر کار آزاد، غیر ظاہر شدہ تشخیصات تیار کرے گی - جسے مضمون "ہولڈ آؤٹ" ٹیسٹ کہتا ہے - تاکہ لیبز کو ان کے ماڈلز کو معلوم معیارات کے مطابق بنانے سے روکا جا سکے، یہ عوامی تشخیص کے نظام کا ایک اچھی طرح سے دستاویزی ناکامی کا طریقہ ہے۔
حسابیس نے بڑھنے کا دروازہ بھی کھلا چھوڑ دیا: فریم ورک کو "اگر صورت حال کی سنگینی کا تقاضا ہے تو،" ممکنہ طور پر فرنٹیئر AI ڈویلپرز کے درمیان مربوط سست روی بھی شامل ہے۔
دوسرے دو مضامین کیوں اہم ہیں۔
بقیہ دو مقالے — AGI میں خلل کے انتظام کے لیے معاشی پالیسیوں اور انسانوں کی نشوونما کے لیے اصولوں پر — ایک ایسا مجموعہ تیار کرتے ہیں جو AGI کو خالصتاً تکنیکی کے بجائے معاشرے کے وسیع مسئلے کے طور پر پیش کرتا ہے۔ معاشی نقل مکانی ایک طویل عرصے سے جدید AI کے ارد گرد سب سے زیادہ ٹھوس عوامی تشویش رہی ہے، اور اسے تشخیصی پالیسی اور تشریح کے ساتھ ساتھ ترتیب دینے سے پتہ چلتا ہے کہ انسٹی ٹیوٹ پالیسی سازوں کو الگ الگ بحث کے بجائے ایک ایجنڈے کے طور پر دیکھنا چاہتا ہے۔
یہ وسعت گوگل کی پوزیشننگ کے بارے میں بھی ایک اشارہ ہے۔ کمپنی انٹرپرائز صارفین اور حکومتی معاہدوں کے لیے مقابلہ کر رہی ہے جبکہ بیک وقت یہ بحث کر رہی ہے کہ فرنٹیئر سسٹم کو باہر کی جانچ پڑتال کی ضرورت ہے۔ تناؤ کو ہموار کرنے کے بجائے شائع کرنا انسٹی ٹیوٹ کی بنیادی بنیاد ہے۔
تشویش سے لے کر ٹھوس تجاویز تک
مضامین ایسے آتے ہیں جب صنعت کی حفاظتی بحث تشویش کے وسیع بیانات سے مخصوص میکانزم کی طرف منتقل ہوتی ہے: افشاء کے تقاضے، باہر جانچ پڑتال، اور - اگر حفاظتی اقدامات پیچھے رہ جاتے ہیں تو - مربوط سست روی۔ اس ہفتے اس تبدیلی میں تیزی آئی جب صنعت کے رہنماؤں نے اینتھروپک کے سی ای او ڈاریو آمودی کی طرف سے ٹیک کرنچ کے مطابق فرنٹیئر اے آئی ڈیولپمنٹ کو "پیس" کرنے کی کال کے عناصر کی توثیق کی۔
ٹائمنگ اہم ہے۔ بحر اوقیانوس کے دونوں اطراف کی حکومتیں اس بات پر غور کر رہی ہیں کہ ان نظاموں کی نگرانی کیسے کی جائے جن کی صلاحیتیں تشخیص کے بنیادی ڈھانچے سے زیادہ تیزی سے آگے بڑھ رہی ہیں۔ ایک تجویز جو ایک معروف AI لیب کے اندر پیدا ہوتی ہے - اور اس میں دانتوں کے ساتھ پری ریلیز جائزہ بھی شامل ہے - پالیسی سازوں کو ایک ٹیمپلیٹ فراہم کرتا ہے جس کی خود صنعت نے برائے نام توثیق کی ہے، جو تاریخی طور پر بامعنی AI ضابطے کے لیے ایک شرط رہی ہے۔
کیا دیکھنا ہے۔
گوگل سے ادارے کی ادارتی آزادی کا پہلا امتحان ہوگا۔ اگر مضامین میں ایسی پوزیشنیں شامل ہوتی رہیں جو گوگل کے تجارتی روڈ میپ کے خلاف ہوتی ہیں — جیسا کہ شفافیت کا مضمون دلیل کے طور پر کرتا ہے — تو مقام AGI پالیسی کی بحث میں سنجیدہ معاون بن سکتا ہے۔ اگر یہ کارپوریٹ پیغام رسانی کی طرف بڑھتا ہے، تو یہ پرہجوم میدان میں ایک اور PR چینل ہوگا۔
کسی بھی طرح سے، مادہ اب میز پر ہے: پہلے سے جاری ہونے والی تشخیص کی ضروریات، منعقد کیے گئے ٹیسٹ، اور یہاں تک کہ ایک مربوط سست روی کو عوامی طور پر AI کی سب سے طاقتور شخصیت کے ذریعے دلیل دی جا رہی ہے۔ سوال اب یہ نہیں ہے کہ آیا فرنٹیئر ماڈلز کا آزادانہ طور پر جائزہ لیا جانا چاہیے، لیکن یہ جائزہ کون کرتا ہے - اور کس ٹائم ٹیبل پر۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
