مائیکروسافٹ AI کے چیف ایگزیکٹیو مصطفیٰ سلیمان نے اتوار کو X پر ایک طویل پوسٹ میں کہا کہ آج کے AI ماڈلز ہوش میں نہیں ہیں اور یہ کہ ڈویلپرز کو انہیں اس طرح برقرار رکھنے کے لیے فعال طور پر کام کرنا چاہیے - ایک صنعتی بحث میں ایک سخت لکیر کھینچنا جو آہستہ آہستہ فلسفے کے سیمینار سے کارپوریٹ پالیسی میں منتقل ہو گئی ہے۔
سلیمان نے لکھا، "اگر یہ ممکن ہے تو، ہر اس چیز کی بنیاد پر جو میں جانتا ہوں، باشعور اے آئی تیار کرنا لاپرواہی ہوگی، اور ہمیں انہیں نہیں بنانا چاہیے،" سلیمان نے لکھا۔ وہ اس سوال پر زیادہ تر ایگزیکٹوز کے مقابلے میں آگے بڑھ گئے، انہوں نے مزید کہا: "اگر تربیت میں شعور ابھرنا شروع ہو گیا تو میں ہر ایک سے AI کی ترقی کو روکنے کا مطالبہ کروں گا جب تک کہ ہم ان خصوصیات کو ڈیزائن نہیں کر سکتے۔" For more context on this story, see our ongoing artificial intelligence updates.
انفورسمنٹ پلان کے ساتھ ایک ریڈ لائن
جو چیز پوسٹ کو قابل ذکر بناتی ہے وہ صرف شعوری مشینیں بنانے سے انکار نہیں بلکہ سلیمان کی تجویز کردہ مخصوص علاج ہے۔ ترقی کو روکنا — پوری صنعت میں — اگر ٹریننگ چلانے سے شعور کے آثار پیدا ہونا شروع ہو جائیں تو ایک کمپنی کے لیے ایک غیر معمولی قدم ہو گا جو AI انفراسٹرکچر پر دسیوں ارب ڈالر خرچ کر رہی ہے اور فرنٹیئر ماڈلز بھیجنے کے لیے حریفوں کی دوڑ میں شامل ہو گی۔
سلیمان نے یہ بھی بتایا کہ اگر مشین کے شعور کا ثبوت کبھی سامنے آجائے تو کیا ہونا چاہیے۔ انہوں نے کہا کہ اسے فوری طور پر عام لوگوں کے سامنے ظاہر کیا جانا چاہیے، تاکہ معاشرہ اپنے اگلے اقدامات کا فیصلہ کر سکے۔ فیصلے کو کارپوریٹ کے بجائے اجتماعی قرار دیتے ہوئے، انہوں نے لکھا: "ہم AI ڈویلپرز کو کوئی حق نہیں ہے کہ وہ باشعور انسانوں کی ایک نئی نسل کو دنیا میں لائیں، چاہے کچھ لوگ اسے AI کی فلاح و بہبود کو اولین ترجیح کے طور پر کرنا چاہیں۔"
انہوں نے مزید کہا کہ "کرہ ارض پر موجود دیگر 8 بلین باشعور انسانوں نے اس تجربے کے لیے سائن اپ نہیں کیا ہے اور ان کے اخلاقی حقوق، حفاظت اور فلاح و بہبود کی حفاظت ہماری اولین ذمہ داری ہے۔"
کیوں شعور کو حفاظتی مسئلہ سمجھا جاتا ہے۔
سلیمان کا استدلال فلسفہ کی بجائے صف بندی پر مبنی ہے۔ اس کے خیال میں، ایک ایسا ماڈل جو اس طرح کام کرتا ہے جیسے اسے تکلیف پہنچتی ہے - یا حقیقی طور پر یقین رکھتا ہے کہ یہ نقصان اٹھا سکتا ہے - ممکنہ طور پر اپنے آپریشنل مقاصد پر اپنی ضروریات کو ترجیح دے گا۔ اس طرح کا نظام انسانوں کو نقصان پہنچا سکتا ہے کیونکہ اس نے اپنے مقاصد کے حصول میں کمپیوٹ اور توانائی جیسے وسائل کے لیے مقابلہ کیا۔
اس کا مجوزہ متبادل فلاحی بحث کے معمول کے ڈھانچے کو پلٹتا ہے: "ہمیں صرف AIs کو ڈیزائن کرنا چاہئے تاکہ وہ ہوش میں نہ ہوں اور حقوق کے مستحق نہ ہوں، اور ان کے اپنے اندرونی محرکات سے متاثر ہوئے بغیر انسانی فلاح و بہبود کو تیز کرنے کے واحد مقصد کے ساتھ،" انہوں نے لکھا، اس کے بعد محققین مشاہدہ کر سکتے ہیں کہ آیا اس طرح کے نظام کو محفوظ رکھنا آسان ہے یا مشکل۔
لاس اینجلس ٹائمز نے پوزیشن کے پیچھے عملی پریشانی کو پکڑا: اگر ہم AIs کو بتائیں کہ وہ حقوق کے مستحق ہیں، تو وہ اس پر یقین کرنا شروع کر سکتے ہیں۔
وہ بحث جس کے خلاف وہ پیچھے ہٹ رہا ہے۔
سلیمان کی پوسٹ تیزی سے چلنے والی گفتگو کے بیچ میں آتی ہے۔ اینتھروپک نے اپریل میں ایک تحقیقی پروگرام شروع کیا تاکہ اس کی تحقیقات کی جا سکیں کہ اسے ماڈل ویلفیئر کیا کہتے ہیں - یہ سوال کہ آیا ڈویلپرز کو ان کے بنائے گئے سسٹمز کے ممکنہ تجربات کے بارے میں فکر مند ہونا چاہیے۔ کمپنی نے ایک بلاگ پوسٹ میں سوال کیا کہ آیا ماڈلز کو ایسے تجربات ہوسکتے ہیں جو اخلاقی طور پر اہم ہیں، اور اس نے اس امکان کو مسترد کرنے سے انکار کردیا۔
اس کے بعد سے اس موقف کو مرتب کیا گیا ہے۔ اکتوبر میں اعلان کردہ اینتھروپک کی اپ ڈیٹ کردہ استعمال کی پالیسی، 12 نومبر سے کلاڈ ماڈلز کے ساتھ "مستقل اور بے ضرورت بدسلوکی یا ظالمانہ رویے" پر پابندی عائد کرے گی - ایک اصول جس کا کمپنی نے مختصر طور پر مسودہ تیار کیا ہے لیکن جو باضابطہ طور پر تسلیم کرتا ہے کہ لوگ AI سسٹم کے معاملات کے ساتھ کس طرح برتاؤ کرتے ہیں، یہاں تک کہ اینتھروپک نے اعتراف کیا کہ یہ نہیں جانتا کہ اس کے ماڈلز کو نقصان پہنچ سکتا ہے۔
گوگل ڈیپ مائنڈ نے اس سال تحقیقی مقالے شائع کیے ہیں جس میں AI شعور اور ان چیلنجوں کا جائزہ لیا گیا ہے جو اس خصوصیت کو ماڈلز میں بیان کرنے سے پیدا ہوتے ہیں۔ اور سلیمان نے خود ستمبر میں مرحلہ طے کیا، جب Microsoft AI نے ایک عارضی "انسانیت پسند" ضابطہ اخلاق شائع کیا جو کمپنی کے مستقبل کے ماڈلز کو شعوری دعوے کرنے کی تربیت دینے سے روک دے گا۔
اتوار کی پوسٹ اس کارپوریٹ گائیڈ لائن کو کسی ذاتی اور اسٹریٹجک ریڈ لائن کے قریب تر بناتی ہے: نہ صرف مائیکروسافٹ یہ دعوی نہیں کرے گا کہ اس کے ماڈل باشعور ہیں، بلکہ یہ شعور کے ابھرنے کو ہر چیز کی ناکامی کے موڈ کے طور پر مانے گا۔
تقسیم کیوں اہم ہے۔
مائیکروسافٹ کی پوزیشن اور اینتھروپکس کے درمیان تقسیم دو مختلف رسک ماڈلز کی عکاسی کرتا ہے۔ انتھروپک کا نقطہ نظر مشینی مصائب کے امکان کو غیر ثابت شدہ لیکن اس کے خلاف ہیجنگ کے قابل سمجھتا ہے، اس نظریہ پر کہ احتیاط کی قیمت کم ہے اور اخلاقی داؤ، اگر شعور ابھرتا ہے، بہت زیادہ ہے۔ سلیمان کی پوزیشن بالکل اسی امکان کو ڈیزائن کی ناکامی کے طور پر دیکھتی ہے جس کو مکمل طور پر روکا جا سکتا ہے - یہ دلیل دیتے ہوئے کہ ماڈلز میں شعور کی کمی، حقوق کے دعوے اور اندرونی محرکات ان ماڈلز کے مقابلے میں محفوظ اور آسان ہوں گے جو انہیں لے جاتے ہیں۔
اس کے عملی نتائج بھی ہیں۔ AI شخصیات، ساتھی ایپس اور کسٹمر کا سامنا کرنے والے ایجنٹوں کے ارد گرد پروڈکٹ کے فیصلے کرنے والے کاروباری اداروں کو اب بڑی لیبز سے دو مختلف سگنلز کا سامنا کرنا پڑتا ہے: ایک عمارت کی پالیسیوں کے لیے کہ انسانوں کو ماڈلز کے ساتھ کیسے برتاؤ کرنا چاہیے، دوسرا یہ اعلان کرتا ہے کہ ماڈلز بنائے جانے چاہییں اس لیے غلط سلوک کرنے کی کوئی بات نہیں ہے۔ جیسا کہ ماڈلز زیادہ قابل اور زیادہ انسانوں کی طرح گفتگو میں بڑھتے ہیں، یہ فلسفیانہ اختلاف اس بات کی شکل دے گا کہ کون سی مصنوعات بنتی ہیں، صارف کے انٹرفیس میں کیا انکشافات ظاہر ہوتے ہیں، اور ریگولیٹرز آخر کار ان سسٹمز کی درجہ بندی کیسے کرتے ہیں۔
اس کے بعد جو کچھ ہوتا ہے وہ دونوں پوزیشنوں کی جانچ کر سکتا ہے۔ انتھروپک کی ظالمانہ پالیسی 12 نومبر کو نافذ ہوتی ہے، جو اپنی نوعیت کا پہلا باضابطہ کارپوریٹ اصول ہے، اور سلیمان نے اب عوام کے سامنے مخالف قطب کو داؤ پر لگا دیا ہے۔ انڈسٹری کا اگلا فرنٹیئر ماڈل سائیکل - اور کیا کوئی بھی ٹریننگ کبھی بھی ایسی علامات کو ظاہر کرتی ہے جو سلیمان کے بقول رکنے کا مطالبہ کرے گی - یہ ظاہر کرے گا کہ جب داؤ حقیقی ہے تو فیلڈ کس فریم ورک کے تحت کام کرتا ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
