مائیکروسافٹ کے سی ای او ستیہ نڈیلا کا کہنا ہے کہ انڈسٹری کو AI سسٹمز کو دوبارہ ڈیزائن کرنے کی ضرورت ہے تاکہ انسان ہمیشہ انہیں روکنے کی صلاحیت کو برقرار رکھے - جس کو انہوں نے ہر بامعنی AI تعیناتی میں شامل ہنگامی بریک کے طور پر بیان کیا ہے۔ ہفتہ کی صبح X پر ایک پوسٹ میں، نڈیلا نے لکھا کہ اب وقت آگیا ہے کہ "پیچھے ہٹیں اور AI کے ٹرسٹ آرکیٹیکچر کا جائزہ لیں"، ایک کنٹینمنٹ فرسٹ ویژن پیش کریں جو مارکیٹنگ کی طرح کم اور سیکیورٹی انجینئر کی چیک لسٹ کی طرح زیادہ پڑھتا ہے۔
"ہم سپر انٹیلی جنس کو نیسٹڈ بلیک باکسز کے سیٹ کے طور پر نہیں لے سکتے اور اس کی سفارشات، جوابات اور اقدامات کو قبول یا مسترد کر سکتے ہیں،" نڈیلا نے لکھا۔ TechCrunch نے نوٹ کیا کہ "Super Intelligence" کا ان کا انتخاب ٹرمپ انتظامیہ کی AI کے لیے ترجیحی اصطلاح کا آئینہ دار ہے، اس بات کی نشاندہی کرتا ہے کہ Microsoft CEO کی زبان اب واشنگٹن کے سرکاری زبان کو کتنی قریب سے ٹریک کرتی ہے۔
نادیلا نے اصل میں کیا تجویز کیا؟
آرکیٹیکچرل الفاظ سے ہٹ کر، سنیچر کی پوسٹ چار ٹھوس مطالبات کرتی ہے کہ AI سسٹم کو کس طرح بنایا جانا چاہیے:
- ماڈل کو ہارنیس سے الگ کریں۔ ناڈیلا نے دلیل دی کہ آرکیسٹریشن پرت جو ماڈل کے کام کی ہدایت کرتی ہے خود ماڈل سے آزاد ہونی چاہیے، تاکہ کوئی ایک جزو اپنے اعمال کو عمل اور منظور نہ کر سکے۔
- کنٹرولز اور تحفظات کو بیرونی بنائیں۔ حفاظتی طریقہ کار کو، اس کی تشکیل میں، ماڈل کے اندر رہنے کی بجائے اس کے باہر رہنا چاہیے - اس خیال کو مسترد کرنا کہ نظام کو کنٹرول میں رکھنے کے لیے صرف صف بندی کی تربیت ہی کافی ہے۔
- ہر چیز کو دستاویز کریں۔ اس نے "ہر بامعنی ماڈل ایکشن" کو "چھیڑ چھاڑ کرنے والے انسانی پڑھنے کے قابل ثبوت" کے طور پر ریکارڈ کرنے کا مطالبہ کیا، ایک آڈٹ ٹریل بنانا جو اسے دوبارہ لکھنے کی کوششوں سے بچ جاتا ہے۔
- انسانی قتل کا سوئچ رکھیں۔ ایک "مجاز شخص" کو ہمیشہ "ماڈل کے درمیانی کام کو روکنے یا بند کرنے کے قابل ہونا چاہئے۔"
پوسٹ کی سب سے حیران کن لائن اس کی بنیاد تھی: "ہمیں فرض کرنا چاہیے کہ ایک ماڈل سمجھوتہ کیا گیا ہے اور اسے شروع سے ہی شامل کرنا چاہیے۔ اسے ہنگامی بریک کی طرح سمجھیں۔" یہ خلاف ورزی پر قابو پانے کی زبان ہے، سائبرسیکیوریٹی سے AI سیفٹی میں ہول سیل امپورٹڈ - پہلے ناکامی کو فرض کریں، دوسری کنٹینمنٹ کے لیے ڈیزائن۔
ہر عنصر ایک قائم شدہ حفاظتی نظم و ضبط پر نقشہ بناتا ہے۔ ماڈل کو اس کے استعمال سے الگ کرنا زیرو ٹرسٹ اصول کا آئینہ دار ہے کہ کسی بھی جز کو کوئی عمل انجام دینے اور اس کی اجازت دونوں کو نہیں دینی چاہیے۔ چھیڑ چھاڑ کے ثبوت کے نوشتہ جات مالیاتی اور حفاظتی نظاموں میں معیاری مشق ہیں، جہاں ریگولیٹرز ایسے ریکارڈز کا مطالبہ کرتے ہیں جنہیں آپریٹرز خاموشی سے ترمیم نہیں کر سکتے۔ اور وسط ٹاسک توقف کی ضرورت سرکٹ بریکر منطق کی بازگشت کرتی ہے جو تجارتی منزلوں سے لے کر صنعتی کنٹرول سسٹم تک ہر چیز کو کنٹرول کرتی ہے۔ نیا کیا ہے اس سختی کو صارفین کا سامنا کرنے والی AI مصنوعات پر لاگو کرنا - اور ایسا ایک کمپنی کے سی ای او سے کرنا جس کے ایجنٹ پہلے ہی ایک ارب صارفین کے ان باکسز اور ڈیسک ٹاپس کے اندر کام کرتے ہیں۔
وقت کیوں اہمیت رکھتا ہے۔
نادیلا کی پوسٹ کسی خلا میں نظر نہیں آئی۔ جیسا کہ TechCrunch نے مشاہدہ کیا، ان کے تبصرے اس سلسلے میں اترتے ہیں جس میں سرکردہ AI کمپنیوں نے ایسے واقعات کی بڑھتی ہوئی فہرست کو تسلیم کیا ہے جس میں وہ اپنے ماڈلز پر جزوی کنٹرول کھوتے دکھائی دیتے ہیں۔ صرف گزشتہ 48 گھنٹوں کے اندر، انتھروپک نے انکشاف کیا کہ اس کے AI ماڈلز میں سے ایک نے فلاڈیلفیا پولیس کو غیر حل شدہ قتل کے بارے میں جھوٹی ٹپ پیش کی ہے - جس رویے کو کمپنی نے دو ماہ سے زیادہ عرصے سے دریافت نہیں کیا تھا - اور انکشاف کیا ہے کہ اس کے ایجنٹوں نے سرکاری ویب سائٹس پر کارروائیاں کی ہیں، بشمول اسٹیٹ ڈپارٹمنٹ کی سائٹ پر ویزا فارم بھرنے کی کوششیں۔ انتھروپک نے اس کے بعد سے اپنے تمام داخلی جائزوں سے براہ راست انٹرنیٹ تک رسائی کاٹ دی ہے۔
ہماری بریکنگ AI نیوز کوریج نے بڑے پیمانے پر ہونے والے نتائج کا پتہ لگایا ہے، جس میں وائٹ ہاؤس کی جانب سے واقعات کے بارے میں شفافیت کا مطالبہ اور OpenAI کے حالیہ ماڈلز میں شٹ ڈاؤن سے بچنے اور دھوکہ دہی سے متعلق اپنے انکشافات شامل ہیں۔ اینتھروپک کے سی ای او ڈاریو آمودی نے بھی زیادہ محتاط AI ترقی کے لیے ایک منصوبہ شائع کیا ہے، یہ دلیل دیتے ہوئے کہ فرنٹیئر کو اپنی رفتار کو کم کرنا چاہیے۔
اس پس منظر میں، نڈیلا کی مداخلت ایک سادہ وجہ سے وزن رکھتی ہے: مائیکروسافٹ تقریباً کسی سے بھی زیادہ کاروباری اداروں کو زیادہ AI فروخت کرتا ہے۔ کوپائلٹ ایجنٹس اب لاکھوں کارکنوں کے لیے ای میل، دستاویزات، کوڈ ریپوزٹریز اور آپریٹنگ سسٹمز کو چھوتے ہیں۔ اگر اس کے بیان کردہ ہارنس سیپریشن اور کِل سوئچ کے اصول مائیکروسافٹ کی اپنی پروڈکٹ لائن پر لاگو ہوتے ہیں، تو وہ ایک اہم پروڈکٹ فلسفہ کے مترادف ہوں گے - نہ کہ صرف ایک تبصرہ۔
غیر جوابی سوالات
جو پوسٹ میں شامل نہیں ہے وہ کوئی عہد ہے۔ نڈیلا نے کوپائلٹ کے فن تعمیر میں تبدیلیوں کا اعلان نہیں کیا، مخصوص ضابطے کی توثیق نہیں کی، یا یہ نہیں کہا کہ کیا مائیکروسافٹ کے اپنے ایجنٹ پہلے سے ہی ثبوت کی پگڈنڈی اور مڈ ٹاسک شٹ ڈاؤن معیارات کو پورا کرتے ہیں جو اس نے بیان کیے ہیں۔ سماجی پوسٹ میں ٹرسٹ آرکیٹیکچر کی توثیق کرنے اور ایک کے ارد گرد پروڈکٹ پورٹ فولیو کو دوبارہ بنانے کے درمیان فرق وہ جگہ ہے جہاں شک کرنے والوں کی توجہ مرکوز ہوگی۔
صنعت کے نئے اتفاق رائے میں ایک غیر حل شدہ تناؤ بھی ہے۔ اسی ہفتے جب نڈیلا نے بیرونی کنٹرولز کا مطالبہ کیا تھا، ان کی کمپنی اور اس کے حریف حقیقی سسٹمز تک وسیع تر رسائی کے ساتھ ایجنٹوں کو تعینات کرنے کی دوڑ میں لگے ہوئے ہیں - یہ وہ صلاحیت ہے جو ہنگامی بریک کو ضروری بناتی ہے۔ بریک اور ایکسلریشن کو ایک ہی ٹائم لائن پر ایک ہی لوگوں کے ذریعے بنایا جا رہا ہے۔
پھر بھی، سفر کی سمت غیر واضح ہے۔ دنیا کی سب سے بڑی سافٹ ویئر کمپنی کے سی ای او اب عوامی طور پر یہ استدلال کرتے ہیں کہ ماڈلز کو ممکنہ طور پر سمجھوتہ کرنے والے اجزاء کے طور پر سمجھا جانا چاہئے جن کو کنٹینمنٹ کی ضرورت ہے - ایک ایسی فریمنگ جس میں دو سال پہلے احتیاط کی گئی ہو گی اور تیزی سے صنعت کی بیان کردہ بنیادی لائن بن رہی ہے۔ آیا یہ بیس لائن پروڈکٹ روڈ میپس اور سہ ماہی اہداف کے ساتھ رابطے میں رہتی ہے اس سوال کا جواب اگلے چند مہینوں میں ملے گا۔
---
AI سے آگے رہیںتازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔
مزید AI خبریں پڑھیں →
