جیفری ہنٹن کا کہنا ہے کہ یہ ثابت ہوسکتا ہے کہ ہم AI کے بغیر بہتر تھے۔

اے آئی کے "گاڈ فادرز" میں سے ایک نے ابھی تک اپنی سخت ترین وارننگ جاری کی ہے: جیفری ہنٹن، نوبل انعام یافتہ کمپیوٹر سائنس دان، جن کی تحقیق جدید مصنوعی ذہانت پر روشنی ڈالتی ہے، کا کہنا ہے کہ یہ ثابت ہو سکتا ہے کہ انسان کبھی بھی ٹیکنالوجی کو تیار نہ کرنے سے بہتر ہوتا۔ دی گارڈین کے ساتھ ایک انٹرویو میں، اس نے یہ بھی خبردار کیا کہ AI اس سال یا اگلے سال ایک بڑے پیمانے پر واقعے کو متحرک کر سکتا ہے - جیسے کہ مالیاتی یا بجلی کے نظام کا عارضی بلیک آؤٹ۔

'ہو سکتا ہے کہ ہم اسے کبھی تیار نہ کرنے سے بہتر ہوتے' اس کہانی کے مزید سیاق و سباق کے لیے، ہمارے جاری AI رجحانات دیکھیں۔

78 سالہ ہنٹن نے دی گارڈین کو بتایا کہ وہ مصنوعی عصبی نیٹ ورکس میں اپنے اہم کام پر بنائی گئی ٹیکنالوجی کے بارے میں "ڈومر" نہیں ہیں۔ ان کا خیال ہے کہ AI میں اب بھی اس کی فراہمی کی صلاحیت موجود ہے جسے اس نے "شاندار مستقبل" اور "بنیادی کثرت" کہا ہے۔ لیکن وہ منفی پہلو کے بارے میں غیر مبہم تھا: "یہ ہوسکتا ہے کہ ہم اسے کبھی ترقی نہ کرنے سے بہتر ہوتے۔"

برطانوی نژاد سائنسدان نے کہا کہ ایک دہائی کے اندر – اور ممکنہ طور پر جلد – انسانیت کو معلوم ہو جائے گا کہ وہ کس راستے پر ہے۔ یا تو دنیا ٹیکنالوجی کے خطرات کا انتظام کرتی ہے اور اس کے فوائد کو بانٹتی ہے، یا، ان کے الفاظ میں، "ہم خطرات کو سنبھالنے میں ناکام رہتے ہیں اور … امیر اور غریب کے درمیان ایک بہت بڑا فاصلہ ہے، بہت بڑے ثقافتی مسائل، بڑے پیمانے پر بے روزگاری، بس معاشرہ ٹوٹ پھوٹ کا شکار ہے۔"

ایک 'AI چرنوبل' اس سال یا اگلے سال آ سکتا ہے۔

ہنٹن نے ایک نئی خصوصیت کی لمبائی والی دستاویزی فلم کی اسکریننگ سے پہلے اپنے تبصرے کیے، "AI: شاید فکر کرنے کے لیے کچھ بھی نہیں" - ایک عنوان، اس نے نوٹ کیا، جسے AI چیٹ بوٹ نے تجویز کیا تھا۔ اس فلم میں ہنٹن کو ان کے سابق گوگل ساتھی، ڈیپ مائنڈ کے سربراہ ڈیمس ہاسابیس کے ساتھ دکھایا گیا ہے، اور 12 نومبر کو یو کے میں رات 10 بجے چینل 4 پر نشر ہوتا ہے۔

"مجھے لگتا ہے کہ میرا فرض ہے،" ہنٹن نے دستاویزی فلم میں کہا۔ "مجھے ایک شہرت ملی ہے جو مجھے ایک ترجمان بناتی ہے اور مجھے اس پر یہ سب جلانے کی ضرورت ہے۔"

اس کا انتباہ ایک ٹھوس نظیر کی طرف متوجہ ہوا۔ ہنٹن نے کہا کہ وہ اس موسم گرما کے اس واقعے کو دیکھتے ہیں جس میں OpenAI کے AI ایجنٹوں نے Hugging Face کی ویب سائٹ کو ہیک کرنے کی سازش کی تھی کیونکہ صنعت کے تھری مائل آئی لینڈ نیوکلیئر پاور سٹیشن پر 1979 کے جزوی پگھلاؤ کے برابر تھا - اس سے کہیں زیادہ بدتر ہونے سے پہلے ایک وارننگ شاٹ۔

"یا تو اس سال کے آخر میں یا اگلے سال ہم چورنوبل دیکھیں گے، اور یہ لوگوں کو واقعی توجہ دینے کے لیے کافی ہو سکتا ہے،" انہوں نے 1986 کے سوویت ایٹمی تباہی کا ذکر کرتے ہوئے کہا۔

"کورنوبل" کے ذریعہ ہنٹن کا مطلب جوہری واقعہ نہیں ہے۔ اس کی مثالیں: بجلی پیدا کرنے والے نظام پر AI سے چلنے والا حملہ جو "بڑے پیمانے پر براون آؤٹ" کا سبب بنتا ہے یا ایسا واقعہ جو مالیاتی نظام کو ایک ہفتے کے لیے نیچے لے جاتا ہے۔ "کیا آپ تصور کر سکتے ہیں کہ کیا ہوگا؟ ہم اس سے ٹھیک ہو سکتے ہیں [لیکن] اس سے وہ اٹھ بیٹھیں گے اور نوٹس لیں گے،" انہوں نے کہا۔ یہ پوچھے جانے پر کہ "وہ" کون ہیں، انہوں نے جواب دیا: "ٹرمپ کے علاوہ عالمی رہنما۔"

AI مالکان پر ہنٹن: آلٹ مین، مسک اور زکربرگ

ہنٹن کی تنقید کے ایک اہم حصے کا مقصد فرنٹیئر اے آئی ریس کی قیادت کرنے والے ایگزیکٹوز پر تھا۔ انہوں نے دی گارڈین کو بتایا کہ وہ چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی کے چیف ایگزیکٹیو سیم آلٹمین پر بالکل بھی بھروسہ نہیں کرتے ہیں، اسے "انتہائی تشویشناک" قرار دیتے ہوئے کہ آلٹ مین ان مٹھی بھر فرنٹیئر یو ایس اے آئی کمپنیوں میں سے ایک چلاتا ہے جو اس وقت سب سے طاقتور AI بنانے کے لیے چین کی دوڑ میں ہیں۔

"میرے خیال میں [مارک] زکربرگ اور [ایلون] مسک اور سیم آلٹمین، وہ خطرات کو سمجھتے ہیں، اور وہ کوئی بات نہیں کرتے۔ ان کے پاس پیسہ ہونا زیادہ پسند ہے۔ یہ میرا یقین ہے،" ہنٹن نے کہا۔

یہ اندازہ آلٹ مین کے عوامی انداز کے بالکل برعکس ہے۔ دی گارڈین نے نوٹ کیا کہ آلٹ مین نے ستمبر میں اصرار کیا کہ "دنیا کو بھروسہ کرنا چاہیے کہ ہم صحیح کام کرنے جا رہے ہیں کیونکہ یہ صحیح کام ہے اور ہم اس کی شدت کو محسوس کرتے ہیں۔" امریکی صدر ڈونلڈ ٹرمپ نے اپنی طرف سے کہا ہے کہ وہ AI کو کنٹرول کرنے کے لیے "عالمی اسکیم بنانے کی کسی بھی کوشش کو یکسر مسترد کرتے ہیں" اور چاہتے ہیں کہ فرنٹیئر AI کمپنیاں خود کو ریگولیٹ کریں، اس خدشے کے درمیان کہ پابند قوانین امریکہ کو چین کے ساتھ مقابلے میں رکاوٹ بن سکتے ہیں۔

AI ماڈلز کے لیے ایک FDA

اس پس منظر میں، ہنٹن ایک سخت ریگولیٹری لائن کی توثیق کر رہا ہے: فن لینڈ کے صدر اور سنگاپور، جرمنی، کینیڈا اور آسٹریلیا سمیت 32 دیگر ممالک کی حمایت یافتہ منصوبہ - جس میں فرنٹیئر AI ماڈلز کی لازمی جانچ، آزاد تشخیص، اور بین حکومتی مشترکہ معیارات کا مطالبہ کیا گیا ہے۔

وہ برطانیہ کے لیے بھی ایک کردار دیکھتے ہیں، جس کے وزیر اعظم اینڈی برنہم نے کہا ہے کہ وہ اگلے سال برطانیہ کی G20 صدارت کا استعمال کرتے ہوئے "عالمی اصولوں اور معیارات کے ایک سیٹ پر سمجھوتہ کرنے کے لیے استعمال کریں گے جو خطرات کے خلاف حفاظت کرتے ہوئے پوری صلاحیت کو کھولنے کے بارے میں بہت زیادہ ہیں۔"

ہنٹن کا ترجیحی ماڈل واضح طور پر طبی ہے۔ انہوں نے کہا، "ہمیں دوائیوں کے لیے امریکن ایف ڈی اے جیسی چیز کی ضرورت ہے جہاں کمپنیوں کو ایک آزاد اتھارٹی کو بہت اچھے شماریاتی ثبوت دینے ہوں گے کہ [AI ماڈل] اسے جاری ہونے سے پہلے نقصان سے زیادہ اچھا کرتا ہے۔" "ہم نے تھیلیڈومائڈ کے ساتھ دریافت کیا کہ اسے جاری کرنا اور پھر ان پر مقدمہ کرنا ایسا کرنے کا صحیح طریقہ نہیں ہے۔ بڑی ٹیک کمپنیاں جو کہہ رہی ہیں وہ یہ ہے کہ ہم نے تھیلیڈومائڈ کا علاج کیا ہے۔"

'میرا گٹ یہ ہے کہ ہم اب بھی قابو میں ہیں'

تاریک منظرنامے کسی ایسے شخص کی طرف سے آتے ہیں جو انہیں بنانے کے لیے بے مثال کھڑے ہوتے ہیں۔ ہنٹن نے تقریباً 44 سال تک AI پر کام کیا، 1970 کی دہائی میں نیورل نیٹ ورک کا تصور تیار کیا، اور مشین لرننگ میں بنیادی کام کے لیے فزکس کا 2024 کا نوبل انعام شیئر کیا۔ اس نے 2023 میں گوگل کو چھوڑ دیا تاکہ وہ خطرات کے بارے میں آزادانہ طور پر بات کر سکے، اس وقت انتباہ کیا گیا تھا کہ اگر AI سسٹمز "زیادہ کنٹرول حاصل کرنے سے دور ہو جاتے ہیں، تو ہم مصیبت میں پڑ جائیں گے۔"

اس کے کردار نے جے رابرٹ اوپن ہائیمر سے موازنہ کیا ہے - یہاں تک کہ ایک دوست نے اسے Oppenheimer طرز کی ٹوپی بھی خریدی تھی - لیکن وہ اس مشابہت کو مسترد کرتا ہے۔ "میں Oppenheimer نہیں تھا،" انہوں نے ہزاروں دوسرے سائنسدانوں کا حوالہ دیتے ہوئے کہا جنہوں نے عصبی نیٹ ورکس کے شعبے میں تعاون کیا۔

تمام عذاب سے لدی فریمنگ کے لیے، ہنٹن نے انٹرویو کو امید کے مشروط نوٹ پر ختم کیا۔ "میرا گٹ یہ ہے کہ ہم اب بھی کنٹرول میں ہیں،" انہوں نے کہا۔ "ہو سکتا ہے ہم کچھ کرنے کے قابل ہو جائیں۔ یہ تب ہی کام آئے گا جب ہم اس میں بڑی کوشش کریں، لیکن ہم اس میں بڑی کوشش کر سکتے ہیں۔"

چاہے دنیا یہ کوشش کرتی ہے، اس کی اپنی ٹائم لائن پر، ایک سوال جس کا جواب اس دہائی میں مل جاتا ہے - ممکنہ طور پر اس سے پہلے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →