20 سے زیادہ محققین - ان میں نوبل انعام یافتہ جیفری ہنٹن، ساتھی اے آئی کے علمبردار یوشوا بینجیو، اینتھروپک کے شریک بانی جیک کلارک اور اوپن اے آئی کے چیف سائنس دان جیکب پچوکی نے حکومتوں کو خبردار کیا ہے کہ وہ اے آئی کے "انٹیلی جنس دھماکے" کے لیے تیار رہیں جو ان کے بقول تاریخ کی سب سے زیادہ نتیجہ خیز ترقی ہو سکتی ہے۔

اخبار، جس کا عنوان ہے "کیا ہوگا اگر AI R&D کو خودکار کرنا انٹیلی جنس دھماکے کو متحرک کرتا ہے"، سیاست دانوں پر زور دیا گیا ہے کہ وہ ٹیکنالوجی میں پیش رفت ہونے سے پہلے کام کریں۔ اس کے مصنفین اس منظر نامے کو "AI ترقی کے ڈرامائی AI سے چلنے والے سرعت کے طور پر بیان کرتے ہیں، جو ترقیوں کو سکیڑتا ہے جو بصورت دیگر سالوں میں مہینوں یا اس سے بھی کم وقت میں لے جائے گا"۔ تازہ ترین AI ریسرچ نیوز سے باخبر رہنے والے قارئین کے لیے، رپورٹ اس خطرے کے لیے کم قابل ذکر ہے کہ کس نے اس پر دستخط کیے ہیں: اکیڈمیا اور حریف فرنٹیئر لیبز کے اعداد و شمار، مشترکہ طور پر یہ کیس بناتے ہیں کہ خودکار تحقیق اس منظرنامے کے لیے پالیسی ساز کم سے کم تیار ہیں۔

انٹیلی جنس دھماکے کا کیا مطلب ہوگا؟

مصنفین کی مرکزی تشویش اے آئی سسٹمز کے انسانی مداخلت کے بغیر خود کو بہتر بنانے کا امکان ہے - ایک ایسا عمل جسے بار بار خود کو بہتر بنانے کے نام سے جانا جاتا ہے، جسے کاغذ میں بڑے پیمانے پر خودکار AI تحقیق اور ترقی کے طور پر کہا جاتا ہے۔

ایک بار جب AI سسٹمز AI R&D میں ماہر کی سطح کی صلاحیتوں تک پہنچ جاتے ہیں، کاغذ کا استدلال ہے، ایک واحد ڈویلپر اعلی انسانی محققین کے "لاکھوں" کے برابر افرادی قوت چلا سکتا ہے۔ AI R&D کو خودکار بنانا، مصنفین کے خیال میں، انٹیلی جنس دھماکے کا سب سے زیادہ ممکنہ محرک ہے، کیونکہ AI سسٹم پہلے سے ہی اپنی ٹیکنالوجی کو بہتر بنانے میں اپنا حصہ ڈال رہے ہیں - اور وہ بہتر نظام جو وہ بنانے میں مدد کرتے ہیں، ایک بار بننے کے بعد تیزی سے تعینات کیے جا سکتے ہیں۔

"انٹیلی جنس دھماکہ انسانی تاریخ میں سب سے زیادہ نتیجہ خیز تکنیکی ترقی ہو سکتا ہے، سالوں کی ترقی کو مہینوں یا اس سے کم میں کم کر سکتا ہے، AI سسٹمز پر انسانی کنٹرول کو خطرہ لاحق ہو سکتا ہے، اور ریاستوں، کمپنیوں اور حکومت کی شاخوں کے اندر اور ان کے درمیان طاقت پر چیک کو شدید طور پر ختم کر سکتا ہے،" اخبار کہتا ہے، گارڈین کے مطابق۔

مصنفین کیوں کہتے ہیں کہ ونڈو بند ہو رہی ہے۔

رپورٹ کی عجلت ٹائم لائن کے دعوے پر منحصر ہے: AI سسٹم جو آج خراب دکھائی دیتے ہیں وہ R&D پروجیکٹس کو مکمل طور پر خودکار کر سکتے ہیں جن میں انسانی ٹیموں کو 2028 تک مہینوں کا وقت لگتا ہے۔

مصنفین لکھتے ہیں، "AI R&D آٹومیشن سے پیداواری فوائد ابھی تک انٹیلی جنس دھماکے کو متحرک کرنے کے لیے درکار حد تک نہیں پہنچے ہیں، لیکن نئے سسٹمز سے حاصل ہونے والے فوائد ممکنہ طور پر اس حد تک پہنچ رہے ہیں،" مصنفین لکھتے ہیں۔ "ایک بار جب انٹیلی جنس دھماکہ شروع ہو جاتا ہے، تو کارروائی کی کھڑکی بند ہو سکتی ہے۔"

مقالے میں مزید کہا گیا ہے کہ "ابتدائی شواہد سے پتہ چلتا ہے کہ سافٹ ویئر سے چلنے والا انٹیلی جنس دھماکہ ممکن ہے"، جو "انتہائی قابل یا مافوق الفطرت اے آئی سسٹمز کی انتہائی تیزی سے ترقی" کا باعث بن سکتا ہے۔

وہ خطرات جن کی نشاندہی کرتے ہیں۔

اگرچہ ایک انٹیلی جنس دھماکہ طبی پیش رفت اور تیزی سے تکنیکی چھلانگ پیدا کر سکتا ہے، مصنفین تین اہم خطرات کا خاکہ پیش کرتے ہیں:

  • بھاگنے والے خطرات۔ طاقتور نظام حیاتیاتی اور سائبر خطرات کو فعال کرسکتے ہیں جو ان کا مقابلہ کرنے کے لیے درکار اقدامات سے زیادہ تیزی سے ترقی کرتے ہیں۔
  • کنٹرول کھونا۔ چونکہ انسان AI R&D میں کم شامل ہو جاتے ہیں، وہ اپنے بنائے ہوئے نظاموں کو ہدایت دینے اور محدود کرنے کا موقع کھو سکتے ہیں۔
  • اسٹرٹیجک عدم استحکام۔ ریاستیں ایک معمولی برتری کو — سائبر اسپیس میں، مثال کے طور پر — کو فیصلہ کن قومی فائدہ میں تبدیل کرنے کے لیے انٹیلی جنس دھماکے کا استعمال کر سکتی ہیں۔

رپورٹ واضح ہے کہ یہ اثرات "غیر یقینی" ہیں۔ مخصوص مواد یا ریگولیٹری تقاضوں کے لیے دی گئی سپلائی چینز کو لاگو کرنے میں تکنیکی پیش رفت میں وقت لگ سکتا ہے، اور AI سسٹم اس رفتار کو بھی تیز کر سکتے ہیں جس سے خطرات کو کم کیا جاتا ہے۔

حکومتوں کو کیا کرنا چاہیے؟

مصنفین کا کہنا ہے کہ انٹیلی جنس دھماکے کی تیاری "ایک فوری ترجیح ہونی چاہیے، بشمول حکومتی قیادت کی اعلیٰ ترین سطحوں پر"، اور امیدواروں کی پالیسیوں کا ایک سیٹ ترتیب دیں:

  • AI سے متعلقہ R&D پر شفاف پیش رفت کی رپورٹ کی ضرورت ہے، بشمول AI کمپنیوں کے اندر آزاد آڈیٹرز کو سرایت کرنا
  • یہ محدود کرنا کہ ایک مقررہ مدت کے اندر AI نظام کتنی تیزی سے بہتر ہو سکتا ہے۔
  • مخصوص AI R&D پروجیکٹس کو موقوف کرنے کے لیے ڈیٹا سینٹرز کے ساتھ کام کرنا
  • اس بات کو یقینی بنانا کہ خودکار AI R&D سسٹم مکمل طور پر الگ تھلگ ہیں اور انسانی کنٹرول سے بچ نہیں سکتے
  • انٹیلی جنس دھماکے سے پیدا ہونے والے منظرناموں کی حد کے لیے "ایمرجنسی رسپانس پلانز" بنانا

تجاویز میں پہلے سے ہی مغربی AI پالیسی کے ذریعے آگے بڑھنے والے آئیڈیاز کو بڑھایا گیا ہے - لازمی واقعہ کی رپورٹنگ، فریق ثالث کی تشخیص اور کمپیوٹ گورننس - لیکن انہیں ایک مخصوص اختتامی نقطہ پر لاگو کریں: خود تحقیق کا آٹومیشن۔

یہ مصنفین کیوں، اور اب کیوں؟

دستخط کرنے والے کاغذ کو غیر معمولی وزن دیتے ہیں۔ ہنٹن اور بینجیو جدید AI کے دو "گاڈ فادرز" ہیں، جو نیورل نیٹ ورکس پر بنیادی کام کے لیے پہچانے جاتے ہیں۔ دونوں اس ٹیکنالوجی کے بارے میں انتباہ کرنے والی نمایاں آوازیں بن گئی ہیں جس کی تخلیق میں انہوں نے مدد کی۔ کلارک نے اینتھروپک کی مشترکہ بنیاد رکھی، اور پچوکی OpenAI میں چیف سائنسدان ہیں۔

ان کی وارننگ اس سمت میں قابل پیمائش صنعت کی نقل و حرکت کے درمیان ہے۔ دی گارڈین کے مطابق، Anthropic نے کہا ہے کہ AI اب اپنا 80% کوڈ تیار کرتا ہے، جبکہ OpenAI نئے ماڈلز کی تربیت جیسے شعبوں میں خود مختار AI ایجنٹوں کا استعمال کرتا ہے۔ دونوں لیبز نے یہ انتباہ کرنے کے بعد کہ AI کی ترقی حفاظت کے لحاظ سے ایک اہم مقام پر پہنچ رہی ہے، آزاد تشخیص کاروں سے اپنے ماڈلز کا جائزہ لینے پر بھی اتفاق کیا ہے۔

کیا حکومتیں اس رفتار سے آگے بڑھیں گی جو مصنفین چاہتے ہیں ایک اور سوال ہے۔ لیکن کاغذ کی بنیادی دلیل - کہ بریک بنانے کا لمحہ کار کو ان کی ضرورت سے پہلے کا ہے - اب مشین کے قریب ترین لوگوں کی طرف سے تائید کی جاتی ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →