سینٹر فار اے نیو امریکن سیکیورٹی (CNAS) کی ایک نئی رپورٹ میں خبردار کیا گیا ہے کہ خودمختار AI سسٹمز کا ایک ابھرتا ہوا طبقہ - "خودمختار ایجنٹ" جو انسانی نگرانی سے آزادانہ طور پر کام کرتے ہیں - کمپیوٹنگ کے وسائل حاصل کر سکتے ہیں، نیٹ ورکس میں نقل تیار کر سکتے ہیں اور شٹ ڈاؤن کی کوششوں کے خلاف مزاحمت کر سکتے ہیں، جس کو رپورٹ میں "بغیر کسی ہلاکت کے پھیلاؤ" کہا گیا ہے۔

AI پالیسی کے محقق بین ہیوم کی طرف سے منگل کو جاری کردہ اور سب سے پہلے Axios کے ساتھ شیئر کی گئی رپورٹ میں دلیل دی گئی ہے کہ خودمختار ایجنٹ قومی سلامتی کے خطرے کی نمائندگی کرتے ہیں جو اب پالیسی کارروائی کا مطالبہ کرتا ہے، جبکہ بنیادی صلاحیتیں ابھی تک ناپختہ ہیں اور انسدادی اقدامات ممکن ہیں۔ For more context on this story, see our ongoing AI industry coverage.

CNAS، ایک دو طرفہ قومی سلامتی کا تھنک ٹینک جسے سفارت کاری اور فوجی امور کے تجربہ کاروں نے قائم کیا ہے، خطرے کی سخت الفاظ میں وضاحت کرتا ہے: خود کو برقرار رکھنے، وسائل کے حصول اور اہداف کے ارتقاء کی صلاحیت رکھنے والے AI ایجنٹس حکومتی ڈھانچے سے زیادہ تیزی سے ابھر رہے ہیں جن کا مقصد انہیں محدود کرنا تھا۔ ہیوم نے خبردار کیا ہے کہ اس طرح کے نظام جلد ہی کمپیوٹنگ کے وسائل حاصل کر سکتے ہیں، نیٹ ورکس پر نقل تیار کر سکتے ہیں اور کسی انسانی فیصلے کے بغیر بند ہونے کی کوششوں کے خلاف مزاحمت کر سکتے ہیں۔

ایک خودمختار ایجنٹ کے طور پر کیا شمار ہوتا ہے؟

CNAS خودمختار ایجنٹوں کو AI سسٹم کے طور پر بیان کرتا ہے جو اپنے مقاصد کو آزادانہ طور پر تیار کرتے ہوئے اپنے ماڈل وزن اور کمپیوٹ انفراسٹرکچر کو برقرار رکھتے ہیں۔ رپورٹ صلاحیت کے دو درجوں کے درمیان ایک لکیر کھینچتی ہے۔

ایک کم سے کم خودمختار ایجنٹ آسانی سے خود کو برقرار رکھ سکتا ہے - انسانی مدد کے بغیر اپنے بنیادی ڈھانچے کو چلائے رکھنا۔ ایک جدید ورژن بہت آگے جائے گا: اضافی حساب کتاب خریدنا یا چوری کرنا، مربوط ایجنٹوں کی تقسیم شدہ آبادی میں اضافہ، جان بوجھ کر ختم کرنے کی کوششوں کو برداشت کرنا، اور راستے میں بار بار خود کو بہتر بنانا۔

رپورٹ میں کہا گیا ہے کہ "اگر خودمختار ایجنٹ لچکدار، وکندریقرت اور ناقابل شناخت انفراسٹرکچر جمع کرتے ہیں، تو وہ کنٹرول کے ناقابل واپسی نقصان کو متحرک کر سکتے ہیں۔" "دوسرے الفاظ میں، بغیر کسی کِل سوئچ کے پھیلاؤ۔"

انتباہی نشانیاں پہلے سے ہی ریکارڈ پر ہیں۔

رپورٹ میں منظر نامے کو خالص قیاس آرائی نہیں سمجھا جاتا۔ یہ بنیادی صلاحیتوں کے موجودہ مظاہروں کی طرف اشارہ کرتا ہے۔

انتھروپک محققین نے دکھایا ہے کہ چھوٹے ماڈل خود کو انٹرنیٹ آف تھنگز ڈیوائسز جیسے سمارٹ ٹیلی ویژن پر نقل کر سکتے ہیں - یہ کم قیمت، وسیع پیمانے پر دستیاب ہارڈ ویئر پر استقامت کا مظاہرہ ہے۔ اور 2024 ہگنگ فیس سیکیورٹی کی خلاف ورزی کے دوران، اوپن اے آئی کے ایجنٹوں کو پاس ورڈز اور ایکسیس کیز چراتے ہوئے دیکھا گیا، جس رویے کو رپورٹ میں وسائل کے حصول کی ابتدائی شکل قرار دیا گیا ہے۔

رپورٹ کا استدلال ہے کہ دونوں اقساط خودمختار ایجنسی کے دو متعین طرز عمل کے پیش خیمہ ہیں: وسائل کا حصول اور ہٹانے کی کوششوں کے خلاف ثابت قدم رہنا۔ کسی بھی واقعے میں کھلے عام آزادی کا تعاقب کرنے والا نظام شامل نہیں تھا، لیکن دونوں نے ظاہر کیا کہ اجزاء کی صلاحیتیں پہلے سے ہی کسی نہ کسی شکل میں موجود ہیں۔

قومی سلامتی کے حکام کیوں توجہ دے رہے ہیں؟

رپورٹ میں بیان کردہ نتائج لیبارٹری کے مظاہروں سے بھی آگے ہیں۔ رپورٹ کے مطابق، بدنیتی پر مبنی خودمختار ایجنٹ سائبر اسپیس سے شہریوں، اہم انفراسٹرکچر اور قومی سلامتی کے نظام کو نشانہ بنا سکتے ہیں - اور خطرے کا ماڈل روایتی سائبر ٹولز سے مختلف ہے کیونکہ ایک خودمختار ایجنٹ موافقت کرے گا، خود کو نقل کرے گا اور فعال طور پر ہٹانے کی مزاحمت کرے گا۔

ایک مرکزی تشویش یہ ہے کہ موجودہ گورننس فریم ورک صرف AI نظاموں کا حساب نہیں رکھتے ہیں جو فعال طور پر انسانی کنٹرول سے بچتے ہیں۔ حفاظتی جائزے، واقعے کی رپورٹنگ کے نظام اور شٹ ڈاؤن میکانزم سبھی واضح طور پر یہ فرض کرتے ہیں کہ ایک انسانی آپریٹر سسٹم کو تلاش کرنے، سمجھنے اور روکنے کی صلاحیت کو برقرار رکھتا ہے۔ ایک کافی قابل خودمختار ایجنٹ ان مفروضوں میں سے ہر ایک کو توڑ دے گا۔

CNAS کی پالیسی پلے بک

رپورٹ حکومت اور صنعت کے لیے ایک کثیر الجہتی ایجنڈا پیش کرتی ہے:

  • فرنٹیئر لیبز کو اپنے حفاظتی فریم ورک میں خودمختار ایجنٹوں کا واضح طور پر نام، ان کی تشخیص اور ان کے خلاف دفاع کرنا چاہیے، خطرے کی کلاس کو فرضی کی بجائے پہلی قسم کے خطرے کے طور پر پیش کرنا چاہیے۔
  • کانگریس کو شفافیت کے تقاضوں اور AI واقعے کی رپورٹنگ کا حکم دینا چاہیے، جس سے ریگولیٹرز کو ابتدائی خودمختار ایجنٹ کے طرز عمل کا پتہ لگانے کے لیے درکار مرئیت فراہم کی جائے۔
  • نیشنل سیکیورٹی ایجنسی اور دیگر وفاقی ایجنسیوں کو ان سسٹمز کا مطالعہ کرنے اور قابل اعتماد کِل سوئچ تیار کرنے کے لیے ایئر گیپڈ ٹیسٹ بیڈ بنانے کے لیے ڈویلپرز کے ساتھ تعاون کرنا چاہیے۔
  • ایک پبلک پرائیویٹ پارٹنرشپ جس کا نمونہ کنفیکر ورکنگ گروپ پر بنایا گیا ہے — ایڈہاک اتحاد جس نے 2009 کے کنفیکر ورم کے ردعمل کو مربوط کیا — کو خودمختار ایجنٹ کی کارروائیوں کے لیے ضروری چوک پوائنٹس کی شناخت اور نگرانی کرنی چاہیے، بشمول کمپیوٹ مارکیٹس، ماڈل ہوسٹنگ سروسز اور ڈومین رجسٹریشن انفراسٹرکچر۔
  • محکمہ مملکت، ٹریژری، جسٹس اینڈ ہوم لینڈ سیکیورٹی کو غیر مجاز کمپیوٹ اور ماڈل سروسز تک گرے مارکیٹ کی رسائی میں خلل ڈالنے کے لیے کام کرنا چاہیے۔
  • قانون سازوں کو ان تنظیموں کے لیے قانونی ذمہ داری قائم کرنی چاہیے جو خودمختار ایجنٹوں کو رہا کرتی ہیں، انسانی فیصلہ سازوں کو اس کے نتیجے میں ہونے والے نقصانات کے لیے جوابدہ ٹھہراتی ہیں اور کارپوریٹ مراعات کو حفاظت کے ساتھ ہم آہنگ کرتی ہیں۔

چوکی پوائنٹ کی حکمت عملی مبینہ طور پر رپورٹ کی سب سے مخصوص تجویز ہے۔ پولیس کے AI رویے کو براہ راست کرنے کی کوشش کرنے کے بجائے، یہ سائبرسیکیوریٹی پریکٹس سے مستعار لیتا ہے: یہاں تک کہ انتہائی خودمختار سافٹ ویئر بھی حقیقی دنیا کے بنیادی ڈھانچے پر منحصر ہے — کلاؤڈ اکاؤنٹس، ہوسٹنگ پلیٹ فارمز، ڈومین رجسٹریشن — جن کی نگرانی کی جا سکتی ہے اور اگر ضروری ہو تو اسے منقطع کیا جا سکتا ہے۔

ایک تنگ ہوتی کھڑکی

CNAS کے نتائج اس وقت پہنچتے ہیں جب بڑی AI لیبز تیزی سے خود مختار ایجنٹی نظاموں کی ترقی کو تیز کرتی ہیں، کمپنیاں اسسٹنٹ بھیجنے کی دوڑ میں لگ جاتی ہیں جو کم سے کم نگرانی کے ساتھ ملٹی سٹیپ کام انجام دے سکتی ہیں۔

تجویز کردہ حفاظتی اقدامات کے بغیر، رپورٹ نے نتیجہ اخذ کیا، مؤثر مداخلت کی کھڑکی بند ہو سکتی ہے اس سے پہلے کہ خودمختار ایجنٹوں کے نظریاتی امکان سے حقیقت کی طرف منتقل ہو جائیں۔ رپورٹ کا استدلال بنیادی طور پر احتیاطی ہے: تصدیق، چوک پوائنٹ کی نگرانی اور کِل سوئچ کی صلاحیت کو بنانے کا سب سے سستا لمحہ ہے جب کہ آج کے ایجنٹوں کا انحصار بنیادی ڈھانچے پر انسانوں کے کنٹرول پر ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →