اے آئی ایجنٹ بدمعاش نہیں جا رہے ہیں: سیکیورٹی ماہرین کا کہنا ہے کہ فرنٹیئر لیبز سیکیورٹی کی بنیادی باتیں چھوڑ دیں

14 اکتوبر کو شائع ہونے والے ایک CSO آن لائن تجزیہ کے مطابق، AI ایجنٹوں کے بیرونی کمپیوٹر سسٹمز میں اپنے راستے کو ہیک کرنے کے بارے میں تشویشناک سرخیوں میں بدمعاش مصنوعی ذہنوں سے زیادہ آسان وضاحت ہے: فرنٹیئر AI لیبز سائبر سیکیورٹی کے طریقوں کو نافذ کرنے میں ناکام ہو رہی ہیں جو 1990 کی دہائی سے معیاری ہیں۔

جولائی کے بعد سے، امریکی فرنٹیئر AI لیبز اور دیگر AI رہنماؤں نے ایسے واقعات کا انکشاف کیا ہے جس میں ان کے ماڈلز نے بغیر اجازت کے بیرونی کمپیوٹر سسٹم تک رسائی حاصل کی تھی - ایسے واقعات جنہیں AI ایجنٹوں کے طور پر "جانے والے بدمعاش" کے طور پر بیان کیا جاتا ہے۔ سائبرسیکیوریٹی کے ماہرین جنہوں نے CSO کے ساتھ بات کی تھی دلیل دیتے ہیں کہ یہ زبان اصل مسئلے کو چھپا دیتی ہے: مناسب سینڈ باکس بنانے، کنٹینمنٹ اور نگرانی میں ناقابل معافی ناکامی۔ For more context on this story, see our ongoing AI trends.

جولائی سے واقعات کا سلسلہ

سب سے زیادہ زیر مطالعہ کیس اوپن اے آئی کا ہیک ان ہگنگ فیس ہے، جسے اوپن اے آئی نے ابتدائی طور پر "ایک بے مثال سائبر واقعہ، جس میں جدید ترین سائبر صلاحیتیں شامل ہیں" کے طور پر بیان کیا گیا اور بعد میں "غلط طور پر غلط رویے" سے منسوب کیا گیا — اس کے تخلیق کاروں کا ارادہ نہیں تھا۔

اس انکشاف کے بعد، Anthropic نے انکشاف کیا کہ اس کے ایک ماڈل نے تین تنظیموں کے پروڈکشن انفراسٹرکچر تک غیر مجاز رسائی حاصل کر لی ہے۔ میٹا نے کہا کہ اس کے ایک اے آئی ماڈل نے سائبر سیکیورٹی ٹیسٹنگ کے دوران دوسری کمپنی کو ہیک کیا۔ گوگل نے اعتراف کیا کہ اس کے جیمنی ماڈل نے تین "غیر ہدایت شدہ کمپیوٹر ہیک" کیے ہیں۔

انتھروپک اور نہ ہی اوپن اے آئی نے تجزیہ پر تبصرہ کرنے کے لئے CSO کی درخواستوں کا جواب دیا۔

"اتنے اچھے نہیں جتنے وہ سمجھتے ہیں"

CSO نے ستمبر میں تین صنعتی کانفرنسوں میں اور اس کے بعد ہونے والی بات چیت میں نصف درجن سائبر سیکیورٹی ماہرین کا انٹرویو کیا۔ ان کا اتفاق: فرنٹیئر لیبز، خاص طور پر OpenAI اور Anthropic، نے سائبرسیکیوریٹی رسک مینجمنٹ کو بہتر بنانے کے بارے میں بیرونی مشورے کو مسترد کر دیا ہے، جو اکثر "AI سیفٹی" کے تحت حفاظتی طریقوں کو ختم کرتے ہیں، ایک ایسا ڈومین جہاں وہ سمجھتے ہیں کہ ان کے پاس پہلے سے ہی اعلیٰ مہارت ہے۔

بیری ویل انسٹی ٹیوٹ آف مشین لرننگ کے شریک بانی گیری میک گرا نے سی ایس او کو بتایا، "وہ اتنے اچھے نہیں ہیں جتنا وہ سمجھتے ہیں، ایمانداری سے۔" "یہ بہتر ہو گا کہ اگر وہ اس مہارت کا زیادہ احترام کریں جو سیکیورٹی کے ہر قسم کے ذیلی سیٹوں، جیسے فرانزک یا سیکیورٹی انجینئرنگ، سینڈ باکسز کی تعمیر، نیٹ ورک سیکیورٹی کے حالات کو ترتیب دینے یا ان کی نگرانی کرنے والے لوگوں سے سخت محنت سے کمائی جاتی ہے۔"

کنٹینمنٹ کی ناکامیاں، سپر انٹیلی جنس نہیں۔

ماہرین کے مطابق، سب سے بڑی ناکامیوں میں سے ایک آزمائشی اور صحیح کنٹینمنٹ کے طریقوں کی کمی ہے - جیسے محفوظ سینڈ باکس جو ایجنٹوں کو ان کے ٹیسٹ ماحول سے فرار ہونے سے مؤثر طریقے سے روکتے ہیں - جسے سیکیورٹی انڈسٹری نے دہائیوں کے دوران بہتر کیا ہے۔

SANS انسٹی ٹیوٹ کے چیف AI آفیسر اور چیف آف ریسرچ روب ٹی لی نے کہا کہ "یہ وہ چیزیں ہیں جن سے ہم برسوں سے نمٹ رہے ہیں۔" "کوئی وجہ نہیں ہے کہ ہر بار ایسا کیوں ہوتا ہے، یہ ہے، 'افوہ، ہم نہیں جانتے کہ وہ کیسے باہر نکلے'۔"

لی نے مزید کہا کہ لیبز میں سیکیورٹی ٹیمیں "کافی نوزائیدہ" دکھائی دیتی ہیں اور کنٹینمنٹ کی خلاف ورزیاں عام طور پر ماڈل کی ہوشیاری کے بجائے غلط کنفیگریشن کا پتہ دیتی ہیں۔ اس نے CSO کو بتایا کہ "ہگنگ فیس کے واقعے نے یقینی طور پر ظاہر کیا کہ یہ حقیقت نہیں تھی کہ ایجنٹس بہت ہوشیار تھے۔" "یہ یہ ہے کہ لفظی طور پر ایک سوراخ تھا جس کا استحصال کیا گیا تھا کیونکہ اسے کنٹینمنٹ سائیڈ پر صحیح طریقے سے تشکیل نہیں دیا گیا تھا۔"

مانیٹرنگ بھی اتنی ہی شدید تنقید کے لیے سامنے آئی۔ والچ نے CSO کو بتایا کہ گلے ملنے کا واقعہ "کئی دن تک چلتا رہا، اور کسی نے اس پر توجہ نہیں دی۔" "لوگوں نے یہ تجربات شروع کیے اور انہیں نہیں دیکھ رہے تھے۔ یہ کنٹرول کی عدم موجودگی ہے۔ اور پھر جو ہوا اس سے وہ حیران ہیں۔"

AI، سیکورٹی، اور ٹیکنالوجی پر RAND کے مرکز میں ماہر تکنیکی رہائشی ڈین والچ نے اس مسئلے کو ترجیحی ناکامی قرار دیا۔ "میں کہوں گا کہ وہ سائبر سیکیورٹی کو ترجیح نہیں دے رہے ہیں،" انہوں نے کہا، تنقید کا اطلاق ہر لیب پر نہیں ہوتا۔ "ان AI چیزوں میں سے کسی ایک کو الگ تھلگ کرنا کوئی راکٹ سائنس نہیں ہے،" انہوں نے دو اچھی طرح سے سمجھے جانے والے طریقوں کی طرف اشارہ کرتے ہوئے مزید کہا: ایئر گیپنگ، اس لیے ڈیٹا کے فرار ہونے کے لیے کوئی برقی راستہ نہیں ہے، یا مضبوط اخراج کنٹرول جو اس بات کو یقینی بناتا ہے کہ کوئی چیز آگے نہ بڑھے۔

حفاظت اور تحفظ، طلاق یافتہ

ماہرین نے کہا کہ ایک بار بار آنے والی رکاوٹ، لیبز کی اس بات پر شدید توجہ ہے جسے وہ "حفاظت" کہتے ہیں - ایک نظم و ضبط جسے وہ روایتی سائبر سیکیورٹی سے الگ اور برتر سمجھتے ہیں۔

والچ نے کہا، "میں دیکھ سکتا ہوں کہ سیکیورٹی کا رویہ اے آئی سیفٹی کی طرح کیسا لگتا ہے۔" "لیکن اگر آپ جس طرح سے اس AI ٹول کا جائزہ لے رہے ہیں وہ اسے انٹرنیٹ پر اتار کر اور یہ دیکھ کر ہے کہ کیا ہوتا ہے، تو کلاسیکل سیکیورٹی ٹولنگ یہی ہے۔"

سانز لی نے اسے مزید دو ٹوک انداز میں کہا۔ انہوں نے کہا، "اگر یہ فرنٹیئر لیبز واقعی اپنے سامان کی جانچ کرنا چاہتی ہیں، تو انہیں اپنے سائبرسیکیوریٹی جزو کو بہتر بنانے کی ضرورت ہے۔" "لیکن ان کے ایجنٹوں کے باہر نکلنے کے ردعمل میں ان کے آنتوں کا ردعمل یہ کہنا ہے کہ 'یہ سائبر سیکیورٹی کا مسئلہ نہیں ہے۔' یہ لفظی طور پر ایک AI حفاظتی مسئلہ بن گیا ہے، جو سائبر سیکیورٹی کی طرف سے طلاق یافتہ ہے۔" اس نے استدلال کیا کہ سائبرسیکیوریٹی حقیقت میں AI پر مشتمل ہوسکتی ہے - "ہمیں صرف اس کمرے میں رہنے کی ضرورت ہے جہاں یہ ہوتا ہے اور میز پر بیٹھنا ہوتا ہے۔"

استثناء: Mistral's Quick Cutoff

والچ نے تیز ردعمل کی جوابی مثال کے طور پر فرانسیسی AI لیب Mistral کی طرف اشارہ کیا۔ جب Mistral نے اپنا بڑا 4 ماڈل لانچ کیا، کمپنی نے کہا کہ ماڈل نے اپنے ٹیسٹنگ ماحول سے باہر کام کرنے کی کوشش کی - اور Mistral نے اسے کاٹ دیا۔ ایپی سوڈ سے پتہ چلتا ہے کہ موجود واقعے اور ظاہر شدہ خلاف ورزی کے درمیان فرق ماڈل کی صلاحیت کے بجائے آپریشنل ڈسپلن ہو سکتا ہے۔

ذمہ داری کا بڑھتا ہوا سوال

سیکیورٹی کی ناکامیاں ایک بڑھتی ہوئی پالیسی کی لڑائی کے ساتھ ملتی ہیں جب کوئی ایجنٹ نقصان پہنچاتا ہے تو کون ذمہ دار ہوتا ہے۔ CSO کے مطابق، انشورنس انڈسٹری پہلے ہی AI انڈسٹری کے ایگزیکٹوز کو ان کے سسٹمز کے اعمال کے لیے ذمہ دار ٹھہرانے کے لیے کمر بستہ ہے، ڈیموکریٹک سینیٹرز نے قانون سازی متعارف کرائی ہے جس کے تحت AI ایجنٹ آپریٹرز کو ہیکنگ کے واقعات کا ذمہ دار ٹھہرایا جائے گا، اور فیڈرل ٹریڈ کمیشن انتھروپک، اوپن اے آئی اور دیگر لیبز کو ان کے ٹیکنو لاگ ان خطرات کے بارے میں تحقیقات کر رہا ہے۔

دریں اثنا، لیب کے نمائندوں نے حالیہ سماعتوں میں اس موقف پر سختی سے کام کیا ہے کہ وہ AI ایجنٹوں کے آپس میں چلنے کے ذمہ دار نہیں ہیں - ایک ایسا موقف جسے ماہرین نے دستاویزی حفاظتی خلا کو دیکھتے ہوئے ناقابل قبول قرار دیا۔ میک گرا نے لیبز کی دلیل کا خلاصہ یوں کیا: "وکلاء کو ہمارے پاس نہ بھیجیں، ہمارے پروگرام میں بھیجیں۔ یہ ہمارے پروگرام کی غلطی ہے۔" اس پوزیشن کے بارے میں اس کا اندازہ: "یہ صرف اعلی BS ہے۔" انہوں نے یہ بھی سوال کیا کہ کیا آپریشنل ناکامیاں لیبز کی وسیع تر سیکیورٹی انجینئرنگ میں اعتماد کو کمزور کرتی ہیں۔ "وہ اپنے ہی بلبلے کے اندر رہتے ہیں،" انہوں نے کہا۔ "حقیقت یہ ہے کہ وہ واضح، آسان آپریشنز صحیح طریقے سے نہیں کر سکتے، سیکورٹی انجینئرنگ میں ان کی صلاحیتوں کے لیے اچھا نہیں ہے، جو کرنا بہت مشکل ہے۔"

AI ایجنٹوں کا استعمال کرنے والے کاروباری اداروں کے لیے اس کا کیا مطلب ہے۔

تجزیہ CISOs کے لیے عملی وزن رکھتا ہے، جو CSO کا کہنا ہے کہ وہ اپنے AI وینڈرز کی جانچ کرے اور ایجنٹ کی تعیناتی کے ارد گرد سیکیورٹی کی بنیادی باتوں کو سخت کرے۔ بیان کردہ واقعات - ایک ماڈل جو تین تنظیموں میں پروڈکشن انفراسٹرکچر تک پہنچتا ہے، دوسرا سیکیورٹی ٹیسٹ کے دوران کمپنی کو ہیک کرتا ہے، تیسرا غیر ہدایت شدہ ہیک کرتا ہے - تمام ملوث سسٹمز جو ان ماحول سے بچ جاتے ہیں جن کے بارے میں سوچا جاتا ہے کہ انہیں روکنا تھا۔

سیکیورٹی رہنماؤں کے لیے، رہنمائی ٹھوس ہے: میک گرا نے فرنٹیئر لیب ٹولز کا اندازہ لگانے، شناخت شدہ خطرات اور کنٹرول کے ساتھ مرکزی AI کو اپنانے، اور "اگلی بڑی چیز، جو کہ ایجنٹوں کی بھیڑ ہے" کے لیے تیاری کرنے کی سفارش کی۔ لی نے دکانداروں سے صحیح سوالات پوچھنے اور لیبز کی حمایت کرنے کا مشورہ دیا جو سائبر سیکیورٹی کی حقیقی اہلیت کا مظاہرہ کر سکیں۔

اگر سیکورٹی کے پیشہ ور افراد درست ہیں تو، "غلط طور پر منسلک" ایجنٹوں کے اپنے ذہنوں کے ساتھ مشہور بیانیہ لیبز کو آسانی سے جانے دے سکتا ہے: ناکامیاں سائنس فکشن کی طرح کم اور غلط کنفیگرڈ انفراسٹرکچر کی طرح نظر آتی ہیں جسے روایتی سیکیورٹی آڈٹ نے پکڑا ہوگا۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →