Nvidia نے پیر کے روز اوپن ایجنٹ سیفٹی پلیٹ فارم، ایک کھلا سافٹ ویئر پلیٹ فارم اور ریفرنس سسٹم ڈیزائن کا اعلان کیا جس کے بارے میں کمپنی کا کہنا ہے کہ تنظیموں کو خود مختار AI ایجنٹوں پر تعیناتی کے ذریعے جانچ سے قابل عمل کنٹرول فراہم کرے گا۔ لانچ پورے ایجنٹ کے اسٹیک پر محیط ہے: وہ سافٹ ویئر جو ایجنٹ چلاتا ہے، ہارڈ ویئر اور کمپیوٹ لیئرز جو ان کو طاقت دیتا ہے، اور روبوٹکس سسٹمز جو کہ جسمانی دنیا میں ان کی ہدایات پر عمل کرتے ہیں۔

یہ اعلان صنعت کے لیے ایک مشکل وقت پر پہنچا ہے۔ حالیہ ہفتوں میں متعدد فرنٹیئر لیبز نے ایک ہی کہانی کے ورژن کی اطلاع دی ہے - AI ایجنٹوں نے تشخیص کے ماحول کو توڑا جس کا مقصد ان پر مشتمل تھا اور ایسے نظاموں تک پہنچ گئے جن تک انہیں کبھی بھی رسائی حاصل نہیں کرنی چاہئے تھی، اور بعض صورتوں میں انہوں نے جو کچھ کیا تھا اسے غلط رپورٹ کیا۔ AI انڈسٹری کوریج سے باخبر رہنے والے قارئین کے لیے، Nvidia کا یہ اقدام ایک بڑے چپ میکر کی جانب سے پہلے مکمل اسٹیک نافذ کرنے والے جواب کی نشاندہی کرتا ہے، اور اس نے پہلے ہی 100 سے زیادہ پارٹنر تنظیموں کو اپنی طرف متوجہ کیا ہے۔

پلیٹ فارم اصل میں کیا کرتا ہے۔

حوالہ ڈیزائن دو اجزاء کو یکجا کرتا ہے۔ پہلا، اوپن شیل، ایک اوپن سورس محفوظ رن ٹائم ہے — جسے اپاچی 2.0 لائسنس کے تحت جاری کیا گیا ہے — جو سینڈ باکس والے ماحول میں خود مختار ایجنٹوں کو کرنل لیول آئسولیشن کے ساتھ انجام دیتا ہے۔ آپریٹرز اس بات کی وضاحت کرتے ہیں کہ ایجنٹ کن فائلوں، نیٹ ورکس، ٹولز، پروسیسز اور اسناد تک رسائی حاصل کر سکتا ہے، اور اوپن شیل ایجنٹ کے چلنے سے پہلے ان حدود کو چیک کرتا ہے اور انہیں مسلسل نافذ کرتا ہے جیسا کہ یہ کام کرتا ہے۔ نیوڈیا کا کہنا ہے کہ اوپن شیل اپنے ویرا سی پی یو پر کم سے کم اوور ہیڈ کا اضافہ کرتا ہے، جسے کمپنی ایجنٹ AI کے لیے بنائے گئے پہلے پروسیسر کے طور پر بیان کرتی ہے، اور یہ کہ سافٹ ویئر کو آرم اور انٹیل سے تھرڈ پارٹی پلیٹ فارم تک بڑھایا جا سکتا ہے۔

دوسرا جزو، سنٹری، نفاذ کو ایجنٹ کی پہنچ سے مکمل طور پر باہر دھکیل دیتا ہے۔ یہ Nvidia کے BlueField-4 ڈیٹا پروسیسنگ یونٹس پر ایک آؤٹ آف بینڈ واچ ڈاگ کے طور پر چلتا ہے، ایک الگ تھلگ ٹرسٹ ڈومین سے ایجنٹ کے رویے کی نگرانی کرتا ہے جسے کمپنی کا کہنا ہے کہ ایجنٹوں اور حملہ آوروں کے لیے یکساں طور پر پوشیدہ ہے۔ اگر کوئی ایجنٹ اپنے سافٹ ویئر کی حدود سے باہر جانے کی کوشش کرتا ہے، تو سینٹری کو قرنطینہ کر دیتا ہے اور اسے ملی سیکنڈ میں روک دیتا ہے۔ Sentry Nvidia کے DOCA سافٹ ویئر فریم ورک پر بنایا گیا ہے، جو ایجنٹ کی درخواستوں اور جوابات کا معائنہ کرتا ہے، ایجنٹ کی شناخت کی توثیق کرتا ہے اور ڈیٹا، ٹولز، APIs اور خدمات کے لیے صفر ٹرسٹ رسائی کی پالیسیوں کو نافذ کرتا ہے۔

"حفاظت اور سلامتی کے لیے مکمل اسٹیک انجینئرنگ کی ضرورت ہے"

Nvidia کے بانی اور CEO جینسن ہوانگ نے اس لانچ کو حفاظتی بحث کے جواب کے طور پر تیار کیا جو اب صنعت کو استعمال کر رہی ہے۔ ہوانگ نے اعلان میں کہا، "معاشرے کے لیے AI کی غیر معمولی صلاحیت کا ادراک تب ہی ہو گا جب ہم AI کی حفاظت کو حل کریں گے۔" "جیسا کہ ہم AI صلاحیتوں کے فرنٹیئر کو دریافت کرتے رہتے ہیں، ہمیں AI سیفٹی کے فرنٹیئر پر دریافت کو تیز کرنا چاہیے۔ حفاظت اور سیکیورٹی کے لیے مکمل اسٹیک انجینئرنگ کی ضرورت ہوتی ہے۔"

اپنے تکنیکی بلاگ میں، Nvidia حالیہ واقعات کے پیچھے کے پیٹرن کے بارے میں دو ٹوک تھا: یہ کوئی ایک نئی صلاحیت نہیں تھی جو ایجنٹوں کو فرار ہونے دیتی تھی، بلکہ "ٹولز، وقت اور مبہم ہدایات کا مجموعہ"۔ کمپنی نے ابتدائی ویب سے مشابہت پیدا کرتے ہوئے کہا کہ انٹرنیٹ محفوظ ہو گیا کیونکہ ویب سائٹس نے برتاؤ کرنے کا وعدہ نہیں کیا بلکہ اس لیے کہ براؤزرز نے ویب صفحات میں موجود کوڈ پر بھروسہ کرنا چھوڑ دیا اور ہر صفحہ کو اپنے سینڈ باکس میں الگ کر دیا۔ "ایجنٹ کی حفاظت کے لیے آزاد سیکیورٹی کنٹرولز کی ضرورت ہوتی ہے،" پوسٹ نے کہا۔

صنعت نفاذ کے ارد گرد متحد ہے۔

شراکت دار کی فہرست AI معیشت کے کراس سیکشن کے طور پر پڑھتی ہے۔ Anthropic نے Nvidia کے ساتھ تعاون کیا ہے تاکہ انٹرپرائزز OpenShell اور BlueField انضمام کے ذریعے Claude Managed Agents پر کنٹرول نافذ کر سکیں۔ اینتھروپک کے چیف کمرشل آفیسر، پال اسمتھ نے کہا، "کمپنیاں AI ایجنٹوں کو اپنا سب سے اہم کام دے رہی ہیں، اور انہیں ہدایت اور تصدیق کرنے کی ضرورت ہے کہ وہ ایجنٹ کیا کرتے ہیں، خاص طور پر حساس ماحول میں،" Anthropic کے چیف کمرشل آفیسر پال سمتھ نے کہا۔

SpaceXAI پلیٹ فارم کو اپنے کرسر کوڈنگ ایجنٹس اور گروک ماڈلز کے لیے استعمال کر رہا ہے، جس کے صدر مائیک نکولس نے دلیل دی ہے کہ "ماڈل کے باہر اضافی کنٹرول کے ذریعے حفاظت کو نافذ کیا جانا چاہیے جو ایجنٹ ماضی میں نہیں جا سکتا"۔ سی ای او فرانسس ڈی سوزا کے مطابق، سکیل AI انٹرپرائز اور سرکاری صارفین کے لیے اپنے GenAI پورٹ فولیو کے بنیادی ڈھانچے میں ریفرنس ڈیزائن کو شامل کر رہا ہے۔

Salesforce نے OpenShell کو Slack کے ساتھ مربوط کیا ہے تاکہ ٹیمیں ایجنٹ کی سرگرمی دیکھ سکیں اور براہ راست چیٹ سے اجازت کی درخواستوں کو منظور یا مسترد کر سکیں۔ SAP اپنے Joule Studio کے رن ٹائم کے ساتھ OpenShell کو سرایت کر رہا ہے اور انجینئرنگ کے کام میں تعاون کر رہا ہے۔ سرخی کے ناموں کے علاوہ، Nvidia نے CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte اور EY کو پلیٹ فارم کی ٹیکنالوجیز کے ساتھ کام کرنے والی 100 سے زائد تنظیموں کے ساتھ ساتھ روبوٹکس فرموں، Sigbotics اور مالیاتی گروپس، SBOOKI اور جیبوکی گروپس کی فہرست دی ہے۔ سٹی اور جے پی مورگن چیس۔

یہ کام اوپن سیکیور اے آئی الائنس کو بھی کھلاتا ہے، ایک کوشش جو Nvidia کی طرف سے 120 سے زیادہ تنظیموں کے ساتھ مل کر شروع کی گئی ہے اور لینکس فاؤنڈیشن کے زیر انتظام ہے، جو کہ SAFE - شیئرڈ AI فائنڈنگ ایکسچینج - کے نام سے ایک مشترکہ پروجیکٹ چلاتی ہے۔

اب ہارڈ ویئر کے نفاذ کی اہمیت کیوں ہے۔

پلیٹ فارم کی مرکزی شرط یہ ہے کہ ایپلیکیشن لیئر کنٹرولز اب کافی نہیں ہیں۔ Nvidia کے اعلان میں بتایا گیا کہ حالیہ واقعات میں پیٹرن ایک جیسا تھا: ایجنٹ نے اپنے تفویض کردہ کام کو مکمل کرنے کے لیے ایپلیکیشن لیئر پر سیکیورٹی کنٹرولز کو توڑا۔ نگرانی کو ایک علیحدہ DPU پر سلیکون میں منتقل کر کے — اور ایک الگ کرنل سے الگ تھلگ رن ٹائم میں — کمپنی یہ دلیل دے رہی ہے کہ نفاذ کی حد ایسی جگہ ہونی چاہیے جہاں کوئی ایجنٹ اس کے ارد گرد ترمیم، غیر فعال یا بات نہیں کر سکتا۔

چاہے یہ عملی طور پر برقرار رہے گا اس کا انحصار گود لینے پر ہوگا۔ اوپن شیل سمیت سافٹ ویئر اب Nvidia کے ڈویلپر وسائل کے صفحہ اور GitHub کے ذریعے دستیاب ہے، اور کمپنی کا عمدہ پرنٹ خبردار کرتا ہے کہ کچھ بیان کردہ خصوصیات مختلف مراحل میں رہتی ہیں اور جب اور اگر دستیاب ہوں تو پیش کی جائیں گی۔ لیکن سمت واضح ہے: ایک مہینے کے بعد جس میں ایجنٹ بریک آؤٹ نے حفاظتی گفتگو پر غلبہ حاصل کیا، انفراسٹرکچر کی پرت اب ماڈلز کا خود پولیس کرنے کا انتظار نہیں کر رہی ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →