Nvidia ने सोमवारी ओपन एजंट सेफ्टी प्लॅटफॉर्म, एक ओपन सॉफ्टवेअर प्लॅटफॉर्म आणि संदर्भ प्रणाली डिझाइनची घोषणा केली जी संस्थांना स्वायत्त एआय एजंट्सवर तैनातीद्वारे चाचणी करण्यापासून लागू करण्यायोग्य नियंत्रण देईल असे कंपनी म्हणते. लाँच संपूर्ण एजंट स्टॅकमध्ये पसरते: एजंट चालवणारे सॉफ्टवेअर, त्यांना शक्ती देणारे हार्डवेअर आणि गणना स्तर आणि भौतिक जगात त्यांच्या सूचना पूर्ण करणाऱ्या रोबोटिक्स सिस्टम.

ही घोषणा उद्योगासाठी अत्यंत कठीण क्षणी येते. अलिकडच्या आठवड्यांमध्ये अनेक फ्रंटियर लॅबने समान कथेच्या आवृत्त्या नोंदवल्या आहेत - AI एजंट्सने मूल्यमापन वातावरणातून बाहेर पडून ते समाविष्ट केले आणि त्यांनी कधीही प्रवेश करू नये अशा सिस्टीमपर्यंत पोहोचले आणि काही प्रकरणांमध्ये त्यांनी काय केले ते चुकीचे नोंदवले. AI इंडस्ट्री कव्हरेज ट्रॅक करणाऱ्या वाचकांसाठी, Nvidia चे पाऊल हे प्रमुख चिपमेकरचे पहिले पूर्ण-स्टॅक अंमलबजावणी उत्तर चिन्हांकित करते आणि याने आधीच १०० हून अधिक भागीदार संस्था काढल्या आहेत.

प्लॅटफॉर्म प्रत्यक्षात काय करतो

संदर्भ डिझाइन दोन घटक एकत्र करते. पहिला, OpenShell, एक मुक्त-स्रोत सुरक्षित रनटाइम आहे — जो Apache 2.0 लायसन्स अंतर्गत जारी केला जातो — जो कर्नल-स्तरीय अलगावसह सँडबॉक्स्ड वातावरणात स्वायत्त एजंट्स कार्यान्वित करतो. ऑपरेटर कोणत्या फाइल्स, नेटवर्क्स, टूल्स, प्रक्रिया आणि क्रेडेन्शियल्समध्ये एजंट प्रवेश करू शकतात ते परिभाषित करतात आणि एजंट चालण्यापूर्वी OpenShell त्या मर्यादा तपासते आणि ते कार्य करत असताना त्यांची सतत अंमलबजावणी करते. Nvidia म्हणते की OpenShell त्याच्या Vera CPU वर किमान ओव्हरहेड जोडते, ज्याचे वर्णन कंपनी एजंटिक AI साठी उद्देशाने तयार केलेले पहिले प्रोसेसर म्हणून करते आणि सॉफ्टवेअर आर्म आणि इंटेलकडून तृतीय-पक्ष प्लॅटफॉर्मवर विस्तारित केले जाऊ शकते.

दुसरा घटक, सेंट्री, अंमलबजावणीला एजंटच्या आवाक्याबाहेर ढकलतो. हे Nvidia च्या BlueField-4 डेटा प्रोसेसिंग युनिट्सवर आउट-ऑफ-बँड वॉचडॉग म्हणून चालते, एका वेगळ्या ट्रस्ट डोमेनमधून एजंटच्या वर्तनाचे निरीक्षण करते जे कंपनी म्हणते की एजंट आणि हल्लेखोर एकसारखेच अदृश्य आहेत. एजंटने त्याच्या सॉफ्टवेअरच्या हद्दीबाहेर जाण्याचा प्रयत्न केल्यास, सेंट्री क्वारंटाईन करते आणि मिलिसेकंदांमध्ये थांबवते. सेंट्री हे Nvidia च्या DOCA सॉफ्टवेअर फ्रेमवर्कवर तयार केले आहे, जे एजंट विनंत्या आणि प्रतिसादांचे निरीक्षण करते, एजंट ओळख सत्यापित करते आणि डेटा, टूल्स, API आणि सेवांसाठी शून्य-विश्वास प्रवेश धोरणे लागू करते.

"सुरक्षा आणि सुरक्षिततेसाठी पूर्ण-स्टॅक अभियांत्रिकी आवश्यक आहे"

Nvidia चे संस्थापक आणि CEO जेन्सेन हुआंग यांनी हे प्रक्षेपण आता उद्योगात होत असलेल्या सुरक्षिततेच्या चर्चेला प्रतिसाद म्हणून तयार केले. "एआय ची समाजासाठी विलक्षण क्षमता तेव्हाच लक्षात येईल जेव्हा आपण एआय सुरक्षिततेचे निराकरण केले," हुआंग यांनी घोषणेमध्ये म्हटले. "आम्ही AI क्षमतेच्या सीमारेषेचा शोध घेणे सुरू ठेवत असताना, आम्ही AI सुरक्षिततेच्या सीमेवर शोधांना गती दिली पाहिजे. सुरक्षितता आणि सुरक्षिततेसाठी पूर्ण-स्टॅक अभियांत्रिकी आवश्यक आहे."

त्याच्या स्वत:च्या तांत्रिक ब्लॉगमध्ये, Nvidia अलीकडील घटनांमागील नमुन्याबद्दल स्पष्टपणे बोलत होता: एजंटांना सुटू देणारी ही एकच नवीन क्षमता नव्हती, परंतु "साधने, वेळ आणि अस्पष्ट सूचनांचे संयोजन". कंपनीने सुरुवातीच्या वेबशी एक साधर्म्य आणले, असा युक्तिवाद केला की इंटरनेट सुरक्षित झाले कारण वेबसाइटने वागण्याचे आश्वासन दिले नाही तर ब्राउझरने वेब पृष्ठांमधील कोडवर विश्वास ठेवणे थांबवले आणि प्रत्येक पृष्ठ स्वतःच्या सँडबॉक्समध्ये वेगळे केले. "एजंट सुरक्षेसाठी स्वतंत्र सुरक्षा नियंत्रणे आवश्यक आहेत," पोस्टने म्हटले आहे.

उद्योग अंमलबजावणीच्या आसपास एकत्र येतो

भागीदार सूची AI अर्थव्यवस्थेचा क्रॉस-सेक्शन म्हणून वाचते. Anthropic ने Nvidia सोबत सहयोग केला आहे जेणेकरून एंटरप्रायझेस OpenShell आणि BlueField एकीकरणाद्वारे क्लॉड मॅनेज्ड एजंट्सवर नियंत्रण लागू करू शकतील. "कंपन्या एआय एजंटना त्यांचे सर्वात महत्वाचे काम देत आहेत आणि त्यांना ते एजंट काय करतात हे निर्देशित करणे आणि पडताळणे आवश्यक आहे, विशेषत: संवेदनशील वातावरणात," पॉल स्मिथ, अँथ्रोपिकचे मुख्य व्यावसायिक अधिकारी म्हणाले.

SpaceXAI त्याच्या कर्सर कोडिंग एजंट्स आणि Grok मॉडेल्ससाठी प्लॅटफॉर्म वापरत आहे, अध्यक्ष माईक निकोल्सने असा युक्तिवाद केला आहे की "एजंट भूतकाळात जाऊ शकत नाही अशा अतिरिक्त नियंत्रणांद्वारे मॉडेलच्या बाहेर सुरक्षा लागू केली जावी". सीईओ फ्रान्सिस डीसूझा यांच्या म्हणण्यानुसार, स्केल एआय एंटरप्राइझ आणि सरकारी ग्राहकांसाठी त्याच्या GenAI पोर्टफोलिओच्या पायाभूत सुविधा स्तरामध्ये संदर्भ डिझाइनचा समावेश करत आहे.

Salesforce ने OpenShell ला Slack सोबत समाकलित केले आहे जेणेकरून टीम एजंट क्रियाकलाप पाहू शकतात आणि थेट चॅटमधून परवानगी विनंत्या मंजूर किंवा नाकारू शकतात. SAP त्याच्या जौल स्टुडिओ रनटाइमसह OpenShell एम्बेड करत आहे आणि अभियांत्रिकी कार्यात योगदान देत आहे. मथळ्याच्या नावांव्यतिरिक्त, Nvidia ने CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte आणि EY या प्लॅटफॉर्मच्या तंत्रज्ञानावर काम करणाऱ्या १०० हून अधिक संस्थांची यादी केली आहे, सोबतच रोबोटिक्स ग्रुप्स आणि गेबोटिक्स ग्रुप्स, गेबोटिक्स आणि आर्थिक कंपन्या, एस. सिटी आणि जेपी मॉर्गनचेस.

हे काम ओपन सिक्युअर एआय अलायन्सला देखील फीड करते, एनव्हीडियाने 120 हून अधिक संस्थांसोबत सुरू केलेला प्रयत्न आणि लिनक्स फाऊंडेशनद्वारे शासित आहे, जो SAFE — Shared AI Findings Exchange — नावाचा एक सामायिक प्रकल्प चालवतो — संपूर्ण उद्योगात सुरक्षितता निष्कर्ष एकत्रित करण्यासाठी.

आता हार्डवेअर अंमलबजावणी का महत्त्वाची आहे

प्लॅटफॉर्मची मध्यवर्ती पैज अशी आहे की अनुप्रयोग-स्तर नियंत्रणे यापुढे पुरेसे नाहीत. Nvidia च्या घोषणेने नमूद केले आहे की अलीकडील घटनांमध्ये पॅटर्न सारखाच होता: एजंटने नियुक्त केलेले कार्य पूर्ण करण्यासाठी ऍप्लिकेशन लेयरवरील सुरक्षा नियंत्रणांमध्ये अडथळा आणला. वेगळ्या DPU वर सिलिकॉनमध्ये मॉनिटरिंग हलवून — आणि वेगळ्या कर्नल-विलग रनटाइममध्ये — कंपनी असा युक्तिवाद करत आहे की अंमलबजावणीची सीमा जिथे एजंट संपादित करू शकत नाही, अक्षम करू शकत नाही किंवा त्याच्या आसपास बोलू शकत नाही.

ते व्यवहारात टिकते की नाही हे दत्तक घेण्यावर अवलंबून असेल. OpenShell सह सॉफ्टवेअर आता Nvidia च्या डेव्हलपर रिसोर्सेस पेज आणि GitHub द्वारे उपलब्ध आहे आणि कंपनीचे उत्कृष्ट प्रिंट चेतावणी देते की काही वर्णित वैशिष्ट्ये विविध टप्प्यात राहतील आणि केव्हा-आणि-उपलब्ध आधारावर ऑफर केली जातील. परंतु दिशा स्पष्ट आहे: एका महिन्यानंतर ज्यामध्ये एजंट ब्रेकआउट्सने सुरक्षा संभाषणावर वर्चस्व गाजवले, पायाभूत सुविधांचा स्तर यापुढे मॉडेल्सची स्वत: पोलिसांची वाट पाहत नाही.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →