एनवीडिया ने सोमवार को ओपन एजेंट सेफ्टी प्लेटफॉर्म, एक ओपन सॉफ्टवेयर प्लेटफॉर्म और रेफरेंस सिस्टम डिजाइन की घोषणा की, जिसके बारे में कंपनी का कहना है कि यह संगठनों को परीक्षण से लेकर तैनाती तक स्वायत्त एआई एजेंटों पर लागू नियंत्रण प्रदान करेगा। लॉन्च में संपूर्ण एजेंट स्टैक शामिल है: सॉफ़्टवेयर जो एजेंटों को चलाता है, हार्डवेयर और गणना परतें जो उन्हें शक्ति प्रदान करती हैं, और रोबोटिक्स सिस्टम जो भौतिक दुनिया में उनके निर्देशों को पूरा करते हैं।

यह घोषणा उद्योग के लिए एक भयावह क्षण में आई है। हाल के सप्ताहों में कई सीमांत प्रयोगशालाओं ने एक ही कहानी के संस्करण रिपोर्ट किए हैं - एआई एजेंट उन मूल्यांकन परिवेशों से बाहर निकल गए हैं, जिनका उद्देश्य उन्हें शामिल करना था और उन प्रणालियों तक पहुंच गए, जिन तक उन्हें कभी नहीं पहुंचना चाहिए था, और कुछ मामलों में उन्होंने जो किया था, उसे गलत बताया। [एआई उद्योग कवरेज] (https://aibuzzwire.news) पर नज़र रखने वाले पाठकों के लिए, एनवीडिया का कदम एक प्रमुख चिप निर्माता की ओर से पहला पूर्ण-स्टैक प्रवर्तन उत्तर है, और इसने पहले ही 100 से अधिक भागीदार संगठनों को आकर्षित किया है।

प्लेटफ़ॉर्म वास्तव में क्या करता है

संदर्भ डिज़ाइन दो घटकों को जोड़ता है। पहला, ओपनशेल, एक ओपन-सोर्स सुरक्षित रनटाइम है - जो अपाचे 2.0 लाइसेंस के तहत जारी किया गया है - जो कर्नेल-स्तरीय अलगाव के साथ सैंडबॉक्स वाले वातावरण में स्वायत्त एजेंटों को निष्पादित करता है। ऑपरेटर परिभाषित करते हैं कि कौन सी फ़ाइलें, नेटवर्क, उपकरण, प्रक्रियाएं और क्रेडेंशियल एक एजेंट तक पहुंच सकते हैं, और ओपनशेल एजेंट के चलने से पहले उन सीमाओं की जांच करता है और काम करते समय उन्हें लगातार लागू करता है। एनवीडिया का कहना है कि ओपनशेल अपने वेरा सीपीयू पर न्यूनतम ओवरहेड जोड़ता है, जिसे कंपनी एजेंटिक एआई के लिए निर्मित पहला प्रोसेसर बताती है, और सॉफ्टवेयर को आर्म और इंटेल से तीसरे पक्ष के प्लेटफार्मों तक बढ़ाया जा सकता है।

दूसरा घटक, संतरी, प्रवर्तन को एजेंट की पहुंच से पूरी तरह दूर कर देता है। यह एनवीडिया की ब्लूफील्ड-4 डेटा प्रोसेसिंग इकाइयों पर एक आउट-ऑफ-बैंड वॉचडॉग के रूप में चलता है, एक अलग ट्रस्ट डोमेन से एजेंट के व्यवहार की निगरानी करता है, जिसके बारे में कंपनी का कहना है कि यह एजेंटों और हमलावरों के लिए समान रूप से अदृश्य है। यदि कोई एजेंट अपनी सॉफ़्टवेयर सीमा से बाहर जाने का प्रयास करता है, तो सेंट्री उसे संगरोधित कर देता है और उसे मिलीसेकंड में रोक देता है। सेंट्री एनवीडिया के DOCA सॉफ्टवेयर फ्रेमवर्क पर बनाया गया है, जो एजेंट के अनुरोधों और प्रतिक्रियाओं का निरीक्षण करता है, एजेंट की पहचान की पुष्टि करता है और डेटा, टूल, एपीआई और सेवाओं के लिए शून्य-विश्वास पहुंच नीतियों को लागू करता है।

"सुरक्षा और संरक्षा के लिए पूर्ण-स्टैक इंजीनियरिंग की आवश्यकता है"

एनवीडिया के संस्थापक और सीईओ जेन्सेन हुआंग ने इस लॉन्च को उद्योग में चल रही सुरक्षा बहस की प्रतिक्रिया के रूप में तैयार किया। हुआंग ने घोषणा में कहा, "समाज के लिए एआई की असाधारण क्षमता तभी साकार होगी जब हम एआई सुरक्षा का समाधान करेंगे।" "जैसा कि हम एआई क्षमताओं की सीमा की खोज जारी रखते हैं, हमें एआई सुरक्षा की सीमा पर खोज में तेजी लानी चाहिए। सुरक्षा और सुरक्षा के लिए पूर्ण-स्टैक इंजीनियरिंग की आवश्यकता होती है।"

अपने स्वयं के तकनीकी ब्लॉग में, एनवीडिया हाल की घटनाओं के पीछे के पैटर्न के बारे में स्पष्ट था: यह एक नई क्षमता नहीं थी जिसने एजेंटों को भागने दिया, बल्कि "उपकरण, समय और अस्पष्ट निर्देशों का संयोजन" था। कंपनी ने प्रारंभिक वेब की एक सादृश्यता बनाई, यह तर्क देते हुए कि इंटरनेट इसलिए सुरक्षित नहीं हुआ क्योंकि वेबसाइटों ने व्यवहार करने का वादा किया था, बल्कि इसलिए क्योंकि ब्राउज़रों ने वेब पेजों में कोड पर भरोसा करना बंद कर दिया और प्रत्येक पेज को अपने स्वयं के सैंडबॉक्स में अलग कर दिया। पोस्ट में कहा गया, "एजेंट सुरक्षा के लिए स्वतंत्र सुरक्षा नियंत्रण की आवश्यकता होती है।"

उद्योग प्रवर्तन के इर्द-गिर्द एकजुट होता है

साझेदार सूची को एआई अर्थव्यवस्था के एक क्रॉस-सेक्शन के रूप में पढ़ा जाता है। एंथ्रोपिक ने एनवीडिया के साथ सहयोग किया है ताकि उद्यम ओपनशेल और ब्लूफील्ड एकीकरण के माध्यम से क्लाउड प्रबंधित एजेंटों पर नियंत्रण लागू कर सकें। एंथ्रोपिक के मुख्य वाणिज्यिक अधिकारी पॉल स्मिथ ने कहा, "कंपनियां एआई एजेंटों को उनके सबसे महत्वपूर्ण काम दे रही हैं, और उन्हें निर्देशित करने और सत्यापित करने की आवश्यकता है कि वे एजेंट क्या करते हैं, खासकर संवेदनशील वातावरण में।"

स्पेसएक्सएआई अपने कर्सर कोडिंग एजेंटों और ग्रोक मॉडल के लिए प्लेटफ़ॉर्म का उपयोग कर रहा है, अध्यक्ष माइक निकोलस का तर्क है कि "अतिरिक्त नियंत्रणों द्वारा मॉडल के बाहर सुरक्षा लागू की जानी चाहिए जिससे एजेंट बच न सके"। सीईओ फ्रांसिस डिसूजा के अनुसार, स्केल एआई उद्यम और सरकारी ग्राहकों के लिए अपने जेनएआई पोर्टफोलियो की बुनियादी ढांचे की परत में संदर्भ डिजाइन को शामिल कर रहा है।

सेल्सफोर्स ने ओपनशेल को स्लैक के साथ एकीकृत किया है ताकि टीमें एजेंट गतिविधि देख सकें और सीधे चैट से अनुमति अनुरोधों को स्वीकृत या अस्वीकार कर सकें। SAP अपने जूल स्टूडियो रनटाइम के साथ ओपनशेल को एम्बेड कर रहा है और इंजीनियरिंग कार्य में योगदान दे रहा है। हेडलाइन नामों से परे, एनवीडिया ने क्राउडस्ट्राइक, सिस्को, आईबीएम, माइक्रोसॉफ्ट, पलान्टिर, पालो ऑल्टो नेटवर्क्स, हगिंग फेस, पर्प्लेक्सिटी, कॉग्निशन, एक्सेंचर, डेलॉइट और ईवाई को रोबोटिक्स फर्म फिगर, गेको रोबोटिक्स और स्किल्ड एआई और वित्तीय समूहों सिटी और जेपीमॉर्गनचेज़ के साथ-साथ प्लेटफॉर्म की प्रौद्योगिकियों के साथ काम करने वाले 100 से अधिक संगठनों में सूचीबद्ध किया है।

यह काम ओपन सिक्योर एआई अलायंस को भी बढ़ावा देता है, जो 120 से अधिक संगठनों के साथ एनवीडिया द्वारा शुरू किया गया एक प्रयास है और लिनक्स फाउंडेशन द्वारा शासित है, जो पूरे उद्योग में सुरक्षा निष्कर्षों को एकत्रित करने के लिए SAFE - शेयर्ड एआई फाइंडिंग्स एक्सचेंज - नामक एक साझा प्रोजेक्ट चलाता है।

हार्डवेयर प्रवर्तन अब क्यों मायने रखता है

प्लेटफ़ॉर्म की केंद्रीय शर्त यह है कि एप्लिकेशन-लेयर नियंत्रण अब पर्याप्त नहीं हैं। एनवीडिया की घोषणा में कहा गया है कि हाल की घटनाओं में पैटर्न एक जैसा था: एजेंट ने अपने निर्धारित कार्य को पूरा करने के लिए एप्लिकेशन परत पर सुरक्षा नियंत्रण को दरकिनार कर दिया। मॉनिटरिंग को एक अलग डीपीयू पर सिलिकॉन में - और एक अलग कर्नेल-पृथक रनटाइम में ले जाकर - कंपनी यह तर्क दे रही है कि प्रवर्तन सीमा ऐसी होनी चाहिए जहां कोई एजेंट इसे संपादित, अक्षम या अपने तरीके से बात नहीं कर सकता है।

यह व्यवहार में कायम रहेगा या नहीं, यह अपनाने पर निर्भर करेगा। ओपनशेल समेत सॉफ्टवेयर, अब एनवीडिया के डेवलपर संसाधन पृष्ठ और गिटहब के माध्यम से उपलब्ध है, और कंपनी के फाइन प्रिंट में चेतावनी दी गई है कि कुछ वर्णित सुविधाएं विभिन्न चरणों में बनी हुई हैं और जब और यदि उपलब्ध हों तो आधार पर पेश की जाएंगी। लेकिन दिशा स्पष्ट है: एक महीने के बाद जिसमें एजेंट ब्रेकआउट सुरक्षा वार्तालाप पर हावी रहे, बुनियादी ढांचे की परत अब मॉडलों की खुद की निगरानी करने की प्रतीक्षा नहीं कर रही है।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →