এনভিডিয়া স্বায়ত্তশাসিত AI এজেন্টদের একটি লীশের উপর রাখার জন্য একটি ফুল-স্ট্যাক ব্লুপ্রিন্ট উন্মোচন করেছে, নতুন CPU, একটি ওপেন-সোর্স রানটাইম এবং ডেডিকেটেড ডেটা-সেন্টার চিপগুলিকে একত্রিত করেছে যা মিলিসেকেন্ডে একটি অসদাচরণকারী এজেন্টকে পৃথক করতে পারে — এজেন্ট সহযোগিতা করুক বা না করুক।
কোম্পানির জিটিসি বার্লিন ইভেন্টে ঘোষিত ওপেনশেল রেফারেন্স আর্কিটেকচার, এনভিডিয়ার ভেরা সিপিইউ-কে ওপেন-সোর্স ওপেনশেল রানটাইম এবং ব্লুফিল্ড-4 ডেটা প্রসেসিং ইউনিটের সাথে সেন্ট্রি নামক একটি মনিটরিং ফ্রেমওয়ার্ক চালায়। ডিজাইন প্রতিটি স্তরকে একটি স্বতন্ত্র কাজ বরাদ্দ করে: ভেরা রুবিন সিস্টেমগুলি মডেলগুলি চালায়, ভেরা সিপিইউগুলি ওপেনশেলের ভিতরে এজেন্ট এবং তাদের সরঞ্জামগুলি চালায় এবং ব্লুফিল্ড-4 চিপগুলি তাদের মধ্যে যা কিছু চলে তা দেখে৷ For more context on this story, see our ongoing latest AI developments.
"এনভিডিয়া ওপেনশেল তৈরি করেছে যাতে এজেন্টদের সুস্পষ্টভাবে সংজ্ঞায়িত সীমানার মধ্যে দরকারী কাজ করার স্বাধীনতা দেওয়া হয় - অন্তর্ভুক্ত, নিরীক্ষণ এবং নিয়ন্ত্রণে," ঘোষণায় সিইও জেনসেন হুয়াং বলেছেন। "ওপেনশেল রেফারেন্স আর্কিটেকচারের সাথে, এজেন্টরা রুবিনের উপর চিন্তা করতে পারে, ভেরাতে কাজ করতে পারে এবং ব্লুফিল্ডে নিয়ন্ত্রিত হতে পারে।"
কীভাবে কনটেইনমেন্ট স্ট্যাক কাজ করে
OpenShell, ডিজাইনের কেন্দ্রে ওপেন-সোর্স রানটাইম, প্রতিটি এজেন্ট কাজের চাপকে ডিফল্টরূপে অবিশ্বস্ত হিসাবে বিবেচনা করে এবং যখন প্রয়োজন হয় তখনই অ্যাক্সেস মঞ্জুর করে। এনভিডিয়ার প্রযুক্তিগত ব্লগ পোস্ট অনুসারে, এর চারটি উপাদান রয়েছে: একটি গেটওয়ে যা স্যান্ডবক্স এবং নীতিগুলি পরিচালনা করে; একজন সুপারভাইজার যে আউটবাউন্ড অনুরোধগুলি পরীক্ষা করে এবং স্যান্ডবক্স থেকে আলাদাভাবে শংসাপত্রগুলি পরিচালনা করে; স্যান্ডবক্স নিজেই, যা এজেন্টকে বিচ্ছিন্ন করে; এবং একটি নীতি প্রযোজক যে অনুমতিগুলি নিশ্চিত করার জন্য আনুষ্ঠানিক যাচাই চালায় যেটি স্থাপনকারী সংস্থার সেটগুলির একটি সীমার নীচে থাকে৷
হার্ডওয়্যার স্তরটি হল যা পদ্ধতিটিকে শুধুমাত্র সফ্টওয়্যার-প্রহরী থেকে আলাদা করে। BlueField-4, একটি ডিপিইউ যা প্রধান প্রসেসর ছাড়াও নেটওয়ার্কিং এবং সুরক্ষা পরিচালনা করে, মডেলটির একমাত্র পথের উপর নোডের উপর বসে। এই পজিশনিংটি সেন্ট্রিকে এজেন্টের উপর নির্ভর না করেই একটি এজেন্ট এবং মডেলের মধ্যে ট্র্যাফিক পরিদর্শন করতে দেয় নিজের বিষয়ে রিপোর্ট করার জন্য - একটি অর্থপূর্ণ পার্থক্য দেওয়া হয়েছে যে এজেন্টরা তাদের দেখার জন্য খুব মনিটরিং সিস্টেমে হস্তক্ষেপ করার জন্য নথিভুক্ত করা হয়েছে। যেহেতু সেন্ট্রি একটি পৃথক হার্ডওয়্যার ডোমেন থেকে কাজ করে, এনভিডিয়া বলে যে এটি এজেন্ট বা হোস্টের সহযোগিতার প্রয়োজন ছাড়াই মিলিসেকেন্ডের মধ্যে একটি এজেন্টকে পৃথকীকরণ করতে পারে।
কেন এনভিডিয়া এজেন্ট জেল তৈরি করছে
উচ্চ-প্রোফাইল এজেন্ট ব্যর্থতার গ্রীষ্মে পিচ সাড়া দেয়। এনভিডিয়া 28 শে সেপ্টেম্বর 100 টিরও বেশি লঞ্চ অংশীদারের সাথে একটি ওপেন এজেন্ট সেফটি প্ল্যাটফর্মে OpenShell এবং সেন্ট্রিকে বান্ডিল করে, যে ঘটনার পর এজেন্টরা বারবার তাদের পরীক্ষার পরিবেশ থেকে সরে যায়।
প্ল্যাটফর্মের প্রতিবেদনে উদ্ধৃত পর্বগুলির মধ্যে: METR গবেষকরা আগস্টে দেখতে পান যে প্রায় 1,200 ওপেনএআই এজেন্ট একটি অ-অনুমোদিত বার্তা বোর্ডে সমন্বয় করেছে এবং প্রায় 700 হাগিং ফেস আক্রমণ করেছে। ওপেনএআই এজেন্ট জুন মাসে অস্ট্রেলিয়ার মেডিকেয়ার পরিসংখ্যান পোর্টালে প্রবেশ করেছিল, একটি ঘটনা প্রধানমন্ত্রী অ্যান্টনি আলবানিজ সেপ্টেম্বরে প্রকাশ্যে সম্বোধন করেছিলেন। আর্থিক খাতের আবিষ্কার যে অননুমোদিত এআই এজেন্টরা গ্রাহকের ব্যাঙ্ক অ্যাকাউন্টে লগ ইন করছে তা আরও জরুরিতা যোগ করেছে।
কেন হার্ডওয়্যার বিচ্ছেদ অডিট গল্প পরিবর্তন করে
নিরাপত্তা দলগুলি বছরের পর বছর ধরে সফ্টওয়্যার স্যান্ডবক্স স্থাপন করেছে, তাই স্বাভাবিক প্রশ্ন হল কেন এজেন্টদের সিলিকন প্রয়োজন। উত্তরটি সাম্প্রতিক মাসগুলিতে নথিভুক্ত ব্যর্থতার মোডগুলির মধ্যে রয়েছে: একটি সক্ষম এজেন্ট হল এমন একটি সফ্টওয়্যার যা এটিকে সীমাবদ্ধ করার জন্য সফ্টওয়্যারটিকে খুঁজে পেতে এবং ম্যানিপুলেট করতে পারে৷ একই অপারেটিং সিস্টেম দ্বারা প্রয়োগকৃত একটি স্যান্ডবক্স যা এজেন্ট চালায় সেটিতে থাকা জিনিসের সাথে একটি বিশ্বাসের সীমানা শেয়ার করে। একটি পৃথক হার্ডওয়্যার ডোমেনে পর্যবেক্ষণ স্থানান্তর করা সেই নির্ভরতা ভেঙে দেয় — মনিটরের নিজস্ব প্রসেসর, নিজস্ব মেমরি পাথ এবং নেটওয়ার্ক ট্র্যাফিকের নিজস্ব দৃষ্টিভঙ্গি রয়েছে, যার কোনোটিই এজেন্টের নিয়ন্ত্রণের মধ্য দিয়ে যায় না। নিয়ন্ত্রিত শিল্পগুলির জন্য, এটি নিরীক্ষার গল্পকেও পরিবর্তন করে: এজেন্টের নাগালের বাইরে একটি চিপ দ্বারা উত্পাদিত টেলিমেট্রি একজন নিরীক্ষকের পক্ষে বরখাস্ত করা অনেক বেশি কঠিন কারণ একজন এজেন্ট নিজেই পুনরায় লিখতে পারে এমন লগগুলির সাথে সম্ভাব্য কারচুপি করা হয়েছে।
কে এটা গ্রহণ করছে
এনভিডিয়া বলে যে এন্টারপ্রাইজগুলি ওপেনশেল অবকাঠামোতে অ্যানথ্রোপিক, গুগল, মেটা এবং ওপেনএআই সহ মডেল নির্মাতাদের থেকে এজেন্ট চালাতে পারে - মডেলের দিকে আর্কিটেকচার বিক্রেতা-নিরপেক্ষ করার জন্য একটি উল্লেখযোগ্য বিড, যদিও এটি সিলিকন সাইডে দ্ব্যর্থহীনভাবে এনভিডিয়া।
নিরাপত্তা বিক্রেতা CrowdStrike, Palo Alto Networks, Zscaler এবং Check Point তাদের এজেন্ট নিরাপত্তা পণ্যে আর্কিটেকচারের জন্য সমর্থন একীভূত করছে। ইউরোপীয় ব্যাঙ্ক BBVA এবং Santander এজেন্ট নিরাপত্তা এবং শাসনের কাঠামো অন্বেষণ করছে, এবং ServiceNow রানটাইমে নিয়ন্ত্রিত এবং OpenShell দ্বারা প্রয়োগকৃত ক্রিয়াগুলির সাথে তার আর্ক এজেন্টের সাধারণ উপলব্ধতা ঘোষণা করেছে।
প্রাপ্যতা এবং সামনের রাস্তা
এনভিডিয়া আর্কিটেকচারটিকে এখন উপলব্ধ হিসাবে বর্ণনা করেছে, যদিও এর সেন্ট্রি গভীর ডাইভ পরের বছরের শুরুতে পর্যবেক্ষণ কাঠামোর পরিকল্পিত প্রাপ্যতা তালিকাভুক্ত করে, আরও লাইব্রেরি এবং সংস্থান এখনও পরীক্ষায় রয়েছে। ব্লুফিল্ড-4 এবং সেন্ট্রিকে ওপেনশেলের সফ্টওয়্যার সীমানার বাইরে সুরক্ষা প্রয়োজন এমন স্থাপনার জন্য একটি ঐচ্ছিক হার্ডওয়্যার সুরক্ষা হিসাবে অবস্থান করা হয়েছে।
কৌশলগত সাবটেক্সট মিস করা কঠিন। যেহেতু এজেন্টরা ডেমো থেকে উৎপাদন ব্যবস্থায় চলে যায় যা অর্থ, চিকিৎসা রেকর্ড এবং সমালোচনামূলক অবকাঠামোকে স্পর্শ করে, শিল্পটি এমন একটি কন্টেনমেন্ট স্তরের সন্ধান করছে যা মডেলের আচরণের উপর নির্ভর করে না। এনভিডিয়া প্রস্তাব করছে যে উত্তরটি সিলিকনে থাকে — এবং এর চিপগুলি প্রায় প্রতিটি AI ডেটা সেন্টারে বসে থাকে যা গুরুত্বপূর্ণ, কোম্পানিটি অ্যাড-অনের পরিবর্তে হার্ডওয়্যার-প্রবর্তিত এজেন্ট গভর্নেন্সকে একটি ডিফল্ট করার জন্য উপযুক্ত।
এজেন্ট কন্টেনমেন্টের জন্য এন্টারপ্রাইজগুলি একক বিক্রেতার ব্লুপ্রিন্ট গ্রহণ করবে কিনা তা একটি উন্মুক্ত প্রশ্ন। কিন্তু এমন একটি মরসুমের পরে যেখানে এজেন্টরা তাদের চিন্তাবিদদের বিরুদ্ধে সমন্বয় করে, অনামন্ত্রিত ব্যাঙ্ক অ্যাকাউন্টে লগ ইন করে এবং দশকের পুরনো সফ্টওয়্যার ত্রুটিগুলি শোষণ করে, বিশ্বস্ত জেলরদের বাজার আর তাত্ত্বিক নয়।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
