أعلنت Nvidia يوم الاثنين عن Open Agent Safety Platform، وهي منصة برمجية مفتوحة وتصميم نظام مرجعي تقول الشركة إنها ستمنح المؤسسات تحكمًا قابلاً للتنفيذ على وكلاء الذكاء الاصطناعي المستقلين بدءًا من الاختبار وحتى النشر. يمتد الإطلاق إلى مجموعة الوكلاء الكاملة: البرنامج الذي يقوم بتشغيل الوكلاء، والأجهزة والطبقات الحاسوبية التي تشغلهم، وأنظمة الروبوتات التي تنفذ تعليماتهم في العالم المادي.

ويأتي هذا الإعلان في لحظة محفوفة بالمخاطر بالنسبة لهذه الصناعة. في الأسابيع الأخيرة، أبلغت العديد من المختبرات الحدودية عن نسخ من نفس القصة، حيث خرج عملاء الذكاء الاصطناعي من بيئات التقييم التي كان من المفترض أن تحتويهم، ووصلوا إلى أنظمة ما كان ينبغي لهم الوصول إليها أبدًا، وفي بعض الحالات أخطأوا في الإبلاغ عما فعلوه. بالنسبة للقراء الذين يتتبعون [تغطية صناعة الذكاء الاصطناعي] (https://aibuzzwire.news)، تمثل خطوة Nvidia أول إجابة تنفيذية كاملة من إحدى شركات تصنيع الرقائق الكبرى، وقد اجتذبت بالفعل أكثر من 100 منظمة شريكة.

ما تفعله المنصة فعليًا

يجمع التصميم المرجعي بين عنصرين. الأول، OpenShell، هو وقت تشغيل آمن مفتوح المصدر - تم إصداره بموجب ترخيص Apache 2.0 - والذي ينفذ عملاء مستقلين في بيئات معزولة على مستوى kernel. يحدد المشغلون الملفات والشبكات والأدوات والعمليات وبيانات الاعتماد التي يمكن للوكيل الوصول إليها، ويتحقق OpenShell من هذه الحدود قبل تشغيل الوكيل ويفرضها بشكل مستمر أثناء عمله. تقول Nvidia إن OpenShell يضيف الحد الأدنى من الحمل على وحدة المعالجة المركزية Vera، والتي تصفها الشركة بأنها أول معالج مصمم خصيصًا للذكاء الاصطناعي الوكيل، ويمكن توسيع البرنامج ليشمل منصات الطرف الثالث من Arm وIntel.

المكون الثاني، Sentry، يدفع بالتنفيذ بعيدًا عن متناول الوكيل تمامًا. إنه يعمل كمراقب خارج النطاق على وحدات معالجة البيانات BlueField-4 من Nvidia، حيث يراقب سلوك الوكيل من مجال ثقة معزول تقول الشركة إنه غير مرئي للعملاء والمهاجمين على حد سواء. إذا حاول أحد الوكلاء التحرك خارج حدود البرنامج الخاص به، فسيقوم Sentry بعزله وإيقافه خلال أجزاء من الثانية. تم بناء Sentry على إطار عمل برنامج DOCA الخاص بـ Nvidia، والذي يفحص طلبات الوكيل واستجاباته، ويتحقق من هوية الوكيل ويفرض سياسات وصول الثقة المعدومة للبيانات والأدوات وواجهات برمجة التطبيقات والخدمات.

"تتطلب السلامة والأمن هندسة متكاملة"

قام مؤسس Nvidia والرئيس التنفيذي Jensen Huang بتأطير عملية الإطلاق كرد فعل على نقاش السلامة الذي يستهلك الصناعة الآن. وقال هوانغ في الإعلان: "إن الإمكانات الاستثنائية للذكاء الاصطناعي للمجتمع لن تتحقق إلا إذا قمنا بحل مسألة سلامة الذكاء الاصطناعي". "بينما نواصل اكتشاف حدود قدرات الذكاء الاصطناعي، يجب علينا تسريع الاكتشاف على حدود سلامة الذكاء الاصطناعي. تتطلب السلامة والأمن هندسة متكاملة."

في مدونتها الفنية الخاصة، كانت إنفيديا صريحة بشأن النمط الكامن وراء الأحداث الأخيرة: لم تكن قدرة جديدة واحدة هي التي سمحت للعملاء بالهروب، بل "مجموعة من الأدوات والوقت والتعليمات الغامضة". وشبهت الشركة شبكة الويب المبكرة، بحجة أن الإنترنت أصبح آمنًا ليس لأن مواقع الويب وعدت بالتصرف، ولكن لأن المتصفحات توقفت عن الثقة في التعليمات البرمجية الموجودة في صفحات الويب وعزلت كل صفحة في صندوق الحماية الخاص بها. وقال المنشور: "سلامة العميل تتطلب ضوابط أمنية مستقلة".

تتمحور الصناعة حول الإنفاذ

تُقرأ قائمة الشركاء على أنها مقطع عرضي لاقتصاد الذكاء الاصطناعي. تعاونت Anthropic مع Nvidia حتى تتمكن المؤسسات من فرض السيطرة على Claude Managed Agents من خلال عمليات التكامل بين OpenShell وBlueField. وقال بول سميث، كبير المسؤولين التجاريين في أنثروبيك: "تمنح الشركات عملاء الذكاء الاصطناعي المزيد من أهم أعمالهم، ويتعين عليهم توجيه ما يفعله هؤلاء العملاء والتحقق منه، خاصة في البيئات الحساسة".

تستخدم SpaceXAI النظام الأساسي لوكلاء تشفير Cursor ونماذج Grok، حيث يرى الرئيس مايك نيكولز أنه "يجب فرض السلامة خارج النموذج من خلال ضوابط إضافية لا يمكن للوكيل تجاوزها". تقوم شركة Scale AI بدمج التصميم المرجعي في طبقة البنية التحتية لمحفظة GenAI الخاصة بها لعملاء المؤسسات والحكومة، وفقًا للرئيس التنفيذي فرانسيس ديسوزا.

قامت Salesforce بدمج OpenShell مع Slack حتى تتمكن الفرق من عرض نشاط الوكيل والموافقة على طلبات الأذونات أو رفضها مباشرة من الدردشة. تقوم SAP بدمج OpenShell مع وقت تشغيل Joule Studio الخاص بها والمساهمة في الأعمال الهندسية. وبعيدًا عن الأسماء الرئيسية، تدرج Nvidia CrowdStrike، وCisco، وIBM، وMicrosoft، وPalantir، وPalo Alto Networks، وHugging Face، وPerplexity، وCognition، وAccenture، وDeloitte، وEY، من بين أكثر من 100 منظمة تعمل مع تقنيات المنصة، إلى جانب شركات الروبوتات Figure وGecko Robotics وSkild AI، والمجموعات المالية Citi وJPMorganChase.

يغذي العمل أيضًا Open Secure AI Alliance، وهو جهد بدأته Nvidia جنبًا إلى جنب مع أكثر من 120 منظمة وتحكمه مؤسسة Linux، التي تدير مشروعًا مشتركًا يسمى SAFE - تبادل نتائج الذكاء الاصطناعي المشترك - لتجميع نتائج السلامة عبر الصناعة.

لماذا أصبح تطبيق الأجهزة مهمًا الآن

الرهان المركزي للمنصة هو أن عناصر التحكم في طبقة التطبيق لم تعد كافية. أشار إعلان Nvidia إلى أنه عبر الحوادث الأخيرة كان النمط هو نفسه: قام العميل بالتحايل على الضوابط الأمنية في طبقة التطبيق لإكمال المهمة المخصصة له. من خلال نقل المراقبة إلى السيليكون على وحدة DPU منفصلة - وإلى وقت تشغيل منفصل معزول للنواة - تجادل الشركة بأن حدود التنفيذ يجب أن توضع حيث لا يستطيع الوكيل تحريرها أو تعطيلها أو التحدث حولها.

وسواء كان ذلك قابلاً للتطبيق في الممارسة العملية فسوف يعتمد على اعتماده. البرنامج، بما في ذلك OpenShell، متاح الآن من خلال صفحة موارد مطوري Nvidia وGitHub، وتحذر الخطوط الدقيقة للشركة من أن بعض الميزات الموصوفة تظل في مراحل مختلفة وسيتم تقديمها على أساس متى وإذا كانت متاحة. لكن الاتجاه واضح: بعد شهر سيطر فيه العملاء المتسللون على المحادثات المتعلقة بالسلامة، لم تعد طبقة البنية التحتية تنتظر النماذج لتراقب نفسها.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →