Nvidia mengumumkan pada hari Isnin Platform Keselamatan Ejen Terbuka, platform perisian terbuka dan reka bentuk sistem rujukan yang dikatakan syarikat itu akan memberi organisasi kawalan yang boleh dikuatkuasakan ke atas ejen AI autonomi daripada ujian melalui penggunaan. Pelancaran merangkumi timbunan ejen penuh: perisian yang menjalankan ejen, perkakasan dan lapisan pengiraan yang memberi kuasa kepada mereka, dan sistem robotik yang melaksanakan arahan mereka dalam dunia fizikal.
Pengumuman itu tiba pada saat yang genting untuk industri. Dalam beberapa minggu kebelakangan ini, beberapa makmal sempadan telah melaporkan versi cerita yang sama - ejen AI telah keluar dari persekitaran penilaian yang dimaksudkan untuk membendungnya dan mencapai sistem yang tidak sepatutnya mereka akses, dan dalam beberapa kes salah melaporkan perkara yang telah mereka lakukan. Bagi pembaca yang menjejaki liputan industri AI, langkah Nvidia menandakan jawapan penguatkuasaan timbunan penuh pertama daripada pembuat cip utama, dan ia telah menarik lebih daripada 100 organisasi rakan kongsi.
Apa sebenarnya yang dilakukan oleh platform
Reka bentuk rujukan menggabungkan dua komponen. Yang pertama, OpenShell, ialah masa jalan selamat sumber terbuka — dikeluarkan di bawah lesen Apache 2.0 — yang melaksanakan ejen autonomi dalam persekitaran kotak pasir dengan pengasingan peringkat kernel. Operator menentukan fail, rangkaian, alatan, proses dan bukti kelayakan yang boleh diakses oleh ejen, dan OpenShell menyemak had tersebut sebelum ejen menjalankan dan menguatkuasakannya secara berterusan semasa ia berfungsi. Nvidia berkata OpenShell menambah overhed minimum pada CPU Veranya, yang disifatkan syarikat sebagai pemproses pertama yang dibina khas untuk AI agen, dan perisian itu boleh diperluaskan kepada platform pihak ketiga daripada Arm dan Intel.
Komponen kedua, Sentry, menolak penguatkuasaan daripada capaian ejen sepenuhnya. Ia berfungsi sebagai pengawas luar jalur pada unit pemprosesan data BlueField-4 Nvidia, memantau tingkah laku ejen daripada domain amanah terpencil yang dikatakan syarikat itu tidak dapat dilihat oleh ejen dan penyerang. Jika ejen cuba bergerak di luar sempadan perisiannya, Sentry mengkuarantin dan menghentikannya dalam milisaat. Sentry dibina pada rangka kerja perisian DOCA Nvidia, yang memeriksa permintaan dan respons ejen, mengesahkan identiti ejen dan menguatkuasakan dasar akses sifar amanah untuk data, alatan, API dan perkhidmatan.
"Keselamatan dan keselamatan memerlukan kejuruteraan timbunan penuh"
Pengasas dan Ketua Pegawai Eksekutif Nvidia Jensen Huang merangka pelancaran itu sebagai tindak balas kepada perdebatan keselamatan yang kini memakan industri. "Potensi luar biasa AI untuk masyarakat hanya akan direalisasikan jika kita menyelesaikan keselamatan AI," kata Huang dalam pengumuman itu. "Sambil kami terus menemui sempadan keupayaan AI, kami mesti mempercepatkan penemuan di sempadan keselamatan AI. Keselamatan dan keselamatan memerlukan kejuruteraan timbunan penuh."
Dalam blog teknikalnya sendiri, Nvidia terus terang tentang corak di sebalik insiden baru-baru ini: ia bukan satu keupayaan baharu yang membenarkan ejen melarikan diri, tetapi "gabungan alat, masa dan arahan yang tidak jelas". Syarikat itu membuat analogi kepada web awal, dengan alasan internet menjadi selamat bukan kerana tapak web berjanji untuk bertindak tetapi kerana pelayar berhenti mempercayai kod dalam halaman web dan mengasingkan setiap halaman dalam kotak pasirnya sendiri. "Keselamatan ejen memerlukan kawalan keselamatan bebas," kata jawatan itu.
Industri bergabung di sekitar penguatkuasaan
Senarai rakan kongsi dibaca sebagai keratan rentas ekonomi AI. Anthropic telah bekerjasama dengan Nvidia supaya perusahaan boleh menguatkuasakan kawalan ke atas Agen Terurus Claude melalui penyepaduan OpenShell dan BlueField. "Syarikat memberikan lebih banyak kerja penting kepada ejen AI, dan mereka perlu mengarahkan dan mengesahkan perkara yang dilakukan oleh ejen tersebut, terutamanya dalam persekitaran yang sensitif," kata Paul Smith, ketua pegawai komersial Anthropic.
SpaceXAI menggunakan platform untuk ejen pengekodan Kursor dan model Grok, dengan presiden Mike Nicolls berhujah bahawa "keselamatan harus dikuatkuasakan di luar model dengan kawalan tambahan yang tidak dapat dilalui oleh ejen". Skala AI menggabungkan reka bentuk rujukan ke dalam lapisan infrastruktur portfolio GenAInya untuk pelanggan perusahaan dan kerajaan, menurut Ketua Pegawai Eksekutif Francis deSouza.
Salesforce telah menyepadukan OpenShell dengan Slack supaya pasukan boleh melihat aktiviti ejen dan meluluskan atau menolak permintaan kebenaran terus daripada sembang. SAP sedang membenamkan OpenShell dengan masa jalan Joule Studio dan menyumbang kerja kejuruteraan. Di sebalik nama tajuk, Nvidia menyenaraikan CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte dan EY antara lebih daripada 100 organisasi yang bekerja dengan teknologi platform, bersama firma robotik Figure, Gecko dan Robotics dan kumpulan Skild AI.
Kerja ini juga menyalurkan Open Secure AI Alliance, usaha yang dimulakan oleh Nvidia bersama lebih 120 organisasi dan ditadbir oleh Yayasan Linux, yang menjalankan projek kongsi yang dipanggil SAFE — Pertukaran Penemuan AI Kongsi — untuk mengumpulkan penemuan keselamatan di seluruh industri.
Mengapa penguatkuasaan perkakasan penting sekarang
Pertaruhan utama platform ialah kawalan lapisan aplikasi tidak lagi mencukupi. Pengumuman Nvidia menyatakan bahawa merentasi insiden baru-baru ini coraknya adalah sama: ejen memintas kawalan keselamatan pada lapisan aplikasi untuk menyelesaikan tugas yang diberikan. Dengan mengalihkan pemantauan ke dalam silikon pada DPU yang berasingan — dan ke dalam masa jalanan terasing kernel yang berasingan — syarikat itu berhujah bahawa sempadan penguatkuasaan mesti terletak di mana ejen tidak boleh mengedit, melumpuhkan atau bercakap tentangnya.
Sama ada ia berlaku dalam amalan bergantung pada penerimaan. Perisian ini, termasuk OpenShell, kini tersedia melalui halaman sumber pembangun Nvidia dan GitHub, dan cetakan halus syarikat memberi amaran bahawa beberapa ciri yang diterangkan kekal dalam pelbagai peringkat dan akan ditawarkan pada asas bila-dan-jika-ada. Tetapi hala tujunya jelas: selepas sebulan di mana pelarian ejen mendominasi perbualan keselamatan, lapisan infrastruktur tidak lagi menunggu model untuk mengawal diri mereka sendiri.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
