Nvidia ngumumake Senin Open Agent Safety Platform, platform piranti lunak mbukak lan desain sistem referensi sing dikandhakake perusahaan kasebut bakal menehi organisasi kontrol sing bisa ditindakake kanggo agen AI otonom saka tes liwat penyebaran. Peluncuran kasebut kalebu tumpukan agen lengkap: piranti lunak sing mbukak agen, hardware lan lapisan komputasi sing nguwasani, lan sistem robotika sing nindakake instruksi ing jagad fisik.
Pengumuman kasebut teka ing wektu sing angel kanggo industri. Ing sawetara minggu kepungkur, sawetara laboratorium perbatasan wis nglaporake versi crita sing padha - agen AI metu saka lingkungan evaluasi sing dimaksudake kanggo ngemot lan tekan sistem sing ora tau diakses, lan ing sawetara kasus salah nglaporake apa sing wis ditindakake. Kanggo maca sing nelusuri jangkoan industri AI, pamindhahan Nvidia nandhani jawaban penegakan full-stack pisanan saka pembuat chip utama, lan wis narik luwih saka 100 organisasi mitra.
Apa sing ditindakake dening platform kasebut
Desain referensi nggabungake rong komponen. Kapisan, OpenShell, minangka runtime aman open-source - dirilis miturut lisensi Apache 2.0 - sing nglakokake agen otonom ing lingkungan kothak wedhi kanthi isolasi tingkat kernel. Operator nemtokake file, jaringan, alat, proses lan kredensial sing bisa diakses dening agen, lan OpenShell mriksa watesan kasebut sadurunge agen kasebut mlaku lan ngetrapake kanthi terus-terusan. Nvidia ujar OpenShell nambahake overhead minimal ing CPU Vera, sing perusahaan kasebut minangka prosesor pertama sing dibangun kanggo AI agen, lan piranti lunak kasebut bisa ditambah menyang platform pihak katelu saka Arm lan Intel.
Komponen kapindho, Sentry, nyurung penegakan supaya ora bisa digayuh agen. Iku mlaku minangka pengawas out-of-band ing Nvidia BlueField-4 unit pangolahan data, ngawasi prilaku agen saka domain kapercayan terisolasi sing perusahaan ngandika ora katon kanggo agen lan panyerang padha. Yen agen nyoba kanggo pindhah menyang njaba wates piranti lunak, Sentry quarantines lan mungkasi ing milliseconds. Sentry dibangun ing kerangka lunak DOCA Nvidia, sing mriksa panjalukan lan tanggapan agen, verifikasi identitas agen lan ngetrapake kabijakan akses nul-kapercayan kanggo data, alat, API lan layanan.
"Kaamanan lan keamanan mbutuhake teknik tumpukan lengkap"
Pendiri lan CEO Nvidia Jensen Huang ngrancang peluncuran kasebut minangka respon kanggo debat safety sing saiki ngonsumsi industri kasebut. "Potensi luar biasa AI kanggo masyarakat mung bakal diwujudake yen kita ngatasi keamanan AI," ujare Huang ing woro-woro kasebut. "Nalika kita terus nemokake wates kemampuan AI, kita kudu nyepetake panemuan ing wates safety AI. Keamanan lan keamanan mbutuhake teknik tumpukan lengkap."
Ing blog teknis dhewe, Nvidia blak-blakan babagan pola ing mburi kedadeyan anyar: dudu kemampuan anyar sing ngidini para agen lolos, nanging "kombinasi alat, wektu, lan instruksi sing ora jelas". Perusahaan kasebut nggawe analogi menyang web awal, arguing internet dadi aman ora amarga situs web janji bakal tumindak nanging amarga browser mandheg percaya kode kasebut ing kaca web lan ngisolasi saben kaca ing kothak wedhi dhewe. "Keamanan agen mbutuhake kontrol keamanan mandiri," ujare kiriman kasebut.
Industri coalesces watara penegakan
Dhaptar mitra diwaca minangka bagean salib ekonomi AI. Anthropic wis kolaborasi karo Nvidia supaya perusahaan bisa ngetrapake kontrol liwat Agen Ngatur Claude liwat integrasi OpenShell lan BlueField. "Perusahaan menehi agen AI luwih akeh pakaryan sing paling penting, lan kudu ngarahake lan verifikasi apa sing ditindakake agen kasebut, utamane ing lingkungan sing sensitif," ujare Paul Smith, kepala pejabat komersial Anthropic.
SpaceXAI nggunakake platform kanggo agen coding Cursor lan model Grok, kanthi presiden Mike Nicolls ujar manawa "kaamanan kudu ditindakake ing njaba model kanthi kontrol tambahan sing ora bisa dilewati agen". Skala AI nggabungake desain referensi menyang lapisan infrastruktur portofolio GenAI kanggo pelanggan perusahaan lan pemerintah, miturut CEO Francis deSouza.
Salesforce wis nggabungake OpenShell karo Slack supaya tim bisa ndeleng kegiatan agen lan nyetujoni utawa nolak panjaluk ijin langsung saka obrolan. SAP nanem OpenShell kanthi runtime Joule Studio lan nyumbang karya teknik. Ngluwihi jeneng judhul, Nvidia nyathet CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte lan EY ing antarane luwih saka 100 organisasi sing nggarap teknologi platform kasebut, bebarengan karo perusahaan robotika Figure, Gecko and Robotics and Financial Groups CChald.
Karya kasebut uga menehi feed Open Secure AI Alliance, upaya sing diwiwiti dening Nvidia bebarengan karo organisasi 120 lan diatur dening Linux Foundation, sing nglakokake proyek bareng sing diarani SAFE - Shared AI Findings Exchange - kanggo nglumpukake temuan keamanan ing saindenging industri.
Napa penegakan hardware penting saiki
Taruhan tengah platform yaiku kontrol lapisan aplikasi ora cukup maneh. woro-woro Nvidia nyathet yen ing kedadeyan anyar, pola kasebut padha: agen ngubengi kontrol keamanan ing lapisan aplikasi kanggo ngrampungake tugas sing ditugasake. Kanthi mindhah pemantauan menyang silikon ing DPU sing kapisah - lan dadi runtime sing diisolasi kernel sing kapisah - perusahaan kasebut mbantah manawa wates penegakan kudu ana ing ngendi agen ora bisa ngowahi, mateni utawa ngobrol.
Apa sing ditindakake ing praktik bakal gumantung saka adopsi. Piranti lunak kasebut, kalebu OpenShell, saiki kasedhiya liwat kaca sumber daya pangembang Nvidia lan GitHub, lan cetak apik perusahaan kasebut ngati-ati manawa sawetara fitur sing diterangake tetep ana ing macem-macem tahapan lan bakal ditawakake kanthi basis kapan lan yen kasedhiya. Nanging arahe wis jelas: sawise sasi nalika agen breakouts didominasi obrolan safety, lapisan infrastruktur ora ngenteni model kanggo polisi dhewe.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
