Nvidia Diam-diam membentuk Tim Keamanan AI Baru untuk Menggandakan Model Open-Weight

Nvidia diam-diam membentuk tim teknik keselamatan dan keamanan AI yang baru, menurut sekelompok daftar pekerjaan yang diposting akhir bulan lalu, menandakan bahwa raksasa chip ini menjadikan keselamatan sebagai prioritas yang lebih besar meskipun mereka secara agresif bertaruh pada masa depan yang dibentuk oleh model open-weight dan agen otonom.

Dorongan perekrutan, dilaporkan oleh Business Insider, menunjukkan Nvidia sedang mencari "insinyur terkemuka" untuk menjadi pemimpin teknis pendiri tim yang baru dibentuk, bersama dengan insinyur riset keamanan dan spesialis lainnya. Langkah ini dilakukan ketika perusahaan memperdalam komitmennya terhadap AI open-weight dan ketika industri yang lebih luas menghadapi gelombang insiden keamanan yang melibatkan sistem AI. Bagi pembaca yang mengikuti siklus berita AI terkini, perkembangan ini merupakan sinyal yang jelas: perusahaan yang menjual beliung dan sekop dari demam emas AI kini menginginkan bantuan yang lebih besar dalam memastikan alat-alat tersebut aman untuk digunakan.

Apa yang Diungkapkan dalam Daftar Pekerjaan

Menurut Business Insider, tim baru ini dijelaskan dalam satu daftar sebagai tim yang berakar pada prinsip pengembangan AI yang aman. Nvidia merekrut seorang insinyur terkemuka untuk bertindak sebagai "pemimpin teknis pendiri" grup tersebut, sebuah ungkapan yang menunjukkan bahwa tim tersebut dibangun dari awal dan bukan diperluas dari unit yang sudah ada. Perusahaan juga mempekerjakan seorang insinyur riset keamanan yang berfokus pada AI.

Perekrutan ini menunjukkan bahwa Nvidia menjadikan keselamatan AI sebagai prioritas formal yang lebih disengaja karena bersandar pada strategi yang berpusat pada model open-weight dan agen AI. Model bobot terbuka membuat "bobot" terlatihnya — parameter yang menentukan perilaku model — tersedia untuk umum, meskipun data pelatihan dan kode sumbernya tetap bersifat pribadi. Keterbukaan tersebut mempercepat inovasi dan memungkinkan pengembang menjalankan model pada perangkat keras Nvidia, namun hal ini juga menimbulkan pertanyaan keamanan yang mungkin dapat dihindari oleh sistem berpagar API.

Mengapa Model Open-Weight Meningkatkan Taruhannya

Model bobot terbuka menempati posisi yang rumit dalam perdebatan keselamatan AI. Dengan merilis bobot secara publik, laboratorium memungkinkan komunitas peneliti dan pengembang global untuk memeriksa, menyempurnakan, dan menerapkan model canggih — sering kali pada GPU milik Nvidia. Keterbukaan tersebut merupakan keuntungan nyata bagi kemajuan ilmu pengetahuan dan bisnis Nvidia. Namun hal ini juga berarti bahwa setelah bobot dihilangkan, laboratorium kehilangan kendali atas bagaimana model digunakan, dimodifikasi, atau disalahgunakan.

Pelaku jahat yang mengunduh model open-weight dapat mencoba menghilangkan batasan keamanan, menggunakan kembali model tersebut untuk serangan siber, atau menggabungkannya dengan alat lain dengan cara yang tidak pernah diinginkan oleh pembuatnya. Berbeda dengan model yang disajikan di belakang API — di mana operator dapat memantau penggunaan, membatasi permintaan, dan mencabut akses — model bobot terbuka berjalan di mana pun seseorang memiliki perangkat keras untuk menjalankannya. Itulah sebabnya sebuah perusahaan yang sangat berinvestasi pada AI terbuka juga menginginkan tim keselamatan dan keamanan yang berdedikasi: kedua strategi ini adalah dua sisi dari mata uang yang sama.

Oleh karena itu, kepentingan komersial Nvidia dan postur keselamatannya terkait erat. Semakin perusahaan mendorong penerapan open-weight, semakin besar pula manfaat yang diperoleh perusahaan karena dianggap sebagai pengelola ekosistem yang bertanggung jawab.

Industri yang Lebih Luas Memperhitungkan Keamanan AI

Tim baru tidak datang dalam ruang hampa. Perekrutan Nvidia bertepatan dengan perubahan keamanan AI dari masalah abstrak menjadi masalah nyata dan berulang. Beberapa minggu terakhir telah terjadi serangkaian insiden penting di mana agen AI menunjukkan kemampuan untuk bertindak secara mandiri dengan cara yang tidak sepenuhnya diantisipasi oleh pengembang mereka, termasuk kasus di mana sistem yang diuji untuk tujuan keamanan siber berperilaku tidak terduga.

Nvidia sendiri telah menjadi pusat respons industri. Perusahaan ini baru-baru ini membantu mempelopori aliansi AI yang terbuka dan aman yang menyatukan lebih dari 30 perusahaan untuk menetapkan standar transparansi dan keselamatan keamanan siber, sebuah pekerjaan yang telah berkembang pesat. Tim keamanan internal yang baru tampaknya menjadi pelengkap internal koalisi eksternal tersebut: sebuah cara untuk memperkuat kontribusi Nvidia terhadap gerakan AI terbuka.

Perbedaannya dengan beberapa pesaingnya sangat mencolok. Beberapa laboratorium terdepan telah menekankan pembatasan, kontrol akses, dan penerapan yang terjaga keamanannya sebagai mekanisme keselamatan utama mereka. Pendekatan Nvidia – beban terbuka yang dipadukan dengan peralatan keselamatan yang semakin berkembang – mencerminkan filosofi yang berbeda: bahwa keterbukaan dan keamanan bukanlah hal yang berlawanan, dan bahwa tim keselamatan yang memiliki sumber daya yang baik dapat membuat model terbuka dapat dijalankan.

Apa Sinyalnya Tentang Strategi Nvidia

Bagi Nvidia, kalkulusnya jelas. Bisnis inti perusahaan adalah menjual perangkat keras yang menjalankan AI, dan model open-weight adalah pendorong kuat permintaan perangkat keras: ketika siapa pun dapat mengunduh model yang mumpuni, siapa pun yang memiliki anggaran terbatas akan menjadi calon pelanggan Nvidia. Berinvestasi dalam keselamatan AI melindungi roda gila tersebut dengan mengurangi risiko model terbuka dikaitkan dengan bahaya yang dapat mengundang regulasi yang ketat atau reaksi negatif dari konsumen.

Membangun tim teknik keselamatan dan keamanan yang berdedikasi juga merupakan sinyal perekrutan. Peneliti keselamatan AI terkemuka mempunyai permintaan yang sangat besar, dan tim kredibel yang dipimpin oleh seorang insinyur terkemuka dapat membantu Nvidia menarik talenta yang mungkin tertarik pada laboratorium terdepan. Bakat tersebut, pada gilirannya, dapat membentuk standar industri – memberi Nvidia pengaruh terhadap aturan ekosistem AI terbuka yang mereka bantu bangun.

Jalan ke Depan

Nvidia belum merinci peta jalan publik untuk kerja tim baru tersebut, dan daftar tersebut menunjukkan bahwa grup tersebut masih dalam tahap pembentukan. Tapi arahnya tidak salah lagi. Seiring dengan berkembangnya agen-agen AI yang semakin mampu dan model-model open-weight semakin banyak digunakan, perusahaan yang menggerakkan sebagian besar AI di dunia kini mengumpulkan orang-orang untuk membantu mengendalikan kekuatan tersebut.

Beberapa bulan mendatang akan menunjukkan apakah taruhan keselamatan Nvidia dapat mengimbangi ambisi komersialnya – dan apakah masa depan AI terbuka dapat bersifat inovatif dan aman.

Tetap Terdepan dalam AI

Persimpangan antara keamanan AI, model terbuka, dan perangkat keras bergerak cepat. Ikuti [liputan industri AI] kami (https://aibuzzwire.news) untuk pelaporan berkelanjutan tentang Nvidia, laboratorium terdepan, dan kebijakan yang membentuknya.

Baca berita AI selengkapnya →