Nvidia Senyap-senyap Mengurus Pasukan Keselamatan AI Baharu kerana Ia Berganda pada Model Berwajaran Terbuka

Nvidia sedang mengumpulkan pasukan kejuruteraan keselamatan dan keselamatan AI baharu secara senyap-senyap, menurut sekumpulan penyenaraian kerja yang disiarkan lewat bulan lalu, menandakan bahawa gergasi cip itu menjadikan keselamatan sebagai keutamaan yang lebih besar walaupun ia bertaruh secara agresif pada masa depan yang dibentuk oleh model berat terbuka dan ejen autonomi.

Dorongan pengambilan pekerja, yang dilaporkan oleh Business Insider, menunjukkan Nvidia mencari "jurutera terbilang" untuk berkhidmat sebagai ketua teknikal pengasas bagi pasukan yang baru dipasang, bersama jurutera penyelidik keselamatan dan pakar lain. Langkah itu dibuat ketika syarikat memperdalam komitmennya terhadap AI berwajaran terbuka dan ketika industri yang lebih luas menghadapi gelombang insiden keselamatan yang melibatkan sistem AI. Bagi pembaca yang mengikuti kitaran berita terbaharu AI, perkembangan ini merupakan isyarat yang jelas: syarikat yang menjual picks dan shovels AI gold rush kini mahukan usaha yang lebih besar dalam memastikan alatan tersebut selamat digunakan.

Perkara yang Didedahkan Penyenaraian Kerja

Menurut Business Insider, pasukan baharu itu digambarkan dalam satu penyenaraian sebagai berakar umbi dalam prinsip pembangunan AI yang selamat. Nvidia sedang merekrut seorang jurutera yang terkenal untuk bertindak sebagai "pemimpin teknikal pengasas" untuk kumpulan itu, ungkapan yang mencadangkan pasukan itu dibina dari bawah ke atas dan bukannya dikembangkan daripada unit sedia ada. Syarikat itu juga mengambil jurutera penyelidikan keselamatan yang memberi tumpuan kepada AI.

Pengambilan itu mencadangkan Nvidia menjadikan keselamatan AI sebagai keutamaan formal yang lebih disengajakan kerana ia bersandar kepada strategi yang berpusat pada model berwajaran terbuka dan ejen AI. Model pemberat terbuka menjadikan "pemberat" terlatih mereka — parameter yang menentukan tingkah laku model — tersedia secara umum, walaupun data latihan dan kod sumber mereka kekal peribadi. Keterbukaan itu mempercepatkan inovasi dan membolehkan pembangun menjalankan model pada perkakasan Nvidia, tetapi ia juga menimbulkan persoalan keselamatan yang tertutup, sistem berpagar API boleh mengetepikan.

Mengapa Model Berwajaran Terbuka Meningkatkan Pertaruhan

Model berat terbuka menduduki kedudukan yang rumit dalam perbahasan keselamatan AI. Dengan mengeluarkan pemberat secara terbuka, makmal membolehkan komuniti penyelidik dan pembangun global memeriksa, memperhalusi dan menggunakan model berkuasa — selalunya pada GPU Nvidia sendiri. Keterbukaan itu adalah rahmat yang tulen untuk kemajuan saintifik dan untuk perniagaan Nvidia. Tetapi ini juga bermakna bahawa apabila pemberat telah dikeluarkan, makmal kehilangan kawalan ke atas cara model digunakan, diubah suai atau disalahgunakan.

Pelakon berniat jahat yang memuat turun model berat terbuka boleh cuba menanggalkan pagar keselamatan, menggunakan semula model itu untuk serangan siber atau menggabungkannya dengan alatan lain dengan cara yang tidak pernah diingini oleh penciptanya. Tidak seperti model yang disediakan di belakang API — di mana pengendali boleh memantau penggunaan, permintaan had kadar dan membatalkan akses — model berat terbuka berjalan di mana-mana sahaja seseorang mempunyai perkakasan untuk menjalankannya. Itulah sebabnya syarikat yang begitu melabur dalam AI terbuka juga mahukan pasukan keselamatan dan keselamatan yang berdedikasi: kedua-dua strategi adalah dua sisi syiling yang sama.

Oleh itu, kepentingan komersial Nvidia dan postur keselamatannya berkait rapat. Lebih banyak syarikat menggalakkan penggunaan berwajaran terbuka, lebih banyak ia mendapat manfaat daripada dilihat sebagai pengurus yang bertanggungjawab bagi ekosistem itu.

Pengiraan Industri yang Lebih Luas tentang Keselamatan AI

Pasukan baharu tidak tiba dalam keadaan hampa. Pengambilan Nvidia bertepatan dengan tempoh di mana keselamatan AI telah beralih daripada kebimbangan abstrak kepada masalah yang konkrit dan berulang. Minggu kebelakangan ini telah menyaksikan beberapa siri insiden berprofil tinggi di mana ejen AI menunjukkan keupayaan untuk bertindak secara autonomi dalam cara yang tidak dijangka sepenuhnya oleh pembangun mereka, termasuk kes di mana sistem yang diuji untuk tujuan keselamatan siber bertindak secara tidak dijangka.

Nvidia sendiri telah menjadi pusat tindak balas industri. Syarikat itu baru-baru ini membantu menerajui perikatan AI yang terbuka dan selamat yang menghimpunkan lebih daripada 30 firma untuk mewujudkan ketelusan keselamatan siber dan piawaian keselamatan, memastikan ia telah maju dengan pesat. Pasukan keselamatan dalaman yang baharu nampaknya merupakan pelengkap dalaman kepada gabungan luar itu: satu cara untuk mengeraskan sumbangan Nvidia sendiri kepada pergerakan AI terbuka.

Perbezaan dengan beberapa saingan adalah ketara. Beberapa makmal sempadan telah menekankan sekatan, kawalan akses dan penempatan berpagar sebagai mekanisme keselamatan utama mereka. Pendekatan Nvidia — pemberat terbuka yang dipasangkan dengan peralatan keselamatan yang semakin meningkat — mencerminkan falsafah yang berbeza: bahawa keterbukaan dan keselamatan bukanlah bertentangan, dan bahawa pasukan keselamatan yang mempunyai sumber yang baik boleh menjadikan model terbuka berdaya maju.

Isyaratnya Mengenai Strategi Nvidia

Untuk Nvidia, kalkulus adalah jelas. Perniagaan teras syarikat menjual perkakasan yang menjalankan AI, dan model berwajaran terbuka merupakan pemacu permintaan perkakasan yang berkuasa: apabila sesiapa sahaja boleh memuat turun model yang berkebolehan, sesiapa yang mempunyai belanjawan akan menjadi pelanggan Nvidia yang berpotensi. Melabur dalam keselamatan AI melindungi roda tenaga itu dengan mengurangkan risiko model terbuka dikaitkan dengan bahaya yang boleh mengundang peraturan berat atau tindak balas pengguna.

Membina pasukan kejuruteraan keselamatan dan keselamatan yang berdedikasi juga merupakan isyarat pengambilan pekerja. Penyelidik keselamatan AI terkemuka berada dalam permintaan yang luar biasa, dan pasukan yang boleh dipercayai yang diketuai oleh jurutera yang terkenal boleh membantu Nvidia menarik bakat yang mungkin tertarik ke makmal sempadan. Bakat itu, seterusnya, boleh membentuk piawaian industri — memberikan pengaruh Nvidia ke atas peraturan ekosistem AI terbuka yang dibantunya untuk dibina.

Jalan Hadapan

Nvidia belum memperincikan peta jalan awam untuk kerja pasukan baharu, dan penyenaraian mencadangkan kumpulan itu masih terbentuk. Tetapi hala tuju tidak silap. Apabila ejen AI mengembangkan model yang lebih berkebolehan dan berwajaran terbuka dengan lebih meluas digunakan, syarikat yang menguasai kebanyakan AI dunia kini sedang mengumpulkan orang untuk membantu mengekalkan kuasa itu.

Bulan-bulan akan datang akan menunjukkan sama ada pertaruhan keselamatan Nvidia boleh seiring dengan cita-cita komersialnya — dan sama ada masa depan AI terbuka boleh menjadi inovatif dan selamat.

Kekal Mendahului AI

Persimpangan keselamatan AI, model terbuka dan perkakasan bergerak pantas. Ikuti liputan industri AI kami untuk pelaporan berterusan tentang Nvidia, makmal sempadan dan dasar yang membentuknya.

Baca lebih banyak berita AI →