Meta dan OpenAI Terperangkap dalam Kejatuhan Pelanggaran Data Mercor Daripada Rantaian Bekalan LiteLLM Beracun

Serangan rantaian bekalan ke atas satu pakej sumber terbuka telah menjelma menjadi salah satu insiden keselamatan paling kucar-kacir dalam industri AI muda, mendedahkan data yang dipegang oleh syarikat permulaan pelabelan data Mercor dan memaksa Meta untuk menjeda kerjanya dengan syarikat itu selama-lamanya.

Pelanggaran itu, yang disahkan oleh Mercor pada 31 Mac, dikesan kepada kompromi LiteLLM, alat sumber terbuka yang digunakan secara meluas yang dimuat turun berjuta-juta kali setiap hari. Selama kira-kira 40 minit, versi LiteLLM yang beracun menyimpan perisian hasad penuaian kelayakan yang mencuri bukti kelayakan log masuk dan kemudian menggunakannya untuk mencapai lebih mendalam ke dalam sistem yang disambungkan. Episod itu telah berkembang menjadi tindakan undang-undang, pembekuan kontrak, dan pengiraan yang lebih luas tentang sejauh mana kepercayaan industri AI diletakkan dalam perisian perantara yang tidak dikawalnya. Untuk mendapatkan lebih banyak berita terbaharu AI tentang keselamatan dan kepercayaan, ikuti liputan berterusan kami.

Bagaimana Serangan Berfungsi

Mekanik adalah kompromi rantaian bekalan perisian buku teks. Menurut laporan oleh TechJuice dan TechCrunch, penyerang berjaya menolak kod berniat jahat ke dalam LiteLLM, perpustakaan sumber terbuka yang digunakan oleh banyak syarikat AI untuk menghalakan permintaan antara model bahasa yang berbeza. Oleh kerana LiteLLM dianggap sebagai infrastruktur yang dipercayai dan ditarik ke dalam persekitaran pengeluaran secara automatik, binaan berniat jahat itu merebak dengan cepat.

Selama kira-kira 40 minit, alat yang diusik itu secara senyap-senyap menuai kelayakan daripada sesiapa yang menjalankannya. Bukti kelayakan tersebut kemudiannya digunakan untuk mengakses sistem tambahan, menambah kerosakan di luar pijakan awal. Mercor, yang perniagaannya bergantung pada menguruskan jumlah besar kontraktor sensitif dan data pelanggan, adalah antara yang paling terdedah.

Tuntutan Peras ugut 4 Terabait

Selepas pendedahan itu, kumpulan penggodam mendakwa memegang kira-kira 4 terabait data yang dicuri daripada sistem Mercor. Haul yang dituntut termasuk profil calon, maklumat yang boleh dikenal pasti secara peribadi, data majikan, kod sumber dan kunci API, inventori menyeluruh tentang jenis bahan yang dipusatkan oleh syarikat pelabelan data. Mercor tidak mengesahkan atau menafikan kesahihan data yang dituntut, hanya mengatakan bahawa ia sedang menyiasat.

Kekaburan itu sendiri adalah masalah. Bagi kontraktor, majikan dan rakan kongsi yang maklumatnya mungkin diedarkan, ketidakpastian tentang perkara yang sebenarnya diambil menjadikannya mustahil untuk menilai pendedahan mereka.

Meta Tarik Belakang

Kejatuhan komersial adalah pantas. Meta telah menjeda kontraknya dengan Mercor selama-lamanya, keputusan yang dibuat lebih menarik oleh sejarah antara kedua-dua syarikat. Menurut TechJuice, Meta telah terus bekerja dengan Mercor walaupun selepas membelanjakan $14.3 bilion untuk memperoleh saingan Mercor Scale AI, tanda betapa ia menghargai hubungan itu. Bahawa pelanggaran yang dihalakan melalui alat pihak ketiga boleh memutuskan ikatan sedemikian menunjukkan betapa rapuhnya hubungan vendor ini.

OpenAI telah mengesahkan bahawa ia sedang menyiasat pendedahannya sendiri dalam pelanggaran itu tetapi, pada masa pelaporan, tidak menjeda kontrak Mercornya. Beberapa pembuat model besar lain dilaporkan sedang menimbang hubungan mereka dengan syarikat permulaan, walaupun tiada nama lanjut telah disahkan secara terbuka.

Saman Guaman dan Soalan Liabiliti

Akibat undang-undang berkumpul secepat yang komersial. Lima daripada kontraktor Mercor telah memfailkan saman atas dakwaan pendedahan data peribadi. Satu tuntutan mahkamah yang disemak oleh TechCrunch bernama LiteLLM dan syarikat permulaan pematuhan AI Delve sebagai defendan bersama, atas alasan bahawa LiteLLM telah menggunakan Delve untuk mendapatkan pensijilan keselamatannya. Kaitan itu membuka persoalan pelik tentang sama ada penyedia pematuhan bertanggungjawab apabila alat yang mereka beri jaminan kemudiannya dipersenjatai.

Saman ini boleh membantu menentukan di mana liabiliti berlaku apabila pelanggaran dihalakan melalui perisian sumber terbuka, soalan yang setakat ini telah dielakkan oleh industri AI.

Permukaan Serangan Industri yang Kurang Dikaji

Penyelidik keselamatan mengatakan pelajaran yang lebih mendalam adalah berstruktur. Tindanan AI kini bergantung pada web alat perantara yang dipercayai, penghala, penilai, lapisan pematuhan dan platform pelabelan yang terletak di antara penyedia model dan pelanggan mereka. Setiap satu adalah titik tercekik yang berpotensi, dan kebanyakannya kurang mendapat penelitian daripada model sempadan itu sendiri.

LiteLLM adalah ilustrasi. Ia dimuat turun berjuta-juta kali sehari, mengendalikan bukti kelayakan mengikut reka bentuk dan dijalankan dalam persekitaran pengeluaran beberapa syarikat yang dibiayai terbaik di dunia. Namun tetingkap 40 minit gangguan sudah cukup untuk mengubahnya menjadi kunci rangka. Urutan itu telah meletakkan keseluruhan rantaian bekalan AI di bawah pemerhatian, dengan penyelidik memberi amaran bahawa alat perantara yang dipercayai mewakili permukaan serangan yang telah diremehkan oleh industri secara sistematik.

Apa Yang Berlaku Seterusnya

Soalan segera ialah sama ada Mercor boleh mengesahkan skop kebocoran, sama ada lebih banyak pembuat model akan mengikuti Meta dalam menarik balik, dan sama ada tindakan undang-undang LiteLLM dan Delve mewujudkan preseden untuk liabiliti pihak ketiga. Jangka panjang, insiden itu berkemungkinan akan mempercepatkan seruan untuk industri AI untuk mengguna pakai jenis bil perisian bahan dan amalan menandatangani pergantungan yang telah bergantung kepada sektor perisian yang lebih matang.

Buat masa ini, pelanggaran itu berdiri sebagai amaran bahawa kelemahan paling berbahaya dalam AI mungkin tidak tinggal di dalam model sama sekali, tetapi dalam paip yang tidak menarik yang menghubungkannya.

Kekal Mendahului AI

Keselamatan timbunan AI menjadi sama pentingnya dengan model itu sendiri. Tandai halaman AI Buzz Wire untuk perkembangan AI terkini dan liputan industri AI.

Baca lebih banyak berita AI →