Meta dan OpenAI Terjebak dalam Pelanggaran Data Mercor Akibat Rantai Pasokan LiteLLM yang Terracuni

Serangan rantai pasokan terhadap satu paket sumber terbuka telah berubah menjadi salah satu insiden keamanan paling berantakan di industri AI yang masih muda, mengekspos data yang disimpan oleh startup pelabelan data Mercor dan memaksa Meta untuk menghentikan sementara pekerjaannya dengan perusahaan tersebut tanpa batas waktu.

Pelanggaran tersebut, yang dikonfirmasi oleh Mercor pada tanggal 31 Maret, dilacak ke kompromi LiteLLM, alat sumber terbuka yang banyak digunakan dan diunduh jutaan kali setiap hari. Selama sekitar 40 menit, versi LiteLLM yang diracuni menyimpan malware pemanen kredensial yang mencuri kredensial login dan kemudian menggunakannya untuk menjangkau lebih dalam sistem yang terhubung. Episode ini telah berkembang menjadi tuntutan hukum, pembekuan kontrak, dan perhitungan yang lebih luas mengenai seberapa besar kepercayaan yang diberikan industri AI terhadap perangkat lunak perantara yang tidak mereka kendalikan. Untuk berita AI terkini tentang keamanan dan kepercayaan, ikuti liputan berkelanjutan kami.

Cara Kerja Serangan

Mekanismenya adalah kompromi rantai pasokan perangkat lunak yang ada dalam buku teks. Menurut laporan TechJuice dan TechCrunch, penyerang berhasil memasukkan kode berbahaya ke LiteLLM, perpustakaan sumber terbuka yang digunakan banyak perusahaan AI untuk merutekan permintaan antar model bahasa yang berbeda. Karena LiteLLM diperlakukan sebagai infrastruktur tepercaya dan ditarik ke lingkungan produksi secara otomatis, build berbahaya menyebar dengan cepat.

Selama sekitar 40 menit, alat yang dirusak secara diam-diam mengambil kredensial dari siapa pun yang menjalankannya. Kredensial tersebut kemudian digunakan untuk mengakses sistem tambahan, sehingga menambah kerusakan di luar pijakan awal. Mercor, yang bisnisnya bergantung pada pengelolaan data sensitif kontraktor dan klien dalam jumlah besar, merupakan salah satu perusahaan yang paling terkena dampaknya.

Klaim Pemerasan 4 Terabyte

Setelah pengungkapan tersebut, sebuah kelompok peretas mengaku menyimpan sekitar 4 terabyte data yang dicuri dari sistem Mercor. Hasil tangkapan yang diklaim mencakup profil kandidat, informasi identitas pribadi, data perusahaan, kode sumber, dan kunci API, inventaris menyeluruh dari jenis materi yang dipusatkan oleh perusahaan pelabelan data. Mercor tidak mengkonfirmasi atau menyangkal keaslian data yang diklaim, hanya mengatakan bahwa pihaknya sedang menyelidikinya.

Ambiguitas itu sendiri merupakan sebuah masalah. Bagi kontraktor, pemberi kerja, dan mitra yang informasinya mungkin beredar, ketidakpastian mengenai apa yang sebenarnya diambil membuat tidak mungkin untuk menilai paparan mereka.

Meta Menarik Kembali

Dampak komersialnya sangat cepat. Meta telah menghentikan kontraknya dengan Mercor tanpa batas waktu, sebuah keputusan yang dibuat lebih mengejutkan dengan sejarah antara kedua perusahaan tersebut. Menurut TechJuice, Meta terus bekerja dengan Mercor bahkan setelah menghabiskan $14,3 miliar untuk mengakuisisi Scale AI, saingan Mercor, sebuah tanda betapa mereka menghargai hubungan tersebut. Bahwa pelanggaran yang dilakukan melalui alat pihak ketiga dapat memutuskan ikatan tersebut menggarisbawahi betapa rapuhnya hubungan vendor ini.

OpenAI telah mengkonfirmasi bahwa mereka sedang menyelidiki paparannya sendiri dalam pelanggaran tersebut tetapi, pada saat pelaporan, belum menghentikan kontrak Mercornya. Beberapa pembuat model besar lainnya dilaporkan sedang mempertimbangkan hubungan mereka dengan startup tersebut, meskipun tidak ada nama lebih lanjut yang dikonfirmasi secara publik.

Pertanyaan Tuntutan Hukum dan Tanggung Jawab

Konsekuensi hukumnya meningkat secepat konsekuensi komersialnya. Lima kontraktor Mercor telah mengajukan tuntutan hukum atas dugaan paparan data pribadi. Salah satu gugatan yang ditinjau oleh TechCrunch menyebut LiteLLM dan startup kepatuhan AI Delve sebagai salah satu tergugat, dengan alasan bahwa LiteLLM telah menggunakan Delve untuk mendapatkan sertifikasi keamanannya. Keterkaitan tersebut membuka pertanyaan pelik tentang apakah penyedia kepatuhan memikul tanggung jawab ketika alat yang mereka jamin kemudian digunakan sebagai senjata.

Tuntutan ini dapat membantu menentukan tanggung jawab apa yang harus ditanggung ketika pelanggaran dilakukan melalui perangkat lunak sumber terbuka, sebuah pertanyaan yang sejauh ini dihindari oleh industri AI.

Permukaan Serangan Industri yang Diremehkan

Peneliti keamanan mengatakan pelajaran yang lebih mendalam bersifat struktural. Tumpukan AI kini bergantung pada jaringan alat perantara tepercaya, router, evaluator, lapisan kepatuhan, dan platform pelabelan yang berada di antara penyedia model dan pelanggan mereka. Masing-masing model berpotensi menjadi titik hambatan, dan sebagian besar menerima pengawasan yang jauh lebih sedikit dibandingkan model frontier itu sendiri.

LiteLLM adalah ilustrasi. Ini diunduh jutaan kali sehari, menangani kredensial berdasarkan desain, dan berjalan di dalam lingkungan produksi beberapa perusahaan dengan pendanaan terbaik di dunia. Namun jendela gangguan selama 40 menit sudah cukup untuk mengubahnya menjadi kunci kerangka. Urutan kejadian ini telah menempatkan seluruh rantai pasokan AI di bawah pengawasan ketat, dan para peneliti memperingatkan bahwa alat perantara yang tepercaya mewakili permukaan serangan yang secara sistematis kurang dikaji oleh industri.

Apa yang Terjadi Selanjutnya

Pertanyaan yang segera muncul adalah apakah Mercor dapat memverifikasi ruang lingkup kebocoran tersebut, apakah lebih banyak pembuat model akan mengikuti langkah Meta untuk mundur, dan apakah tuntutan hukum LiteLLM dan Delve menjadi preseden untuk tanggung jawab pihak ketiga. Dalam jangka panjang, insiden ini kemungkinan akan mempercepat seruan bagi industri AI untuk mengadopsi jenis perangkat lunak yang bersifat bill of material dan praktik penandatanganan ketergantungan yang sudah diandalkan oleh sektor perangkat lunak yang lebih matang.

Untuk saat ini, pelanggaran ini merupakan peringatan bahwa kerentanan paling berbahaya dalam AI mungkin tidak ada di dalam model sama sekali, namun di jaringan pipa yang menghubungkannya.

Tetap Terdepan dalam AI

Keamanan tumpukan AI menjadi sama pentingnya dengan model itu sendiri. Tandai AI Buzz Wire untuk mengetahui perkembangan AI terkini dan cakupan industri AI.

Baca berita AI selengkapnya →