Fireworks AI, startup inferensi yang didukung Nvidia, telah memberi tahu pelanggan bahwa insiden keamanan yang diungkapkan sebelumnya jauh lebih luas daripada yang pertama kali dilaporkan, dengan penyerang mengakses informasi akun dan penagihan dan, untuk serangkaian akun, rahasia, kumpulan data, dan bobot model yang tidak lengkap, menurut buletin keamanan terbaru yang diterbitkan di situsnya pada tanggal 9 November. Bloomberg dan Forbes melaporkan pengungkapan tersebut pada hari Senin, dengan Forbes menggambarkan serangan siber tersebut sebagai mengekspos data pelanggan dan model AI.

Perusahaan tersebut pertama kali mengungkapkan insiden tersebut pada tanggal 9 Oktober, ketika perusahaan tersebut mengatakan bahwa hanya rahasia yang tersimpan di Fireworks yang digunakan dalam pekerjaan evaluasi yang telah diakses. Pembaruan baru ini secara signifikan memperluas penilaian tersebut dan mengaitkan penyusupan tersebut dengan kelompok penjahat dunia maya yang bermotivasi finansial untuk melakukan apa yang disebut industri sebagai "LLMJacking" – mencuri akses ke model bahasa besar dan menjual kembali token ke gateway perutean ilegal. Bagi perusahaan yang memantau berita keamanan industri AI, kasus ini menjadi referensi insiden untuk jenis serangan baru terhadap infrastruktur AI.

Bagaimana Pelanggaran Kedua Terjadi

Menurut buletin tersebut, penyedia cloud pihak ketiga yang menghosting mesin penelitian dan pengembangan Fireworks mengalami insiden keamanannya sendiri pada tanggal 23 Oktober. Keesokan harinya, pihak yang tidak berwenang menggunakan pijakan tersebut untuk menjangkau mesin pengembangan Fireworks dan menjalankan beban kerja tidak sah yang menyebabkan dampak tambahan pada data pelanggan. Fireworks mengatakan pihaknya mendeteksi aktivitas tersebut pada hari yang sama dan mengambil tindakan perbaikan, dan hingga tanggal 25 Oktober, pihaknya tidak menemukan bukti lebih lanjut mengenai keberhasilan akses tidak sah pada platform yang digunakan pelanggan.

Perusahaan tersebut bekerja sama dengan Unit 42 Jaringan Palo Alto, yang melakukan analisis forensik, dan mengatakan telah memberi tahu penegak hukum setelah kejadian awal. Google Threat Intelligence Group dan Mandiant menerbitkan postingan blog pada tanggal 2 November yang mendokumentasikan kebangkitan LLMJacking, motif di baliknya, dan teknik yang digunakan — konteks Fireworks dikutip dalam pengungkapannya sendiri.

Data Apa yang Diambil

Aplikasi internal yang terpengaruh mengungkap beberapa kategori informasi, berdasarkan buletin:

  • Metadata sumber daya, termasuk pengidentifikasi sumber daya Fireworks, nama tampilan, deskripsi, dan waktu pembuatan.
  • Informasi penagihan, termasuk alamat penagihan dan pengiriman, riwayat faktur dan pembayaran, saldo rekening, dan penggunaan kredit.
  • Bobot model dan kumpulan data: untuk pelanggan tertentu, subkumpulan bobot model dan kumpulan data yang tidak lengkap diakses.

Fireworks mengatakan nomor kartu pembayaran tidak disimpan di sistemnya dan tidak terpengaruh. Perusahaan juga menyatakan bahwa mereka tidak mendeteksi adanya dampak pada layanan inti Inferensi, SDK Pelatihan, dan Nexus, yang beroperasi tanpa retensi data secara default — yang berarti tidak ada data pelatihan atau inferensi pelanggan yang disimpan dalam keadaan diam. Perusahaan mengatakan pihaknya secara langsung memberi tahu pelanggan yang datanya terpengaruh dengan rincian dampaknya dan merekomendasikan tindakan respons.

Penahanan dan Pertanyaan Terbuka

Sebagai bagian dari responsnya, bekerja sama dengan Unit 42, Fireworks mengatakan pihaknya mencabut dan mengganti kredensial dan akun layanan, menghapus peningkatan hak istimewa yang tidak perlu, membatasi jalur jaringan dan mengisolasi sistem yang terkena dampak, memperketat akses ke penyimpanan data dan sistem analitik, serta memperkuat pencatatan dan pemantauan. Ini juga telah menonaktifkan unggahan dan pengunduhan kumpulan data layanan mandiri yang digunakan oleh Inferensi Batch dan pelatihan berbasis kumpulan data sementara penyelidikan berlanjut.

Dua pertanyaan penting masih terbuka. Pertama, seberapa banyak "bobot model tidak lengkap" yang diakses benar-benar dapat digunakan - bobot sebagian atau dalam proses yang dicuri dari jalur pelatihan masih dapat mengungkapkan informasi kompetitif tentang model pelanggan yang sedang dikembangkan, dan Fireworks belum menyebutkan pelanggan mana atau berapa banyak yang terpengaruh. Kedua, kewajiban apa yang harus diikuti oleh pelanggan yang data kepemilikannya terekspos. Perusahaan mengatakan penyelidikannya sedang berlangsung dan mungkin mengungkap informasi tambahan.

Mengapa LLMJacking Berkembang

Serangan LLMJacking menargetkan layanan AI yang dihosting di cloud untuk mengambil akses model yang dapat digunakan, bukan data tradisional. Kredensial atau token yang dicuri kemudian dijual kembali melalui gateway perutean bayangan yang menawarkan akses potongan harga ke model komersial. Grup Intelijen Ancaman Google dan Mandiant menerbitkan laporannya pada tanggal 2 November tentang tren ini, yang telah dilacak oleh para peneliti keamanan selama kurang lebih dua tahun seiring dengan pesatnya penerapan inferensi yang dihosting oleh perusahaan.

Pengungkapan Fireworks adalah salah satu kasus pertama yang dikonfirmasi di mana penyerang tampaknya menggabungkan pedoman tersebut dengan pencurian artefak model pelanggan di penyedia infrastruktur AI. Hal ini terjadi di tengah gelombang insiden keamanan yang lebih luas di seluruh ekosistem AI dan menambah tekanan pada penyedia inferensi untuk menunjukkan bahwa platform multi-penyewa dapat mengisolasi beban kerja pelanggan. Perusahaan rintisan yang mengevaluasi vendor inferensi cenderung mengajukan pertanyaan lebih sulit tentang isolasi penyewa, kebersihan kredensial, dan ketergantungan cloud pihak ketiga – jalur persis yang dieksploitasi di sini.

Fireworks mengatakan pihaknya memantau sistemnya sepanjang waktu dan akan mempublikasikan pembaruan lebih lanjut seiring dengan kemajuan penyelidikan. Pelanggan yang memiliki kekhawatiran diarahkan untuk membalas email pemberitahuan insiden atau menghubungi alamat pemberitahuan keamanan perusahaan.

Insiden ini juga menggambarkan betapa matangnya norma keterbukaan bagi perusahaan AI. Fireworks menerbitkan buletin pertamanya dalam beberapa hari setelah intrusi awal pada awal Oktober, kemudian mengubahnya dua kali seiring dengan semakin luasnya gambaran forensik – sebuah rangkaian yang dapat dikenali oleh tim keamanan dari pelanggaran perangkat lunak perusahaan baru-baru ini, namun hal ini masih jarang terjadi di antara penyedia infrastruktur AI, yang banyak di antaranya belum pernah menangani insiden publik. Pilihan untuk menonaktifkan fitur kumpulan data layanan mandiri sambil membiarkan produk inferensi inti tetap berjalan menunjukkan bahwa paparan terkonsentrasi pada sistem tambahan, bukan pada jalur layanan pelanggan itu sendiri.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →