Fireworks AI, permulaan inferens yang disokong Nvidia, telah memberitahu pelanggan bahawa insiden keselamatan yang didedahkan sebelum ini adalah jauh lebih luas daripada yang dilaporkan pertama kali, dengan penyerang mengakses maklumat akaun dan pengebilan dan, untuk set akaun terhad, rahsia, set data dan berat model yang tidak lengkap, menurut buletin keselamatan yang dikemas kini yang diterbitkan di tapaknya pada 9 November. data pelanggan dan model AI.

Syarikat itu mula-mula mendedahkan kejadian itu pada 9 Oktober, apabila ia berkata hanya rahsia yang disimpan Bunga Api yang digunakan dalam kerja penilaian telah diakses. Kemas kini baharu ini dengan ketara meluaskan penilaian itu dan menghubungkan pencerobohan itu kepada kumpulan penjenayah siber yang bermotifkan kewangan yang mengejar apa yang dipanggil industri sebagai "LLMJacking" — mencuri akses kepada model bahasa besar dan menjual semula token kepada pintu masuk penghalaan haram. Bagi syarikat yang menjejaki berita keselamatan industri AI, kes ini dibentuk sebagai insiden rujukan untuk kelas serangan baharu terhadap infrastruktur AI.

Bagaimana Pelanggaran Kedua Terjadi

Menurut buletin itu, penyedia awan pihak ketiga yang mengehos mesin penyelidikan dan pembangunan Fireworks mengalami insiden keselamatannya sendiri pada 23 Oktober. Keesokan harinya, pihak yang tidak dibenarkan menggunakan pijakan itu untuk mencapai mesin pembangunan Fireworks dan menjalankan beban kerja yang tidak dibenarkan yang membawa kepada kesan data pelanggan tambahan. Fireworks berkata ia mengesan aktiviti itu pada hari yang sama dan mengambil langkah pemulihan, dan sehingga 25 Oktober ia tidak menemui bukti lanjut mengenai kejayaan capaian tanpa kebenaran pada platform yang digunakan pelanggan.

Syarikat itu bekerjasama dengan Unit 42 Palo Alto Networks, yang menjalankan analisis forensik, dan berkata ia memberitahu penguatkuasaan undang-undang selepas kejadian asal. Kumpulan Perisikan Ancaman Google dan Mandiant menerbitkan catatan blog pada 2 November yang mendokumentasikan kebangkitan LLMJacking, motif di sebaliknya, dan teknik yang digunakan — konteks Fireworks yang dipetik dalam pendedahannya sendiri.

Data Apa yang Diambil

Aplikasi dalaman yang terjejas mendedahkan beberapa kategori maklumat, mengikut buletin:

  • Metadata sumber, termasuk pengecam sumber Bunga Api, nama paparan, perihalan dan masa penciptaan.
  • Maklumat pengebilan, termasuk alamat pengebilan dan penghantaran, invois dan sejarah pembayaran, baki akaun dan penggunaan kredit.
  • Berat model dan set data: untuk pelanggan tertentu, subset berat model dan set data yang tidak lengkap telah diakses.

Fireworks berkata nombor kad pembayaran tidak disimpan pada sistemnya dan tidak terjejas. Ia juga menyatakan bahawa ia telah mengesan tiada kesan kepada perkhidmatan Inferens, SDK Latihan dan Nexus terasnya, yang beroperasi dengan pengekalan data sifar secara lalai — bermakna tiada latihan pelanggan atau data inferens disimpan dalam keadaan rehat. Syarikat itu berkata ia memaklumkan secara terus kepada pelanggan yang data mereka terjejas dengan butiran mengenai kesan dan tindakan tindak balas yang disyorkan.

Penahanan dan Soalan Terbuka

Sebagai sebahagian daripada maklum balasnya, bekerjasama dengan Unit 42, Fireworks berkata ia membatalkan dan menggantikan kelayakan dan akaun perkhidmatan, mengalih keluar keistimewaan tinggi yang tidak perlu, laluan rangkaian terhad dan sistem terjejas terpencil, mengetatkan akses kepada penyimpanan data dan sistem analitik, dan mengeraskan pembalakan dan pemantauan. Ia juga telah melumpuhkan muat naik dan muat turun set data layan diri yang digunakan oleh Inferens Kelompok dan latihan berasaskan set data sementara penyiasatan diteruskan.

Dua soalan penting kekal terbuka. Pertama, berapa banyak "berat model tidak lengkap" yang diakses sebenarnya boleh digunakan — pemberat separa atau sedang dalam proses yang dicuri daripada saluran paip latihan mungkin masih mendedahkan maklumat kompetitif tentang model pelanggan yang sedang dibangunkan, dan Fireworks tidak menyatakan pelanggan atau bilangan yang terjejas. Kedua, apakah kewajipan berikut untuk pelanggan yang set data proprietarinya terdedah. Syarikat itu berkata siasatannya sedang dijalankan dan mungkin mendedahkan maklumat tambahan.

Mengapa LLMJacking Berkembang

Serangan LLMJacking menyasarkan perkhidmatan AI yang dihoskan awan untuk mendapatkan akses model yang boleh digunakan dan bukannya data tradisional. Bukti kelayakan atau token yang dicuri kemudiannya dijual semula melalui gerbang laluan bayangan yang menawarkan akses potongan harga kepada model komersial. Kumpulan Perisikan Ancaman Google dan Mandiant menumpukan laporan 2 November kepada arah aliran itu, yang telah dijejaki penyelidik keselamatan selama kira-kira dua tahun apabila penggunaan perusahaan terhadap inferens yang dihoskan telah meletup.

Pendedahan Fireworks ialah salah satu kes pertama yang disahkan di mana penyerang nampaknya telah menggabungkan buku permainan itu dengan kecurian artifak model pelanggan di penyedia infrastruktur AI. Ia mendarat di tengah-tengah gelombang insiden keselamatan yang lebih luas di seluruh ekosistem AI dan menambah tekanan ke atas penyedia inferens untuk menunjukkan bahawa platform berbilang penyewa boleh mengasingkan beban kerja pelanggan. Pemula yang menilai vendor inferens mungkin akan bertanya soalan yang lebih sukar tentang pengasingan penyewa, kebersihan kelayakan dan kebergantungan awan pihak ketiga - laluan tepat yang dieksploitasi di sini.

Fireworks berkata ia memantau sistemnya sepanjang masa dan akan menerbitkan kemas kini selanjutnya semasa penyiasatan berjalan. Pelanggan yang mempunyai kebimbangan diarahkan untuk membalas e-mel pemberitahuan insiden mereka atau menghubungi alamat notis keselamatan syarikat.

Insiden itu juga menggambarkan bagaimana norma pendedahan semakin matang untuk syarikat AI. Fireworks menerbitkan buletin pertamanya dalam beberapa hari selepas pencerobohan awal pada awal Oktober, kemudian memindanya dua kali apabila forensik meluaskan gambar - urutan pasukan keselamatan akan mengenali daripada pelanggaran perisian perusahaan baru-baru ini tetapi ia tetap tidak biasa dalam kalangan penyedia infrastruktur AI, yang kebanyakannya tidak pernah mengendalikan insiden awam. Pilihan untuk melumpuhkan ciri set data layan diri sambil membiarkan produk inferens teras berjalan menunjukkan pendedahan tertumpu pada sistem sampingan dan bukannya laluan perkhidmatan pelanggan itu sendiri.

---

Kekal Mendahului AI

Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.

Baca lebih banyak berita AI →