Nvidia destekli çıkarım girişimi Fireworks AI, 9 Kasım'da kendi sitesinde yayınlanan güncellenmiş bir güvenlik bültenine göre, saldırganların hesap ve fatura bilgilerine ve sınırlı sayıda hesap, sır, veri kümesi ve eksik model ağırlıklarına erişmesiyle daha önce açıklanan güvenlik olayının ilk bildirilenden önemli ölçüde daha geniş kapsamlı olduğunu müşterilere bildirdi. Bloomberg ve Forbes açıklamayı Pazartesi günü bildirdi ve Forbes, siber saldırıyı müşteri verilerinin ve yapay zeka modellerinin açığa çıkması olarak tanımladı.

Şirket, olayı ilk olarak 9 Ekim'de, yalnızca değerlendirme işlerinde kullanılan Fireworks'te saklanan sırlara erişildiğini söylediğinde açıkladı. Yeni güncelleme, bu değerlendirmeyi önemli ölçüde genişletiyor ve izinsiz girişi, sektörün "LLMJacking" olarak adlandırdığı şeyi takip eden, büyük dil modellerine erişimi çalmak ve jetonları yasa dışı yönlendirme ağ geçitlerine yeniden satmak isteyen finansal motivasyona sahip bir siber suçlu grubuyla ilişkilendiriyor. Yapay zeka sektörü güvenlik haberlerini takip eden şirketler için bu olay, yapay zeka altyapısına yönelik yeni bir saldırı sınıfı için referans olay olarak şekilleniyor.

İkinci İhlal Nasıl Ortaya Çıktı?

Bültene göre, Fireworks'ün araştırma ve geliştirme makinelerini barındıran bir üçüncü taraf bulut sağlayıcısı, 23 Ekim'de kendi güvenlik olayını yaşadı. Ertesi gün, yetkisiz bir taraf, Fireworks geliştirme makinelerine ulaşmak için bu dayanağı kullandı ve müşteri verilerinin daha fazla etkilenmesine yol açan yetkisiz bir iş yükü çalıştırdı. Fireworks, etkinliği aynı gün tespit ettiğini ve düzeltme önlemleri aldığını ve 25 Ekim itibarıyla müşterilerin kullandığı platformda başarılı bir yetkisiz erişime ilişkin başka bir kanıt bulamadığını açıkladı.

Şirket, adli analiz yapan Palo Alto Networks'ün 42. Birimi ile birlikte çalışıyor ve ilk olaydan sonra kolluk kuvvetlerine bilgi verdiğini söyledi. Google Tehdit İstihbarat Grubu ve Mandiant, 2 Kasım'da LLMJacking'in yükselişini, arkasındaki nedenleri ve kullanılan teknikleri belgeleyen bir blog yazısı yayınladı - Fireworks'ün kendi açıklamasında alıntı yaptığı bağlam.

Hangi Veriler Alındı

Etkilenen dahili uygulama, bültene göre çeşitli bilgi kategorilerini açığa çıkardı:

  • Fireworks kaynak tanımlayıcıları, görünen adlar, açıklamalar ve oluşturma süreleri dahil olmak üzere kaynak meta verileri**.
  • Fatura ve teslimat adresleri, fatura ve ödeme geçmişi, hesap bakiyeleri ve kredi kullanımı dahil olmak üzere fatura bilgileri.
  • Model ağırlıkları ve veri kümeleri: Belirli müşteriler için tamamlanmamış model ağırlıkları ve veri kümelerinden oluşan bir alt kümeye erişildi.

Fireworks, ödeme kartı numaralarının sistemlerinde saklanmadığını ve bu durumdan etkilenmediğini söyledi. Ayrıca, varsayılan olarak sıfır veri saklamayla çalışan temel Çıkarım, Eğitim SDK'sı ve Nexus hizmetlerinde herhangi bir etki tespit edilmediğini, yani hiçbir müşteri eğitimi veya çıkarım verisinin beklemede depolanmadığını belirtti. Şirket, verileri etkilenen müşterilere etki ve önerilen müdahale eylemlerine ilişkin ayrıntıları doğrudan bildireceğini söyledi.

Sınırlama ve Açık Sorular

Fireworks, Unit 42 ile birlikte çalışarak yanıtın bir parçası olarak, kimlik bilgilerini ve hizmet hesaplarını iptal ettiğini ve değiştirdiğini, gereksiz yükseltilmiş ayrıcalıkları kaldırdığını, ağ yollarını kısıtladığını ve etkilenen sistemleri izole ettiğini, veri depolama ve analiz sistemlerine erişimi sıkılaştırdığını ve günlüğe kaydetme ve izlemeyi güçlendirdiğini söylüyor. Ayrıca, soruşturma devam ederken Toplu Çıkarım ve veri kümesi tabanlı eğitim tarafından kullanılan self-servis veri kümesi yüklemelerini ve indirmelerini de devre dışı bıraktı.

İki önemli soru cevapsız kalıyor. Birincisi, erişilen "tamamlanmamış model ağırlıklarının" ne kadarının gerçekte kullanılabilir olduğu; bir eğitim hattından çalınan kısmi veya devam eden ağırlıklar, geliştirilmekte olan müşteri modelleri hakkında rekabetçi bilgileri hâlâ ortaya çıkarabilir ve Fireworks, hangi müşterilerin veya kaç tanesinin etkilendiğini söylemedi. İkincisi, özel veri kümeleri açığa çıkan müşteriler için ne gibi yükümlülükler söz konusu? Şirket, soruşturmanın devam ettiğini ve ek bilgilerin ortaya çıkabileceğini söyledi.

LLMJacking Neden Büyüyor?

LLMJacking saldırıları, geleneksel veriler yerine kullanılabilir model erişimini toplamak için bulutta barındırılan yapay zeka hizmetlerini hedef alıyor. Çalınan kimlik bilgileri veya jetonlar daha sonra ticari modellere indirimli erişim sunan gölge yönlendirme ağ geçitleri aracılığıyla yeniden satılıyor. Google'ın Tehdit İstihbaratı Grubu ve Mandiant, 2 Kasım'da, güvenlik araştırmacılarının barındırılan çıkarımın kurumsal olarak benimsenmesinde patlama yaşanırken yaklaşık iki yıldır takip ettiği trende bir rapor ayırdı.

Fireworks'ün ifşası, saldırganların bu taktik kitabını bir yapay zeka altyapı sağlayıcısındaki müşteri modeli eserlerinin çalınmasıyla birleştirdiği doğrulanan ilk vakalardan biridir. Yapay zeka ekosisteminde daha geniş bir güvenlik olayları dalgasının ortasında kalıyor ve çıkarım sağlayıcılar üzerinde, çok kiracılı platformların müşteri iş yüklerini izole edebildiğini gösterme baskısını artırıyor. Çıkarım sağlayıcılarını değerlendiren start-up'ların, kiracı izolasyonu, kimlik bilgileri hijyeni ve üçüncü taraf bulut bağımlılıkları hakkında daha zor sorular sorması muhtemeldir; burada tam olarak bu yol kullanılmaktadır.

Fireworks, sistemlerini günün her saatinde izlediğini ve soruşturma ilerledikçe daha fazla güncelleme yayınlayacağını söylüyor. Endişeleri olan müşteriler, olay bildirimi e-postalarını yanıtlamaya veya şirketin güvenlik bildirimi adresiyle iletişime geçmeye yönlendirilir.

Olay aynı zamanda yapay zeka şirketleri için ifşa normlarının nasıl olgunlaştığını da gösteriyor. Fireworks, ilk bültenini Ekim ayı başlarında ilk izinsiz girişten birkaç gün sonra yayınladı ve ardından adli bilimlerin resmi genişletmesiyle iki kez değiştirdi; güvenlik ekiplerinin son zamanlardaki kurumsal yazılım ihlallerinden fark edeceği bir dizi, ancak bu, çoğu kamuya açık bir olayla hiç ilgilenmemiş olan yapay zeka altyapı sağlayıcıları arasında alışılmadık bir durum olmaya devam ediyor. Temel çıkarım ürününü çalışır durumda bırakırken kendi kendine hizmet veren veri kümesi özelliklerini devre dışı bırakma seçeneği, maruz kalmanın müşteriye hizmet veren yolun kendisinden ziyade yardımcı sistemlerde yoğunlaştığını gösteriyor.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →