Fireworks AI, startup-ul de inferență susținut de Nvidia, a notificat clienții că un incident de securitate dezvăluit anterior a fost semnificativ mai amplu decât cel raportat inițial, atacatorii accesând informații despre cont și facturare și, pentru un set limitat de conturi, secrete, seturi de date și greutăți ale modelului incomplet, potrivit unui buletin de securitate actualizat publicat pe site-ul său pe 9 noiembrie. atac cibernetic ca expunerea datelor clienților și modelelor AI.

Compania a dezvăluit incidentul pentru prima dată pe 9 octombrie, când a spus că au fost accesate doar secretele stocate în Fireworks, folosite în joburile de evaluare. Noua actualizare lărgește substanțial această evaluare și leagă intruziunea de un grup de criminali cibernetici motivat financiar care urmărește ceea ce industria numește „LLMJacking” – furtul de acces la modele de limbaj mari și revânzarea token-urilor către porțile de rutare ilicite. Pentru companiile care urmăresc știri despre securitatea industriei AI, cazul se conturează ca un incident de referință pentru o nouă clasă de atacuri asupra infrastructurii AI.

Cum s-a desfășurat a doua breșă

Potrivit buletinului, un furnizor de cloud terț care găzduiește mașinile de cercetare și dezvoltare ale Fireworks a experimentat propriul incident de securitate pe 23 octombrie. A doua zi, o parte neautorizată a folosit acel punct de sprijin pentru a ajunge la mașinile de dezvoltare Fireworks și a rulat o sarcină de lucru neautorizată care a dus la un impact suplimentar asupra datelor clienților. Fireworks spune că a detectat activitatea în aceeași zi și a luat măsuri de remediere și că, din 25 octombrie, nu a găsit nicio altă dovadă a accesului neautorizat cu succes pe platforma utilizată de clienți.

Compania lucrează cu Unitatea 42 din Palo Alto Networks, care efectuează analize criminalistice și a declarat că a notificat forțele de ordine după incidentul inițial. Google Threat Intelligence Group și Mandiant au publicat o postare pe blog pe 2 noiembrie în care documentează creșterea LLMJacking, motivele din spatele acestuia și tehnicile utilizate - contextul Fireworks citat în propria sa dezvăluire.

Ce date au fost preluate

Aplicația internă afectată a expus mai multe categorii de informații, conform buletinului:

  • Metadatele resurselor, inclusiv identificatorii de resurse Fireworks, numele afișate, descrierile și orele de creare.
  • Informații de facturare, inclusiv adrese de facturare și de expediere, istoricul facturilor și plăților, soldurile conturilor și utilizarea creditului.
  • Greutățile modelului și seturile de date: pentru anumiți clienți, a fost accesat un subset de greutăți de model și seturi de date incomplete.

Fireworks a spus că numerele cardurilor de plată nu sunt stocate în sistemele sale și nu au fost afectate. De asemenea, a declarat că nu a detectat niciun impact asupra serviciilor sale de bază Inference, Training SDK și Nexus, care funcționează cu zero reținere a datelor în mod implicit, ceea ce înseamnă că nu sunt stocate în repaus datele de instruire sau inferență ale clienților. Compania a spus că notifică direct clienții ale căror date au fost afectate cu detalii despre impact și măsuri de răspuns recomandate.

Limitare și întrebări deschise

Ca parte a răspunsului său, lucrând cu Unitatea 42, Fireworks spune că a revocat și înlocuit acreditările și conturile de serviciu, a eliminat privilegii ridicate inutile, a restricționat căile de rețea și a izolat sistemele afectate, a înăsprit accesul la sistemele de stocare și analiză a datelor și a consolidat înregistrarea și monitorizarea. De asemenea, a dezactivat încărcările și descărcările de seturi de date cu autoservire utilizate de Batch Inference și instruirea bazată pe seturi de date în timp ce investigația continuă.

Două întrebări semnificative rămân deschise. În primul rând, cât de mult din „greutățile modelului incomplet” accesate sunt de fapt utilizabile – ponderile parțiale sau în curs furate dintr-o conductă de antrenament pot dezvălui în continuare informații competitive despre modelele clienților în curs de dezvoltare, iar Fireworks nu a spus care clienți sau câți au fost afectați. În al doilea rând, ce obligații urmează pentru clienții ale căror seturi de date proprietare au fost expuse. Compania spune că investigația este în curs și ar putea dezvălui informații suplimentare.

De ce crește LLMJacking

Atacurile LLMJacking vizează serviciile AI găzduite în cloud pentru a colecta acces la modele utilizabile, mai degrabă decât datele tradiționale. Acreditările sau jetoanele furate sunt apoi revândute prin gateway-uri de rutare umbră care oferă acces la preț redus la modelele comerciale. Threat Intelligence Group de la Google și Mandiant au dedicat un raport din 2 noiembrie tendinței, pe care cercetătorii de securitate au urmărit-o timp de aproximativ doi ani, pe măsură ce adoptarea întreprinderilor a inferenței găzduite a explodat.

Dezvăluirea Fireworks este unul dintre primele cazuri confirmate în care atacatorii par să fi combinat acel manual cu furtul de artefacte ale modelului clientului la un furnizor de infrastructură AI. Aterizează în mijlocul unui val mai larg de incidente de securitate în ecosistemul AI și adaugă presiune asupra furnizorilor de inferențe pentru a demonstra că platformele multi-chiriași pot izola sarcinile de lucru ale clienților. Startup-urile care evaluează furnizorii de inferențe sunt probabil să pună întrebări mai dificile despre izolarea chiriașilor, igiena acreditărilor și dependențele de cloud de la terțe părți - calea exactă exploatată aici.

Fireworks spune că își monitorizează sistemele non-stop și va publica noi actualizări pe măsură ce investigația progresează. Clienții cu îngrijorări sunt direcționați să răspundă la e-mailurile lor de notificare a incidentelor sau să contacteze adresa de notificare de securitate a companiei.

Incidentul ilustrează, de asemenea, modul în care normele de divulgare se maturizează pentru companiile AI. Fireworks și-a publicat primul buletin în câteva zile de la intruziunea inițială la începutul lunii octombrie, apoi l-a modificat de două ori, pe măsură ce criminalistica a lărgit imaginea - o secvență pe care echipele de securitate o vor recunoaște din recentele încălcări ale software-ului întreprinderii, dar aceasta rămâne neobișnuită în rândul furnizorilor de infrastructură AI, dintre care mulți nu au gestionat niciodată un incident public. Alegerea de a dezactiva funcțiile setului de date cu autoservire în timp ce se lăsă în funcțiune produsul de inferență de bază sugerează că expunerea a fost concentrată în sisteme auxiliare, mai degrabă decât în ​​calea de deservire a clienților în sine.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →