Fireworks AI, den Nvidia-stödda slutledningsstartupen, har meddelat kunder att en tidigare avslöjad säkerhetsincident var betydligt bredare än först rapporterades, med angripare som fick tillgång till konto- och faktureringsinformation och, för en begränsad uppsättning konton, hemligheter, datauppsättningar och ofullständiga modellvikter, enligt en uppdaterad säkerhetsbulletin som publicerades på dess webbplats den 9 november. cyberattack som exponerar kunddata och AI-modeller.

Företaget avslöjade händelsen först den 9 oktober, när det sa att endast Fireworks-lagrade hemligheter som används i utvärderingsjobb hade nåtts. Den nya uppdateringen vidgar denna bedömning avsevärt och knyter intrånget till en ekonomiskt motiverad cyberkriminell grupp som driver vad branschen kallar "LLMJacking" - stjäl åtkomst till stora språkmodeller och säljer tokens till olagliga routinggateways. För företag som spårar AI-branschens säkerhetsnyheter formas fallet som en referensincident för en ny klass av attacker mot AI-infrastruktur.

Hur det andra brottet utvecklades

Enligt bulletinen upplevde en tredjepartsmolnleverantör som var värd för Fireworks forsknings- och utvecklingsmaskiner sin egen säkerhetsincident den 23 oktober. Dagen efter använde en obehörig part det fotfästet för att nå Fireworks utvecklingsmaskiner och körde en obehörig arbetsbelastning som ledde till ytterligare kunddatapåverkan. Fireworks säger att de upptäckte aktiviteten samma dag och vidtog saneringsåtgärder, och att de den 25 oktober inte har hittat några ytterligare bevis för framgångsrik obehörig åtkomst på plattformen kunder använder.

Företaget samarbetar med Palo Alto Networks Unit 42, som genomför kriminalteknisk analys, och sa att de underrättade polisen efter den ursprungliga incidenten. Google Threat Intelligence Group och Mandiant publicerade ett blogginlägg den 2 november som dokumenterar uppkomsten av LLMJacking, motiven bakom det och de tekniker som används - kontext Fireworks citerade i sitt eget avslöjande.

Vilka data togs

Den berörda interna applikationen avslöjade flera kategorier av information, enligt bulletinen:

  • Resursmetadata, inklusive Fireworks resursidentifierare, visningsnamn, beskrivningar och skapelsetider.
  • Faktureringsinformation, inklusive fakturerings- och leveransadresser, faktura- och betalningshistorik, kontosaldon och kreditanvändning.
  • Modellvikter och datauppsättningar: för vissa kunder fick man tillgång till en delmängd av ofullständiga modellvikter och datauppsättningar.

Fireworks sa att betalkortsnummer inte lagras i dess system och att de inte påverkades. Den uppgav också att den inte har upptäckt någon påverkan på sina kärntjänster för Inference, Training SDK och Nexus, som fungerar med noll datalagring som standard - vilket innebär att ingen kundutbildning eller slutledningsdata lagras i vila. Företaget sa att det direkt underrättar kunder vars data påverkades med detaljer om påverkan och rekommenderade svarsåtgärder.

Inneslutning och öppna frågor

Som en del av sitt svar, som arbetar med Unit 42, säger Fireworks att det har återkallat och ersatt autentiseringsuppgifter och tjänstekonton, tagit bort onödiga förhöjda privilegier, begränsade nätverksvägar och isolerade påverkade system, skärpt åtkomst till datalagrings- och analyssystem, och förstärkt loggning och övervakning. Det har också inaktiverat självbetjäningsuppladdningar och nedladdningar av datauppsättningar som används av Batch Inference och datauppsättningsbaserad utbildning medan undersökningen fortsätter.

Två viktiga frågor är fortfarande öppna. För det första, hur mycket av de tillgängliga "ofullständiga modellvikterna" som faktiskt är användbara - partiella eller pågående vikter som stulits från en träningspipeline kan fortfarande avslöja konkurrensinformation om kundmodeller under utveckling, och Fireworks har inte sagt vilka kunder eller hur många som påverkades. För det andra, vilka skyldigheter som följer för kunder vars egna datauppsättningar har exponerats. Företaget säger att dess utredning pågår och kan avslöja ytterligare information.

Varför LLMJacking växer

LLMJacking-attacker riktar sig mot molnbaserade AI-tjänster för att skörda användbar modellåtkomst snarare än traditionell data. De stulna inloggningsuppgifterna eller tokens säljs sedan vidare genom skuggroutinggateways som erbjuder tillgång till lågpris till kommersiella modeller. Googles Threat Intelligence Group och Mandiant ägnade en rapport den 2 november åt trenden, som säkerhetsforskare har följt i ungefär två år när företagens antagande av värdbaserad slutledning har exploderat.

Fireworks-avslöjandet är ett av de första bekräftade fallen där angripare verkar ha kombinerat den spelboken med stöld av kundmodellartefakter hos en leverantör av AI-infrastruktur. Det landar mitt i en bredare våg av säkerhetsincidenter i AI-ekosystemet och lägger till press på slutledningsleverantörer för att visa att plattformar med flera hyresgäster kan isolera kundernas arbetsbelastningar. Nystartade företag som utvärderar slutledningsleverantörer kommer sannolikt att ställa svårare frågor om hyresgästisolering, legitimationshygien och molnberoenden från tredje part - den exakta vägen som utnyttjas här.

Fireworks säger att de övervakar sina system dygnet runt och kommer att publicera ytterligare uppdateringar allt eftersom utredningen fortskrider. Kunder med oro uppmanas att svara på e-postmeddelanden om incidentmeddelanden eller kontakta företagets adress för säkerhetsmeddelande.

Händelsen illustrerar också hur upplysningsnormer mognar för AI-företag. Fireworks publicerade sin första bulletin några dagar efter det första intrånget i början av oktober, och ändrade den sedan två gånger eftersom kriminalteknik vidgade bilden – en sekvens som säkerhetsteam kommer att känna igen från de senaste intrång i företagsmjukvara men det är fortfarande ovanligt bland leverantörer av AI-infrastruktur, av vilka många aldrig har hanterat en offentlig incident. Valet att inaktivera självbetjäningsdatauppsättningsfunktioner samtidigt som kärninferensprodukten körs tyder på att exponeringen var koncentrerad till anslutna system snarare än själva kundbetjäningsvägen.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →