Meta a OpenAI zachycené v Mercor Data Breach Fallout z otráveného LiteLLM dodavatelského řetězce

Útok dodavatelského řetězce na jeden balíček s otevřeným zdrojovým kódem se proměnil v jeden z nejnepříjemnějších bezpečnostních incidentů v mladém odvětví umělé inteligence, který odhalil data držená startupem Mercor pro označování dat a přinutil společnost Meta, aby na neurčito přerušila spolupráci se společností.

Porušení, které Mercor potvrdil 31. března, bylo vysledováno jako kompromitace LiteLLM, široce používaného open-source nástroje stahovaného milionykrát denně. Zhruba 40 minut otrávená verze LiteLLM skrývala malware pro shromažďování pověření, který ukradl přihlašovací údaje a poté je použil k proniknutí hlouběji do připojených systémů. Epizoda od té doby metastazovala do soudních sporů, zmražení smluv a širšího zvažování toho, jakou důvěru průmysl AI vkládá do zprostředkovatelského softwaru, který nemá pod kontrolou. Chcete-li získat další aktuální zprávy o AI o zabezpečení a důvěře, sledujte naše probíhající zpravodajství.

Jak útok fungoval

Mechanika je kompromisem mezi učebnicovým softwarem a dodavatelským řetězcem. Podle zpráv TechJuice a TechCrunch se útočníkům podařilo protlačit škodlivý kód do LiteLLM, open-source knihovny, kterou mnoho společností využívajících umělou inteligenci používá ke směrování požadavků mezi různými jazykovými modely. Vzhledem k tomu, že LiteLLM je považováno za důvěryhodnou infrastrukturu a automaticky se stahuje do produkčního prostředí, škodlivé sestavení se rychle rozšířilo.

Po dobu asi 40 minut zmanipulovaný nástroj tiše sbíral přihlašovací údaje od každého, kdo jej spustil. Tyto přihlašovací údaje pak byly použity pro přístup k dalším systémům, čímž se poškození ještě zhoršilo. Mezi nejvíce exponované patřila společnost Mercor, jejíž podnikání závisí na správě velkého množství citlivých dat o dodavatelích a klientech.

Nárok na vydírání ve výši 4 terabajtů

Po odhalení hackerská skupina tvrdila, že drží zhruba 4 terabajty dat ukradených ze systémů společnosti Mercor. Nárokovaný úlovek zahrnuje profily kandidátů, osobně identifikovatelné informace, údaje zaměstnavatelů, zdrojový kód a klíče API, rozsáhlý inventář přesně toho druhu materiálu, který společnost pro označování dat centralizuje. Mercor nepotvrdil ani nepopřel pravost údajných údajů, pouze uvedl, že je vyšetřuje.

Nejednoznačnost je sama o sobě problémem. Pro dodavatele, zaměstnavatele a partnery, jejichž informace mohou kolovat, nejistota ohledně toho, co bylo skutečně pořízeno, znemožňuje posouzení jejich expozice.

Meta se stahuje zpět

Komerční dopad byl rychlý. Společnost Meta pozastavila své smlouvy s Mercorem na neurčito, což je rozhodnutí, které bylo mnohem výraznější kvůli historii mezi těmito dvěma společnostmi. Podle TechJuice Meta pokračovala ve spolupráci s Mercorem i poté, co utratila 14,3 miliardy dolarů za získání konkurenční Scale AI společnosti Mercor, což je známkou toho, jak moc si vztahu váží. To, že porušení směrované přes nástroj třetí strany by mohlo přerušit takovou vazbu, podtrhuje, jak křehké se tyto vztahy s dodavateli staly.

OpenAI potvrdila, že vyšetřuje své vlastní odhalení porušení, ale v době nahlášení nepozastavila své smlouvy se společností Mercor. Mnoho dalších velkých výrobců modelů údajně zvažuje své vztahy se startupem, i když žádná další jména nebyla veřejně potvrzena.

Soudní spory a otázky odpovědnosti

Právní důsledky narůstají stejně rychle jako ty komerční. Pět dodavatelů společnosti Mercor podalo žalobu kvůli údajnému zpřístupnění osobních údajů. Jedna žaloba přezkoumávaná společností TechCrunch jmenovala LiteLLM a startup Delve pro dodržování AI jako spoluobžalovaní na základě toho, že LiteLLM použil Delve k získání svých bezpečnostních certifikací. Toto propojení otevírá ožehavou otázku, zda poskytovatelé shody nesou odpovědnost, když nástroje, za které ručí, budou později ozbrojeny.

Tyto žaloby by mohly pomoci definovat, kde odpovědnost zastává, když je porušení směrováno prostřednictvím softwaru s otevřeným zdrojovým kódem, což je otázka, na kterou se průmysl AI dosud vyhýbal zodpovězení.

Průmyslem nedostatečně prozkoumaný útočný povrch

Bezpečnostní výzkumníci tvrdí, že hlubší lekce je strukturální. Zásobník umělé inteligence nyní závisí na síti důvěryhodných zprostředkovatelských nástrojů, směrovačů, hodnotitelů, vrstev dodržování předpisů a platforem pro označování, které jsou umístěny mezi poskytovateli modelů a jejich zákazníky. Každý z nich je potenciálním škrticím bodem a většina z nich dostává mnohem menší kontrolu než samotné hraniční modely.

LiteLLM je ilustrativní. Stahuje se milionykrát denně, zpracovává přihlašovací údaje podle návrhu a běží v produkčním prostředí některých z nejlépe financovaných společností na světě. Přesto stačilo 40minutové okno manipulace, aby se z něj stal základní klíč. Sekvence podrobila kontrole celý dodavatelský řetězec AI a výzkumníci varovali, že důvěryhodné zprostředkovatelské nástroje představují útočnou plochu, kterou průmysl systematicky podceňuje.

Co se stane dál

Okamžité otázky zní, zda společnost Mercor může ověřit rozsah úniku, zda další výrobci modelů budou následovat Meta a stahovat se zpět a zda soudní spory LiteLLM a Delve vytvářejí precedens pro odpovědnost vůči třetím stranám. Z dlouhodobého hlediska tento incident pravděpodobně urychlí výzvy, aby průmysl umělé inteligence přijal takový druh softwarových kusovníků a postupů podepisování závislostí, na které se již spoléhají vyspělejší softwarové sektory.

Prolomení zatím slouží jako varování, že nejnebezpečnější zranitelnosti v AI nemusí vůbec žít uvnitř modelů, ale v neokoukané instalaci, která je spojuje.

Udržujte si náskok před AI

Zabezpečení AI stacku se stává stejně důležité jako samotné modely. Uložte si AI Buzz Wire do záložek pro nejnovější vývoj AI a pokrytí odvětví AI.

Přečtěte si další zprávy o AI →