Meta și OpenAI au fost prinși în încălcarea datelor Mercor din lanțul de aprovizionare LiteLLM otrăvit

Un atac al lanțului de aprovizionare asupra unui singur pachet open-source s-a transformat într-unul dintre cele mai dezordonate incidente de securitate din tânăra industrie AI, expunând datele deținute de startup-ul de etichetare a datelor Mercor și forțând Meta să întrerupă pe termen nelimitat activitatea cu compania.

Încălcarea, pe care Mercor a confirmat-o pe 31 martie, a fost cauzată de un compromis al LiteLLM, un instrument open-source folosit pe scară largă, descărcat de milioane de ori pe zi. Timp de aproximativ 40 de minute, o versiune otrăvită a LiteLLM a găzduit programe malware de colectare a acreditărilor care furau acreditările de conectare și apoi le-au folosit pentru a ajunge mai adânc în sistemele conectate. Episodul s-a transformat de atunci în procese, o înghețare a contractelor și o evaluare mai amplă asupra încrederii pe care industria AI o acordă în software-ul intermediar pe care nu îl controlează. Pentru mai multe știri de ultimă oră AI despre securitate și încredere, urmăriți acoperirea noastră continuă.

Cum a funcționat atacul

Mecanica este un compromis al lanțului de aprovizionare cu software de manuale. Potrivit rapoartelor TechJuice și TechCrunch, atacatorii au reușit să împingă cod rău intenționat în LiteLLM, biblioteca open-source pe care multe companii AI o folosesc pentru a direcționa cererile între diferite modele de limbă. Deoarece LiteLLM este tratat ca o infrastructură de încredere și introdus automat în mediile de producție, construcția rău intenționată se răspândește rapid.

Timp de aproximativ 40 de minute, instrumentul manipulat a colectat în liniște acreditările de la oricine îl rulează. Aceste acreditări au fost apoi folosite pentru a accesa sisteme suplimentare, agravând daunele dincolo de punctul de sprijin inițial. Mercor, a cărei activitate depinde de gestionarea unor volume mari de date sensibile ale contractorilor și clienților, a fost printre cele mai expuse.

O revendicare de extorcare de 4 terabyte

După dezvăluire, un grup de hackeri a susținut că deține aproximativ 4 terabytes de date furate din sistemele Mercor. Transportul revendicat include profile de candidați, informații de identificare personală, date despre angajator, cod sursă și chei API, un inventar complet al exact tipului de material pe care îl centralizează o companie de etichetare a datelor. Mercor nu a confirmat și nici nu a infirmat autenticitatea datelor revendicate, spunând doar că investighează.

Ambiguitatea este în sine o problemă. Pentru contractanții, angajatorii și partenerii ale căror informații pot circula, incertitudinea cu privire la ceea ce a fost luat efectiv face imposibilă evaluarea expunerii acestora.

Meta se trage înapoi

Impactul comercial a fost rapid. Meta și-a întrerupt contractele cu Mercor pe termen nelimitat, o decizie făcută și mai izbitoare de istoria dintre cele două companii. Potrivit TechJuice, Meta a continuat să lucreze cu Mercor chiar și după ce a cheltuit 14,3 miliarde de dolari pentru a achiziționa rivalul Mercor, Scale AI, un semn al cât de mult prețuia relația. Faptul că o încălcare direcționată printr-un instrument terță parte ar putea rupe o astfel de legătură subliniază cât de fragile au devenit aceste relații cu furnizorii.

OpenAI a confirmat că își investighează propria expunere în încălcare, dar, la momentul raportării, nu și-a întrerupt contractele Mercor. Mulți alți producători mari de modele își cântăresc relațiile cu startup-ul, deși nu au fost confirmate public alte nume.

Procese și întrebări privind răspunderea

Consecințele juridice se adună la fel de repede ca și cele comerciale. Cinci dintre contractorii Mercor au intentat procese pentru presupusa expunere a datelor cu caracter personal. Un proces analizat de TechCrunch a numit LiteLLM și startup-ul de conformitate AI Delve drept co-pârâți, pe motiv că LiteLLM a folosit Delve pentru a-și obține certificările de securitate. Această legătură deschide o întrebare spinoasă cu privire la dacă furnizorii de conformitate poartă responsabilitatea atunci când instrumentele pentru care garantează sunt ulterior transformate în arme.

Aceste procese ar putea ajuta la definirea unde ajunge răspunderea atunci când o încălcare este direcționată prin software-ul open-source, o întrebare la care industria AI a evitat până acum să răspundă.

Suprafața de atac subexaminată a industriei

Cercetătorii în domeniul securității spun că lecția mai profundă este structurală. Stiva AI depinde acum de o rețea de instrumente intermediare de încredere, routere, evaluatori, straturi de conformitate și platforme de etichetare care se află între furnizorii de modele și clienții lor. Fiecare este un potențial punct de sufocare și majoritatea primesc mult mai puțin control decât modelele de frontieră în sine.

LiteLLM este ilustrativ. Este descărcat de milioane de ori pe zi, gestionează acreditările prin design și rulează în mediile de producție ale unora dintre cele mai bine finanțate companii de pe pământ. Cu toate acestea, o fereastră de manipulare de 40 de minute a fost suficientă pentru a o transforma într-o cheie schelet. Secvența a pus sub supraveghere întregul lanț de aprovizionare AI, cercetătorii avertizând că instrumentele intermediare de încredere reprezintă o suprafață de atac pe care industria a subexaminat-o sistematic.

Ce se întâmplă în continuare

Întrebările imediate sunt dacă Mercor poate verifica amploarea scurgerii, dacă mai mulți producători de modele îl vor urma pe Meta în retragerea și dacă procesele LiteLLM și Delve stabilesc un precedent pentru răspunderea față de terți. Pe termen lung, incidentul este probabil să accelereze solicitările către industria AI de a adopta tipul de liste de materiale software și practici de semnare a dependenței pe care se bazează deja sectoarele software mai mature.

Deocamdată, încălcarea reprezintă un avertisment că cele mai periculoase vulnerabilități din AI s-ar putea să nu trăiască deloc în interiorul modelelor, ci în instalațiile nefaste care le conectează.

Rămâi înaintea AI

Securitatea stivei AI devine la fel de importantă ca și modelele în sine. Marcați AI Buzz Wire pentru cele mai recente evoluții AI și acoperirea industriei AI.

Citiți mai multe știri AI →