NSA, CISA și FBI numesc șase firme chineze de inteligență artificială în consultanță de distilare la scară industrială

Agenția de Securitate Națională, Agenția de Securitate Cibernetică și Infrastructură și FBI au acuzat împreună șase companii de inteligență artificială din China că au desfășurat campanii de distilare la scară industrială împotriva modelelor de frontieră ale Statelor Unite, într-un aviz publicat marți. Agențiile spun că DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun și Z.AI au extras miliarde de jetoane prin milioane de schimburi și solicitări de la modelele AI de frontieră din SUA – inclusiv variante de Claude, GPT, Gemini și Grok – de cel puțin la sfârșitul anului 2024, o activitate despre care se spune că a avut loc probabil cu conștientizarea guvernului chinez.

Avizul, desemnat AA26-251A, este atent să remarcă faptul că distilarea este o tehnică legitimă și utilizată pe scară largă în cercetarea AI, în care un model mai mic este antrenat pentru a reproduce rezultatele unuia mai mare. Ceea ce descriu cele trei agenții este diferit în natură: distilare agresivă, rău intenționată și direcționată efectuată la scară industrială, formând ceea ce documentul numește nucleul - nu doar un supliment - al strategiei de dezvoltare a AI a companiilor vizate. Pentru cele mai recente știri despre politica AI, urmăriți acoperirea continuă de către AI Buzz Wire a agendei de reglementare de la Washington. cele mai recente știri despre politica AI

Cine este numit și ce ar fi luat

Avizul atribuie anumite campanii anumitor companii. Se spune că DeepSeek a desfășurat campanii de distilare organizate începând cu cel puțin 2024, vizând capacități de raționament, optimizări specializate și funcții specifice domeniului care au fost folosite pentru a antrena modelele sale R1 și V3. Alibaba este acuzată că a folosit distilare la scară industrială pentru a-și îmbunătăți familia de modele Qwen, care a devenit una dintre cele mai descărcate familii de modele deschise din lume.

Moonshot AI, MiniMax, StepFun și Z.AI sunt, de asemenea, acuzați că s-au implicat în distilarea cunoștințelor rău intenționate a modelelor din SUA, deși avizul publică mai puține detalii specifice companiei pentru cele patru. Toate cele șase firme au construit modele care acum concurează direct cu sistemele de frontieră americane în ceea ce privește reperele și prețul.

Cum ar fi funcționat campaniile

Potrivit documentului, companiile au direcționat cererile de distilare prin mai multe căi pentru a obține acces neautorizat, încălcând termenii de utilizare ai companiilor americane. Acestea au inclus interfețele native de programare a aplicațiilor ale modelelor, furnizorii de cloud la distanță și agregatorii terți care obscurcă automat metadatele utilizatorului pentru a evita detectarea.

Agențiile descriu, de asemenea, o piață gri de proxy cunoscută sub numele de „stații de transfer” folosite pentru a ocoli restricțiile geografice ale furnizorilor americani, pentru a încălca termenii și condițiile de serviciu, pentru a sustrage garanțiile și pentru a submina trasabilitatea. Pentru a reduce costurile în timpul campaniilor de această amploare, avizul spune că companiile s-au angajat în achiziționarea în bloc de abonamente premium care au fost apoi împărțite între echipele de dezvoltatori.

Tactici mai avansate au inclus extragerea raționamentului în lanț de gândire, failover automat între căile de acces în timpul încercărilor de blocare și cadre sofisticate de evaluare a calității concepute pentru a detecta când un furnizor a implementat contramăsuri defensive. Rezultatul, scriu agențiile, este că companiile care desfășoară distilare la scară industrială văd termene de dezvoltare a IA semnificativ mai scurte și cheltuieli financiare reduse atunci când antrenează un model de frontieră.

Trei recomandări pentru companiile AI din SUA

Avizul se încheie cu trei acțiuni imediate pentru furnizorii americani de inteligență artificială. În primul rând, implementați detectarea și atenuarea cuprinzătoare: monitorizați solicitările, conturile, rețelele și comportamentele anormale și rău intenționate și urmăriți rapoartele abonament-utilizare, utilizarea maximă imediată din conturi noi și modelele de debit la scară întreprindere.

În al doilea rând, implementați modificări de răspuns vizate. Agențiile recomandă modificarea subtilă a răspunsurilor servite la tentativele suspectate de distilare rău intenționate pentru a atenua profiturile campaniilor - o formă de contramăsuri care degradează valoarea producțiilor furate fără a alerta distilatorul.

În al treilea rând, stabiliți partajarea informațiilor între organizații pentru a corela activitatea între furnizorii de modele, platformele cloud și agregatorii API, astfel încât campaniile distribuite în mod deliberat între mai mulți furnizori pentru a evita detectarea într-un singur punct să poată fi recunoscute ca o singură operațiune.

O nouă fază în disputa IA dintre SUA și China

Publicația apare pe fondul unei escalade mai ample a retoricii Washingtonului despre dezvoltarea IA din China. Reuters a raportat că Statele Unite au acuzat firmele chineze de inteligență artificială de copiere rău intenționată a tehnologiei americane de inteligență artificială, iar avizul a fost acoperit marți de CyberScoop, Nextgov și alte instituții care urmăresc comunitatea de informații. Documentul încadrează mizele în termeni explicit strategici, descriind activitatea ca extragerea sistematică a funcționalităților și capabilităților proprietare care amenință conducerea tehnologică a SUA.

Pentru cele șase companii denumite, consultanța crește costul reputațional și comercial al deservirii clienților occidentali. Alibaba și DeepSeek, în special, au cultivat ecosisteme pentru dezvoltatori în afara Chinei și ambele au apărut în conversațiile privind achizițiile întreprinderilor care ar avea acum o întrebare suplimentară de conformitate. Niciuna dintre cele șase companii nu face obiectul direct recomandărilor consultanței – documentul se adresează companiilor americane de inteligență artificială – dar efectul său este de a oficializa ceea ce laboratoarele americane au susținut în mod privat timp de doi ani: că modelele lor au fost copiate sistematic la scară.

Avizul ajunge, de asemenea, în mijlocul unei dezbateri nerezolvate în cadrul industriei AI despre unde se termină învățarea legitimă și unde începe furtul. Distilarea din modele deschise, cercetări publicate și rezultate publice este o practică standard; autorii avizului trag linia la extragerea funcționalității proprietare restricționate prin înșelăciune, sustragerea controalelor de acces și încălcarea condițiilor de utilizare. Modul în care această linie este pusă în aplicare - prin contramăsuri tehnice, drept contractual sau politica de export - este acum întrebarea la care industria și autoritățile sale de reglementare vor trebui să răspundă.

Stai înaintea AI

Urmărește cele mai recente evoluții în domeniul inteligenței artificiale și știrile de ultimă oră privind inteligența artificială, pe măsură ce lupta politică privind securitatea modelului se intensifică.

Citiți mai multe știri AI →