Când vorbești personal cu un prieten, poți să-l vezi, să-l auzi, să-i strângi mâna. Când vorbești cu un model AI, nu ai aproape niciuna dintre aceste asigurări. Noua cercetare a Anthropic vizează exact acest decalaj: compania a publicat progrese în ceea ce privește dovezile criptografice de inferență, inclusiv un sistem numit FlashProve care poate dovedi - matematic, nu contractual - că un răspuns a venit cu adevărat de la modelul pe care pretinde că este.

Problema pe care FlashProve o abordează este liniștită structurală. Un utilizator care interogă astăzi un model nu poate verifica dacă răspunsurile provin de la modelul specific pe care un dezvoltator susține că răspunde, spre deosebire de unul substituit în secret de un serviciu de rutare din motive de cost sau chiar de un atacator care a manipulat fluxul de jetoane. Judecând numai după rezultat este nesigur, chiar dacă răspunsurile arată excelent. Într-o industrie în care aceeași fereastră de chat poate fi direcționată în tăcere către un model mai ieftin sub sarcină, aceasta nu este o preocupare ipotetică - este modelul de încredere implicit. Pentru mai multă acoperire a unor astfel de lucrări, consultați știrile cercetării AI.

De ce este grea inferența dovedibilă

Scopul inferenței demonstrabile este de a permite unui utilizator cu resurse de calcul limitate - și fără acces la ponderile private ale unui model - să verifice că un răspuns dat a fost produs cu adevărat de acel model. Abordarea evidentă, a relua singur modelul, este un neîncepător: ponderile modelelor de frontieră sunt păstrate private, iar verificarea unui răspuns în raport cu acestea ar necesita un calcul mult peste ceea ce își poate permite un utilizator obișnuit, sau chiar un evaluator bine finanțat.

Abordarea lui Anthropic se bazează pe zkSNARK-uri, o familie de dovezi fără cunoștințe, cu proprietăți puternice de ascundere și eficiență, care le fac să se potrivească în mod unic pentru sarcină. Un furnizor se angajează la un model o dată, apoi generează o dovadă compactă pentru fiecare răspuns că răspunsul a fost calculat de modelul angajat - în timp ce dovezile în sine ascund ponderile modelului. Ascunderea arhitecturii nu este un scop al sistemului; ascunderea greutăților este.

Numerele

Cifrele de eficiență din postare sunt nucleul tehnic al poveștii, deoarece generarea de dovezi pentru modelele mari a fost istorică ordine de mărime prea lentă pentru a conta. Pentru Llama 4 Maverick, un model combinat de experți cu 400 de miliarde de parametri, un singur GPU NVIDIA H100 generează dovezi cu aproximativ 110 de jetoane pe secundă, cu o dimensiune a probei de aproximativ 19 MB per cerere de 1.024 de jetoane, folosind greutăți cuantificate pe 4 biți și ponderi aritmetice întregi.

Această viteză are un cost: generarea probelor durează de aproximativ 70 până la 95 de ori mai mult decât timpul de rulare a modelului în sine pe vLLM, o bibliotecă de inferențe open-source utilizată pe scară largă. Scump, cu alte cuvinte, dar pentru prima dată în același ordin de mărime ca și lucrul care se dovedește și, potrivit Anthropic, substanțial mai rapid decât sistemele open-source anterioare, care rămân în urmă cu ordine de mărime.

Claude l-a construit — și Lean auditează revendicările

Există o a doua poveste împăturită în prima. Potrivit postării, Claude însuși a produs îmbunătățirile zkSNARK-urilor pentru inferență, găsind modalități noi de a aplica instrumente de ultimă generație din literatura de criptografie și securitate, bazându-se în același timp pe principii de proiectare bine stabilite pentru sistemele de dovezi criptografice.

Anthropic este sincer cu privire la riscul care vine cu acel flux de lucru: Claude este bun la optimizare, dar adesea ia decizii greu de evaluat, mai ales în sistemele complexe mari. Contramăsura este verificarea formală. Compania oferă declarații auditabile la nivel superior în Lean, un limbaj de verificare formală, pentru garanțiile de securitate revendicate - matematică verificată de mașină care se află între optimizările inteligente ale unui AI și utilizatorii care trebuie să aibă încredere în ele.

Stiva completă este lansată sub licența Apache 2.0: postarea pe blog, un raport tehnic care explică detaliile sistemului, o descriere a protocolului, cod executabil care include un probator și două verificatoare - un verificator rapid în C++ și un verificator care se dovedește corect în Lean - plus probele Lean în sine și un vizualizator interactiv pentru a ajuta auditarea.

De la conformitate la tratatele de stimulare AI

Schițele antropice folosesc cazuri care variază de la rutină la geopolitică. Evaluatorii independenți care testează modele AI înainte și după lansare trebuie să știe că modelul pe care îl evaluează este modelul servit. Clienții care accesează un model printr-un serviciu de rutare terță parte doresc asigurarea că token-urile provin de la modelul pentru care au plătit. Iar în scenariul de securitate, un atacator cibernetic care modifică fluxul de jetoane în timp ce uzurpa identitatea unui model dat devine detectabil într-un mod pe care nu îl poate realiza niciodată inspecția de ieșire.

Cea mai ambițioasă aplicație numită în post este verificarea conformității cu cerințele de ritm AI – clasa emergentă de acorduri, voluntare și guvernamentale, care încearcă să guverneze cât de repede avansează capabilitățile de frontieră. Astăzi, astfel de angajamente se bazează pe încredere și pe documente. Dovezile criptografice de inferență oferă ceva mai aproape de inspecție: o modalitate de a demonstra, mai degrabă decât de a afirma, care model servește un anumit volum de muncă.

Cercetătorii sunt explicit că acesta este un progres intermediar, nu o agendă de cercetare finalizată și publică cu scopul declarat ca alții să preia munca și să o îmbunătățească. Această încadrare este în sine un semnal: inferența demonstrabilă s-a mutat de la un experiment de gândire al seminarului de criptografie la o problemă de inginerie pe care un laborator de frontieră caută acum să facă destul de ieftină pentru a fi implementată.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →