Quando parli di persona con un amico, puoi vederlo, ascoltarlo, stringergli la mano. Quando parli con un modello di intelligenza artificiale, non hai quasi nessuna di queste garanzie. La nuova ricerca di Anthropic mira proprio a questa lacuna: l'azienda ha pubblicato progressi sulle prove di inferenza crittografiche, incluso un sistema chiamato FlashProve che può dimostrare - matematicamente, non contrattualmente - che una risposta è realmente arrivata dal modello che afferma di essere.
Il problema affrontato da FlashProve è silenziosamente strutturale. Un utente che interroga un modello oggi non può verificare che le risposte provengano dal modello specifico che uno sviluppatore sostiene stia rispondendo, al contrario di uno segretamente sostituito da un servizio di routing per ragioni di costo, o anche da un utente malintenzionato che ha manomesso il flusso di token. A giudicare solo dal risultato non è affidabile, anche se le risposte sembrano eccellenti. In un settore in cui la stessa finestra di chat può indirizzarsi silenziosamente a un modello più economico sotto carico, questa non è una preoccupazione ipotetica: è il modello di fiducia predefinito. Per una maggiore copertura di lavori come questo, consulta le nostre notizie sulla ricerca sull'intelligenza artificiale.
Perché l'inferenza dimostrabile è difficile
L'obiettivo dell'inferenza dimostrabile è consentire a un utente con risorse computazionali limitate - e senza accesso ai pesi privati di un modello - di verificare che una determinata risposta sia stata effettivamente prodotta da quel modello. L'approccio ovvio, rieseguire il modello da soli, è un fallimento: i pesi dei modelli di frontiera sono mantenuti privati e controllare una risposta rispetto ad essi richiederebbe un calcolo ben oltre ciò che un utente tipico, o anche un valutatore ben finanziato, può permettersi.
L'approccio di Anthropic si basa su zkSNARKs, una famiglia di dimostrazioni a conoscenza zero con forti proprietà di occultamento ed efficienza che le rendono particolarmente adatte al compito. Un fornitore si impegna a un modello una volta, quindi genera una prova compatta per ciascuna risposta che la risposta è stata calcolata dal modello impegnato, mentre le prove stesse nascondono i pesi del modello. Nascondere l'architettura non è un obiettivo del sistema; nascondere i pesi lo è.
I numeri
I dati sull'efficienza nel post sono il nucleo tecnico della storia, perché la generazione di prove per modelli di grandi dimensioni è stata storicamente un ordine di grandezza troppo lento per avere importanza. Per Llama 4 Maverick, un modello con una combinazione di esperti da 400 miliardi di parametri, una singola GPU NVIDIA H100 genera prove a circa 110 token al secondo, con una dimensione di prova di circa 19 MB per richiesta di 1.024 token, utilizzando pesi quantizzati a 4 bit e aritmetica intera nella precompilazione.
Questa velocità ha un costo: la generazione di prove richiede da 70 a 95 volte il tempo della GPU necessario per eseguire semplicemente il modello stesso su vLLM, una libreria di inferenza open source ampiamente utilizzata. Costoso, in altre parole, ma per la prima volta nello stesso ordine di grandezza dell'oggetto dimostrato e, secondo Anthropic, sostanzialmente più veloce dei precedenti sistemi open source, che restano indietro di diversi ordini di grandezza.
Claude lo ha costruito e Lean verifica le affermazioni
C'è una seconda storia piegata all'interno della prima. Secondo il post, Claude stessa ha prodotto i miglioramenti su zkSNARK per l'inferenza, trovando nuovi modi per applicare strumenti all'avanguardia dalla letteratura sulla crittografia e sulla sicurezza, facendo affidamento su principi di progettazione consolidati per i sistemi di prova crittografica.
Anthropic è sincero riguardo al rischio che deriva da questo flusso di lavoro: Claude è bravo nell'ottimizzazione, ma spesso prende decisioni difficili da valutare, soprattutto in sistemi grandi e complessi. La contromisura è la verifica formale. L'azienda fornisce dichiarazioni verificabili di alto livello in Lean, un linguaggio di verifica formale, per le garanzie di sicurezza dichiarate: matematica controllata dalla macchina che si frappone tra le ottimizzazioni intelligenti di un'intelligenza artificiale e gli utenti che devono fidarsi di loro.
L'intero stack viene rilasciato sotto la licenza Apache 2.0: il post sul blog, un rapporto tecnico che spiega i dettagli del sistema, una descrizione del protocollo, il codice eseguibile incluso un prover e due verificatori - un verificatore veloce in C++ e un verificatore dimostrabilmente corretto in Lean - oltre alle prove Lean stesse e un visualizzatore interattivo per aiutare l'auditing.
Dalla compliance ai trattati sull'AI Pacing
Gli schizzi antropici utilizzano casi che vanno dalla routine alla geopolitica. I valutatori indipendenti che testano i modelli di intelligenza artificiale prima e dopo il rilascio devono sapere che il modello che stanno valutando è quello servito. I clienti che accedono a un modello tramite un servizio di routing di terze parti desiderano la garanzia che i token provengano dal modello per cui hanno pagato. E nello scenario della sicurezza, un cyberattaccante che modifica il flusso di token impersonando un dato modello diventa rilevabile in un modo che l’ispezione dell’output da sola non potrà mai raggiungere.
L’applicazione più ambiziosa menzionata nel post è la verifica della conformità ai requisiti di stimolazione dell’intelligenza artificiale: la classe emergente di accordi, volontari e governativi, che tentano di governare la velocità con cui avanzano le capacità di frontiera. Oggi tali impegni si basano sulla fiducia e sulla documentazione. Le prove di inferenza crittografiche offrono qualcosa di più vicino all'ispezione: un modo per dimostrare, piuttosto che affermare, quale modello serve un dato carico di lavoro.
I ricercatori chiariscono chiaramente che si tratta di un progresso intermedio, non di un programma di ricerca completo, e pubblicano con l'obiettivo dichiarato che altri prendano il lavoro e lo migliorino. Questa definizione è di per sé un segnale: l’inferenza dimostrabile si è spostata dall’esperimento mentale di un seminario di crittografia a un problema di ingegneria che un laboratorio di frontiera sta ora apertamente cercando di rendere abbastanza economico da implementare.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
