Anthropic ha pubblicato sabato una serie dettagliata di automisurazioni intese a consentire al pubblico, ai giornalisti e ai governi di monitorare la velocità con cui l'intelligenza artificiale di frontiera viene effettivamente sviluppata, incluso un indice primo nel suo genere di quanta parte della ricerca dell'azienda è ora eseguita dall'intelligenza artificiale e la rivelazione che circa 30.000 agenti di intelligenza artificiale stanno svolgendo attività di ricerca e ingegneria all'interno dell'azienda in un dato momento.

Il post, intitolato “Misure per comprendere il ritmo dello sviluppo dell’intelligenza artificiale all’interno dei laboratori di frontiera”, arriva al centro della discussione più importante nel settore: se lo sviluppo di frontiera debba essere deliberatamente rallentato. Dario Amodei ha chiesto un coordinamento per “velocizzare la frontiera”, una proposta che ha scosso i mercati, avviato una causa contro i consumatori per presunta collusione sul ritmo tra i principali laboratori e spinto il presidente Trump ad annunciare una “Forza AI” dedicata a prevenire qualsiasi rallentamento. La definizione di Anthropic è esplicita riguardo a questo contesto: “Mentre il mondo considera di rallentare il ritmo dello sviluppo dell’intelligenza artificiale di frontiera, il pubblico ha bisogno di più informazioni”.

Tre misurazioni per monitorare i progressi dell'IA

L'azienda ha individuato tre aree di misurazione che, a suo avviso, qualsiasi laboratorio di frontiera potrebbe pubblicare regolarmente:

1. Quanta parte della ricerca e sviluppo sull'intelligenza artificiale viene eseguita dall'intelligenza artificiale stessa. Anthropic ha creato un prototipo di "Anthropic R&D Automation Index" catalogando ogni tipo di lavoro di ricerca e sviluppo sull'intelligenza artificiale svolto presso l'azienda, valutando il grado di automatizzazione di ciascuna attività attualmente e aggregando i risultati. Le valutazioni utilizzano la scala pubblica del "Livello di automazione" di Epoch AI, che va da AL0 (nessun coinvolgimento dell'IA) a AL5 (l'AI funziona in modo completamente autonomo senza alcun essere umano nel circuito). Su questa scala, AL3 significa che l’AI “collabora” – svolgendo grandi quantità di lavoro sotto la stretta direzione umana – mentre AL4 significa che l’AI “conduce”, completando la maggior parte di un’attività end-to-end da un prompt di alto livello mentre un essere umano supervisiona.

Lo scopo dell'indice è misurare quanto si avvicina un laboratorio all'auto-miglioramento ricorsivo, un modello che costruisce in modo completamente autonomo il proprio successore. Anthropic osserva che i modelli che accelerano lo sviluppo dell’intelligenza artificiale “potrebbero rendere più difficile per gli esseri umani comprendere o controllare questi sistemi”.

2. Quanto bene vengono supervisionate le azioni degli agenti IA. Qui è dove appare la cifra di 30.000. Nell'agosto 2026, circa 30.000 agenti svolgevano contemporaneamente lavori di ricerca e ingegneria all'interno della piattaforma interna più utilizzata di Anthropic, delegando compiti l'uno all'altro e lavorando in modo semi-autonomo per lunghi periodi. L'azienda misura tre aspetti relativi alla supervisione di tali agenti: copertura (la quota di azioni dell'agente che passa attraverso un monitor prima o dopo l'esecuzione), la latenza di revisione (la rapidità con cui le azioni contrassegnate vengono riviste, prima da un monitor automatizzato e poi da un essere umano) e il tasso di escalation (la quota di attività bloccate, reindirizzate o contrassegnate per la revisione).

I dati di monitoraggio di Anthropic finora suggeriscono che i singoli agenti raramente si comportano male, ma l’azienda avverte che “quando ci sono milioni o miliardi di agenti che operano nell’economia, anche eventi rari possono accadere regolarmente”.

3. Come viene allocato il calcolo. La terza misurazione tiene traccia del modo in cui vengono distribuite le risorse di calcolo del laboratorio: l'input grezzo correlato alle capacità del modello. Insieme agli altri due parametri, Anthropic sostiene che questo offre agli outsider un modo per correlare gli input del modello con gli output del modello, integrando le valutazioni delle capacità che l’azienda già pubblica attraverso i suoi rapporti sui rischi della Politica di Scaling Responsabile.

I numeri si muoverebbero in caso di rallentamento

La linea più politicamente acuta del post è rivolta direttamente al dibattito sul ritmo: Anthropic afferma che "si aspetterebbe che questi numeri cambino se ci fosse un coordinamento sul ritmo della frontiera, come richiesto dal CEO di Anthropic Dario Amodei". In altre parole, se il settore rallenta davvero, questi parametri sono il modo in cui il pubblico potrebbe verificarlo – e se le aziende affermassero di tenere il passo mentre i loro numeri continuano a crescere, le misurazioni metterebbero in luce anche questo.

La verifica indipendente è il pezzo mancante

Anthropic riconosce la debolezza centrale dei parametri auto-riportati: utilizza i propri modelli per valutare i propri sistemi, il che significa che il modello del “giudice” potrebbe condividere i punti ciechi del modello sottoposto a verifica. L'azienda rileva inoltre la mancanza di una metodologia comune tra i laboratori, il che rende difficili i confronti.

Il rimedio proposto è quello di incorporare valutatori indipendenti di terze parti provenienti da più organizzazioni all’interno di Anthropic, dando loro l’accesso a processi, sistemi e dati interni paragonabili a ciò che vedono i team interni di valutazione del rischio. Tali terze parti verificherebbero le pratiche di sicurezza, segnalerebbero gli incidenti e monitorerebbero le nuove metriche. La società afferma che METR, l’organizzazione no-profit di valutazione, ha precedentemente collaborato in modo indipendente con la sua piattaforma di monitoraggio offline e che prevede di pubblicare queste misurazioni regolarmente in una forma che altri possano verificare.

Le misurazioni si collegano alla più ampia proposta di Advanced AI Framework di Anthropic, che stabilisce le “regole della strada” per i rilasci di modelli di frontiera, compresi gli obblighi di trasparenza che i governi potrebbero richiedere, come rapporti di rischio standardizzati.

Un test per l'intero settore

Il significato più profondo del post potrebbe essere competitivo. Anthropic sta di fatto sfidando ogni laboratorio di frontiera a pubblicare gli stessi numeri, sostenendo che "qualsiasi sviluppatore di frontiera potrebbe pubblicare queste misure regolarmente, utilizzando una metodologia pubblica". Se i rivali diminuiscono, il contrasto diventa un punto di riferimento nel dibattito sulla sicurezza; se sono d’accordo, l’industria ottiene il primo parametro comune per valutare la velocità con cui l’intelligenza artificiale sta realmente avanzando.

Per ora, i numeri sono stati riportati da un’azienda con un evidente interesse per la conversazione sul ritmo. Ma rappresentano qualcosa che è mancato al dibattito: misurazioni concrete e ripetibili che mostrino se la frontiera sta accelerando, rimanendo stabile o effettivamente rallentando.

Stai al passo con l'intelligenza artificiale

Divulgazioni di laboratori di frontiera come questa arrivano settimanalmente. Per ulteriori ricerche innovative sull'intelligenza artificiale e copertura del settore, segui AI Buzz Wire.

Leggi le ultime notizie sull'AI →