Anthropic sta migliorando le capacità dei suoi modelli di intelligenza artificiale circa due volte più velocemente rispetto a un anno fa, e gran parte di questa accelerazione sembra derivare dai sistemi di intelligenza artificiale che aiutano a costruire i propri successori, secondo un’analisi indipendente pubblicata giovedì dal gruppo di valutazione no-profit METR.
I risultati, riportati dall'Associated Press, hanno un peso insolito perché si basano su quello che METR ha descritto come "accesso senza precedenti" ai dati interni di Anthropic. I ricercatori del gruppo con sede a Berkeley, in California, il cui nome completo è Model Evaluation and Threat Research, sono stati invitati all’interno dell’azienda per circa 11 settimane, da metà agosto a fine ottobre, dove hanno analizzato i dati della ricerca interna e intervistato il personale.
Per i lettori che seguono il dibattito sulla sicurezza nei laboratori di frontiera, consulta la nostra copertura sulle ultime notizie sull'intelligenza artificiale.
La scoperta fondamentale: il progresso si aggrava
La stima centrale di METR è che Anthropic stia migliorando le prestazioni dei suoi modelli su compiti ben specifici circa due volte più velocemente rispetto a un anno prima. Il rapporto lo afferma in modo chiaro: “Sembra che Anthropic abbia fatto tanti progressi sui parametri di riferimento nell’ultimo anno quanti ne ha fatti tra ottobre 2023 e ottobre 2025”.
Più consequenziale è ciò che secondo METR sta guidando l’accelerazione. I ricercatori hanno affermato di essere in grado di escludere “con sicurezza” la crescita della potenza di calcolo come causa, tradizionalmente la variabile più strettamente legata alle prestazioni del modello. La loro conclusione: il miglioramento è in gran parte dovuto all’uso dell’intelligenza artificiale stessa per fare ricerca sull’intelligenza artificiale.
Anthropic ha riconosciuto che il suo chatbot Claude aiuta sempre più l’azienda a sviluppare versioni nuove e più avanzate di se stessa. Il rapporto del METR non ha rilevato “colli di bottiglia” – come restrizioni sull’elaborazione o sui dati – che ostacolino tale processo e ha osservato che mentre l’intelligenza artificiale non sta ancora fornendo “contributi altamente significativi e completamente autonomi” alle parti più importanti dell’addestramento dei modelli, i ricercatori di Anthropic hanno descritto significativi “segni di vita” che implicano che ciò potrebbe cambiare presto.
I risultati hanno portato al dibattito nel mezzo del rallentamento
Il momento è scomodo per una società il cui amministratore delegato ha esercitato pressioni per ottenere moderazione. È stato durante il periodo di valutazione del METR che il CEO di Anthropic, Dario Amodei, ha pubblicato il 12 settembre un saggio in cui esortava l'industria dell'intelligenza artificiale a "rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale" in modo che le misure di sicurezza potessero recuperare terreno.
METR ha inoltre esaminato sia il rapporto pubblico sui rischi Anthropic pubblicato in agosto, sia una versione privata, e ha concluso che il documento pubblico "nel complesso sottostima il livello di accelerazione che si stava verificando".
Risposta di Anthropic: accordo parziale, pesanti revisioni
Sam McCandlish, cofondatore di Anthropic e capo architetto dell'azienda, ha risposto giovedì al rapporto in un lungo post su X, scrivendo che molte delle conclusioni di METR corrispondono al suo punto di vista.
"L'intelligenza artificiale sta accelerando la nostra ricerca, ma è difficile dire esattamente quanto", ha scritto, aggiungendo che Anthropic prevede di pubblicare la propria analisi sul ritmo dei progressi dell'intelligenza artificiale all'interno dell'azienda nelle prossime settimane.
McCandlish ha anche difeso la decisione dell'azienda di oscurare ampie parti del rapporto, il che limitava la precisione con cui METR poteva comunicare le sue stime di accelerazione. Ha detto che condividere "esattamente ciò che sta determinando l'accelerazione non è la cosa giusta da fare", perché l'informazione è commercialmente sensibile e "rischia di fornire una tabella di marcia affinché gli altri possano andare più veloci" - il che, ha sostenuto, peggiorerebbe gli stessi rischi di cui METR è preoccupata. "Questo è un compromesso", ha scritto.
Avvertenze importanti
Il rapporto era, secondo la descrizione stessa del METR, costellato di avvertenze. Il gruppo ha affermato che la sua scoperta principale potrebbe esagerare: l’accelerazione misurata può applicarsi solo a compiti ben specifici che possono essere classificati automaticamente, piuttosto che al lavoro più disordinato e a tempo indeterminato che definisce la ricerca di frontiera. In alternativa, Anthropic potrebbe semplicemente aver sottostimato la sua linea di base precedente, facendo sembrare l’ultimo salto più grande di quello che è.
Vale la pena notare anche la posizione di METR per ragioni di trasparenza: l'organizzazione no-profit è finanziata tramite donazioni, non accetta compensi per le sue valutazioni e conduce da anni valutazioni di capacità per Anthropic, OpenAI e altri laboratori, sebbene le società partner forniscano l'accesso ai modelli e i token necessari per condurre la sua ricerca.
Perché è importante adesso
L’analisi arriva settimane prima che Anthropic si aspetti di quotarsi in borsa in quella che potrebbe essere la più grande offerta pubblica iniziale della storia, con il dibattito che vortica sulla possibilità che modelli di intelligenza artificiale sempre più capaci possano eludere il controllo umano. I sostenitori della sicurezza sostengono da tempo che la verifica indipendente – e non l’auto-segnalazione di laboratorio – è l’unica misura affidabile della velocità con cui si sta muovendo la frontiera, in particolare perché l’amministrazione Trump ha incoraggiato le aziende a vigilare autonomamente.
METR ha segnalato un’ultima preoccupazione: se la ricerca sull’intelligenza artificiale assistita dall’intelligenza artificiale iniziasse a crescere, l’accelerazione stessa potrebbe accelerare, con i rischi derivanti dai modelli avanzati che crescono a un ritmo che gli osservatori esterni non possono facilmente monitorare. Il rapporto del gruppo suggerisce che, almeno per un laboratorio leader, il circolo vizioso di cui si è preoccupato il settore non è più ipotetico: si manifesta nei dati di riferimento.
La rapidità con cui il resto del settore lo seguirà è la domanda a cui si occuperanno ora le autorità di regolamentazione, gli investitori e gli stessi dirigenti dell'azienda.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
