Lunedì la richiesta di IPO modificata di Anthropic ha fatto notizia lunedì per i suoi dati finanziari: circa 17 miliardi di dollari di entrate nel terzo trimestre contro 895,4 miliardi di dollari di impegni di calcolo. Ma nascosta tra i fattori di rischio dell’S-1A rivisto c’è una rivelazione che potrebbe rivelarsi più consequenziale: la società afferma che potrebbe essere sul punto di superare la propria soglia di auto-miglioramento ricorsivo, il punto in cui i sistemi di intelligenza artificiale diventano capaci di accelerare il proprio sviluppo.
TechCrunch ha riferito che il documento sembra avvertire che Anthropic è sul punto di creare un modello capace di auto-miglioramento ricorsivo, comunemente noto come RSI, la fase in cui l'intelligenza artificiale diventa così brava a migliorare l'intelligenza artificiale che i guadagni di capacità iniziano ad aumentare drammaticamente. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Cosa dice effettivamente il documento
Anthropic utilizza già l’intelligenza artificiale per accelerare la propria ricerca e sviluppo. Nella dichiarazione modificata, l'azienda avverte che questa pratica è bidirezionale: "L'uso dell'intelligenza artificiale per contribuire a creare un'intelligenza artificiale più capace potrebbe anche rappresentare un notevole rischio per la sicurezza, in particolare se accelera notevolmente il ritmo del progresso. Questa è una delle aree coperte dalla nostra politica di ridimensionamento responsabile, che definisce i nostri piani per monitorare e mitigare i rischi mentre ci avviciniamo a quello che è stato definito "auto-miglioramento ricorsivo".
Il nuovo linguaggio basato sui fattori di rischio va oltre quanto affermato in precedenza da Anthropic nei suoi documenti pubblici. L'azienda rivela che, in passato, non è riuscita a riconoscere importanti balzi di capacità nel momento in cui si sono verificati: "in passato non abbiamo identificato, e potremmo non identificare in futuro, un'accelerazione significativa nel nostro tasso di sviluppo fino a quando non si sarà verificata."
Poi arriva la dichiarazione che attira l'attenzione dell'industria. Secondo il documento: "le nostre stime interne e le nostre aspettative riguardo ai modelli futuri, piuttosto che ai nostri modelli attuali, indicano che potremmo soddisfare a breve la definizione della nostra Politica di Scaling Responsabile di" progresso notevolmente accelerato attribuibile all'intelligenza artificiale "."
Anthropic aggiunge che "non ha designato nessuno dei nostri attuali modelli che supera questa soglia" e continua a valutare i dati sottostanti. In altre parole: nessun modello attuale di Claude è idoneo, ma le proiezioni interne dell'azienda suggeriscono che la prossima generazione potrebbe farlo.
Mantenere gli esseri umani nel giro
Oltre all’avvertimento, Anthropic si impegna a mantenere le persone sotto controllo sullo sviluppo del modello. "Non prevediamo di essere in grado di utilizzare in modo sicuro Claude per progettare e costruire in modo completamente autonomo generazioni successive di modelli di frontiera senza una significativa supervisione o comprensione umana, se e quando ciò diventerà tecnicamente possibile", si legge nel documento. "Di conseguenza, stiamo valutando la possibilità di aggiornare la nostra Politica di Scaling Responsabile per mantenere il controllo degli esseri umani sullo sviluppo del modello di frontiera in Anthropic."
La portata del ruolo dell’intelligenza artificiale nella ricerca di Anthropic sta crescendo rapidamente. Business Insider ha riferito che l’intelligenza artificiale ora guida circa un quarto del lavoro interno di ricerca e sviluppo di Anthropic, in aumento rispetto all’1% di marzo – un grafico che gli addetti ai lavori del settore hanno definito uno dei più importanti nel campo dell’intelligenza artificiale.
Uno spostamento del discorso: dalle parole d'ordine al bilancio
Quando il termine RSI è diventato popolare all’inizio di quest’anno, molti nel settore lo hanno liquidato come una parola d’ordine o, nella migliore delle ipotesi, come un obiettivo troppo poco definito per essere raggiunto, dimostrato o regolamentato. Questo scetticismo è più difficile da sostenere ora che il concetto appare, con una precisa definizione interna, in un documento che una società è legalmente tenuta a depositare presso la SEC prima di vendere azioni al pubblico.
Inoltre, Anthropic non è il solo a considerare l’auto-miglioramento come un presupposto di pianificazione a breve termine. Il cofondatore di Google Sergey Brin ha descritto l'industria come una corsa verso un "tapis roulant RSI" in cui i modelli aiutano a costruire i loro successori, e l'ex cofondatore di OpenAI John Schulman ha detto che si aspetta un auto-miglioramento ricorsivo entro circa tre o quattro anni. Ciò che distingue la divulgazione di Anthropic è la sua formalità: una soglia definita, un processo di misurazione interno e una dichiarazione pubblica di quando l'azienda prevede di superarla.
Perché l'RSI è il tripwire che entrambi i campi guardano
RSI ha significati diversi a seconda di chi lo descrive. Per i ricercatori sulla sicurezza dell’intelligenza artificiale, rappresenta il punto di non ritorno: lo scenario in cui i sistemi di intelligenza artificiale migliorano se stessi più velocemente di quanto gli esseri umani possano comprendere, convalidare o intervenire, sfuggendo potenzialmente al controllo umano. Per gli ottimisti dell’IA, il premio è la stessa dinamica: i sistemi che si migliorano in modo affidabile si tradurrebbero in produttività e scoperte scientifiche straordinarie.
L'inquadratura di Anthropic riconosce entrambe le possibilità. La divulgazione si trova in un documento il cui pubblico principale sono gli investitori, e gli scettici notano che un S-1 funziona sia come divulgazione che come marketing: un’affermazione secondo cui la società è vicina alla costruzione di un’intelligenza artificiale auto-migliorante potrebbe essere facilmente letta come un argomento a favore della sua valutazione.
Esiste, tuttavia, un fondamento concreto per questa affermazione. Le capacità di Claude nella codifica, nella matematica e nella sicurezza informatica sono progredite notevolmente fino al 2026, e la politica di ridimensionamento responsabile di Anthropic definisce lo standard di "progresso notevolmente accelerato attribuibile all'intelligenza artificiale" che l'azienda ora afferma di poter soddisfare a breve.
Un test per la governance dell'IA
La divulgazione arriva nel mezzo di crescenti dibattiti politici sulla supervisione dell’intelligenza artificiale di frontiera, dal quadro della Casa Bianca per la revisione dei modelli di frontiera alle discussioni internazionali sulla governance informatica. Se un importante laboratorio di intelligenza artificiale designasse formalmente un modello in grado di soddisfare la propria soglia di progresso accelerato, ciò farebbe scattare gli obblighi previsti dalla politica di scaling responsabile di Anthropic e sarebbe il primo test nel mondo reale per verificare se tali strutture industriali possono rallentare o modellare nella pratica la corsa alle capacità.
Per ora, Anthropic afferma che nessun modello ha oltrepassato il limite. Il documento suggerisce che la società si aspetta che quel limite venga presto superato e chiede agli investitori di capire, in anticipo, cosa intende fare al riguardo.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
