Anthropic ha avvertito in un documento IPO S-1/A rivisto che potrebbe "imminentemente" soddisfare la definizione della propria Politica di Scaling Responsabile di "progresso notevolmente accelerato attribuibile all'intelligenza artificiale" - la soglia ampiamente definita come auto-miglioramento ricorsivo, o RSI, il punto in cui i sistemi di intelligenza artificiale diventano abbastanza bravi nel migliorare l'intelligenza artificiale che i guadagni di capacità iniziano ad aumentare da soli. TechCrunch ha riportato la divulgazione lunedì, evidenziando il linguaggio sepolto nei fattori di rischio del documento che equivale a una delle dichiarazioni più consequenziali che qualsiasi laboratorio di intelligenza artificiale abbia mai fatto sulla propria traiettoria.
Il documento afferma, secondo le parole di Anthropic: "le nostre stime interne e le nostre aspettative riguardo ai modelli futuri, piuttosto che ai nostri modelli attuali, indicano che potremmo soddisfare a breve la definizione della nostra Politica di Scaling Responsabile di" progresso notevolmente accelerato attribuibile all'intelligenza artificiale ". Non abbiamo designato nessuno dei nostri attuali modelli che supera questa soglia e continuiamo a valutare i dati sottostanti." Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Cosa dice effettivamente il documento
L’avvertimento si inserisce in un fattore di rischio più ampio relativo al crescente utilizzo di sistemi di intelligenza artificiale da parte di Anthropic per accelerare la propria ricerca e sviluppo. L’azienda rivela che questa dinamica ha già prodotto salti di capacità che non è riuscita a riconoscere in tempo reale. "Di conseguenza, in passato non abbiamo identificato, e potremmo non identificare in futuro, un'accelerazione significativa nel nostro tasso di sviluppo fino a quando non si sarà verificata", afferma il documento.
L’antropologia inquadra la dinamica sottostante sia come motore che come pericolo. "L'utilizzo dell'intelligenza artificiale per contribuire a creare un'intelligenza artificiale più capace potrebbe anche rappresentare un notevole rischio per la sicurezza, in particolare se accelera bruscamente il ritmo del progresso", si legge nel documento. "Questa è una delle aree coperte dalla nostra Politica di Scaling Responsabile, che definisce i nostri piani per monitorare e mitigare i rischi mentre ci avviciniamo a quello che è stato definito 'auto-miglioramento ricorsivo.'"
La posta in gioco è insolita per un documento IPO. L’RSI è il concetto che separa le visioni ottimistiche e pessimistiche dell’IA più nettamente di quasi ogni altro. Per i ricercatori sulla sicurezza dell’intelligenza artificiale, l’auto-miglioramento ricorsivo è lo scenario fuori controllo: un sistema che migliora nel costruire sistemi migliori, accelerando oltre il punto in cui la supervisione umana rimane significativa. Per i sostenitori dell’intelligenza artificiale, è la promessa: uno strumento che si avvia verso la scoperta scientifica e aumenta la produttività che nessun processo diretto dall’uomo potrebbe eguagliare. I documenti di Anthropic riconoscono entrambe le letture, comunicando effettivamente agli investitori che la società ritiene che il fenomeno sia abbastanza vicino da giustificare una propria linea nei fattori di rischio.
La salvaguardia antropica è promettente
Oltre all’avvertimento, Anthropic si è impegnata a mantenere gli esseri umani nel circuito dello sviluppo di modelli di frontiera per il prossimo futuro. "Non prevediamo di essere in grado di utilizzare in modo sicuro Claude per progettare e costruire in modo completamente autonomo generazioni successive di modelli di frontiera senza una significativa supervisione o comprensione umana, se e quando ciò diventerà tecnicamente possibile", si legge nel documento. La società ha aggiunto che sta "considerando aggiornamenti alla nostra politica di dimensionamento responsabile per mantenere gli esseri umani sotto controllo sullo sviluppo del modello di frontiera in Anthropic".
L'azienda è stata attenta al tempo presente: nessun modello antropico attuale è stato designato come superiore alla soglia RSI. Ma la frase “potrebbero incontrarsi imminentemente” – applicata ai modelli futuri piuttosto che a quelli spediti – è un’ammissione sorprendente su come il laboratorio legge le proprie stime interne e i corsi di formazione attualmente in corso.
Divulgazione o marketing?
Gli scettici si sono affrettati a notare che un S-1 serve due tipi di pubblico contemporaneamente: è una divulgazione legale e una presentazione. Affermare che un’azienda sia all’apice di una tecnologia abbastanza potente da potersi costruire da sola può essere letto come un avvertimento o come un argomento di valutazione – o entrambi. Non esiste un modo esterno per verificare se le stime interne di Anthropic giustifichino la parola "imminentemente" e la società non ha designato alcun modello attuale che superi il limite, il che lascia l'affermazione basata sulle misurazioni del laboratorio della sua pipeline di ricerca.
Tuttavia, la tendenza di fondo descritta nel documento è osservabile dall’esterno. Le capacità di Claude nella codifica, nella matematica e nella sicurezza informatica sono migliorate notevolmente fino al 2026, e Anthropic è stata progressivamente più pubblica nell'utilizzare i propri modelli per fare ricerca, eseguire esperimenti di allineamento e assistere nel lavoro di sviluppo. La novità nel documento è che la società formalizza, in un documento informativo legalmente vincolante, che questo ciclo di feedback potrebbe presto registrare su scala ufficiale una pericolosa accelerazione.
Perché è importante oltre l'antropismo
La divulgazione arriva in un momento in cui la questione del ritmo dello sviluppo dell’IA è passata dai panel delle conferenze alle agende politiche. Se il principale laboratorio incentrato sulla sicurezza afferma in un documento della SEC che potrebbe imminentemente superare la propria soglia per l’accelerazione guidata dall’intelligenza artificiale – ammettendo allo stesso tempo di aver mancato tali accelerazioni fino a dopo che si sono verificate – i regolatori, gli investitori e i laboratori rivali ora hanno un documento a cui puntare su entrambi i lati del dibattito.
Per Anthropic, che sta preparando una delle IPO più seguite nel settore, il documento rappresenta un delicato atto di equilibrio: abbastanza avvertimento per stabilire che la società prende sul serio i suoi impegni in materia di sicurezza, e abbastanza fiducia nei suoi controlli per continuare a vendere il rialzo. Gli aggiornamenti della politica di dimensionamento responsabile dell'azienda, qualora dovessero concretizzarsi, mostreranno su quale lato di tale equilibrio si collocano le pratiche effettive del laboratorio.
Tieni traccia della nostra continua copertura della ricerca sull'intelligenza artificiale e dei rapporti sulla sicurezza dell'intelligenza artificiale per gli sviluppi sull'auto-miglioramento ricorsivo e sulla governance del modello di frontiera.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
