Il cofondatore di Google Sergey Brin afferma che lo sviluppo dell'intelligenza artificiale dell'azienda ha raggiunto il punto in cui i suoi modelli aiutano attivamente a costruire i propri successori: una dinamica nota come auto-miglioramento ricorsivo o RSI. Intervenendo in una tavola rotonda sulla creazione del nuovo modello Gemini 4 di Google, Argon, Brin ha affermato che lo sviluppo dell'intelligenza artificiale sta accelerando internamente e che la società sta "iniziando a entrare nel tapis roulant RSI".

"E ora i nostri ricercatori e il modello lavorano fianco a fianco per realizzare la prossima versione del modello", ha detto Brin durante la tavola rotonda, condivisa da Google mercoledì. I suoi commenti sono stati riportati per la prima volta da Business Insider. Le osservazioni collocano il cofondatore di Google – che ha assunto un ruolo sempre più attivo nel programma Gemini – direttamente all’interno del dibattito più importante del settore: se i sistemi di intelligenza artificiale presto miglioreranno se stessi più velocemente di quanto possano fare gli ingegneri umani. Per una copertura continua di quel dibattito, segui le nostre notizie sulla ricerca sull'intelligenza artificiale.

Ciò che Brin ha indicato come prova

Brin ha sottolineato la cadenza dei rilasci dei modelli Flash di Google che hanno portato a Gemini 4 come prova del fatto che il ciclo di feedback sta già cambiando. L’implicazione è che ogni generazione di modelli riduce il tempo necessario per produrre quella successiva, come composto di codifica automatizzata, valutazione e strumenti di ricerca.

La documentazione sulla sicurezza di Google per l'Argon sembra supportare parti di questa immagine. Secondo il rapporto sulla sicurezza del modello, "gli agenti di intelligenza artificiale ora operano come assistenti ad alto rendimento che creano la maggior parte del codice di produzione e delle correzioni di bug, sebbene le modifiche al codice rimangano soggette a revisione umana prima dell'invio". In altre parole, l’azienda sta descrivendo un flusso di lavoro in cui i modelli producono la maggior parte del codice, mentre gli esseri umani hanno l’ultima parola su ciò che viene spedito.

Il dibattito più ampio sull'RSI

Anthropic e OpenAI hanno anche affermato che l’intelligenza artificiale potrebbe essere sull’orlo dell’RSI, e un rapporto della società Gladstone AI pubblicato questa settimana illustra il modo in cui le aziende di intelligenza artificiale si stanno muovendo verso di essa. Secondo il resoconto del rapporto di Business Insider, la maggior parte dei ricercatori intervistati – che lavorano presso aziende tra cui Anthropic, OpenAI e Google DeepMind – ritiene che la RSI inizierà entro i prossimi 3-12 mesi e potrebbe arrivare prima in assenza di un intervento del governo.

Perché la cronologia è importante

L’auto-miglioramento ricorsivo non è solo un’altra pietra miliare delle capacità. Se i modelli diventassero la forza lavoro primaria per la stessa ricerca sull’intelligenza artificiale, il ritmo del progresso diventerebbe più difficile da prevedere e da governare. Questo è il motivo per cui il mese scorso la RSI è stata al centro degli avvertimenti di eminenti ricercatori sull’intelligenza artificiale secondo cui gli esseri umani potrebbero perdere il controllo della tecnologia se non vengono messi in atto sufficienti guardrail.

L'inquadramento di Brin era particolarmente pratico. Piuttosto che trattare il tapis roulant RSI come un’ipotesi lontana, lo ha descritto come una condizione operativa del programma di sviluppo del modello di Google: ricercatori e modelli lavorano “mano nella mano” su ogni versione successiva.

I Contrappunti

Non tutti all'interno di Google sono d'accordo sulla velocità con cui gira il volano. Un articolo nello stesso ciclo di notizie ha rilevato che Google DeepMind non ha riscontrato alcuna accelerazione significativa nella ricerca e nello sviluppo dell'apprendimento automatico nelle proprie valutazioni, una conclusione che diverge dalla retorica più allarmata proveniente da alcuni rivali. Il divario tra queste due letture – il cofondatore di Google che descrive un tapis roulant che ha iniziato a muoversi e i ricercatori sulla sicurezza di Google che non misurano alcuna accelerazione drammatica – è di per sé un’istantanea di quanto incerto rimanga il campo riguardo alla propria traiettoria.

Ci sono anche avvertenze strutturali. Gli agenti che creano la maggior parte del codice di produzione operano ancora sotto la revisione umana, e gran parte di ciò che oggi conta come "intelligenza artificiale che automatizza la ricerca sull'intelligenza artificiale" implica restringere gli spazi di ricerca, generare soluzioni candidate ed eseguire valutazioni: assistenza ad alto effetto piuttosto che scoperta autonoma.

Cosa guardare

Tre cose diranno agli osservatori se la metafora del tapis roulant di Brin è vera. Innanzitutto, la cadenza di rilascio dei modelli di Google, dove intervalli più brevi tra le generazioni sarebbero il segnale visibile più chiaro. In secondo luogo, se altri laboratori di frontiera inizieranno a quantificare quanta parte della loro pipeline di ricerca e ingegneria è eseguita secondo un modello, come ha fatto il rapporto sulla sicurezza dell'Argon di Google. In terzo luogo, se i governi agiranno sulla base di rapporti come quello di Gladstone AI, i cui ricercatori intervistati hanno esplicitamente condizionato la loro tempistica sull’assenza di intervento.

L'economia dietro il tapis roulant

C'è anche una chiara logica commerciale nei commenti di Brin. Se i modelli accorciano significativamente i cicli di ricerca, il costo marginale di ogni nuova generazione di modelli diminuisce e l’azienda che chiude per prima il ciclo ottiene un vantaggio combinato sia in termini di capacità che di prezzo. Google ha già segnalato la volontà di competere in modo aggressivo sul secondo asse, riducendo i prezzi delle API dei rivali con Argon e rilasciando modelli di classe Flash per carichi di lavoro ad alto volume. Un vero volano RSI potenzierebbe questa strategia, il che aiuta a spiegare perché Google ha tutti gli incentivi a descriverla come già in atto.

Per ora, l'importanza della tavola rotonda è il posizionamento: uno dei fondatori di Google descrive pubblicamente l'auto-miglioramento ricorsivo non come uno scenario di rischio ma come la realtà lavorativa dell'azienda. Questa ristrutturazione, da esperimento mentale a tabella di marcia, potrebbe rivelarsi la cosa più degna di nota del ciclo di lancio di Gemini 4, indipendentemente da dove si collocano i punteggi dei benchmark.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →