Googles medgrundare Sergey Brin säger att företagets AI-utveckling har nått den punkt där dess modeller aktivt hjälper till att bygga sina egna efterföljare – en dynamik som kallas rekursiv självförbättring eller RSI. När Brin talade i en rundabordsdiskussion om skapandet av Googles nya Gemini 4-modell, Argon, sa Brin att AI-utvecklingen accelererade internt och att företaget "börjar komma in på det där RSI-löpbandet."
"Och nu arbetar våra forskare och modellen hand i hand för att göra nästa version av modellen", sa Brin under rundabordssamtalen, som Google delade på onsdagen. Hans kommentarer rapporterades först av Business Insider. Anmärkningarna sätter Googles medgrundare – som har tagit en alltmer praktisk roll i Gemini-programmet – rakt in i branschens mest följdriktiga debatt: om AI-system snart kommer att förbättra sig själva snabbare än mänskliga ingenjörer kan. För fortsatt bevakning av den debatten, följ våra AI-forskningsnyheter.
Vad Brin pekade på som bevis
Brin pekade på kadensen för Googles Flash-modellsläpp som ledde fram till Gemini 4 som bevis på att återkopplingsslingan redan vänder. Innebörden är att varje generation av modeller förkortar tiden som krävs för att producera nästa, som automatiserad kodning, utvärdering och forskningsverktyg.
Googles egen säkerhetsdokumentation för Argon verkar stödja delar av den bilden. Enligt modellens säkerhetsrapport fungerar AI-agenter nu som assistenter med hög hävstång som skapar en majoritet av produktionskoden och buggfixar, även om kodändringar förblir föremål för mänsklig granskning innan de skickas in. Med andra ord, företaget beskriver ett arbetsflöde där modeller producerar det mesta av koden - medan människor behåller sista ordet över vilka fartyg.
Den bredare RSI-debatten
Anthropic och OpenAI har också sagt att AI kan vara på gränsen till RSI, och en rapport från företaget Gladstone AI som publicerades denna vecka beskriver hur AI-företag går mot det. Enligt Business Insiders redogörelse för rapporten tror de flesta intervjuade forskare – som arbetar på företag inklusive Anthropic, OpenAI och Google DeepMind – att RSI kommer att börja inom de närmaste 3 till 12 månaderna och kan komma tidigare i avsaknad av statlig intervention.
Varför tidslinjen är viktig
Rekursiv självförbättring är inte bara ytterligare en milstolpe för förmågan. Om modeller blir den primära arbetskraften för själva AI-forskningen blir framstegstakten svårare att förutse och svårare att styra. Det är därför RSI satt i centrum för varningarna från framstående AI-forskare förra månaden om att människor kan tappa kontrollen över tekniken om inte tillräckligt med skyddsräcken sätts på plats.
Brins inramning var särskilt saklig. Istället för att behandla RSI-löpbandet som en avlägsen hypotes, beskrev han det som ett driftsvillkor för Googles modellutvecklingsprogram – forskare och modeller som arbetar "hand i hand" på varje efterföljande version.
Kontrapunkterna
Alla inom Google är inte överens om hur snabbt svänghjulet snurrar. Rapportering i samma nyhetscykel noterade att Google DeepMind inte har hittat någon betydande acceleration i maskininlärningsforskning och utveckling i sina egna utvärderingar, en slutsats som avviker från den mer oroliga retoriken som kommer från vissa rivaler. Gapet mellan dessa två avläsningar – Googles medgrundare som beskriver ett löpband som har börjat röra sig, och Googles säkerhetsforskare som inte mäter någon dramatisk hastighet – är i sig en ögonblicksbild av hur osäkert fältet förblir om sin egen bana.
Det finns också strukturella varningar. Agenter som skriver en majoritet av produktionskoden arbetar fortfarande under mänsklig granskning, och mycket av det som räknas som "AI-automatisering av AI-forskning" innebär idag att man begränsar sökutrymmen, genererar kandidatlösningar och kör utvärderingar – hjälp med hög hävstång snarare än autonom upptäckt.
Vad du ska titta på
Tre saker kommer att berätta för observatörer om Brins löpbandsmetafor håller. För det första releasekadensen för Googles egna modeller, där kortare intervall mellan generationerna skulle vara den tydligast synliga signalen. För det andra, om andra gränslaboratorier börjar kvantifiera hur mycket av deras forsknings- och teknikpipeline som modellexekveras, som Googles Argon-säkerhetsrapport har gjort. För det tredje, huruvida regeringar agerar utifrån rapporter som Gladstone AI:s, vars intervjuade forskare uttryckligen villkorade sin tidslinje på frånvaron av intervention.
Ekonomin bakom löpbandet
Det finns också en rak kommersiell logik i Brins kommentarer. Om modeller på ett meningsfullt sätt förkortar forskningscyklerna, sjunker marginalkostnaden för varje ny modellgeneration, och företaget som först stänger slingan får en sammansatt fördel i både kapacitet och pris. Google har redan signalerat vilja att konkurrera aggressivt på den andra axeln, underskrida rivalernas API-prissättning med Argon samtidigt som de släpper Flash-klassmodeller för höga volymer. Ett äkta RSI-svänghjul skulle komplettera den strategin – vilket hjälper till att förklara varför Google har alla incitament att beskriva den som redan på gång.
För nu är betydelsen av rundabordssamtalen positionering: en av Googles grundare beskriver offentligt rekursiv självförbättring inte som ett riskscenario utan som företagets verklighet. Den omformuleringen - från tankeexperiment till färdplan - kan visa sig vara det mest nyhetsvärde med Gemini 4-startcykeln, oavsett var benchmarkpoängen landar.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
