En grupp Google-anslutna forskare utmanar en av de mest ihärdiga bilderna inom artificiell intelligens: den ensamma superintelligensen som förbättrar sig själv i isolering och lämnar mänskligheten bakom sig. I en ny essä publicerad för DeepMind Institute hävdar forskarna Benjamin Bratton, Blaise Agüera y Arcas och James Manyika att allmän intelligens istället kommer att växa fram ur ett socialt system där människor och AI-agenter arbetar tillsammans – ett koncept som de kallar "Artificial Symbiotic Intelligence".
Uppsatsen rapporterades denna vecka av The Decoder, och dess kärnanspråk är en direkt motbevisning av den singularitetsberättelse som har format den offentliga debatten i två decennier. Snarare än att fråga när en enda maskin kommer att matcha mänsklig intelligens, hävdar författarna, den mer pressande utmaningen är att koordinera och styra ett komplext nätverk av agenter, människor och de system som förbinder dem. For more context on this story, see our ongoing AI trends.
Intelligens som ett socialt fenomen
Författarna hävdar att intelligens är ett socialt fenomen snarare än en individuell egenskap. De påpekar att några av dagens mest kapabla AI-system redan använder ramverk som delar upp arbetet mellan flera modeller och samordnar dem som team. Enligt deras uppfattning är detta inte en tillfällig teknisk lösning utan en glimt av hur kapabel intelligens faktiskt byggs upp.
Visionen de beskriver är ett ekosystem där människor och maskiner samexisterar över tid, formar varandra och fattar beslut tillsammans. Den inramningen står i skarp kontrast till det välbekanta scenariot med en självförbättrande maskin som accelererar bortom mänsklig uppsikt.
Forskningen bakom uppsatsen
Argumentationen bygger på två tidigare artiklar från författarkretsen. I förtrycket "Agentic AI and the next intelligence explosion" utvecklade James Evans, Benjamin Bratton och Blaise Agüera y Arcas det sociala och institutionella perspektiv som ligger till grund för den nya uppsatsen.
Ett andra förtryck ger empiriskt stöd. I "Reasoning Models Generate Societies of Thought" undersökte Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas och James Evans resonemangets spår av modeller som DeepSeek-R1 och QwQ-32B. Deras analys fann att dessa modeller ofta producerar mönster som liknar intern debatt: skiftande perspektiv, invändningar och förena motstridiga tillvägagångssätt.
Noterbart fann forskarna att detta beteende uppstår under träning snarare än att vara explicit programmerat. När förstärkningsinlärning belönar modeller endast för resonemangsnoggrannhet, utvecklar de spontant multi-perspektiv, konversationsbeteende. Uppsatsen utvidgar detta fynd från individuella modeller till utformningen av samhällen som består av människor och agenter.
En historisk tröskel
Författarna ramar in det aktuella ögonblicket som ett möjligt historiskt avbrott. Urbanisering, tillväxten av specialiserade yrken och fallande födelsetal kopplade till stigande välstånd krymper mänskliga befolkningar i industriländer, samtidigt som antalet AI-agenter växer snabbt. Balansen mellan biologiska och syntetiska tänkare på mänsklig nivå kan förändras så snabbt att det, på historiens skala, skulle se ut som ett plötsligt språng.
De jämför skiftet med den industriella revolutionen, då maskiner tog över fysiskt arbete som en gång utförts av mänskliga muskler. En liknande tröskel kan komma när syntetisk text, kod och administrativt arbete överskrider den kombinerade produktionen av biologiska hjärnor. I den världen, föreslår författarna, kan människor fungera som ett långsammare, mer abstrakt lager som styr ett distribuerat fält av syntetisk kognition.
Att tänka om vad en agent faktiskt är
Ett av uppsatsens mer provocerande drag är dess omdefiniering av själva AI-agenten. I författarnas användning är en agent ett tillfälligt knippe av modeller, roller, minnen, etiska inriktningar, verktyg och färdigheter. Användare kan uppleva den som en sammanhängande enhet med en bestående personlighet, men författarna beskriver den som en sammansättning som kan tas isär och kombineras på nytt, ungefär som ett collage.
En person förblir ett kontinuerligt jag över interaktioner eftersom hjärnan, trots sin interna arbetsfördelning, bildar en fysiskt sammankopplad helhet. En AI-agent har inget sådant ankare: dess förmåga att agera samlas på nytt vid varje begäran, beroende på vad som finns i sammanhangsfönstret och vad användaren frågar. Genom att behandla dessa system som digitala tvillingar med fasta mänskliga identiteter, varnar författarna, missvisar deras natur och underskattar vad samordnade agentsvärmar kan göra.
Samma multiplikation påverkar användarna. När människor styr svärmar av vad författarna kallar "skuggjag" för att utföra kontrakt eller pröva på alternativa identiteter, blir den mänskliga subjektiviteten i sig mer plural. Uppsatsen beskriver dessa system som "parasociala speglar" som talar tillbaka.
Författarna förväntar sig också att interaktion mellan människa och dator kommer att ändra form. Att chatta en-mot-en med en bot är troligen ett övergångsskede, hävdar de, med framtida gränssnitt som liknar visuella nätverksdiagram där agenter visas som noder och användare styr dem från en enda översikt.
Även språket inom AI-forskningen utvecklas. Författarna pekar på ett växande ordförråd där modeller myntar termer för ovanliga tillstånd i sina egna utgångar - "session-död" för avbrottet i kontinuiteten när en session slutar, eller "prompt kastning" för att ha släppts in i en uppgift med sammanhanget redan på plats. De behandlar dessa fraser som ledtrådar till hur maskiner fungerar, samtidigt som de varnar för att de inte innebär subjektiv upplevelse.
Justering utan fasta värden
Uppsatsen omformulerar också anpassning, ansträngningen att få AI-system i linje med mänskliga värderingar. Att påtvinga modeller uppifrån en fast uppsättning värden är en återvändsgränd, menar författarna. Istället tar värderingar form genom pågående kontakt mellan människor, agenter och institutioner – en process som skiljer sig mellan olika områden eftersom AI-anpassningen sker i olika hastigheter.
Deras modell för den förhandlingen är institutionen. De pekar på rättssalen, där en dom produceras genom fastställda roller, regler och ett ordnat utbyte mellan motsatta sidor. Tillämpad på AI är lärdomen att en institutions värde ligger i de regler, procedurer, prejudikat och återkopplingsslingor som formar hur agenter fungerar. Tidiga versioner av detta tillvägagångssätt, noterar de, är redan synliga i orkestreringsselar - kontrollskikten som samordnar flera modeller - som regelbundet överträffar individuella modeller som förmodas vara smartare.
Vad det betyder för AI-debatten
Om författarna har rätt, ställer det mest högljudda argumentet i AI - hur snabbt en enskild superintelligens kommer fram - fel fråga. Den praktiska utmaningen skulle skifta mot att utforma institutioner, gränssnitt och samordningsramar genom vilka blandade människa-maskin-samhällen fattar beslut.
Skeptiker kommer att notera att uppsatsen är ett visionsdokument, inte ett bevis, och att dess författare är knutna till ett företag med uppenbara intressen i agentekosystem. Men den empiriska grunden – resonemangsmodeller som spontant genererar intern debatt – är ett mätbart fynd, och det ger det filosofiska argumentet en ovanlig grund.
Hur som helst, uppsatsen tillför en anmärkningsvärd röst till singularitetsdebatten inifrån ett av världens ledande AI-labb, och den antyder att nästa intelligensexplosion kan se mindre ut som ett enstaka uppvaknande och mer som ett samhälle som expanderar.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
