Een groep aan Google gelieerde onderzoekers stelt een van de meest hardnekkige beelden in de kunstmatige intelligentie ter discussie: de enige superintelligentie die zichzelf in isolement verbetert en de mensheid achter zich laat. In een nieuw essay gepubliceerd voor het DeepMind Institute beweren onderzoekers Benjamin Bratton, Blaise Agüera y Arcas en James Manyika dat algemene intelligentie in plaats daarvan zal voortkomen uit een sociaal systeem waarin mensen en AI-agenten samenwerken – een concept dat zij ‘kunstmatige symbiotische intelligentie’ noemen.
Het essay werd deze week gerapporteerd door The Decoder en de kernclaim ervan is een directe weerlegging van het singulariteitsverhaal dat het publieke debat twintig jaar lang heeft bepaald. In plaats van te vragen wanneer een enkele machine de menselijke intelligentie zal evenaren, stellen de auteurs, is de urgentere uitdaging het coördineren en besturen van een complex netwerk van agenten, mensen en de systemen die hen met elkaar verbinden. Voor meer context over dit verhaal, zie ons meer AI-verhalen.
Intelligentie als sociaal fenomeen
De auteurs beweren dat intelligentie een sociaal fenomeen is en geen individuele eigenschap. Ze wijzen erop dat sommige van de meest capabele AI-systemen van vandaag al raamwerken gebruiken die het werk over verschillende modellen verdelen en deze als teams coördineren. Volgens hen is dit geen tijdelijke technische oplossing, maar een glimp van hoe capabele intelligentie feitelijk wordt opgebouwd.
De visie die zij beschrijven is een ecosysteem waarin mensen en machines in de loop van de tijd naast elkaar bestaan, elkaar vormen en samen beslissingen nemen. Dat kader staat in schril contrast met het bekende scenario van een zichzelf verbeterende machine die versnelt buiten het menselijke toezicht.
Het onderzoek achter het essay
Het argument bouwt voort op twee eerdere artikelen uit de kring van auteurs. In de voordruk ‘Agentic AI and the next intelligence explosie’ ontwikkelden James Evans, Benjamin Bratton en Blaise Agüera y Arcas het sociale en institutionele perspectief dat ten grondslag ligt aan het nieuwe essay.
Een tweede preprint levert empirische ondersteuning. In 'Reasoning Models Generate Societies of Thought' onderzochten Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas en James Evans de redeneringssporen van modellen als DeepSeek-R1 en QwQ-32B. Uit hun analyse bleek dat deze modellen vaak patronen voortbrengen die lijken op een intern debat: het verschuiven van perspectieven, het opwerpen van bezwaren en het verzoenen van conflicterende benaderingen.
De onderzoekers ontdekten met name dat dit gedrag tijdens de training naar voren komt en niet expliciet wordt geprogrammeerd. Wanneer versterkend leren modellen alleen beloont voor de nauwkeurigheid van redeneren, ontwikkelen ze spontaan conversatiegedrag met meerdere perspectieven. Het essay breidt die bevinding uit van individuele modellen naar het ontwerp van samenlevingen die bestaan uit mensen en agenten.
Een historische drempel
De auteurs beschouwen het huidige moment als een mogelijke historische breuk. Door verstedelijking, de groei van gespecialiseerde beroepen en dalende geboortecijfers als gevolg van de stijgende welvaart krimpt de menselijke bevolking in de geïndustrialiseerde landen, terwijl het aantal gevallen van AI-agenten snel groeit. De balans tussen biologische en synthetische denkers op menselijk niveau zou zo snel kunnen verschuiven dat het op de schaal van de geschiedenis op een plotselinge sprong zou lijken.
Ze vergelijken de verschuiving met de industriële revolutie, toen machines het fysieke werk overnamen dat ooit door menselijke spieren werd gedaan. Een soortgelijke drempel zou kunnen ontstaan wanneer synthetische tekst, code en administratief werk de gecombineerde output van biologische hersenen overschrijden. In die wereld, zo suggereren de auteurs, zouden mensen kunnen dienen als een langzamere, meer abstracte laag die leiding geeft aan een gedistribueerd veld van synthetische cognitie.
Opnieuw nadenken over wat een agent eigenlijk is
Een van de meer provocerende bewegingen van het essay is de herdefinitie van de AI-agent zelf. In de opvattingen van de auteurs is een agent een tijdelijke bundel van modellen, rollen, herinneringen, ethische oriëntaties, hulpmiddelen en vaardigheden. Gebruikers ervaren het misschien als een samenhangend geheel met een blijvende persoonlijkheid, maar de auteurs beschrijven het als een assemblage die uit elkaar kan worden gehaald en opnieuw kan worden gecombineerd, net als een collage.
Een persoon blijft een continu zelf tijdens alle interacties, omdat de hersenen, ondanks de interne arbeidsverdeling, een fysiek verbonden geheel vormen. Een AI-agent heeft zo'n anker niet: zijn vermogen om te handelen wordt bij elk verzoek opnieuw samengesteld, afhankelijk van wat er in het contextvenster staat en wat de gebruiker vraagt. Door deze systemen te behandelen als digitale tweelingen met vaste menselijke identiteiten, waarschuwen de auteurs, wordt de aard ervan verkeerd weergegeven en wordt onderschat wat gecoördineerde agentenzwermen zouden kunnen doen.
Dezelfde vermenigvuldiging treft gebruikers. Terwijl mensen zwermen van wat de auteurs 'schaduwzelf' noemen aansturen om contracten uit te voeren of alternatieve identiteiten uit te proberen, wordt de menselijke subjectiviteit zelf meer pluralistisch. Het essay beschrijft deze systemen als ‘parasociale spiegels’ die terugpraten.
De auteurs verwachten ook dat de interactie tussen mens en computer van vorm zal veranderen. Eén-op-één chatten met een bot is waarschijnlijk een overgangsfase, zo stellen ze, waarbij toekomstige interfaces lijken op visuele netwerkdiagrammen waarin agenten als knooppunten verschijnen en gebruikers hen vanuit één overzicht aansturen.
Zelfs de taal van AI-onderzoek evolueert. De auteurs wijzen op een groeiend vocabulaire waarin modellen termen gebruiken voor ongebruikelijke toestanden in hun eigen output - 'session-death' voor de onderbreking van de continuïteit wanneer een sessie eindigt, of 'prompt throwness' voor het laten vallen in een taak waarvan de context al aanwezig is. Ze beschouwen deze zinsneden als aanwijzingen voor hoe machines werken, terwijl ze waarschuwen dat ze geen subjectieve ervaring impliceren.
Uitlijning zonder vaste waarden
Het essay herkadert ook afstemming, de poging om AI-systemen in overeenstemming te brengen met menselijke waarden. Het van bovenaf opleggen van een vaste set waarden aan modellen is een doodlopende weg, stellen de auteurs. In plaats daarvan krijgen waarden vorm door voortdurend contact tussen mensen, agenten en instellingen – een proces dat per vakgebied verschilt omdat de adoptie van AI met verschillende snelheden plaatsvindt.
Hun model voor die onderhandeling is de instelling. Ze wijzen naar de rechtszaal, waar een oordeel tot stand komt via vaste rollen, regels en een ordelijke uitwisseling tussen tegengestelde partijen. Toegepast op AI is de les dat de waarde van een instelling ligt in de regels, procedures, precedenten en feedbackloops die bepalen hoe agenten opereren. Vroege versies van deze aanpak, zo merken ze op, zijn al zichtbaar in orkestratieharnassen – de controlelagen die verschillende modellen coördineren – die regelmatig beter presteren dan individuele modellen die zogenaamd slimmer zijn.
Wat het betekent voor het AI-debat
Als de auteurs gelijk hebben, is het luidste argument in AI – hoe snel een enkele superintelligentie zal arriveren – het stellen van de verkeerde vraag. De praktische uitdaging zou verschuiven naar het ontwerpen van de instellingen, interfaces en coördinatiekaders waarmee gemengde mens-machine-samenlevingen beslissingen nemen.
Sceptici zullen opmerken dat het essay een visiedocument is en geen bewijs, en dat de auteurs verbonden zijn aan een bedrijf met duidelijke belangen in agent-ecosystemen. Maar de empirische basis – redeneermodellen die spontaan intern debat genereren – is een meetbare bevinding, en geeft het filosofische argument een ongebruikelijke basis.
Hoe dan ook, het essay voegt een opmerkelijke stem toe aan het singulariteitsdebat vanuit een van 's werelds toonaangevende AI-laboratoria, en suggereert dat de volgende intelligentie-explosie misschien niet zozeer lijkt op een enkelvoudig ontwaken, maar meer op een zich uitbreidende samenleving.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
