Anthropic waarschuwt dat het 'binnenkort' de drempel voor recursieve zelfverbetering kan overschrijden bij het indienen van een gewijzigde beursintroductie

De gewijzigde IPO-aanvraag van Anthropic haalde maandag de krantenkoppen vanwege zijn financiële cijfers: ongeveer $17 miljard aan omzet in het derde kwartaal, tegenover $895,4 miljard aan computerverplichtingen. Maar verborgen in de risicofactoren van de herziene S-1A ligt een onthulling die mogelijk meer gevolgen kan hebben: het bedrijf zegt dat het op het punt staat zijn eigen drempel voor recursieve zelfverbetering te overschrijden, het punt waarop AI-systemen in staat worden hun eigen ontwikkeling te versnellen.

TechCrunch meldde dat de indiening lijkt te waarschuwen dat Anthropic op het punt staat een model te creëren dat in staat is tot recursieve zelfverbetering, algemeen bekend als RSI – het stadium waarin AI zo goed wordt in het verbeteren van AI dat de vermogenswinst dramatisch begint te toenemen. Voor meer context over dit verhaal, zie ons AI-trends.

Wat de indiening eigenlijk zegt

Anthropic maakt al gebruik van AI om zijn eigen onderzoek en ontwikkeling te versnellen. In de gewijzigde indiening waarschuwt het bedrijf dat deze praktijk aan twee kanten werkt: “Het gebruik van AI om capabelere AI te helpen bouwen kan ook een aanzienlijk veiligheidsrisico met zich meebrengen, vooral als het het tempo van de vooruitgang sterk versnelt. Dit is een van de gebieden die onder ons Responsible Scaling Policy vallen, waarin onze plannen worden uiteengezet om de risico’s te monitoren en te beperken terwijl we naderen wat ‘recursieve zelfverbetering’ wordt genoemd.”

De nieuwe taal over risicofactoren gaat verder dan Anthropic eerder in haar openbare documenten heeft verklaard. Het bedrijf maakt bekend dat het in het verleden grote vermogenssprongen niet heeft onderkend toen die zich voordeden: "We hebben in het verleden een significante versnelling in ons ontwikkelingstempo niet geïdentificeerd, en zullen dat in de toekomst wellicht ook niet doen, totdat deze zich heeft voorgedaan."

Dan komt de verklaring die de aandacht van de industrie trekt. Volgens de indiening: "geven onze interne schattingen en onze verwachtingen met betrekking tot toekomstige modellen, in plaats van onze huidige modellen, aan dat we binnenkort kunnen voldoen aan de definitie van ons Responsible Scaling Policy van 'dramatisch versnelde vooruitgang die kan worden toegeschreven aan AI.'"

Anthropic voegt eraan toe dat het “geen van onze huidige modellen heeft aangewezen die deze drempel overschrijden” en blijft de onderliggende gegevens beoordelen. Met andere woorden: geen enkel huidig ​​Claude-model komt in aanmerking, maar de interne projecties van het bedrijf suggereren dat de volgende generatie dat wel zou kunnen.

Mensen op de hoogte houden

Naast de waarschuwing verbindt Anthropic zich ertoe mensen de controle te houden over de modelontwikkeling. “We verwachten niet dat we Claude veilig kunnen gebruiken om volledig autonoom opeenvolgende generaties grensmodellen te ontwerpen en bouwen zonder betekenisvol menselijk toezicht of begrip, als en wanneer dat technisch mogelijk wordt”, aldus de indiening. "Dienovereenkomstig overwegen we updates van ons Responsible Scaling Policy om mensen de controle te houden over de ontwikkeling van grensmodellen bij Anthropic."

De omvang van de rol van AI in het eigen onderzoek van Anthropic groeit snel. Business Insider meldde dat AI nu ongeveer een kwart van het interne R&D-werk van Anthropic voor zijn rekening neemt, tegen 1 procent in maart – een grafiek die door insiders uit de sector een van de belangrijkste op het gebied van AI wordt genoemd.

Een discoursverschuiving: van modewoord naar balans

Toen de term RSI eerder dit jaar populair werd, deden velen in de branche het af als een modewoord – of, op zijn best, een doel dat te slecht gedefinieerd was om te bereiken, te bewijzen of te reguleren. Dat scepticisme is moeilijker vol te houden nu het concept, met een nauwkeurige interne definitie, voorkomt in een document dat een bedrijf wettelijk verplicht is bij de SEC in te dienen voordat het aandelen aan het publiek verkoopt.

Anthropic is ook niet de enige die zelfverbetering beschouwt als een planningsaanname voor de korte termijn. Google-medeoprichter Sergey Brin heeft de industrie beschreven als een race naar een ‘RSI-loopband’ waarin modellen helpen bij het bouwen van hun opvolgers, en voormalig OpenAI-medeoprichter John Schulman heeft gezegd dat hij binnen ongeveer drie tot vier jaar recursieve zelfverbetering verwacht. Wat de openbaarmaking van Anthropic onderscheidt, is de formaliteit ervan: een gedefinieerde drempel, een intern meetproces en een publieke verklaring over wanneer het bedrijf verwacht deze te overschrijden.

Waarom RSI de struikeldraad is waar beide kampen naar kijken

RSI heeft verschillende betekenissen, afhankelijk van wie het beschrijft. Voor AI-veiligheidsonderzoekers vertegenwoordigt dit het point of no return: het scenario waarin AI-systemen zichzelf sneller verbeteren dan mensen kunnen begrijpen, valideren of ingrijpen, en mogelijk buiten de menselijke controle vallen. Voor AI-optimisten is dezelfde dynamiek de prijs: systemen die zichzelf op betrouwbare wijze verbeteren, zouden resulteren in buitengewone productiviteit en wetenschappelijke ontdekkingen.

De framing van Anthropic erkent beide mogelijkheden. De onthulling staat in een document waarvan het voornaamste publiek bestaat uit investeerders, en sceptici merken op dat een S-1 zowel als onthulling als marketing fungeert – een bewering dat het bedrijf dicht bij het bouwen van een zelfverbeterende AI is, kan net zo goed worden gelezen als een argument voor de waardering ervan.

Er is echter een concreet anker voor de claim. Claude's capaciteiten op het gebied van coderen, wiskunde en cyberbeveiliging zijn in 2026 sterk vooruitgegaan, en Anthropic's eigen Responsible Scaling Policy definieert de "dramatisch versnelde vooruitgang die kan worden toegeschreven aan AI"-standaard waaraan het bedrijf nu zegt binnenkort te zullen voldoen.

Een test voor AI-beheer

De onthulling komt terecht te midden van steeds intensievere beleidsdebatten over het toezicht op grensoverschrijdende AI, van het raamwerk van het Witte Huis voor het herzien van grensmodellen tot internationale discussies over computerbeheer. Als een toonaangevend AI-laboratorium formeel een model aanwijst dat aan zijn eigen drempel voor versnelde vooruitgang voldoet, zou dit verplichtingen in het kader van het Responsible Scaling Policy van Anthropic met zich meebrengen – en zou het de eerste echte test zijn van de vraag of dergelijke industriële raamwerken de capaciteitsraces in de praktijk kunnen vertragen of vormgeven.

Voorlopig zegt Anthropic dat geen enkel model de grens heeft overschreden. Uit de indiening blijkt dat het bedrijf verwacht dat deze grens binnenkort zal worden overschreden – en vraagt ​​het investeerders om vooraf te begrijpen wat het van plan is hieraan te doen.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →