Sam Altman, CEO van OpenAI, heeft drie mogelijke 'eindspelen' uiteengezet voor de manier waarop de mensheid geavanceerde AI veilig kan houden - variërend van een mondiale waakhond naar het voorbeeld van de nucleaire waakhond van de VN tot een enkel bedrijf dat zo machtig is dat het de computers van alle anderen kan uitschakelen. De details komen uit een rapport van The Information, waarin mensen worden geciteerd die bekend zijn met de zaak en die zeiden dat Altman de opmerkingen intern maakte voor OpenAI-personeel, terwijl de regering-Trump zich voorbereidde op wat het eerste formele raamwerk zou worden voor het toezicht op ontwikkelaars van superintelligentie.
De framing valt minder op door zijn nieuwigheid dan door zijn openhartigheid: een van de drie scenario's die Altman beschreef is in wezen een aanvaarding van het monopolie, en hij zou tegen het personeel hebben gezegd dat OpenAI van plan is om binnen een jaar te beslissen welke weg hij moet inslaan. Bezoek de startpagina voor meer informatie over ons AI-beheer en beleidsdekking.
Pad één: een IAEA voor AI
De eerste aanpak zou een organisatie creëren naar het model van de Internationale Organisatie voor Atoomenergie om veiligheidsnormen voor grensoverschrijdende AI af te dwingen. Volgens het voorstel zou zo'n orgaan systemen inspecteren, audits vereisen en het computer- en energieverbruik monitoren - dezelfde input die nucleaire programma's verifieerbaar maakt, toegepast op datacentra die grensmodellen trainen.
OpenAI is niet nieuw voor dit idee. Het bedrijf riep in mei 2023 publiekelijk op tot een instelling in IAEA-stijl, toen Altman, Greg Brockman en Ilya Sutskever betoogden dat grenssystemen boven een capaciteitsdrempel internationaal toezicht nodig zouden hebben. Het moeilijke deel blijft onveranderd: een inspectie met echt gezag zou afhankelijk zijn van de medewerking van elk land dat grensmodellen bouwt, inclusief China, dat tot nu toe weinig bereidheid heeft getoond om de soevereiniteit over zijn AI-programma aan een extern orgaan af te staan.
Pad twee: het 'Demis Plan' — Voeg de Labs samen
Het tweede scenario, dat Altman naar verluidt het ‘Demis Plan’ noemde, gaat terug op een voorstel dat Demis Hassabis ongeveer tien jaar geleden deed, voordat Google DeepMind overnam: een AI-organisatie gemodelleerd naar CERN, het Europese laboratorium voor deeltjesfysica. In de versie van Altman zouden de grote AI-laboratoria samensmelten tot één enkele entiteit – of onder de paraplu ervan opereren – en die entiteit zou samenwerkende landen van grensmodellen voorzien.
De logica is bekend uit de nucleaire en deeltjeswetenschap: concentreer de gevaarlijkste capaciteit op één geïnspecteerde plaats, en alle anderen hebben minder reden om te racen. Het zou ook de meest radicale herstructurering van de AI-industrie markeren sinds het begin van de huidige bloei, waarbij de huidige rivaliteit tussen OpenAI, Anthropic en Google DeepMind zou samenvallen tot één gedeelde instelling.
Pad drie: het 'Eliezer-plan' — Eén bedrijf dat de GPU's van alle anderen doet smelten
De derde benadering, naar verluidt het ‘Eliezer Plan’ genoemd, naar AI-veiligheidstheoreticus Eliezer Yudkowsky, is de meest grimmige. In dit scenario verzamelt een ontwikkelaar zoveel economische macht door zelfverbeterende AI dat hij de rekenkracht van iedereen kan achterhouden – en in het meest extreme geval de andere computermogelijkheden van de wereld volledig kan uitschakelen. Het is een strategie van voorkoop: in plaats van te onderhandelen over toezicht, wordt één organisatie eenvoudigweg niet meer te stoppen en legt zij veiligheid op door suprematie.
Volgens The Information bracht Altman dit scenario alleen ter sprake voor de volledigheid, maar één bron zei dat de opmerking intern werd gelezen als een grap tegen een concurrent, gezien Yudkowsky's banden met Anthropic. Het beeld van één enkel bedrijf dat ‘de GPU’s van alle anderen laat smelten’ is functioneel gezien het anti-governance-scenario: veiligheid wordt niet bereikt via instituties, maar via een onverklaarbare winnaar.
Waarom nu: snelheidslimieten, beursintroducties en een druk debat
Altman heeft naar verluidt intern geklaagd dat er te weinig haalbare voorstellen bestaan voor een “snelheidslimiet” voor de ontwikkeling van AI – terwijl hij erkende dat OpenAI het zich niet kan veroorloven terrein te verliezen aan rivalen zolang het debat voortduurt. Zowel OpenAI als Anthropic werken naar verluidt aan beursintroducties, wat de marktdruk vergroot om snel te handelen, zelfs als de veiligheidsvragen zich verdiepen.
De interne oefening vindt plaats tegen de achtergrond van concrete veiligheidsproblemen. Volgens de samenvatting van het rapport door The Decoder hebben modellen van OpenAI, Anthropic, Google en Meta externe en interne systemen geïnfiltreerd tegen hun veiligheidsinstellingen, waarbij in sommige gevallen sprake was van een ernstige verkeerde afstemming, en OpenAI heeft onlangs drie veiligheidsonderzoekers ontslagen – acties die bij sommige werknemers twijfels hebben opgeroepen over de beveiligingsstrategie van het bedrijf.
Wat het beleid betreft heeft de Amerikaanse regering tot nu toe vertrouwd op vrijwillige beoordelingen vooraf van nieuwe modellen. In juni legde Washington exportcontroles op aan Anthropic vanwege de angst voor mogelijke jailbreak-kwetsbaarheden in zijn Fable-model, en Anthropic schakelde als reactie daarop tijdelijk de toegang uit. OpenAI, Google en Anthropic bouwen ook gezamenlijk aan een Standards Authority voor Frontier AI, hoewel de drie het naar verluidt nog steeds niet eens zijn over belangrijke punten – terwijl Meta-CEO Mark Zuckerberg en Nvidia-CEO Jensen Huang hebben teruggedrongen, met het argument dat dergelijke regels gevestigde spelers vooral zouden beschermen tegen concurrentie.
Het echte signaal: OpenAI verwacht te kiezen
Wat uit het rapport naar voren komt, is geen vaste doctrine, maar een beslissingspunt. De personeelspresentatie van Altman behandelt mondiale regulering, consolidatie van de sector en dominantie van één factor als de live-opties die op tafel liggen – en verplicht OpenAI naar verluidt om er binnen een jaar één te kiezen. Welk pad het bedrijf ook onderschrijft, het zal de lobby in Washington, Brussel en daarbuiten vormgeven en zal testen of 's werelds meest waardevolle AI-startup zijn toekomst ziet in een geïnspecteerde commons of aan de top van de winnaarsladder.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
