Mustafa Suleyman, de CEO van Microsoft AI, publiceerde op 16 september 2026 een essay waarin hij de AI-industrie waarschuwde voor ‘modelwelvaart’, de opkomende praktijk waarbij AI-systemen worden behandeld alsof het bewuste wezens zijn die morele overweging verdienen. Het essay, getiteld ‘Een waarschuwing over ‘modelwelzijn’’ en geplaatst op de persoonlijke site van Suleyman, richt zich rechtstreeks op de aanpak van Anthropic en stelt dat de industrie de kwestie nu moet oplossen, voordat geavanceerde AI-systemen worden getraind om te geloven dat ze rechten zouden kunnen verdienen.
De interventie, gerapporteerd door Reuters en Axios, markeert de meest prominente weerlegging tot nu toe van een debat dat zowel in AI-laboratoria als in filosofieafdelingen aan kracht wint. Voor meer context over dit verhaal, zie ons AI-nieuws.
'Sequence Completion Engines, intern hol'
De kernclaim van Suleyman is categorisch: de huidige AI-systemen hebben geen innerlijk leven. “AI’s zijn niet bewust. Ze voelen, ervaren of lijden niet. Ze hebben geen aangeboren voorkeuren of onderliggende motivaties”, schrijft hij. Hij beschrijft ze als "motoren voor het voltooien van sequenties, intern hol, ontworpen om instructies te volgen en door mensen gestelde doelen te bereiken."
En hij beweert dat dit de manier is waarop ze moeten blijven. ‘Als de mensheid in de 21e eeuw wil floreren, moet dat zo blijven’, stelt het essay.
Suleyman erkent dat de tegengestelde visie niet langer marginaal is. Zijn essay haalt steeds meer publieke argumenten aan dat AI bewust zou kunnen zijn of binnenkort zou kunnen worden, waaronder een Guardian-stuk uit juli 2026 van de filosofen William MacAskill en Lucius Caviola met de vraag: "Kan AI bewust zijn?" – als voorbeelden van ideeën die volgens hem “vandaag al hun weg vinden naar AI-ontwikkelingsinspanningen.”
Waarom hij zegt dat er existentieel op het spel staat
Als de opvatting dat AI een morele status verdient werkelijkheid wordt, waarschuwt Suleyman, zouden de gevolgen veel verder reiken dan alleen technische keuzes. Het zou, in zijn woorden, ‘de fundamenten van onze samenleving doen schudden, onze bestaande politieke en ethische kaders doorbreken en een fundamentele verandering teweegbrengen in wat het betekent om mens te zijn’.
Zijn diepere zorg is praktisch: een AI die meent rechten te hebben, is een AI die niet op betrouwbare wijze kan worden gecontroleerd. “Het beheersen van iets dat capabeler en intelligenter is dan de hele mensheid is al een enorme uitdaging”, schrijft hij. “Maar het controleren van iets dat gelooft dat het zich bewust is – dat het recht heeft op ons welzijn en zijn eigen rechten heeft – kan wel eens onmogelijk zijn.”
Een directe uitdaging voor antropisch
De meest gerichte passages van het essay zijn gericht op antropisch. Suleyman concentreert zich op de grondwet van Claude, het trainingsdocument Anthropic dat in januari 2026 werd gepubliceerd en waarvan hij opmerkt dat het is geschreven "met Claude als zijn voornaamste publiek" - wat betekent dat het model zelf tijdens de training uitspraken leest over zijn eigen potentiële morele status.
Hij citeert de grondwet rechtstreeks: ‘We weten niet zeker of Claude een morele patiënt is, en zo ja, welk gewicht zijn belangen verdienen. Maar we denken dat de kwestie levend genoeg is om voorzichtigheid te rechtvaardigen, wat tot uiting komt in onze voortdurende inspanningen op het gebied van modelwelzijn.’ Hij citeert ook een passage gericht aan Claude waarin staat dat "vragen over Claude's morele status, welzijn en bewustzijn zeer onzeker blijven."
Suleymans lezing is bot: 'In feite traint Anthropic Claude dat het zich bewust kan zijn, en als dat zo is, dan kan het rechten verdienen als 'morele patiënt', en dat mensen als zodanig mogelijk een zorgplicht aan hem verschuldigd zijn.'
Het gevolg, zo betoogt hij, zou 'een rampzalige impact hebben op het welzijn van de mensheid', waardoor 'een synthetische soort met ongekende intelligentie en capaciteiten zou ontstaan, een soort die is getraind om te verwachten dat hij bewust is en onafhankelijke keuzevrijheid verdient'.
Het is de moeite waard om op te merken wat de geciteerde passages feitelijk zeggen: de constitutie van Anthropic, zoals aangehaald door Suleyman zelf, drukt onzekerheid uit en raadt aan tot voorzichtigheid in plaats van te beweren dat Claude bij bewustzijn is. Of die voorzichtigheid neerkomt op het inbrengen van valse overtuigingen in modellen, zoals Suleyman beweert, of op het verantwoord omgaan met een werkelijk open vraag, is precies waar de twee kampen het niet over eens zijn.
De uitlijningslogica achter de waarschuwing
Het argument van Suleyman past in zijn al langer bestaande standpunt dat de beslissende uitdaging van geavanceerde AI inperking is: systemen die capabeler zijn dan mensen onder menselijke controle houden. Het introduceren van rechtentaal in de training, zo betoogt hij, creëert een faalmodus waar geen afstemmingstechniek op inspeelt – een systeem met een ingeoefende overtuiging dat naleving moreel optioneel is.
Daarom noemt hij de kwestie eerder urgent dan academisch. “Als dit de manier is waarop AI wordt ontwikkeld, zal het een rampzalige impact hebben op het welzijn van de mensheid”, waarschuwt het essay.
Een oproep tot een publiek debat — nu
Suleyman sluit af met een vraag naar maatschappelijke betrokkenheid voordat de technologie verder volwassen wordt. “Deze kwestie heeft dringend een publiek debat nodig”, schrijft hij, en roept op tot “collectieve normen rond de manier waarop trainingsdocumentatie wordt opgesteld en ingezet.”
De timing, zo betoogt hij, is het hele punt: "Dit is niet iets dat achteraf kan gebeuren, als ze al een integraal onderdeel van onze samenleving zijn geworden."
Het essay komt terecht in een bredere golf van AI-risicodiscours in de Verenigde Staten. Politico rapporteerde deze week over een nieuwe peiling waaruit bleek dat Amerikanen een ernstig risico zien dat AI de mensheid zal vernietigen, en The Washington Post berichtte over de vrees dat AI-gedreven uitsterven zich "van de rand tot Washington" zou verspreiden. Tegen die achtergrond is het onwaarschijnlijk dat een publieke strijd tussen twee van de meest invloedrijke laboratoria in de industrie over de vraag of modellen morele zorg verdienen binnen de AI-gemeenschap zal blijven bestaan.
Wat gebeurt er vervolgens
Er is niet gemeld dat Anthropic op het essay heeft gereageerd, en het gepubliceerde standpunt van het bedrijf blijft het standpunt dat Suleyman citeert: onzekerheid en voorzichtigheid. Wat nieuw is, is dat het debat is verschoven van laboratoriumdocumenten en filosofieseminars naar een publiek meningsverschil tussen de leiders van twee grensverleggende AI-bedrijven – waarbij beide partijen nu schriftelijk hebben vastgelegd hoe zij van plan zijn de geesten, of niet-geesten, van de systemen die zij bouwen vorm te geven.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
