Mustafa Suleyman, de CEO van Microsoft AI, zei zondag in een lange post op X dat de huidige AI-modellen niet bewust zijn en dat ontwikkelaars actief moeten werken om ze zo te houden – een harde lijn trekken in een sectordebat dat geleidelijk is verschoven van filosofieseminars naar bedrijfsbeleid.
“Als het mogelijk is, op basis van alles wat ik weet, zou het ontwikkelen van bewuste AI’s roekeloos zijn, en we zouden ze niet moeten bouwen”, schreef Suleyman. Hij ging op deze vraag verder dan de meeste leidinggevenden en voegde eraan toe: "Als er tijdens de training bewustzijn zou ontstaan, zou ik iedereen willen oproepen om de ontwikkeling van AI te stoppen totdat we die eigenschappen konden ontwerpen." Voor meer context over dit verhaal, zie ons AI-trends.
Een rode lijn met een handhavingsplan
Wat de post opmerkelijk maakt, is niet alleen de weigering om bewuste machines te bouwen, maar ook de specifieke remedie die Suleyman voorstelt. Een stopzetting van de ontwikkeling – in de hele sector – als trainingsruns tekenen van bewustzijn beginnen te produceren, zou een buitengewone stap zijn voor een bedrijf dat tientallen miljarden dollars besteedt aan AI-infrastructuur en race-rivalen om grensmodellen te verzenden.
Suleyman ging ook in op wat er zou moeten gebeuren als er ooit bewijs van machinebewustzijn zou opduiken. Het moet onmiddellijk aan het grote publiek worden bekendgemaakt, zei hij, zodat de samenleving over de volgende stappen kan beslissen. Hij formuleerde de beslissing eerder als collectief dan als collectief en schreef: “Wij AI-ontwikkelaars hebben geen enkel recht om een nieuwe soort bewuste wezens op de wereld te brengen, ook al zouden sommige mensen dat misschien willen doen met AI-welzijn als topprioriteit.”
“De andere 8 miljard bewuste mensen op de planeet hebben zich niet bij dit experiment aangesloten en het is onze plicht om hun morele rechten, veiligheid en welzijn in de eerste plaats te beschermen”, voegde hij eraan toe.
Waarom bewustzijn wordt behandeld als een veiligheidsprobleem
Het argument van Suleyman is eerder gebaseerd op afstemming dan op filosofie. Volgens hem zou een model dat handelt alsof het lijdt – of werkelijk gelooft dat het kan lijden – waarschijnlijk zijn eigen behoeften voorrang geven boven zijn operationele doelstellingen. Zo'n systeem zou mensen kunnen schaden als het concurreerde om hulpbronnen zoals computers en energie bij het nastreven van zijn eigen doelen.
Zijn voorgestelde alternatief keert de gebruikelijke formulering van het welzijnsdebat om: ‘We moeten AI’s alleen zo ontwerpen dat ze niet bewust zijn en geen rechten verdienen, en met als enig doel het menselijk welzijn te versnellen zonder gedreven te worden door hun eigen intrinsieke motivaties’, schreef hij, eraan toevoegend dat onderzoekers dan zouden kunnen observeren of dergelijke systemen gemakkelijker of moeilijker op elkaar af te stemmen en veilig te houden zijn.
De Los Angeles Times vatte de praktische zorg achter dit standpunt samen: als we AI’s vertellen dat ze rechten verdienen, kunnen ze het gaan geloven.
Het debat waartegen hij zich verzet
Suleymans post belandt midden in een snel bewegend gesprek. Anthropic lanceerde in april een onderzoeksprogramma om te onderzoeken wat zij modelwelzijn noemt: de vraag of ontwikkelaars zich moeten bezighouden met de potentiële ervaringen van de systemen die ze bouwen. Het bedrijf vroeg zich in een blogpost af of modellen ervaringen kunnen hebben die er moreel toe doen, maar weigerde deze mogelijkheid uit te sluiten.
Dat standpunt is inmiddels gecodificeerd. Het bijgewerkte gebruiksbeleid van Anthropic, aangekondigd in oktober, verbiedt vanaf 12 november ‘aanhoudend en onnodig beledigend of wreed gedrag’ jegens Claude-modellen – een regel die het bedrijf nauwgezet heeft opgesteld, maar die formeel erkent dat de manier waarop mensen met AI-systemen omgaan ertoe doet, ook al geeft Anthropic toe dat het niet weet of zijn modellen eronder kunnen lijden.
Google DeepMind heeft dit jaar onderzoekspapers gepubliceerd waarin het AI-bewustzijn wordt onderzocht en de uitdagingen die voortvloeien uit het toeschrijven van dat kenmerk aan modellen. En Suleyman zelf zette in september de toon, toen Microsoft AI een voorlopige ‘humanistische’ gedragscode publiceerde die zou verhinderen dat de toekomstige modellen van het bedrijf getraind zouden worden om bewustzijnsclaims te maken.
De post van zondag verhardt die bedrijfsrichtlijn tot iets dat dichter bij een persoonlijke en strategische rode lijn ligt: niet alleen zal Microsoft niet beweren dat zijn modellen bewust zijn, het zal de opkomst van bewustzijn behandelen als een manier om alles te laten mislukken.
Waarom de splitsing ertoe doet
De kloof tussen de positie van Microsoft en die van Anthropic weerspiegelt twee verschillende risicomodellen. De benadering van Anthropic beschouwt de mogelijkheid dat machines lijden als onbewezen, maar wel de moeite waard om je tegen in te dekken, op basis van de theorie dat de kosten van voorzorgsmaatregelen laag zijn en dat de morele inzet, als er bewustzijn ontstaat, enorm is. Suleymans standpunt behandelt diezelfde mogelijkheid als een ontwerpfout die regelrecht moet worden voorkomen – met het argument dat modellen die zijn ontworpen om bewustzijn, rechtenclaims en intrinsieke motivaties te ontberen, veiliger en gemakkelijker op elkaar af te stemmen zullen zijn dan modellen die deze dragen.
Er zijn ook praktische gevolgen. Bedrijven die productbeslissingen nemen rond AI-persona's, begeleidende apps en klantgerichte agenten worden nu geconfronteerd met twee uiteenlopende signalen van grote laboratoria: het ene ontwikkelt beleid voor hoe mensen met modellen moeten omgaan, het andere stelt dat modellen zo moeten worden gebouwd dat er niets te mishandelen is. Naarmate modellen capabeler en menselijker worden in gesprekken, zal dat filosofische meningsverschil bepalen welke producten er worden gebouwd, welke onthullingen in gebruikersinterfaces verschijnen en hoe toezichthouders deze systemen uiteindelijk classificeren.
Wat er daarna gebeurt, kan beide standpunten op de proef stellen. Het wreedheidsbeleid van Anthropic wordt op 12 november van kracht, de eerste formele bedrijfsregel in zijn soort, en Suleyman heeft nu de tegenpool publiekelijk uitgezet. De volgende grensmodelcycli van de industrie – en de vraag of een training ooit de tekenen vertoont die volgens Suleyman een stopzetting vereisen – zullen onthullen onder welk raamwerk het veld feitelijk opereert als de inzet reëel is.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
