Secretaris-generaal van de Verenigde Naties, António Guterres, heeft deze week een van zijn krachtigste waarschuwingen tot nu toe over kunstmatige intelligentie uitgesproken, waarin hij verklaarde dat de wereld "zich geen race naar de bodem op het gebied van AI-veiligheid kan veroorloven", terwijl regeringen zich voorbereiden om in New York bijeen te komen voor de week op hoog niveau van de Algemene Vergadering van de VN. In een toespraak voorafgaand aan de jaarlijkse bijeenkomst van wereldleiders plaatste Guterres de op hol geslagen AI naast de klimaatcrisis en de toenemende ongelijkheid als de drie existentiële bedreigingen waarmee de planeet wordt geconfronteerd.
De opmerkingen, gerapporteerd door Reuters, UN News en media over de hele wereld, komen op een beladen moment: de VN dringt aan op bindende internationale coördinatie op het gebied van AI-beheer, net zoals Washington een lichtere aanpak signaleert, waarbij Reuters opmerkt dat de VN-chef alarm sloeg nadat president Trump de noodzaak van strengere AI-regulering bagatelliseerde.
"Een tijdperk van diepe onzekerheid"
Guterres informeerde de pers zes dagen voordat de leiders in New York arriveerden en zei dat de wereld ‘een tijdperk van diepe onzekerheid’ is binnengegaan. Hij erkende het ‘enorme potentieel’ van AI op gebieden als gezondheidszorg, onderwijs en klimaatwetenschap, maar waarschuwde dat de technologie sneller vooruitgaat dan het menselijk begrip van de risico’s ervan.
“De wereld kan zich geen race to the bottom op het gebied van AI-veiligheid veroorloven”, zei hij, met het argument dat nationale regels alleen niet voldoende zullen zijn. "Nationale actie is essentieel, maar mondiale coördinatie is onmisbaar."
De secretaris-generaal uitte ook zijn scepsis dat vrijwillige pauzes in de grensoverschrijdende AI-ontwikkeling kunnen werken als ze geïsoleerd zijn – beperkt tot een handvol landen, niet verifieerbaar of ongelijkmatig toegepast. Nu de vrees voor een AI-wapenwedloop tussen de Verenigde Staten en China toeneemt, geeft hij toe dat geopolitieke verdeeldheid de coördinatie moeilijker en niet minder noodzakelijk maakt. "Als we geloven dat de ontwikkeling van AI zou moeten vertragen als de risico's te groot worden, hebben we meer nodig dan goede bedoelingen", zei hij.
De opkomende AI-governancemachinerie van de VN
Achter deze retoriek schuilt een bestuursarchitectuur die de afgelopen twee jaar stilletjes vorm heeft gekregen. Het Global Digital Compact, dat in 2024 door de VN-lidstaten werd aangenomen als onderdeel van het Pact voor de Toekomst, riep op tot twee nieuwe mechanismen: een wetenschappelijk orgaan om de risico’s en kansen van AI te beoordelen, en een jaarlijks forum waar regeringen hun benaderingen op elkaar konden afstemmen. De Algemene Vergadering heeft beide in augustus 2025 formeel opgericht.
Het eerste, het Independent International Scientific Panel on AI, bracht op 1 juli zijn voorlopige rapport uit. Het concludeerde dat AI-capaciteiten snel vooruitgang boeken – vooral op het gebied van redeneren, coderen en wetenschappelijk onderzoek – en tegelijkertijd risico’s signaleren, waaronder desinformatie, discriminatie, privacyschendingen, cyberaanvallen en vormen van ‘superintelligentie’ die moeilijk te controleren zouden kunnen worden.
De tweede, de Global Dialogue on AI Governance, is bedoeld als reactie van het tweetal: het panel levert bewijsmateriaal en landen beslissen wat ze ermee gaan doen.
Guterres noemde het panel de basis voor geïnformeerde mondiale besluitvorming en drong er bij regeringen op aan om vangrails te bouwen die “AI veilig, transparant en verantwoordelijk maken, waarbij de menselijke waardigheid centraal staat.” Hij heeft ook twee concrete initiatieven gelanceerd: een AI Child Safety Pledge en een Global Fund for AI om ontwikkelingslanden te helpen bij het opbouwen van AI-infrastructuur en -capaciteit.
Een steeds groter wordende transatlantische kloof
De interventie van de VN-chef komt terecht in een zichtbare kloof tussen de Europese regelgeving en de dereguleringsgolf van Washington. Terwijl de Europese Unie haar AI-wet implementeert en VN-organen beoordelingsmechanismen bouwen, heeft de Amerikaanse regering de nadruk gelegd op innovatie en concurrentievermogen, en Reuters meldde dat president Trump de zorgen over AI-risico’s die Guterres en andere functionarissen blijven uiten, heeft gebagatelliseerd.
Op de vraag hoe snel de VN een top kunnen bijeenroepen die tot effectieve regulering leidt, zei Guterres dat dit niet tijdens de Algemene Vergadering van volgende week zou kunnen gebeuren – maar spoedig zou moeten komen, met “iedereen aan boord” uit de publieke, private, wetenschappelijke en maatschappelijke sector.
De urgentie in zijn toon weerspiegelt een reeks recente waarschuwingen vanuit de sector zelf. Eerder deze maand waarschuwde een voormalig onderzoeker bij Anthropic publiekelijk dat geavanceerde AI een existentiële bedreiging voor de mensheid zou kunnen vormen, en Guterres' eigen opmerkingen omlijstten het traject van de technologie als een vraag die de internationale gemeenschap niet langer kan uitstellen.
Wat gebeurt er vervolgens
AI zal een prominente plaats innemen wanneer de week op hoog niveau van de Algemene Vergadering van start gaat, naast de debatten over de oorlogen in Gaza en Oekraïne. Of het wetenschappelijke panel en de mondiale dialoog van de VN kunnen evolueren van praatwinkels naar mechanismen met echte invloed op het nationale beleid blijft de centrale open vraag – en een vraag die zal testen of multilaterale instellingen zich kunnen ontwikkelen met iets dat ook maar in de buurt komt van de snelheid van de technologie die zij proberen te besturen.
Voorlopig is de boodschap van de secretaris-generaal aan de wereldleiders ondubbelzinnig: de risico's zijn mondiaal, het bestuur niet, en de kans om die kloof te dichten wordt steeds kleiner.
_Blijf de curve voor. Volg de wereldwijde strijd om AI-regels en de grootste verhalen over kunstmatige intelligentie op AI Buzz Wire._
