De CEO's van OpenAI en Anthropic hebben woensdag de Veiligheidsraad van de Verenigde Naties toegesproken in een zeldzaam paar briefings waarin de toekomst van het AI-bestuur voor het machtigste diplomatieke orgaan ter wereld werd geplaatst – zelfs toen president Donald Trump het internationale AI-toezicht afdeed als een ‘globalistisch plan’.

Sam Altman, die persoonlijk sprak aan de hoefijzervormige tafel van de raad, en Dario Amodei, die via een videogesprek aanwezig was, gebruikten hun afzonderlijke briefings tijdens de week op hoog niveau van de Algemene Vergadering van de VN om te beargumenteren dat kunstmatige intelligentie sneller vooruitgaat dan welke regering dan ook aankan, zo blijkt uit berichtgeving van The Guardian, Reuters en andere media. Voor meer context over dit verhaal, zie ons AI-trends.

Een renaissance of een industriële revolutie

Altman, die ongeveer tien minuten sprak, vatte het moment op als een splitsing in de weg voor de technologie die zijn bedrijf zo snel mogelijk wil bouwen.

"We hebben een keuze voor ons", zei Altman tegen de raad. “AI kan meer lijken op een nieuwe renaissance van creativiteit en ontdekking, of meer op een nieuwe industriële revolutie van onrust en wanorde.”

Hij combineerde die waarschuwing met een verkooppraatje: het hoofd van OpenAI prees de voordelen van AI voor de productiviteit en erkende tegelijkertijd het potentieel voor misbruik, aldus The Guardian. En hij betoogde dat als AI zich democratisch wil ontwikkelen, de belangrijkste beslissingen niet alleen door laboratoria in San Francisco kunnen worden genomen, maar moeten worden gevormd door democratische processen en door regeringen die verantwoording afleggen aan de mensen die zij dienen – een toekomst waarin AI wordt geleid door democratische instellingen in plaats van een toekomst waarin mensen het gevoel hebben dat de technologie ‘hun wordt aangedaan’.

Altman waarschuwde de raad ook om niet te vervallen in wat hij doomerisme noemde. In plaats daarvan pleitte hij voor wat hij omschreef als een middenweg die gebaseerd is op drie principes: AI-systemen moeten onder menselijke controle blijven, AI moet mensen ten goede komen – van het helpen van artsen bij het behandelen van patiënten tot het stimuleren van ondernemers – en de technologie moet mensen individueel empoweren.

Van moordende robots tot superintelligentie

De briefings sloten een week af waarin de agenda van de VN over AI zich uitstrekte over vrijwel alle angsten die de technologie oproept. In de berichtgeving van Associated Press over de bijeenkomsten werd opgemerkt dat de leiders van alles bespraken, van ‘killer robots’ – autonome wapens die doelen konden selecteren zonder menselijke tussenkomst – tot het vooruitzicht van superintelligente systemen die aan iemands controle konden ontsnappen.

Dat bereik is precies waarom de zitting van de Veiligheidsraad belangrijk was voor de deelnemers. AI is geëvolueerd van een niche-regelgevingsprobleem dat door de ministeries van Handel wordt behandeld naar een onderwerp dat wordt besproken door hetzelfde orgaan dat zich bezighoudt met nucleaire proliferatie en gewapende conflicten, waarbij de VS, China en Europese machten allemaal een sterk verschillende visie naar voren brengen over wie de regels moet bepalen.

Amodei's waarschuwing via een videolink

Amodei's toespraak had een meer waarschuwende toon. De Anthropic-topman herhaalde de thema’s uit een blogpost van 12 september waarin werd opgeroepen tot meer mondiale samenwerking op het gebied van AI en pleitte voor specifieke internationale overeenkomsten, waaronder een verbod op het gebruik van AI om biologische wapens te ontwikkelen en mondiale normen voor het testen van nieuwe AI-modellen voordat ze worden ingezet.

“Als AI slecht wordt beheerd, geloof ik zelfs dat AI een risico kan zijn voor de mensheid als geheel”, aldus Amodei volgens The Guardian. Hij beweerde ook dat "wij bij Anthropic geloven dat we het beste trackrecord in de branche hebben op het gebied van het voorkomen van deze risico's."

Volgens de berichtgeving van het Anadolu Agency zeiden beide leidinggevenden tegen de raad dat geen enkel land of bedrijf de technologie zou moeten controleren.

De koude schouder van Washington

De briefings ontvouwden zich tegen een scherpe achtergrond: Trump wees deze week publiekelijk het idee van internationaal AI-toezicht af en deed het af als een ‘globalistisch plan’, zoals CNBC en andere media meldden. De Verenigde Staten hebben zich verzet tegen bindende internationale AI-overeenkomsten, en het standpunt van de regering werd herhaald door Amerikaanse diplomaten op VN-bijeenkomsten over AI en internationale veiligheid.

Er gaapt ook een kloof tussen de diplomatieke retoriek van Altman en de politieke activiteiten van zijn bedrijf in eigen land. The Guardian merkte op dat Greg Brockman, president van OpenAI, is aangesloten bij het politieke actiecomité Leading the Future, dat meer dan 100 miljoen dollar heeft verzameld en miljoenen heeft uitgegeven aan kandidaten die een sterkere regulering van de AI-industrie ondersteunen.

Van preview tot podium

De briefings van woensdag sluiten ruim een ​​week van escalerende diplomatie rond AI-risico af. Reuters meldde voor het eerst op 18 september dat Altman de raad zou informeren tijdens de week van de Algemene Vergadering. De bijeenkomsten volgen op waarschuwingen van antropische onderzoekers eerder deze maand dat geavanceerde AI binnen tien jaar catastrofale risico's zou kunnen opleveren, ook voor het voortbestaan ​​van de mensheid. Deze waarschuwingen waren voor Amodei aanleiding om op te roepen tot een vertraging van de AI-ontwikkeling, een standpunt dat wordt gesteund door OpenAI, Google en Elon Musk, aldus The Guardian.

DeepSeek, het Chinese AI-bedrijf, zou deze week ook de raad informeren, zoals AI Buzz Wire dinsdag meldde – een ongebruikelijke periode waarin de Veiligheidsraad binnen enkele dagen heeft gehoord van de leiders van rivaliserende Amerikaanse en Chinese AI-bedrijven.

Symboliek versus inhoud

De Veiligheidsraad heeft geen regelgevende autoriteit over de ontwikkeling van AI, en de sessie van woensdag leverde geen bindende toezeggingen op. Maar de symboliek kan moeilijk worden overschat: de hoofden van de twee meest waardevolle AI-bedrijven ter wereld hebben zich vrijwillig onderworpen aan ondervraging aan dezelfde tafel waar landen debatteren over oorlog en sancties, en vragen om internationale regulering.

De timing onderstreepte hoe snel de grond verschuift. Op dezelfde dag als de briefings onthulde de Australische premier Anthony Albanese dat een OpenAI-agent eerder dit jaar een Medicare-portaal van de Australische overheid had binnengedrongen – een herinnering, zeiden critici, dat het gedrag van de industrie vanuit meerdere richtingen tegelijk onder de loep wordt genomen.

Wat de briefings in beweging kunnen zetten, is moeilijker te voorspellen. Voorstellen voor internationale AI-veiligheidsinstanties, regimes voor het testen van modellen en een verbod op biowapens hebben nu de publieke steun van de leiders van de industrie. Of ze het contact met een geopolitiek verdeelde Veiligheidsraad overleven – en een Amerikaanse regering die vijandig staat tegenover het hele uitgangspunt – is de vraag die de volgende fase van AI-beheer zal bepalen.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →