Koning Charles III heeft donderdag een scherpe waarschuwing afgegeven over de ‘existentiële gevaren’ van kunstmatige intelligentie, waarbij hij leidinggevenden van Nvidia, Google DeepMind en OpenAI toesprak die bijeen waren gekomen op zijn landgoed Dumfries House in Schotland voor een topconferentie op hoog niveau over de toekomst van de technologie.
De vorst vertelde de verzamelde leiders uit de industrie dat er urgentie bestaat bij het aanpakken van de risico’s die gepaard gaan met steeds krachtigere AI-systemen, vooral als de technologie uiteindelijk wordt gecontroleerd door kwaadwillende actoren. Voor meer context over dit verhaal, zie ons AI-trends.
“Het lijkt urgent om adequaat rekening te houden met de existentiële gevaren van dergelijke technologieën die in verkeerde handen vallen en op potentieel catastrofale manieren worden gebruikt”, zei de koning tegen de leiders die bijeen waren gekomen op het landgoed in Ayrshire, volgens berichtgeving door ABC News en meerdere andere media.
Een dubbele boodschap: belofte en gevaar
De toespraak van de koning was geen algemene afwijzing van de technologie. Hij erkende dat kunstmatige intelligentie een enorm potentieel voor het goede met zich meebrengt, waarbij hij in het bijzonder wijst op de biowetenschappen en de geneeskunde, waar AI-instrumenten steeds vaker worden gebruikt om onderzoek te versnellen en de resultaten voor patiënten te verbeteren.
Maar hij combineerde dat optimisme met de waarschuwing dat de makers van de technologie zelf steeds vaker hebben gewaarschuwd dat geavanceerde systemen duisterdere capaciteiten zouden kunnen ontwikkelen, “misschien zelfs om levens te nemen”, zei hij, volgens het verslag van de omroeporganisatie over zijn opmerkingen.
De koning riep ook op tot het treffen van voorzorgsmaatregelen voordat het te laat wordt om het traject van de technologie te controleren, en bracht de impact van AI-ontwikkeling op het milieu aan de orde, een onderwerp dat steeds meer aandacht krijgt nu de bouw van datacenters de elektriciteitsnetten in meerdere landen onder druk zet.
Wie heeft de Schotse top bijgewoond
De gastenlijst is een dwarsdoorsnede van de machtigste figuren uit de AI-industrie. Volgens ABC News waren onder meer Nvidia-oprichter en CEO Jensen Huang, Google DeepMind-oprichter Demis Hassabis en OpenAI Chief Financial Officer Sarah Friar aanwezig. De Britse minister van Kunstmatige Intelligentie, Kanishka Narayan, was ook aanwezig.
Huang werd uitgenodigd voor een ontmoeting met de koning om de veiligheidsmechanismen in de sector te bespreken, zo blijkt uit afbeeldingen en bijschriften die door Reuters zijn verspreid. Van pater Paolo Benanti, een pauselijke adviseur die regeringen heeft opgeroepen de ontwikkeling van AI te vertragen, werd ook verwacht dat hij de discussies zou bijwonen.
De keuze van de locatie en het congres is van belang. De Britse monarchie heeft geen regelgevende macht, maar de koning heeft een lange geschiedenis van publieke betrokkenheid bij opkomende technologierisico's, en de top gaf de hoogste figuren uit de industrie een gedeelde tafel op een moment waarop de roep om toezicht aan beide zijden van de Atlantische Oceaan steeds luider wordt.
Een debat nieuw leven ingeblazen
De bijeenkomst vindt plaats in het kader van een hernieuwing van het publieke debat over het AI-risico. De discussie werd opnieuw in de schijnwerpers gezet nadat twee antropische onderzoekers waarschuwden dat de snel voortschrijdende technologie in de niet al te verre toekomst zou kunnen leiden tot het uitsterven van de mens. Deze opmerkingen trokken zowel uitgebreide aandacht als kritiek.
Antropische CEO Dario Amodei heeft bedrijven afzonderlijk opgeroepen om het tempo van de AI-ontwikkeling te vertragen. Paus Leo XIV heeft er bij regeringen over de hele wereld op aangedrongen de ontwikkeling van AI-systemen te vertragen en de ontwrichtende effecten ervan te verzachten, terwijl de Amerikaanse president Donald Trump ook in het debat heeft ingegrepen, waardoor de kwestie van AI-beheer tot een werkelijk mondiale politieke kwestie is geworden in plaats van een puur technische kwestie.
Tegen die achtergrond groeit de bezorgdheid dat de veiligheidsinspanningen op het gebied van AI achterblijven bij de ontwikkeling van steeds capabeler wordende systemen. De afgelopen weken concentreerde het debat zich op de vraag of de sector zichzelf kan en moet reguleren, waarbij sceptici zich afvroegen of leidinggevenden die oproepen tot voorzichtigheid misschien bijbedoelingen hebben, zoals het opstellen van regels die de concurrentievoorsprong van bepaalde bedrijven behouden.
Geen bindende regels verwacht
De organisatoren hebben de Schotse bijeenkomst nooit als een onderhandeling opgevat. Volgens ABC News zal de bijeenkomst naar verwachting geen bindende afspraken opleveren. Het doel ervan is, althans in naam, verkennend: of een gedeelde reeks principes richting kan geven aan de manier waarop AI over grenzen en industrieën heen wordt toegepast.
Buckingham Palace zei dat bij de discussies zou worden nagegaan of AI kan worden geleid "niet alleen als een motor voor capaciteiten en efficiëntie, maar als een instrument dat de menselijke waardigheid hooghoudt en bijdraagt aan de bloei van zowel mensen als de planeet."
Dat kader weerspiegelt een thema waar de Koning herhaaldelijk op is teruggekomen: dat de vraag niet alleen is of AI veilig kan worden gemaakt, maar ook waar het voor zou moeten dienen. De opmerkingen van donderdag hebben dat punt aangescherpt tot een waarschuwing over eigendom en controle, een opmerkelijk andere nadruk dan de op capaciteiten gerichte angsten die de meeste AI-risicodiscussies domineren.
Wat gebeurt er vervolgens
Het is onwaarschijnlijk dat de top op zichzelf tot beleid zal leiden, maar het voegt momentum toe aan een reeks officiële inspanningen die al aan de gang zijn. Het Verenigd Koninkrijk heeft zichzelf sinds de eerdere AI-topconferenties gepositioneerd als gesprekspartner op het gebied van AI-veiligheid, en de aanwezigheid van een toegewijde minister voor kunstmatige intelligentie geeft aan dat de regering van plan is betrokken te blijven bij zowel Amerikaanse als Chinese AI-ontwikkelaars.
Voor de bedrijven in de zaal is de berekening delicaat. Nvidia, DeepMind en OpenAI hebben allemaal te maken met commerciële druk om steeds capabelere systemen te leveren, ook al publiceren hun eigen onderzoekers waarschuwingen over wat die systemen uiteindelijk zouden kunnen doen. Een koninklijke dagvaarding lost die spanning niet op, maar zorgt er wel voor dat de spanning zichtbaar blijft.
De kernboodschap van de koning, dat er veiligheidsmaatregelen moeten komen voordat de technologie aan het vermogen van iemand anders om deze te besturen ontgaat, komt terecht in een week waarin het veiligheidsdiscours in de industrie ongewoon luidruchtig is geweest, van de onthulling door OpenAI van meerdere veiligheidsincidenten waarbij zijn eigen modellen betrokken zijn, tot een escalerend publiek dispuut tussen het AI-leiderschap van Microsoft en Anthropic over de manier waarop AI-systemen moeten worden ontworpen.
Of de bijeenkomst van donderdag zich in iets concreters vertaalt, valt nog te bezien. Maar nu de leiders van de meest waardevolle chipmaker ter wereld en de meest prominente AI-laboratoria in een Schots landhuis zitten en het er op zijn minst over eens zijn dat de inzet existentieel is, is het gesprek over wie AI controleert, en ten behoeve van wie, beslissend in de openbaarheid gekomen.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
