Paus Leo XIV zei maandag dat zorgen over kunstmatige intelligentie geen ‘nepnieuws’ zijn en serieus moeten worden genomen, in een scherpe berisping van technologiebestuurders die beweren dat de technologie zich moet ontwikkelen zonder vangrails van de overheid. Sprekend op een persconferentie aan boord van de pauselijke vlucht terug naar Rome na een vierdaags bezoek aan Frankrijk, richtte de paus zich ook – zonder hem eerst bij naam te noemen – op het standpunt van Nvidia-CEO Jensen Huang tegen AI-regulering, volgens berichtgeving van AFP, AP en Reuters van Al Jazeera.
De opmerkingen komen op een brandbaar moment voor het AI-beleid. Dinsdag zal president Donald Trump technologieleiders, waaronder Meta's Mark Zuckerberg en Anthropic's Dario Amodei, ontvangen in het Witte Huis, zoals Reuters meldt, waarbij de industrie terugdringt tegen regelgeving, zelfs terwijl vooraanstaande wetenschappers waarschuwen voor catastrofale risico's. Voor lezers die de botsing tussen overheden en de AI-industrie volgen: AI Buzz Wire volgt de laatste AI-ontwikkelingen van Washington tot Brussel tot het Vaticaan.
'De zorgen moeten serieus worden genomen'
De paus werd tijdens de persconferentie tijdens de vlucht gevraagd wat de Verenigde Staten en China – de twee AI-supermachten ter wereld – zouden moeten doen om te voorkomen dat AI catastrofale risico’s voor de mensheid met zich meebrengt. Trump heeft eerder de zorgen over het gebruik van AI een ‘hoax’ genoemd.
“Ik denk dat de zorgen van veel van de experts, specialisten op het gebied van AI, serieus moeten worden genomen”, zei de paus, waarbij hij erop aandrong dat de veiligheidskwesties die door AI-experts naar voren zijn gebracht, zowel besproken als aangepakt moeten worden. Hij drong er bij de wereld op aan “de dialoog, studie en onderzoek te bevorderen en manieren te vinden om ervoor te zorgen dat AI niet op een punt komt waarop het de mensheid zou kunnen vernietigen.”
De uitwisseling met Jensen Huang
Het meest treffende moment kwam toen Leo verwees naar een aankondiging waar hij die ochtend nog over had gelezen: dat het hoofd van chipmaker Nvidia een manier had beschreven om vangrails in bepaalde AI-modellen te plaatsen. De paus uitte openlijk zijn scepsis over de boodschapper.
“Hij is echter dezelfde die zegt dat er geen grenzen mogen worden gesteld en geen overheidsregulering”, zei Leo – een voltreffer voor Huang, die volgens de poolrapporten eerder deze maand aan CBS News vertelde dat hij het met Trump eens was dat de zorgen over de veiligheid van AI overdreven waren.
De aankondiging waar de paus naar verwees lijkt het onlangs onthulde Open Agent Safety Platform van Nvidia te zijn, een hardware- en software-inspanning die is ontworpen om autonome AI-agenten te controleren en te voorkomen dat ze schurkenstaten worden. De ironie is de waarnemers niet ontgaan: het meest waardevolle bedrijf in de sector verkoopt nu veiligheidstechnologie en lobbyt tegelijkertijd tegen de overheidsregelgeving die volgens veiligheidsvoorstanders nodig is om deze af te dwingen.
Een pausdom gebouwd op AI-waarschuwingen
De opmerkingen van maandag breiden uit wat het bepalende thema is geworden van Leo's zestien maanden durende pausdom. De eerste Amerikaanse paus identificeerde AI als een van de grootste uitdagingen waarmee de mensheid binnen enkele dagen na zijn verkiezing wordt geconfronteerd, en wijdde zijn eerste encycliek aan AI en de bescherming van de mensheid. Hij nam de ongebruikelijke stap om het document persoonlijk te lanceren samen met Antropisch medeoprichter Christopher Olah tijdens een evenement in het Vaticaan in mei.
Onder Leo heeft het Vaticaan zijn retoriek en initiatieven ten gunste van internationaal AI-bestuur gestaag geëscaleerd, met bijzondere aandacht voor gebieden als nucleaire technologie, cultuur en artistieke creatie. De lancering van de encycliek van mei was onderdeel van een doelbewuste poging van het Vaticaan om Silicon Valley rechtstreeks te betrekken bij de menselijke kosten van AI – een outreach die zich nu uitstrekt tot het publiekelijk uitdagen van leidinggevenden. De paus zei dat de inspanningen om besluitvormers bijeen te roepen moeten worden voortgezet: “We moeten politieke leiders, leiders van AI, sociale organisaties en verenigingen blijven uitnodigen om samen te komen en te kijken naar wat er al gebeurt en wat er in de toekomst zou kunnen gebeuren.”
‘Ik denk dat er genoeg mensen zijn die daar serieus in geïnteresseerd zijn… maar we moeten blijven werken’, voegde hij eraan toe.
Waarom een paus onder de huid van Silicon Valley kruipt
De interventie van Leo is van belang omdat deze zich richt op de centrale tegenstrijdigheid in de huidige houding van de sector. De afgelopen weken heeft OpenAI een release van een grensmodel geschrapt vanwege fouten in de uitlijning, Nvidia en andere laboratoria hebben agent-veiligheidsproducten op de markt gebracht, en prominente wetenschappers, waaronder Geoffrey Hinton en Yoshua Bengio, hebben gewaarschuwd voor een op hol geslagen ‘intelligentie-explosie’ – in feite dezelfde dag als de paus. Toch blijven de leidende stemmen in de sector beweren dat overheidsregulering innovatie zou onderdrukken.
De boodschap van de paus was dat beide dingen niet tegelijk waar kunnen zijn: als de risico's reëel genoeg zijn om de verkoop van veiligheidssoftware te rechtvaardigen, zijn ze reëel genoeg om regels te rechtvaardigen. Nu het Witte Huis deze week de rode loper uitrolt voor AI-bestuurders, positioneert Leo het Vaticaan als een van de weinige mondiale instellingen die bereid zijn dit ronduit te zeggen.
Blijf AI een stap voor
Volg de wereldwijde strijd om de toekomst van AI. Lees meer AI-nieuws op AI Buzz Wire.
Laatste AI-ontwikkelingen →
