Påven Leo säger att AI Doom-problem inte är "falska nyheter" - och ropar ut Nvidias Jensen Huang

Påven Leo XIV sa i måndags att oro för att artificiell intelligens blir skurk inte är "falska nyheter" och bör tas på allvar, i en skarp tillrättavisning av teknikchefer som hävdar att tekniken borde utvecklas utan statliga skyddsräcken. När påven talade vid en presskonferens ombord på det påvliga flyget tillbaka till Rom efter ett fyra dagar långt besök i Frankrike, tog påven också sikte – utan att först nämna honom – på Nvidias vd Jensen Huangs ställningstagande mot AI-reglering, enligt rapporter från AFP, AP och Reuters som bärs av Al Jazeera.

Anmärkningarna landar i ett brännbart ögonblick för AI-politiken. På tisdag kommer president Donald Trump att vara värd för tekniska ledare inklusive Metas Mark Zuckerberg och Anthropics Dario Amodei i Vita huset, som Reuters rapporterar, med industrin som trycker tillbaka mot reglering även när ledande forskare varnar för katastrofala risker. För läsare som spårar kollisionen mellan regeringar och AI-industrin, AI Buzz Wire följer den senaste AI-utvecklingen från Washington till Bryssel till Vatikanen.

'Föronen bör tas på allvar'

Påven tillfrågades under presskonferensen om vad USA och Kina – världens två AI-supermakter – borde göra för att förhindra AI från att utgöra katastrofala risker för mänskligheten. Trump har tidigare kallat farhågor om att AI blir oseriöst för en "bluff".

"Jag tycker att de farhågor som tagits upp av många av experterna, specialister inom AI, bör tas på allvar," sa påven och insisterade på att säkerhetsfrågorna som tagits upp av AI-experter bör både diskuteras och åtgärdas. Han uppmanade världen att "främja dialog, studier, undersökningar, för att hitta sätt att se till att AI inte kommer till en punkt där det kan förstöra mänskligheten."

Utbytet med Jensen Huang

Det mest spetsiga ögonblicket kom när Leo refererade till ett meddelande som han sa att han hade läst om just den morgonen: att chefen för chiptillverkaren Nvidia hade beskrivit ett sätt att sätta in skyddsräcken i vissa AI-modeller. Påven uttryckte öppen skepsis mot budbäraren.

"Han är densamma, men som säger att det inte ska finnas några gränser och ingen statlig reglering," sa Leo - en direkt träff på Huang, som enligt poolrapporterna sa till CBS News tidigare denna månad att han höll med Trump om att säkerhetsproblemen kring AI var överdrivna.

Tillkännagivandet som påven hänvisade till verkar vara Nvidias nyligen avtäckta Open Agent Safety Platform, en hård- och mjukvarusatsning utformad för att polisa autonoma AI-agenter och förhindra dem från att bli skurk. Ironin gick inte förlorad för observatörer: branschens mest värdefulla företag säljer nu säkerhetsteknik samtidigt som de lobbar mot den statliga förordningen som säkerhetsförespråkare säger behövs för att upprätthålla den.

Ett påvedöme byggt på AI-varningar

Måndagens kommentarer förlänger det som har blivit det avgörande temat för Leos 16-månaders påvedöme. Den första amerikanska påven identifierade AI som en av de största utmaningarna som mänskligheten står inför inom några dagar efter hans val, och ägnade sin första encyklika åt AI och skyddet av mänskligheten – och tog det ovanliga steget att personligen lansera dokumentet tillsammans med den antropiske medgrundaren Christopher Olah vid ett Vatikanevenemang i maj.

Under Lejonet har Vatikanen stadigt eskalerat sin retorik och sina initiativ till förmån för internationell AI-styrning, med särskilt fokus på områden som kärnteknik, kultur och konstnärligt skapande. Lanseringen av encyklikan i maj var en del av en medveten Vatikanens ansträngning för att engagera Silicon Valley direkt om de mänskliga kostnaderna för AI - en uppsökande verksamhet som nu sträcker sig till utmanande chefer offentligt. Påven sa att ansträngningarna att sammankalla beslutsfattare måste fortsätta: "Vi måste fortsätta att bjuda in politiska ledare, ledare för AI, sociala organisationer, föreningar att samlas och titta på vad som redan händer och vad som kan vara på vägen."

"Jag tror att det finns tillräckligt många människor som är seriöst intresserade av det... men vi måste fortsätta arbeta", tillade han.

Varför en påve hamnar under Silicon Valleys hud

Leos ingripande är viktigt eftersom det riktar sig mot den centrala motsättningen i branschens nuvarande ställning. Under de senaste veckorna har OpenAI skrotat en gränsmodellrelease på grund av uppriktningsfel, Nvidia och andra labb har rusat ut agentsäkerhetsprodukter, och framstående vetenskapsmän inklusive Geoffrey Hinton och Yoshua Bengio har varnat för en skenande "underrättelseexplosion" - samma dag som påvens kommentarer faktiskt. Ändå fortsätter branschens ledande röster att hävda att statlig reglering skulle strypa innovation.

Påvens budskap var att båda sakerna inte kan vara sanna på en gång: om riskerna är tillräckligt reella för att motivera försäljning av säkerhetsprogramvara, är de tillräckligt reella för att motivera regler. När Vita huset rullar ut den röda mattan för AI-chefer den här veckan, positionerar Leo Vatikanen som en av få globala institutioner som är villiga att säga det tydligt.

Ligg före AI

Följ den globala kampen om AI:s framtid. Läs fler AI-nyheter på AI Buzz Wire.

Senaste AI-utvecklingen →