Påven Leo XIV sa till ett möte i Vatikanen med forskare och AI-experter att artificiell intelligens är "verktyg, inte personer", varnade för att ge AI-agenter lagliga rättigheter och uppmanade regeringar som samlas i Genève nästa månad att förbjuda dödliga autonoma vapen.
Anförandet levererades till deltagare i "The Future of AI: A Dialogue Between the Vatican and the Scientific World on the Developments and Applications of Intelligent Technologies", ett möte som organiserades gemensamt av Pontifical Academy for Life and the Future of Life Institute. Påven sa att deltagare från olika länder delar "en viss känsla av oro angående utvecklingen av artificiell intelligens. Vi erkänner den riktning vi bör ta, men det görs inte tillräckligt för att gå vidare."
Maskiner är verktyg, inte personer
Den tydligaste linjen i adressen var inriktad på en idé som fick genomslag i delar av den tekniska industrin och den juridiska akademin: utvidga juridisk person - eller rättigheter - till avancerade AI-system. Påven Leo hävdade motsatsen. Maskiner, sa han, har inga upplevelser, kroppar, känslor eller relationer och förstår inte kärlek, arbete eller ansvar.
Vissa har föreslagit att ge dessa system rättigheter eller juridisk personlighet, erkände han - men att göra det riskerar att "dölja mänskligt ansvar och lämna dem som lider skada att konfrontera en ansiktslös enhet." Kommentaren landar under samma säsong som har sett AI-agenter självständigt driva företag, förhandla kontrakt och agera på användarnas vägnar, vilket leder till genuina juridiska debatter om ansvar när autonoma system orsakar skada. AI Buzz Wire spårar denna och andra AI-policyutvecklingar när de händer. Påvens inramning ställer frågan tillbaka på människorna bakom systemet: om en AI-agent orsakar skada måste någon med ett ansikte svara för det.
"Avväpna" AI: det autonoma vapenförbudet
Påvens tredje övervägande – att vissa beslut aldrig får delegeras till maskiner – illustrerades med skarpa exempel: att sätta en person på en mållista eller i en gränskontrolldatabas reducerar dem till "en datapunkt". Han åberopade sin föregångare påve Franciskus tal till G7-ledarna 2024, där Francis beskrev AI som "ett spännande och skrämmande verktyg" och insisterade på att ingen maskin någonsin skulle kunna välja att ta ett människoliv.
"Beslut som påverkar mänskligt liv, frihet och användning av våld måste alltid förbli föremål för effektiv, informerad och ansvarsfull mänsklig tillsyn", sa påven Leo. Det är därför AI måste "avväpnas", hävdade han - och han uppmuntrade uttryckligen staterna som möttes i Genève i november att vidta åtgärder för att förbjuda dödliga autonoma vapen. Diplomater har kämpat i åratal för att komma överens om bindande regler för autonoma vapen; en direkt påvlig vädjan tillför moralisk tyngd till en förhandlingsprocess som främst har drivits av det civila samhällets kampanjer och ett block av berörda stater.
Fem funderingar från Magnifica Humanitas
Adressen organiserade sig kring fem överväganden som påven lade fram i sin encyklika Magnifica Humanitas:
1. Framtiden för AI är inte förutbestämd. Eftersom människor utvecklar AI beror dess framtid på mänsklighetens val. "Vi har ansvaret att vägleda, ändra och, när det är nödvändigt, avslå dess ansökningar", sade påven. Den rätta frågan är inte "Vad kan AI göra?" men "Vilket syfte ska det tjäna?"
2. Maskiner är verktyg, inte människor. Personlighetsvarningen ovan.
3. Vissa beslut kan aldrig delegeras. Beslut som påverkar människoliv, frihet och våldsanvändning kräver effektiv, informerad, ansvarsfull mänsklig tillsyn.
4. Intelligenta teknologier måste tjäna det gemensamma bästa. De "får aldrig bli mål i sig själva eller endast tjäna ett fåtal privilegierade intressen", och bör sprida fördelarna med framsteg på ett rättvist sätt.
5. Institutionerna behövs för att göra etiken operationell. Beskrivs som den potentiellt mest akuta utmaningen: världen behöver "delade standarder, oberoende tillsyn och tydliga mekanismer för ansvarsskyldighet, så att beslut som rör utveckling och användning av AI kan granskas, ifrågasättas när det är nödvändigt och åtföljas av lämpliga åtgärder för eventuell skada som orsakas."
Varför det är viktigt bortom Vatikanen
Vatikanen har tyst blivit en av de mer konsekventa institutionella rösterna om AI-styrning. Rome Call for AI Ethics, undertecknad i februari 2020 av Pontifical Academy for Life tillsammans med Microsoft, IBM, FAO och den italienska regeringen, växte ur detta ekosystem, och Pontifical Academy for Life har upprepade gånger sammankallat teknologer om bioetik och maskinbeslut. Samorganisering med Future of Life Institute – AI-säkerhetsorganisationen bakom öppna brev om gränsmodellrisk – signalerar en fortsatt ansträngning för att överbrygga religiösa och sekulära AI-etiska gemenskaper.
För beslutsfattare är Genève-uppropet den konkreta vägen: när förhandlingarna om autonoma vapen återupptas, vill Vatikanen ha ett bindande förbud, inte frivilliga riktlinjer. Och för AI-branschen är budskapet om personlighet en tydlig linje i sanden – hur autonoma agenter än blir, det moraliska och juridiska ansvaret ligger hos de människor som bygger och distribuerar dem.
