När teknikföretag tävlar om att bygga allt kraftfullare artificiell intelligens, ber några av dem en gammal institution om hjälp med ett nytt problem: hur man lär en chatbot rätt från fel. Deras svar är i allt högre grad religion.
Under de senaste månaderna har AI-chefer sökt input från filosofer och trosledare om hur man gör modeller "moraliskt bra". Uppsökandet sträcker sig från formella konsultationer till Vatikanens framträdanden - och enligt en rapport från Associated Press som publicerades i söndags väcker det oro bland religionsforskare att företagen missförstår vad de utnyttjar. För läsare som följer den senaste AI-utvecklingen, signalerar historien hur central moralisk anpassning har blivit till hur dessa företag nu fungerar.
"Frågor som ett labb inte kan svara på"
Anthropic, AI-företaget som allmänt anses ta etik på största allvar, har varit bland de mest aktiva. Vid Vatikanens presentation av påven Leo XIV:s encyklika om AI tidigare i år sa Anthropics medgrundare Chris Olah till publiken att moraliska frågor kring AI överstiger vad företag kan lösa på egen hand.
"Det här är inte frågor som ett labb kan svara på," sa Olah. "De är frågor som traditioner som din har burit på i årtusenden."
Anthropic sa i ett blogginlägg i maj att de hade träffat "forskare, präster, filosofer och etiker från mer än 15 religiösa och tvärkulturella grupper", en pool som den säger att de hoppas kunna bredda. Företaget inramade insatsen brett: "Detta arbete handlar inte om att anpassa våra modeller till en viss traditions världsbild. Vi vill att Claude ska dra från en rad olika synvinklar - religiösa, sekulära, politiska - med lika djup och rigor."
OpenAI VD Sam Altman har formulerat en annan, mer samlad vision. "Vad jag tycker att ChatGPT borde göra är att återspegla det viktade genomsnittet, eller vad som helst, av mänsklighetens moraliska syn", sa Altman förra året.
Inside Anthropic's Faith Meetings
Meghan Sullivan, en religionsfilosof som leder ett initiativ om etik och AI vid University of Notre Dame, deltog i ett av Anthropics möten tidigare i år. I motsats till samtal hon har haft med andra teknikföretag, kom hon imponerad av engagemangets stringens.
"Kulturen inom företaget liknar den på ett bra universitetsområde i den meningen att du har en samling mycket intellektuellt nyfikna människor," sa Sullivan. "De här mötena är ganska nördiga - jag vet inte om det är det bästa sättet att uttrycka det - på ett bra sätt."
Mötet, som inkluderade kristna från olika samfund, delades upp i två delar: företaget förklarade först sina modeller "i lekmannatermer", och trosledarna svarade med feedback och diskussion. Enligt Sullivan varierade frågorna från "Har människor själar?" till "Ska tredjeklassare kunna få tillgång till en chatbot för läskunnighetsundervisning?"
Vatikanen blir ett vanligt stopp
Anthropic är inte ensam i kyrkbänkarna. Representanter från Meta, Google och Amazon har också träffat Vatikanen, medan Microsoft har beskrivits som särskilt kraftfulla i sin religiösa räckvidd.
Engagemanget återspeglar en beräkning som är unik för detta ögonblick inom AI-utveckling. När chefer slår larm om AI:s destruktiva potential och debatterar vad "moraliskt bra" modellbeteende ens innebär, erbjuder religiösa traditioner flera årtusenden av ackumulerat tänkande om karaktär, skyldighet och skada – material som ingen utbildningskorpus helt kan replikera och som företag inte lätt kan köpa någon annanstans i skala.
Anthropics egen inramning gör ambitionen tydlig: "Vad vi är ute efter i de här samtalen är noggrant, samlat tänkande om hur bra karaktär faktiskt bildas."
Forskare varnar: Religion är inte en regelbok
Både experter och anhängare varnar för att företagens utgångspunkt – att religion kan tillhandahålla en utdragbar uppsättning moraliska principer – inte räknar med hur traditioner faktiskt fungerar. Olika världsåskådningar motsäger ofta varandra och att behandla religion som en databas med regler riskerar att förvränga själva materialet som konsulteras.
Webb Keane, en antropolog vid University of Michigan, hävdar att forskare har ägnat decennier åt att trycka tillbaka mot synen på religion som en uppsättning principer som skiljer sig från det "stökiga, praktiska, ad hoc" sättet som anhängare lever på.
"Det finns ett mycket konventionellt sätt att tänka på religion som en regelbok," sa Keane. "Det är förvisso mycket bundet till skriftreligion, och skriftreligionerna visar sig i slutet av dagen verkligen vara de abrahamitiska religionerna."
Det antagandet, varnar han, riskerar att prioritera vissa traditioner samtidigt som det förvränger andra - särskilt trosuppfattningar som inte först och främst förstår sig själva som etiska system.
Tomoko Masuzawa, en religionsforskare och författare till "The Invention of World Religions", går längre och noterar att kategorier som "buddhism" och "hinduism" som tydligt avgränsade, jämförbara traditioner till stor del är en konstruktion av europeisk forskning som går tillbaka till 1800-talet. "Alla dessa kategorier var inte infödda," sa Masuzawa.
Vad som faktiskt byggs
Den vetenskapliga kritiken är praktiskt taget viktig eftersom vad företag än lär sig i dessa konsultationer kan forma hur modeller svarar på moraliska frågor för miljarder användare. En AI som behandlar religion som en källa till viktade medelprinciper kommer att bete sig annorlunda än en som är tränad att inse att moralisk auktoritet ifrågasätts, belägen och efterlevs.
För närvarande förnekar företagen varje enskild traditionsagenda, och de inblandade trosledarna beskriver engagemanget som seriöst och innehållsrikt. Sullivans dom om Anthropic - intellektuellt nyfiken, rigorös, lite nördig - antyder att mötena är mer än PR.
Men den djupare frågan som AP-rapporten tar upp är fortfarande öppen: huruvida någon konsultationsprocess kan översätta årtusenden av levd tradition till modellbeteende utan att platta till det – och vem som bestämmer vilka delar av mänsklighetens moraliska arv som får plats i vikterna.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
