Terwijl technologiebedrijven racen om steeds krachtigere kunstmatige intelligentie te bouwen, vragen sommigen van hen een oud instituut om hulp bij een nieuw probleem: hoe je een chatbot goed van kwaad kunt leren. Hun antwoord is steeds vaker religie.

De afgelopen maanden hebben leidinggevenden op het gebied van AI om input gevraagd van filosofen en geloofsleiders over hoe ze modellen 'moreel goed' kunnen maken. Het bereik strekt zich uit van formeel overleg tot optredens in het Vaticaan – en volgens een zondag gepubliceerd rapport van de Associated Press leidt het tot bezorgdheid onder godsdienstwetenschappers dat de bedrijven verkeerd begrijpen waar ze gebruik van maken. Voor lezers die de [nieuwste AI-ontwikkelingen] (https://aibuzzwire.news) volgen, geeft het verhaal aan hoe centraal morele afstemming is geworden in de manier waarop deze bedrijven nu opereren.

"Vragen die een laboratorium niet kan beantwoorden"

Anthropic, het AI-bedrijf dat algemeen wordt beschouwd als het meest serieus nemen van ethiek, was een van de meest actieve. Bij de presentatie door het Vaticaan van de encycliek over AI van paus Leo XIV eerder dit jaar vertelde Chris Olah, medeoprichter van Anthropic, het publiek dat morele vragen rondom AI groter zijn dan wat bedrijven op eigen houtje kunnen oplossen.

"Dit zijn geen vragen die een laboratorium kan beantwoorden", zei Olah. 'Het zijn vragen die tradities zoals die van jou al duizenden jaren met zich meedragen.'

Anthropic zei in een blogpost van mei dat het ‘geleerden, geestelijken, filosofen en ethici uit meer dan vijftien religieuze en interculturele groepen’ heeft ontmoet, een pool die het naar eigen zeggen hoopt te verbreden. Het bedrijf omschreef de inspanning breed: "Dit werk gaat niet over het afstemmen van onze modellen op het wereldbeeld van welke traditie dan ook. We willen dat Claude put uit een volledig scala aan gezichtspunten - religieus, seculier, politiek - met dezelfde diepgang en nauwkeurigheid."

OpenAI-CEO Sam Altman heeft een andere, meer geaggregeerde visie geformuleerd. "Wat ik denk dat ChatGPT zou moeten doen, is dat gewogen gemiddelde, of wat dan ook, van de morele visie van de mensheid weerspiegelen", zei Altman vorig jaar.

Binnen de geloofsbijeenkomsten van Anthropic

Meghan Sullivan, een religiefilosoof die leiding geeft aan een initiatief over ethiek en AI aan de Universiteit van Notre Dame, woonde eerder dit jaar een van de bijeenkomsten van Anthropic bij. In tegenstelling tot de gesprekken die ze met andere technologiebedrijven heeft gevoerd, was ze onder de indruk van de nauwkeurigheid van het engagement.

"De cultuur binnen het bedrijf is vergelijkbaar met die op een goede universiteitscampus, in die zin dat je een verzameling zeer intellectueel nieuwsgierige mensen hebt", zei Sullivan. "Deze bijeenkomsten zijn behoorlijk nerdy - ik weet niet of dat de beste manier is om het te zeggen - op een goede manier."

De bijeenkomst, waaraan christenen van verschillende denominaties deelnamen, werd in twee delen opgesplitst: het bedrijf legde eerst zijn modellen uit "in lekentermen", en de geloofsleiders reageerden met feedback en discussie. Volgens Sullivan varieerden de vragen van "Hebben mensen een ziel?" tot "Moeten derdeklassers toegang hebben tot een chatbot voor alfabetiseringsonderwijs?"

Het Vaticaan wordt een reguliere stopplaats

Anthropic is niet de enige in de kerkbanken. Vertegenwoordigers van Meta, Google en Amazon hebben ook ontmoetingen gehad met het Vaticaan, terwijl Microsoft wordt beschreven als bijzonder krachtig in zijn religieuze outreach.

De betrokkenheid weerspiegelt een berekening die uniek is voor dit moment in de AI-ontwikkeling. Terwijl leidinggevenden alarm slaan over het destructieve potentieel van AI en debatteren over wat ‘moreel goed’ modelgedrag eigenlijk betekent, bieden religieuze tradities duizenden jaren van geaccumuleerd denken over karakter, verplichtingen en schade – materiaal dat geen enkel trainingscorpus volledig kan repliceren en dat bedrijven niet gemakkelijk elders op grote schaal kunnen verkrijgen.

Anthropic's eigen framing maakt de ambitie expliciet: "Waar we in deze gesprekken naar op zoek zijn, is zorgvuldig, geaccumuleerd nadenken over hoe een goed karakter zich eigenlijk vormt."

Geleerden waarschuwen: religie is geen regelboek

Zowel deskundigen als aanhangers waarschuwen dat het uitgangspunt van de bedrijven – dat religie een haalbare reeks morele principes kan leveren – geen rekening houdt met de manier waarop tradities feitelijk werken. Verschillende wereldbeelden zijn vaak in tegenspraak met elkaar, en het behandelen van religie als een databank van regels riskeert het materiaal dat wordt geraadpleegd te verdraaien.

Webb Keane, een antropoloog aan de Universiteit van Michigan, stelt dat geleerden zich decennialang hebben verzet tegen de opvatting van religie als een reeks principes die los staan ​​van de ‘rommelige, praktische, ad hoc’ manier waarop aanhangers leven.

"Er is een heel conventionele manier om religie als een regelboek te beschouwen," zei Keane. "Het is zeker nauw verbonden met de schriftuurlijke religie, en de schriftuurlijke religies blijken uiteindelijk in werkelijkheid de Abrahamitische religies te zijn."

Deze veronderstelling, zo waarschuwt hij, brengt het risico met zich mee dat bepaalde tradities prioriteit krijgen, terwijl andere tradities worden verdraaid – vooral geloofsovertuigingen die zichzelf niet in de eerste plaats als ethische systemen beschouwen.

Tomoko Masuzawa, een godsdienstwetenschapper en auteur van 'The Invention of World Religions', gaat verder en merkt op dat categorieën als 'boeddhisme' en 'hindoeïsme', als duidelijk afgebakende, vergelijkbare tradities, grotendeels een constructie zijn van Europese wetenschap uit de 19e eeuw. "Al deze categorieën waren niet inheems", zei Masuzawa.

Wat wordt er feitelijk gebouwd

De wetenschappelijke kritiek is in de praktijk van belang omdat alles wat bedrijven tijdens deze consultaties leren, van invloed kan zijn op de manier waarop modellen morele vragen voor miljarden gebruikers beantwoorden. Een AI die religie behandelt als een bron van gewogen gemiddelde principes zal zich anders gedragen dan een AI die getraind is om te erkennen dat moreel gezag wordt betwist, gesitueerd en geleefd.

Voorlopig ontkennen de bedrijven elke agenda met één enkele traditie, en de betrokken geloofsleiders omschrijven de betrokkenheid als serieus en inhoudelijk. Sullivan's oordeel over Anthropic – intellectueel nieuwsgierig, rigoureus, een beetje nerdy – suggereert dat de bijeenkomsten meer zijn dan public relations.

Maar de diepere vraag die in het AP-rapport naar voren komt blijft open: of enig overlegproces millennia van geleefde traditie kan vertalen in modelgedrag zonder het af te vlakken – en wie beslist welke delen van de morele erfenis van de mensheid in de gewichten terechtkomen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →