As tech companies race to build ever-more-powerful artificial intelligence, some of them are asking an old institution for help with a new problem: how to teach a chatbot right from wrong. Ihre Antwort lautet zunehmend Religion.
In den letzten Monaten haben KI-Führungskräfte Philosophen und Glaubensführer um Rat gefragt, wie man Modelle „moralisch gut“ machen kann. The outreach runs from formal consultations to Vatican appearances — and, according to a report from the Associated Press published Sunday, it is raising concerns among scholars of religion that the companies misunderstand what they are tapping into. For readers tracking the latest AI developments, the story signals how central moral alignment has become to how these companies now operate.
„Fragen, die ein Labor nicht beantworten kann“
Anthropic, das KI-Unternehmen, von dem allgemein angenommen wird, dass es Ethik am ernstesten nimmt, war eines der aktivsten Unternehmen. At the Vatican's presentation of Pope Leo XIV's encyclical on AI earlier this year, Anthropic co-founder Chris Olah told the audience that moral questions surrounding AI exceed what companies can resolve on their own.
„Das sind keine Fragen, die ein Labor beantworten kann“, sagte Olah. „Das sind Fragen, die Traditionen wie die Ihre seit Jahrtausenden tragen.“
Anthropic said in a May blog post that it had met with "scholars, clergy, philosophers and ethicists from more than 15 religious and cross-cultural groups," a pool it says it hopes to broaden. The company framed the effort broadly: "This work isn't about aligning our models with any one tradition's worldview. We want Claude to draw from a full range of viewpoints — religious, secular, political — with equal depth and rigor."
Sam Altman, CEO von OpenAI, hat eine andere, umfassendere Vision formuliert. „Meiner Meinung nach sollte ChatGPT diesen gewichteten Durchschnitt oder was auch immer die moralische Sichtweise der Menschheit widerspiegeln“, sagte Altman letztes Jahr.
Inside Anthropics Faith Meetings
Meghan Sullivan, a philosopher of religion who leads an initiative on ethics and AI at the University of Notre Dame, attended one of Anthropic's meetings earlier this year. Im Gegensatz zu Gesprächen, die sie mit anderen Technologieunternehmen geführt hat, war sie von der Ernsthaftigkeit des Engagements beeindruckt.
"The culture inside the company is similar to that on a good college campus in the sense that you've got a collection of very intellectually curious people," Sullivan said. „Diese Treffen sind ziemlich nerdig – ich weiß nicht, ob man es besser ausdrücken kann – im positiven Sinne.“
The meeting, which included Christians from different denominations, was split into two parts: the company first explained its models "in layman's terms," and the faith leaders responded with feedback and discussion. Laut Sullivan reichten die Fragen von „Haben Menschen Seelen?“ zu „Sollten Drittklässler Zugang zu einem Chatbot für den Alphabetisierungsunterricht haben?“
Der Vatikan wird zur regelmäßigen Anlaufstelle
Anthropic ist nicht allein in den Kirchenbänken. Representatives from Meta, Google and Amazon have also met with the Vatican, while Microsoft has been described as particularly vigorous in its religious outreach.
Das Engagement spiegelt eine Berechnung wider, die in diesem Moment der KI-Entwicklung einzigartig ist. As executives sound alarms about AI's destructive potential and debate what "morally good" model behavior even means, religious traditions offer several millennia of accumulated thinking about character, obligation and harm — material that no training corpus can fully replicate and that companies cannot easily source elsewhere at scale.
Anthropic's own framing makes the ambition explicit: "What we're after in these conversations is careful, accumulated thinking on how good character actually forms."
Wissenschaftler warnen: Religion ist kein Regelwerk
Experts and adherents alike caution that the companies' premise — that religion can supply an extractable set of moral principles — fails to reckon with how traditions actually work. Different worldviews often contradict one another, and treating religion as a database of rules risks distorting the very material being consulted.
Webb Keane, an anthropologist at the University of Michigan, argues that scholars have spent decades pushing back against the view of religion as a set of principles divorced from the "messy, practical, ad hoc" ways adherents live.
„Es gibt eine sehr konventionelle Denkweise, Religion sei ein Regelwerk“, sagte Keane. „Es ist sicherlich eng mit der biblischen Religion verbunden, und am Ende des Tages erweisen sich die biblischen Religionen tatsächlich als die abrahamitischen Religionen.“
Diese Annahme, warnt er, birgt die Gefahr, bestimmte Traditionen zu priorisieren und andere zu verzerren – insbesondere Glaubensrichtungen, die sich nicht in erster Linie als ethische Systeme verstehen.
Tomoko Masuzawa, Religionswissenschaftlerin und Autorin von „Die Erfindung der Weltreligionen“, geht noch weiter und stellt fest, dass Kategorien wie „Buddhismus“ und „Hinduismus“ als klar abgegrenzte, vergleichbare Traditionen größtenteils ein Konstrukt europäischer Wissenschaft aus dem 19. Jahrhundert sind. „Alle diese Kategorien waren nicht einheimisch“, sagte Masuzawa.
Was tatsächlich gebaut wird
Die wissenschaftliche Kritik ist praktisch von Bedeutung, denn was auch immer Unternehmen in diesen Konsultationen lernen, kann Einfluss darauf haben, wie Modelle moralische Fragen für Milliarden von Nutzern beantworten. Eine KI, die Religion als Quelle gewichteter Durchschnittsprinzipien betrachtet, wird sich anders verhalten als eine KI, die darauf trainiert ist, zu erkennen, dass moralische Autorität angefochten, verankert und gelebt wird.
Vorerst bestreiten die Unternehmen jegliche Ausrichtung auf eine einzige Tradition, und die beteiligten Glaubensführer beschreiben das Engagement als ernsthaft und substanziell. Sullivans Urteil über Anthropic – intellektuell neugierig, rigoros, ein bisschen nerdig – legt nahe, dass es sich bei den Treffen um mehr als nur um Öffentlichkeitsarbeit handelt.
Aber die tiefere Frage, die der AP-Bericht aufwirft, bleibt offen: ob ein Konsultationsprozess Jahrtausende gelebter Tradition in Musterverhalten umsetzen kann, ohne sie zu verflachen – und wer entscheidet, welche Teile des moralischen Erbes der Menschheit es in die Gewichte schaffen.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
