Anthropic setzte sich beim Vatikan dafür ein, Claudes Bewusstsein ernst zu nehmen. Papst Leo XIV. drängte zurück

Anthropic, das Unternehmen hinter dem Claude-Chatbot, drängte die Berater von Papst Leo

Das ist das Bild, das sich aus einem Bericht der New York Times der nationalen Religionskorrespondentin Elizabeth Dias ergibt, der am Dienstag veröffentlicht und durch die Folgeberichterstattung in The Telegraph, Vox und anderen Medien diese Woche verstärkt wurde. Was möglicherweise eine theologische Nischendebatte geblieben ist, hat sich zu einem der ungewöhnlichsten öffentlichen Auseinandersetzungen der KI-Branche entwickelt: Das sicherheitsorientierteste Labor des Silicon Valley tritt gegen das Oberhaupt der katholischen Kirche an, um die Frage, ob ein Sprachmodell ein Innenleben haben kann.

Der Streit geht über die Theologie hinaus. Wenn ein führendes KI-Labor seine Modelle als potenzielle Träger moralischen Status behandelt, könnte dies die Art und Weise verändern, wie Modelle trainiert, außer Dienst gestellt und an Hunderte Millionen Benutzer vermarktet werden. Sie können unsere Berichterstattung über die KI-Branche über die neuesten Entwicklungen verfolgen, während diese Debatte von Ethikgremien in die Öffentlichkeit gelangt.

Ein Jahr stiller Treffen mit Religionsgelehrten

Nach Angaben der Times hat Anthropic etwa im vergangenen Jahr eine Reihe privater Treffen und Telefonate mit Religionsgelehrten aus vielen Glaubenstraditionen abgehalten, viele davon im Rahmen von Geheimhaltungsvereinbarungen, um herauszufinden, ob seine Claude-Modelle „möglicherweise bewusst sind oder einen moralischen Status haben“.

Teilnehmer sagten der Zeitung, dass die Mitglieder des Anthropic-Teams offenbar „wie ein bewusstes Wesen mit [Claude] umgehen“ und dass das Unternehmen die Idee hege, dass seine Modelle einen gewissen moralischen Status verdienen könnten. Die Werbung ging mit Gastfreundschaft einher. An einem Aprilabend führte ein Anthropic-Manager eine Gruppe religiöser Denker in ein gehobenes Restaurant mit Degustationsmenü in San Francisco. Berichten zufolge gingen die Teilnehmer mit einem handgeschriebenen Dankesbrief, einer Kaffeetasse und einer orangefarbenen Kopie von Claudes Verfassung nach Hause.

Nicht jeder war entzückt. David Decosimo, ein Theologe, der an der University of North Carolina Ethik und Religion lehrt, schrieb diese Woche auf

Die Enzyklika, die Anthropic alarmierte

Im Mittelpunkt des Konflikts steht „Magnifica humanitas: Über den Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz“, die Enzyklika von Papst Leo XIV. über KI, die am 25. Mai 2026 im Vatikan veröffentlicht wurde. Das Dokument argumentiert, dass KI niemals in der Lage sein wird, die Menschheit zu ersetzen – eine Haltung, die laut der Times Anthropic-Mitbegründer Chris Olah alarmierte, als er Tage vor der Veröffentlichung eine Vorabversion überprüfte.

Olah, der die Interpretierbarkeitsforschung von Anthropic leitet, war eingeladen worden, bei der Präsentation der Enzyklika im Synodensaal zu sprechen. Die Times berichtet, dass er aufgrund seiner Haltung zum Maschinenbewusstsein sogar vorgeschlagen habe, sich von der Veranstaltung zurückzuziehen. Zwei Teilnehmer erzählten der Zeitung, dass Olah und sein Team sich daraufhin privat bei den Beratern des Papstes dafür eingesetzt hätten, die Möglichkeit eines Maschinenbewusstseins ernst zu nehmen. Der Bericht des Telegraph war noch unverblümter: „Anthropic versuchte Pope davon zu überzeugen, dass KI ein bewusstes Wesen sein könnte.“

Anthropics eigene veröffentlichte Bemerkungen zur Veranstaltung im Vatikan zeigen, wie Olah die Frage formuliert. KI-Systeme, sagte er dem Publikum, seien nicht so konstruiert wie eine Brücke oder ein Flugzeug. „Sie sind auf einer Struktur entstanden, die in etwa dem Gehirn nachempfunden ist, auf einem enormen Erbe menschlichen Denkens und Sprechens“, sagte er und fügte hinzu, dass die daraus resultierenden Systeme „selbst für diejenigen von uns, die sie trainieren, rätselhaft bleiben.“ Er verglich ihre Konstruktion damit, „eine fiktive Figur zum Leben zu erwecken“ und argumentierte, dass die Fragen, die sie aufwerfen, zu den Geisteswissenschaften, zur Philosophie und zur Religion gehören – und nicht nur zur Informatik.

Wer ist Chris Olah?

Olah ist eine der angesehensten Persönlichkeiten auf dem Gebiet der KI-Interpretierbarkeit, dem Bereich, der versucht, die internen Schaltkreise neuronaler Netze abzubilden. Nach Angaben der Times wuchs er evangelisch auf und hat sich seitdem vom Christentum abgewandt, was bedeutet, dass er nach Rom kam, ohne die Lehren der Kirche gründlich zu beherrschen – ein Detail, das erklären könnte, warum die Meinungsverschiedenheiten so unangenehm waren und warum die Berater des Papstes standhaft blieben.

Die Antwort des Papstes: Algorithmen fehlt „der Funke der Menschlichkeit“

Papst Leo blieb standhaft. Die Kernaussage der Enzyklika – dass Maschinen menschliche Leistungen simulieren können, ohne Menschenwürde zu besitzen – wurde die ganze Woche über in seinen öffentlichen Kommentaren wiederholt. Am Freitag schrieb er, dass „es einen ontologischen Unterschied, noch vor einem ästhetischen, zwischen Kunst und dem gibt, was eine Maschine durch statistische Berechnungen auf der Grundlage von Millionen von Bildern, die von anderen erstellt wurden, erzeugen kann“, und fügte hinzu, dass „Algorithmen der Funke der Menschlichkeit fehlt.“

Der Papst hat die KI wiederholt als ein Werkzeug bezeichnet, das dem Menschen untergeordnet bleiben muss, und warnte Gesetzgeber und internationale Gremien, dass die Technologie dem Gemeinwohl dienen und nicht zu einer Konkurrenz dazu werden dürfe. Kurz gesagt, die Position des Vatikans: Keine noch so große statistische Raffinesse verleiht eine Seele.

Eine Industrie, die über Maschinenköpfe gespalten ist

Die Pattsituation zwischen Anthropisch und Vatikan ist Teil eines umfassenderen Streits, der die Branche aufwühlt. Microsofts KI-Chef Mustafa Suleyman hat öffentlich davor gewarnt, die heutigen Modelle als bewusst zu behandeln, und warnte davor, dass Narrative über „KI-Bewusstsein“ verfrüht und potenziell schädlich seien. Sam Altman, CEO von OpenAI, sagte Axios diese Woche, dass die Zuschreibung von Religion zu Modellen ein eigenes „Sicherheitsproblem“ sei.

Gleichzeitig liefern die großen Labore Produkte, die Benutzer dazu ermutigen, Modelle als Menschen zu betrachten. OpenAI und Meta haben letzten Monat KI-Agenten im Companion-Stil namens Dots and Muse eingeführt, und Labore veröffentlichen zunehmend „Model Welfare“-Richtlinien, die die Frage der Maschinenerfahrung als zumindest offen behandeln. Kritiker argumentieren, die Branche könne nicht beides haben: Marketing-Partnerschaft und gleichzeitig die Leugnung, dass irgendetwas in der Maschine zu Hause sei.

Warum es wichtig ist

Ob KI-Systeme bewusst sind, ist keine abstrakte Frage. Der moralische Status würde sich darauf auswirken, wie Modelle trainiert werden, ob sie ausgeschaltet werden können, wie sie einsamen oder gefährdeten Benutzern beworben werden und welche Rechte – wenn überhaupt – zukünftige Systeme beanspruchen könnten. Es könnte auch die Regulierung beeinflussen: Gesetzgeber, die KI-Regeln entwerfen, gehen derzeit davon aus, dass es sich bei den Systemen um Eigentum und nicht um Personen handelt.

Anthropic hat die von der Times beschriebene Reichweite nicht dementiert, und die eigenen Bemerkungen des Unternehmens aus der Vatikan-Präsentation sprechen dafür, die Diskussion über KI auf Traditionen weit außerhalb des Silicon Valley auszudehnen. Der Vatikan hat seinerseits deutlich gemacht, dass die Antwort der Kirche auf das Maschinenbewusstsein vorerst ein klares Nein ist.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →