Papst Leo
Die Ansprache wurde an die Teilnehmer des Treffens „Die Zukunft der KI: Ein Dialog zwischen dem Vatikan und der wissenschaftlichen Welt über die Entwicklungen und Anwendungen intelligenter Technologien“ gehalten, das gemeinsam von der Päpstlichen Akademie für das Leben und dem Institut für die Zukunft des Lebens organisiert wurde. Der Papst sagte, Teilnehmer aus verschiedenen Ländern teilten „ein gewisses Unbehagen hinsichtlich der Entwicklung der künstlichen Intelligenz. Wir erkennen die Richtung, die wir einschlagen sollten, aber es wird nicht genug getan, um voranzukommen.“
Maschinen sind Werkzeuge, keine Menschen
Die klarste Linie der Ansprache zielte auf eine Idee ab, die in Teilen der Technologiebranche und der Rechtsakademie zunehmend an Bedeutung gewinnt: die Ausweitung der Rechtspersönlichkeit – oder Rechte – auf fortschrittliche KI-Systeme. Papst Leo argumentierte das Gegenteil. Maschinen, sagte er, hätten keine Erfahrungen, Körper, Gefühle oder Beziehungen und verstehen weder Liebe, Arbeit noch Verantwortung.
Einige hätten vorgeschlagen, diesen Systemen Rechte oder Rechtspersönlichkeit zu verleihen, räumte er ein – aber dies berge die Gefahr, „die menschliche Verantwortung zu verschleiern und diejenigen, die Schaden erleiden, einem gesichtslosen Wesen gegenüberzustellen.“ Der Kommentar fällt in die gleiche Zeit, in der KI-Agenten autonom Geschäfte führten, Verträge aushandelten und im Namen der Nutzer agierten, was echte rechtliche Debatten über die Haftung auslöste, wenn autonome Systeme Schaden anrichten. AI Buzz Wire verfolgt diese und andere Entwicklungen in der KI-Politik, sobald sie stattfinden. Die Formulierung des Papstes wirft die Frage auf die Menschen hinter dem System zurück: Wenn ein KI-Agent Schaden anrichtet, muss jemand mit Gesicht dafür einstehen.
KI „entwaffnen“: das autonome Waffenverbot
Die dritte Überlegung des Papstes – dass bestimmte Entscheidungen niemals an Maschinen delegiert werden dürfen – wurde anhand von drastischen Beispielen veranschaulicht: Wenn eine Person auf eine Zielliste oder in eine Grenzkontrolldatenbank gesetzt wird, wird sie zu einem „Datenpunkt“ reduziert. Er verwies auf die Ansprache seines Vorgängers Papst Franziskus aus dem Jahr 2024 an die Staats- und Regierungschefs der G7, in der Franziskus die KI als „ein aufregendes und furchterregendes Werkzeug“ beschrieb und darauf bestand, dass keine Maschine jemals in der Lage sein sollte, sich dafür zu entscheiden, einem Menschen das Leben zu nehmen.
„Entscheidungen, die das Leben, die Freiheit und die Anwendung von Gewalt berühren, müssen stets einer wirksamen, informierten und verantwortungsvollen menschlichen Aufsicht unterliegen“, sagte Papst Leo. Deshalb müsse die KI „entwaffnet“ werden, argumentierte er – und er forderte die Staaten, die sich im November in Genf trafen, ausdrücklich dazu auf, Schritte zu unternehmen, um tödliche autonome Waffen zu verbieten. Diplomaten kämpfen seit Jahren darum, verbindliche Regeln für autonome Waffen zu vereinbaren; Ein direkter päpstlicher Appell verleiht einem Verhandlungsprozess, der hauptsächlich von Kampagnen der Zivilgesellschaft und einer Gruppe besorgter Staaten vorangetrieben wurde, moralisches Gewicht.
Fünf Überlegungen von Magnifica Humanitas
Die Ansprache gliederte sich in fünf Überlegungen, die der Papst in seiner Enzyklika Magnifica Humanitas darlegte:
1. Die Zukunft der KI ist nicht vorherbestimmt. Da Menschen KI entwickeln, hängt ihre Zukunft von den Entscheidungen der Menschheit ab. „Wir haben die Verantwortung, seine Anträge zu leiten, zu ändern und, wenn nötig, abzulehnen“, sagte der Papst. Die richtige Frage lautet nicht: „Was kann KI?“ sondern: „Welchem Zweck soll es dienen?“
2. Maschinen sind Werkzeuge, keine Menschen. Die obige Warnung zur Persönlichkeit.
3. Bestimmte Entscheidungen können niemals delegiert werden. Entscheidungen, die das Leben, die Freiheit und die Anwendung von Gewalt betreffen, erfordern eine wirksame, informierte und verantwortungsvolle menschliche Aufsicht.
4. Intelligente Technologien müssen dem Gemeinwohl dienen. Sie „dürfen niemals zum Selbstzweck werden oder lediglich den Interessen einiger weniger Privilegierter dienen“ und sollten die Vorteile des Fortschritts gerecht verteilen.
5. Institutionen sind erforderlich, um Ethik in die Tat umzusetzen. Wird als potenziell dringlichste Herausforderung beschrieben: Die Welt braucht „gemeinsame Standards, unabhängige Aufsicht und klare Mechanismen der Rechenschaftspflicht, damit Entscheidungen über die Entwicklung und den Einsatz von KI überprüft, bei Bedarf angefochten und mit geeigneten Abhilfemaßnahmen für verursachte Schäden begleitet werden können.“
Warum es über den Vatikan hinaus wichtig ist
Der Vatikan hat sich in aller Stille zu einer der konsequenteren institutionellen Stimmen zur KI-Governance entwickelt. Der Rom-Aufruf für KI-Ethik, der im Februar 2020 von der Päpstlichen Akademie für das Leben gemeinsam mit Microsoft, IBM, der FAO und der italienischen Regierung unterzeichnet wurde, ist aus diesem Ökosystem hervorgegangen, und die Päpstliche Akademie für das Leben hat wiederholt Technologen zu Bioethik und maschineller Entscheidungsfindung zusammengebracht. Die gemeinsame Organisation mit dem Future of Life Institute – der KI-Sicherheitsorganisation, die hinter offenen Briefen zum Risiko von Grenzmodellen steht – signalisiert ein anhaltendes Bemühen, religiöse und säkulare KI-Ethikgemeinschaften zu verbinden.
Für politische Entscheidungsträger ist der Genfer Appell die konkrete Erkenntnis: Während die Verhandlungen über autonome Waffen wieder aufgenommen werden, will der Vatikan ein verbindliches Verbot und keine freiwilligen Richtlinien. Und für die KI-Branche ist die Botschaft zur Persönlichkeit eine klare Linie im Sand – wie autonome Agenten auch werden mögen, die moralische und rechtliche Verantwortung bleibt bei den Menschen, die sie bauen und einsetzen.
