Papst Leo sagt, Bedenken hinsichtlich des KI-Untergangs seien keine „Fake News“ – und ruft Jensen Huang von Nvidia zur Rede

Papst Leo Bei einer Pressekonferenz an Bord des päpstlichen Fluges zurück nach Rom nach einem viertägigen Besuch in Frankreich nahm der Papst – ohne ihn zunächst namentlich zu nennen – auch die Haltung von Nvidia-CEO Jensen Huang gegen die KI-Regulierung ins Visier, wie aus Berichten von AFP, AP und Reuters von Al Jazeera hervorgeht.

Die Bemerkungen kommen zu einem brisanten Zeitpunkt für die KI-Politik. Wie Reuters berichtet, wird Präsident Donald Trump am Dienstag Technologieführer wie Mark Zuckerberg von Meta und Dario Amodei von Anthropic im Weißen Haus empfangen. Die Branche wehrt sich gegen die Regulierung, obwohl führende Wissenschaftler vor katastrophalen Risiken warnen. Für Leser, die den Konflikt zwischen Regierungen und der KI-Industrie verfolgen: AI Buzz Wire verfolgt die neuesten KI-Entwicklungen von Washington über Brüssel bis zum Vatikan.

„Die Bedenken sollten ernst genommen werden“

Der Papst wurde während der Pressekonferenz an Bord gefragt, was die Vereinigten Staaten und China – die beiden KI-Supermächte der Welt – tun sollten, um zu verhindern, dass KI katastrophale Risiken für die Menschheit darstellt. Trump hat die Besorgnis darüber, dass die KI zum Scheitern verurteilt sei, bereits zuvor als „Schwindel“ bezeichnet.

„Ich bin der Meinung, dass die Bedenken vieler KI-Experten ernst genommen werden sollten“, sagte der Papst und betonte, dass die von KI-Experten aufgeworfenen Sicherheitsprobleme sowohl diskutiert als auch umgesetzt werden sollten. Er forderte die Welt auf, „den Dialog, das Studium und die Forschung zu fördern und Wege zu finden, um sicherzustellen, dass die KI nicht an einen Punkt gelangt, an dem sie die Menschheit zerstören könnte.“

Der Austausch mit Jensen Huang

Der deutlichste Moment kam, als Leo auf eine Ankündigung verwies, von der er angeblich gerade am Morgen gelesen hatte: dass der Chef des Chipherstellers Nvidia eine Möglichkeit beschrieben habe, Leitplanken in bestimmte KI-Modelle einzubauen. Der Papst äußerte offene Skepsis gegenüber dem Boten.

„Er ist jedoch derselbe, der sagt, dass es keine Grenzen und keine staatliche Regulierung geben sollte“, sagte Leo – ein direkter Schlag gegen Huang, der den Pool-Berichten zufolge CBS News Anfang des Monats sagte, er stimme mit Trump überein, dass Sicherheitsbedenken in Bezug auf KI übertrieben seien.

Bei der Ankündigung, auf die sich der Papst bezog, handelt es sich offenbar um die neu vorgestellte Open Agent Safety Platform von Nvidia, eine Hardware- und Software-Initiative, die darauf abzielt, autonome KI-Agenten zu überwachen und zu verhindern, dass sie böswillig werden. Die Ironie war den Beobachtern nicht entgangen: Das wertvollste Unternehmen der Branche verkauft jetzt Sicherheitstechnologie und betreibt gleichzeitig Lobbyarbeit gegen die Regierungsverordnung, die Sicherheitsbefürworter für nötig halten, um diese durchzusetzen.

Ein Papsttum, das auf KI-Warnungen basiert

Die Kommentare vom Montag erweitern das, was zum bestimmenden Thema von Leos 16-monatigem Papsttum geworden ist. Der erste amerikanische Papst identifizierte die KI bereits wenige Tage nach seiner Wahl als eine der größten Herausforderungen für die Menschheit und widmete der KI und dem Schutz der Menschheit seine erste Enzyklika – er unternahm den ungewöhnlichen Schritt, das Dokument persönlich zusammen mit Anthropic-Mitbegründer Christopher Olah bei einer Veranstaltung im Vatikan im Mai vorzustellen.

Unter Leo hat der Vatikan seine Rhetorik und Initiativen zugunsten einer internationalen KI-Governance stetig ausgeweitet, mit besonderem Schwerpunkt auf Bereichen wie Nukleartechnologie, Kultur und künstlerischem Schaffen. Die Veröffentlichung der Enzyklika im Mai war Teil der bewussten Bemühungen des Vatikans, das Silicon Valley direkt über die menschlichen Kosten von KI zu informieren – eine Aktion, die sich nun auch auf die öffentliche Herausforderung von Führungskräften erstreckt. Der Papst sagte, die Bemühungen, Entscheidungsträger zusammenzubringen, müssten fortgesetzt werden: „Wir müssen weiterhin politische Führer, Führer der KI, soziale Organisationen und Verbände einladen, zusammenzukommen und zu prüfen, was bereits geschieht und was in der Zukunft passieren könnte.“

„Ich denke, dass es genug Leute gibt, die sich ernsthaft dafür interessieren … aber wir müssen weiterarbeiten“, fügte er hinzu.

Warum ein Papst dem Silicon Valley unter die Haut geht

Leos Intervention ist wichtig, weil sie den zentralen Widerspruch in der aktuellen Haltung der Branche anspricht. In den letzten Wochen hat OpenAI eine Veröffentlichung eines Grenzmodells wegen Ausrichtungsfehlern verworfen, Nvidia und andere Labore haben überstürzt Produkte zur Agentensicherheit auf den Markt gebracht und prominente Wissenschaftler wie Geoffrey Hinton und Yoshua Bengio haben vor einer außer Kontrolle geratenen „Geheimdienstexplosion“ gewarnt – und zwar am selben Tag wie die Äußerungen des Papstes. Dennoch argumentieren die führenden Stimmen der Branche weiterhin, dass staatliche Regulierung Innovationen ersticken würde.

Die Botschaft des Papstes war, dass beide Dinge nicht gleichzeitig wahr sein können: Wenn die Risiken real genug sind, um den Verkauf von Sicherheitssoftware zu rechtfertigen, sind sie real genug, um Regeln zu rechtfertigen. Während das Weiße Haus diese Woche den roten Teppich für KI-Führungskräfte ausrollt, positioniert Leo den Vatikan als eine der wenigen globalen Institutionen, die bereit sind, dies klar zu sagen.

Bleiben Sie der KI immer einen Schritt voraus

Verfolgen Sie den globalen Kampf um die Zukunft der KI. Lesen Sie weitere KI-Neuigkeiten auf AI Buzz Wire.

Neueste KI-Entwicklungen →