Der Generalsekretär der Vereinten Nationen, António Guterres, gab diese Woche eine seiner bisher eindringlichsten Warnungen zum Thema künstliche Intelligenz heraus und erklärte, dass sich die Welt „einen Wettlauf nach unten bei der KI-Sicherheit nicht leisten kann“, während sich die Regierungen darauf vorbereiten, in New York zur hochrangigen Woche der UN-Generalversammlung zusammenzukommen. In einem Gespräch mit Reportern im Vorfeld des jährlichen Treffens der Staats- und Regierungschefs der Welt bezeichnete Guterres die außer Kontrolle geratene KI neben der Klimakrise und der zunehmenden Ungleichheit als die drei existenziellen Bedrohungen, mit denen der Planet konfrontiert ist.
Die Bemerkungen, über die Reuters, UN News und Medien auf der ganzen Welt berichten, kommen zu einem brisanten Zeitpunkt: Die UN drängt auf eine verbindliche internationale Koordinierung der KI-Governance, während Washington eine lockerere Haltung signalisiert. Reuters weist darauf hin, dass der UN-Chef Alarm geschlagen hat, nachdem Präsident Trump die Notwendigkeit einer strengeren KI-Regulierung heruntergespielt hatte.
„Eine Ära tiefer Unsicherheit“
Guterres informierte die Presse sechs Tage vor der Ankunft der Staats- und Regierungschefs in New York und sagte, die Welt sei in „eine Ära tiefer Unsicherheit“ eingetreten. Er erkannte das „enorme Potenzial“ von KI in Bereichen wie Gesundheit, Bildung und Klimawissenschaft an, warnte jedoch davor, dass die Technologie schneller voranschreite als das menschliche Verständnis ihrer Risiken.
„Die Welt kann sich einen Wettlauf nach unten bei der KI-Sicherheit nicht leisten“, sagte er und argumentierte, dass nationale Regeln allein nicht ausreichen würden. „Nationales Handeln ist unerlässlich, aber globale Koordination ist unabdingbar.“
Der Generalsekretär äußerte auch seine Skepsis, dass freiwillige Pausen bei der KI-Entwicklung an Grenzgebieten funktionieren können, wenn sie isoliert sind – auf eine Handvoll Länder beschränkt, nicht überprüfbar oder ungleichmäßig angewendet. Angesichts der zunehmenden Befürchtungen eines KI-Wettrüstens zwischen den Vereinigten Staaten und China räumte er ein, dass geopolitische Unterschiede die Koordinierung schwieriger und nicht weniger notwendig machen. „Wenn wir glauben, dass sich die KI-Entwicklung verlangsamen sollte, wenn die Risiken zu groß werden, brauchen wir mehr als nur gute Absichten“, sagte er.
Die neue KI-Governance-Maschinerie der UN
Hinter der Rhetorik verbirgt sich eine Governance-Architektur, die in den letzten zwei Jahren still und leise Gestalt angenommen hat. Der Global Digital Compact, der 2024 von den UN-Mitgliedsstaaten als Teil des Pakts für die Zukunft verabschiedet wurde, forderte zwei neue Mechanismen: ein wissenschaftliches Gremium zur Bewertung der Risiken und Chancen der KI und ein jährliches Forum, auf dem Regierungen ihre Ansätze aufeinander abstimmen könnten. Die Generalversammlung hat beide im August 2025 offiziell eingerichtet.
Das erste, das Independent International Scientific Panel on AI, veröffentlichte am 1. Juli seinen vorläufigen Bericht. Es kam zu dem Schluss, dass die KI-Fähigkeiten rasch Fortschritte machen – insbesondere in den Bereichen Argumentation, Codierung und wissenschaftliche Forschung – und weist gleichzeitig auf Risiken wie Fehlinformationen, Diskriminierung, Datenschutzverletzungen, Cyberangriffe und Formen der „Superintelligenz“ hin, die schwer zu kontrollieren sein könnten.
Der zweite, der Global Dialogue on AI Governance, ist als Antwortseite des Paares konzipiert: Das Gremium liefert Beweise und die Länder entscheiden, was sie damit tun.
Guterres verwies auf das Gremium als Grundlage für eine fundierte globale Entscheidungsfindung und forderte die Regierungen auf, Leitplanken zu schaffen, die „KI sicher, transparent und rechenschaftspflichtig machen, wobei die Menschenwürde im Mittelpunkt steht.“ Er hat auch zwei konkrete Initiativen vorangetrieben: ein KI-Kindersicherheitsversprechen und einen globalen Fonds für KI, um Entwicklungsländern beim Aufbau von KI-Infrastruktur und -Kapazitäten zu helfen.
Eine zunehmende transatlantische Spaltung
Die Intervention des UN-Chefs findet inmitten einer sichtbaren Kluft zwischen Europas Regulierungsbemühungen und Washingtons Deregulierungswende statt. Während die Europäische Union ihr KI-Gesetz umsetzt und UN-Gremien Bewertungsmechanismen aufbauen, legt die US-Regierung Wert auf Innovation und Wettbewerbsfähigkeit, und Reuters berichtete, dass Präsident Trump die Bedenken hinsichtlich des KI-Risikos, die Guterres und andere Beamte weiterhin äußern, heruntergespielt hat.
Auf die Frage, wie schnell die UN einen Gipfel einberufen könnten, der zu einer wirksamen Regulierung führt, sagte Guterres, dass dies nicht während der Generalversammlung nächste Woche geschehen könne – sondern bald stattfinden sollte, mit „alle an Bord“ aus dem öffentlichen, privaten, wissenschaftlichen und zivilgesellschaftlichen Sektor.
Die Dringlichkeit in seinem Ton spiegelt eine Reihe jüngster Warnungen aus der Branche selbst wider. Anfang dieses Monats warnte ein ehemaliger Forscher bei Anthropic öffentlich, dass fortschrittliche KI eine existenzielle Bedrohung für die Menschheit darstellen könnte, und Guterres‘ eigene Äußerungen stellten die Entwicklung der Technologie als eine Frage dar, die die internationale Gemeinschaft nicht länger aufschieben kann.
Was als nächstes passiert
KI wird neben den Debatten über die Kriege in Gaza und der Ukraine eine herausragende Rolle spielen, wenn die hochrangige Woche der Generalversammlung beginnt. Ob sich das wissenschaftliche Gremium und der globale Dialog der UN von Diskussionsrunden zu Mechanismen mit tatsächlichem Einfluss auf die nationale Politik entwickeln können, bleibt die zentrale offene Frage – und eine, die testen wird, ob multilaterale Institutionen auch nur annähernd mit der Geschwindigkeit der Technologie, die sie zu steuern versuchen, vorankommen können.
Vorerst ist die Botschaft des Generalsekretärs an die Staats- und Regierungschefs der Welt eindeutig: Die Risiken sind global, die Governance jedoch nicht, und das Zeitfenster, diese Lücke zu schließen, wird immer kleiner.
_Bleiben Sie immer einen Schritt voraus. Verfolgen Sie den globalen Kampf um KI-Regeln und die größten Geschichten zur künstlichen Intelligenz auf AI Buzz Wire._
