OpenAI-Chef Sam Altman wird den Sicherheitsrat der Vereinten Nationen nächste Woche während des jährlichen Treffens der Staats- und Regierungschefs der Welt in New York zur UN-Generalversammlung persönlich informieren, berichtete Reuters am Freitag unter Berufung auf einen OpenAI-Sprecher.
Das Briefing findet im Rahmen einer offenen Sitzung des Sicherheitsrats zu künstlicher Intelligenz und internationaler Sicherheit statt, die für Mittwoch geplant ist, wenn das 15-köpfige Gremium während der hochrangigen Woche der Generalversammlung zusammentritt. Die Sitzung wurde von Frankreich einberufen, das im September die Ratspräsidentschaft innehat. Den Vorsitz übernimmt der französische Minister für Europa und auswärtige Angelegenheiten Jean-Noël Barrot. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.
„Sam Altman wird nächste Woche persönlich über eine offene Sitzung des UN-Sicherheitsrates berichten“, sagte ein OpenAI-Sprecher gegenüber Reuters.
Was Altman sagen wird
Laut Reuters sollen sich Altmans Ausführungen voraussichtlich auf die Notwendigkeit einer internationalen Koordinierung und gemeinsamer Sicherheitsstandards sowie auf die Schritte konzentrieren, die OpenAI unternimmt, um sicherzustellen, dass Menschen auf der ganzen Welt von KI profitieren.
Der Auftritt stellt den weltweit prominentesten KI-Manager vor das Gremium, das für die Wahrung des internationalen Friedens und der internationalen Sicherheit zuständig ist, zu einem Zeitpunkt, an dem Regierungen fortschrittliche KI zunehmend nicht nur als wirtschaftliche Chance, sondern als Technologie mit direkten Auswirkungen auf die nationale und internationale Sicherheit darstellen.
Anthropic könnte auch im Raum sein
Diplomaten teilten Reuters mit, dass sie auch eine hochrangige Präsenz von Anthropic bei dem Treffen erwarteten, obwohl diese Teilnahme nicht bestätigt worden sei. Anthropic reagierte nicht sofort auf eine Anfrage nach einem Kommentar.
Jeder Auftritt von Anthropic würde besondere Resonanz finden, wenn man bedenkt, dass das Unternehmen in den letzten Monaten eine prominente Haltung gegenüber Grenz-KI-Risiken eingenommen hat, einschließlich seiner Forderungen nach einer koordinierten Verlangsamung der Entwicklung immer leistungsfähigerer Systeme. Die Sitzung des Sicherheitsrats findet nur wenige Wochen statt, nachdem mehrere führende KI-Branchenführer eine koordinierte Verlangsamung gefordert und gewarnt haben, dass sich die KI bald von selbst verbessern und der menschlichen Kontrolle entgleiten könnte.
Frankreichs Plädoyer für Dringlichkeit
In einer Konzeptnotiz, die an die Ratsmitglieder verteilt und von Reuters eingesehen wurde, betonte Frankreich „die Dringlichkeit von Maßnahmen zur Förderung einer sicheren und verantwortungsvollen Entwicklung künstlicher Intelligenz zum Nutzen der internationalen Gemeinschaft als Ganzes“.
In der Notiz wurde auf das Risiko des Missbrauchs von KI für böswillige Zwecke verwiesen. Ziel des Treffens sei es, den Teilnehmern die Möglichkeit zu geben, ihre Analyse der Risiken im Zusammenhang mit Kontrollverlust oder der Verwendung neuester KI-Modelle zur Entwicklung, Erleichterung und Durchführung von Maßnahmen mit Auswirkungen auf den internationalen Frieden und die internationale Sicherheit vorzustellen.
Ein Rat, der zu einem vertrauten Thema zurückkehrt
Der Sicherheitsrat hat sich bereits früher mit KI befasst. Zum ersten Mal traf man sich im Jahr 2023 zu den Risiken künstlicher Intelligenz, als China warnte, dass die Technologie nicht zu einem „außer Kontrolle geratenen Pferd“ werden dürfe, und die Vereinigten Staaten davor warnten, sie zur Zensur oder Unterdrückung von Menschen einzusetzen. Die Sitzung am Mittwoch stellt eine bedeutende Eskalation dieses Engagements dar: Während bei früheren Sitzungen allgemeine Warnungen zu hören waren, wird es in der nächsten Woche ein Live-Briefing des CEO des Unternehmens geben, dessen Produkte im Zentrum des KI-Booms stehen.
Altman seinerseits warnt schon lange vor der aktuellen kommerziellen Erfolgswelle vor den Risiken fortgeschrittener KI. In einem Essay aus dem Jahr 2015 mit dem Titel „Maschinelle Intelligenz, Teil 1“ schrieb er, dass „die Entwicklung übermenschlicher maschineller Intelligenz wahrscheinlich die größte Bedrohung für den Fortbestand der Menschheit darstellt“ – eine Aussage, die vor dem Aufstieg von OpenAI entstand und die unweigerlich wieder auftauchen wird, wenn er vor dem Rat spricht.
Warum es wichtig ist
Die Symbolik des Briefings ist kaum zu überschätzen. Ein leitender Angestellter eines Technologieunternehmens weist vor dem Sicherheitsrat darauf hin, wie weit KI neben der Verbreitung von Atomwaffen und der Cyberkriegsführung auf der internationalen Sicherheitsagenda nach oben gerückt ist. Es spiegelt auch einen Wandel in der Debatte selbst wider: Nach zwei Jahren, die von Auseinandersetzungen über Urheberrecht, Arbeitsplätze und Fehlinformationen dominiert wurden, wird die Einberufungsbefugnis der Vereinten Nationen deutlich auf Grenzrisiken hingewiesen – Kontrollverlust, böswillige Nutzung und das Fehlen gemeinsamer internationaler Standards.
Was dabei herauskommt, ist eine andere Frage. Der Sicherheitsrat hat keine Regulierungsbefugnis für die KI-Entwicklung und seine Resolutionen zu neuen Technologien waren in der Vergangenheit unverbindlich. Aber das Treffen gibt den Regierungen eine Bühne, um Positionen abzustecken – und bietet KI-Unternehmen ein Publikum aus Außenministern und Staatsoberhäuptern, mit dem keine Produkteinführung mithalten kann. Da Frankreich auf Dringlichkeit drängt und erwartet wird, dass beide führenden US-KI-Labore vertreten sind, könnte die Sitzung am Mittwoch durchaus den Moment markieren, in dem die KI-Governance zu einem festen Punkt auf der Tagesordnung der globalen Sicherheitsdiplomatie wird.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
