Das chinesische KI-Startup DeepSeek wird zu den Unternehmen gehören, die diese Woche den Sicherheitsrat der Vereinten Nationen über die Risiken künstlicher Intelligenz informieren, sagten zwei mit der Angelegenheit vertraute Quellen gegenüber Reuters, während Staats- und Regierungschefs der Welt in New York zur jährlichen UN-Generalversammlung zusammenkommen.
Der 15-köpfige Sicherheitsrat soll am 23. September zusammentreten, um über KI und internationale Sicherheit zu diskutieren – Wochen nachdem mehrere führende KI-Branchen eine koordinierte Verlangsamung der Entwicklung immer leistungsfähigerer KI-Systeme gefordert und davor gewarnt haben, dass diese sich bald von selbst verbessern und der menschlichen Kontrolle entgleiten könnten. Weitere Informationen zu dieser Geschichte finden Sie in unserer laufenden KI-Branchenberichterstattung.
Wer wird im Raum sein?
Sam Altman, CEO von OpenAI, plant, über das Treffen zu berichten, bei dem Diplomaten auch die Teilnahme hochrangiger Vertreter von Anthropic erwarten, berichtete Reuters letzte Woche.
Von chinesischer Seite seien DeepSeek und andere chinesische KI-Firmen, darunter Moonshot, eingeladen worden, Erklärungen abzugeben, sagte eine der Quellen. Der Gründer von DeepSeek, Liang Wenfeng, habe nicht vor, teilzunehmen, warnte die Quelle und wies darauf hin, dass die Pläne noch ungewiss seien und sich in letzter Minute ändern könnten. DeepSeek und Moonshot reagierten nicht sofort auf Anfragen nach Kommentaren.
Die Sitzung findet in einer Woche statt, in der New York bereits mit KI-Diplomatie überfüllt ist, da sich die Staats- und Regierungschefs der Welt zur jährlichen UN-Generalversammlung versammeln und sich rundherum zahlreiche Nebentreffen treffen. Dieser Zeitpunkt wirkt sich für DeepSeek in beide Richtungen aus: Die Imprimatur des Rates signalisiert, dass Chinas führende Labore jetzt als unverzichtbare Stimmen zum Risiko von Grenz-KI behandelt werden, auch wenn Pekings offizielle Position weiterhin die Verlangsamungsrhetorik aus dem Silicon Valley ablehnt.
Die ungewöhnliche Besetzung – Amerikas prominentester KI-Manager teilt eine Tagesordnung des Sicherheitsrates mit Chinas bekanntestem Open-Weight-Labor – macht die Sitzung am Mittwoch zur folgenreichsten KI-Sitzung, die der Rat abgehalten hat, seit er sich erstmals mit dem Thema befasst hat.
Vom „Ausreißerpferd“ zur Schurken-KI
Der UN-Sicherheitsrat, der für die Wahrung des Weltfriedens und der internationalen Sicherheit zuständig ist, tagte 2023 zum ersten Mal zu den Risiken von KI. Schon damals waren die Bruchlinien sichtbar: China warnte, die Technologie dürfe nicht zu einem „Ausreißer“ werden, während die USA davor warnten, sie zur Zensur oder Unterdrückung von Menschen einzusetzen.
Drei Jahre später hat sich die Debatte von Hypothesen zu Vorfallberichten verlagert. UN-Generalsekretär Antonio Guterres warnte letzte Woche die Staats- und Regierungschefs der Welt, dass die rasch fortschreitende KI Risiken birgt, die nicht ignoriert werden können, und brachte ihn damit in Konflikt mit US-Präsident Donald Trump, der argumentierte, die bestehenden Schutzmaßnahmen seien ausreichend und China würde davon profitieren, wenn Zweifel an der KI-Entwicklung geäußert würden.
Pekings öffentliches Schweigen zum Katastrophenrisiko
Eine der deutlicheren Beobachtungen in der Reuters-Berichterstattung betrifft das, was chinesische Laborleiter nicht gesagt haben. Im Gegensatz zu den Leitern von US-Grenzlaboren wie OpenAI und Anthropic haben die Leiter von Chinas Top-Modellentwicklern selten öffentlich die Möglichkeit geäußert, dass immer leistungsfähigere KI-Systeme Menschen täuschen, sich der Kontrolle entziehen oder katastrophalen Schaden anrichten könnten – und sie haben sich zu diesen Risiken weitgehend verschwiegen, seit sich die Debatte in den Vereinigten Staaten im September verschärfte.
Chinesische Staatsmedien ihrerseits haben Forderungen nach einer Verlangsamung der KI-Entwicklung als Folge eines „Lexikons des Kalten Krieges“ zurückgewiesen – ein Versuch, der laut Peking darauf abzielte, Washingtons Dominanz in der Spitzentechnologie zu bewahren und Peking vollständig aus dem globalen KI-Governance-System auszuschließen.
Der Auftritt von DeepSeek beim Rat hat daher eine doppelte Bedeutung: Es ist gleichzeitig Pekings bisher sichtbarstes Engagement in der globalen Diskussion über KI-Risiken und ein Test dafür, ob chinesische Labore sich überhaupt mit der Darstellung des Katastrophenrisikos befassen werden.
Gespräche im Vorfeld von Trump-Xi
Die Sitzung des Sicherheitsrats steht nicht allein da. Hochrangige Beamte aus den USA und China seien übereingekommen, weitere Gespräche über die KI-Sicherheit zu führen, sagte US-Finanzminister Scott Bessent am 21. September nach einem Treffen im Vorfeld von Trumps geplanten Gesprächen mit dem chinesischen Präsidenten Xi Jinping später in dieser Woche in Washington.
Diese Abfolge – ein hochrangiger Gipfel in Washington, der parallel zu einer Debatte im Sicherheitsrat in New York stattfindet – unterstreicht, wie gründlich die KI von einer technischen Grundsatzakte in den Mittelpunkt der bilateralen Beziehungen gerückt ist.
Was Sie sehen sollten
Drei Fragen hängen über der Sitzung am Mittwoch. Ob Liang Wenfeng seine Meinung ändert und teilnimmt. Ob die Aussage von DeepSeek die von seinen amerikanischen Kollegen betonten Risiken – Täuschung, Kontrollverlust – aufwirft oder sich auf dem sichereren Boden gleichberechtigter Zugangs- und Entwicklungsrechte bewegt. Und ob der Rat über bekannte Positionen hinaus etwas hervorbringen kann.
Die Bilanz des Rates zum Thema KI ist dürftig: eine erste Sitzung im Jahr 2023, eine Warnung eines Generalsekretärs in diesem Monat und kein verbindlicher Rahmen. Aber als Bühne für den aufkommenden Streit zwischen den USA und China darüber, wer die Regeln für Grenz-KI festlegt – und wessen Befürchtungen ernst genommen werden – hat es kaum Konkurrenten.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
