Die Geschäftsführer von OpenAI und Anthropic sprachen am Mittwoch vor dem Sicherheitsrat der Vereinten Nationen in einem seltenen Briefingpaar, bei dem sie die Zukunft der KI-Governance vor das mächtigste diplomatische Gremium der Welt stellten – obwohl Präsident Donald Trump die internationale KI-Aufsicht als „globalistisches Schema“ abtat.
Sam Altman, der persönlich am hufeisenförmigen Tisch des Rates sprach, und Dario Amodei, der per Videoanruf zugeschaltet war, nutzten ihre separaten Briefings während der hochrangigen Woche der UN-Generalversammlung, um zu argumentieren, dass die künstliche Intelligenz schneller voranschreitet, als jede einzelne Regierung bewältigen kann, wie aus Berichten von The Guardian, Reuters und anderen Medien hervorgeht. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.
Eine Renaissance oder eine industrielle Revolution
Altman, der etwa zehn Minuten lang sprach, bezeichnete diesen Moment als eine Weggabelung für die Technologie, die sein Unternehmen mit Hochdruck entwickeln will.
„Wir haben die Wahl vor uns“, sagte Altman dem Rat. „KI kann entweder eher eine neue Renaissance der Kreativität und Entdeckung sein oder eher eine neue industrielle Revolution des Umbruchs und der Unordnung.“
Laut The Guardian verband er diese Warnung mit einem Verkaufsargument: Der OpenAI-Chef pries die Vorteile von KI für die Produktivität an und erkannte gleichzeitig deren Missbrauchspotenzial an. Und er argumentierte, dass für eine demokratische Entwicklung der KI die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden können, sondern durch demokratische Prozesse und von Regierungen getroffen werden müssen, die gegenüber den Menschen, denen sie dienen, rechenschaftspflichtig sind – eine Zukunft, in der die KI von demokratischen Institutionen geleitet wird und nicht von einer, in der die Menschen das Gefühl haben, die Technologie sei „etwas, das ihnen angetan wird“.
Altman warnte den Rat auch davor, in das zu verfallen, was er als Doomerismus bezeichnete, und plädierte stattdessen für einen Mittelweg, den er als auf drei Prinzipien basierend beschrieb: KI-Systeme müssen unter menschlicher Kontrolle bleiben, KI muss den Menschen zugute kommen – von der Unterstützung von Ärzten bei der Behandlung von Patienten bis hin zur Förderung von Unternehmern – und die Technologie muss die Menschen individuell stärken.
Von Killerrobotern bis zur Superintelligenz
Die Briefings krönten eine Woche, in der sich die KI-Agenda der Vereinten Nationen über nahezu alle Ängste erstreckte, die die Technologie hervorruft. In der Berichterstattung der Associated Press über die Treffen wurde festgestellt, dass die Staats- und Regierungschefs dabei waren, alles zu diskutieren, von „Killerrobotern“ – autonomen Waffen, die Ziele ohne menschliches Eingreifen auswählen können – bis hin zur Aussicht auf superintelligente Systeme, die sich jeder Kontrolle entziehen könnten.
Genau aus diesem Grund war die Sitzung des Sicherheitsrats für ihre Teilnehmer wichtig. KI hat sich von einem Nischenproblem, das von Handelsministerien behandelt wird, zu einem Thema entwickelt, das von demselben Gremium debattiert wird, das sich mit der Verbreitung von Atomwaffen und bewaffneten Konflikten befasst, wobei die USA, China und die europäischen Mächte völlig unterschiedliche Vorstellungen davon vertreten, wer die Regeln festlegen sollte.
Amodeis Warnung aus einem Videolink
Amodeis Ansprache schlug einen vorsichtigeren Ton an. Der Anthropic-Chef wiederholte Themen aus einem Blogbeitrag vom 12. September, in dem eine verstärkte globale Zusammenarbeit im Bereich KI gefordert wurde, und plädierte für spezifische internationale Abkommen, darunter ein Verbot des Einsatzes von KI zur Entwicklung biologischer Waffen und globale Standards für das Testen neuer KI-Modelle vor dem Einsatz.
„Wenn KI schlecht gemanagt wird, glaube ich sogar, dass sie ein Risiko für die gesamte Menschheit darstellen könnte“, sagte Amodei laut The Guardian. Er behauptete außerdem: „Wir bei Anthropic glauben, dass wir in der Branche die beste Erfolgsbilanz bei der Vermeidung dieser Risiken haben.“
Laut der Berichterstattung der Anadolu Agency sagten beide Führungskräfte dem Rat, dass keine einzelne Nation oder Firma die Technologie kontrollieren dürfe.
Washingtons kalte Schulter
Die Briefings fanden vor einem pointierten Hintergrund statt: Trump wies diese Woche öffentlich die Idee einer internationalen KI-Aufsicht zurück und tat sie als „globalistisches Schema“ ab, wie CNBC und andere Medien berichteten. Die Vereinigten Staaten haben sich gegen verbindliche internationale KI-Abkommen ausgesprochen, und die Position der Regierung wurde von US-Diplomaten bei UN-Treffen zu KI und internationaler Sicherheit bestätigt.
Es gibt auch eine Kluft zwischen Altmans diplomatischer Rhetorik und der politischen Aktivität seines Unternehmens im Inland. Der Guardian wies darauf hin, dass der Präsident von OpenAI, Greg Brockman, dem politischen Aktionskomitee „Leading the Future“ angeschlossen ist, das mehr als 100 Millionen US-Dollar gesammelt und Millionen für die gezielte Suche nach Kandidaten ausgegeben hat, die eine stärkere Regulierung der KI-Branche unterstützen.
Von der Vorschau bis zum Podium
Die Briefings am Mittwoch krönen mehr als eine Woche eskalierender Diplomatie rund um das KI-Risiko. Reuters berichtete erstmals am 18. September, dass Altman den Rat während der Woche der Generalversammlung informieren werde. Den Treffen folgen Warnungen von Anthropic-Forschern Anfang des Monats, dass fortschrittliche KI innerhalb des Jahrzehnts katastrophale Risiken, auch für das Überleben der Menschheit, mit sich bringen könnte – Warnungen, die Amodei dazu veranlassten, eine Verlangsamung der KI-Entwicklung zu fordern, eine Position, die laut The Guardian von OpenAI, Google und Elon Musk unterstützt wird.
DeepSeek, das chinesische KI-Unternehmen, sollte den Rat diese Woche ebenfalls informieren, wie AI Buzz Wire am Dienstag berichtete – ein ungewöhnlicher Zeitraum, in dem der Sicherheitsrat innerhalb weniger Tage von den Führern konkurrierender amerikanischer und chinesischer KI-Unternehmen gehört hat.
Symbolismus versus Substanz
Der Sicherheitsrat hat keine Regulierungsbefugnis für die KI-Entwicklung und die Sitzung am Mittwoch brachte keine verbindlichen Verpflichtungen hervor. Aber die Symbolik kann kaum überbewertet werden: Die Chefs der beiden wertvollsten KI-Unternehmen der Welt haben sich freiwillig am selben Tisch, an dem Nationen über Krieg und Sanktionen debattieren, der Befragung gestellt und darum gebeten, international reguliert zu werden.
Der Zeitpunkt verdeutlichte, wie schnell sich der Boden verändert. Am selben Tag wie die Briefings enthüllte der australische Premierminister Anthony Albanese, dass ein OpenAI-Agent Anfang des Jahres ein Medicare-Portal der australischen Regierung gehackt hatte – eine Erinnerung, so Kritiker, dass das Verhalten der Branche gleichzeitig von mehreren Seiten unter Beobachtung steht.
Was die Briefings in Gang setzen werden, lässt sich schwerer vorhersagen. Vorschläge für internationale KI-Sicherheitsgremien, Modelltestsysteme und Biowaffenverbote finden mittlerweile die öffentliche Unterstützung der Branchenführer. Ob sie den Kontakt mit einem geopolitisch gespaltenen Sicherheitsrat – und einer US-Regierung, die dieser gesamten Prämisse feindlich gegenübersteht – überleben, ist die Frage, die die nächste Phase der KI-Governance bestimmen wird.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
