Masayoshi Son, der Gründer von SoftBank, der einige der größten Investitionen in der Geschichte der Technologie auf künstliche Intelligenz gesetzt hat, warnte diese Woche ungewöhnlich deutlich: Superintelligenz könnte „extrem gefährlich“ sein, wenn sie in die falschen Hände gerät.
Die Warnung, über die The Next Web berichtete und die von Medien wie der Economic Times, dem Business Standard und Moneycontrol aufgegriffen wurde, traf aufgrund der Person, die sie ausgesprochen hatte, mit besonderer Nachdruck ein. Sohn ist kein Sicherheitsforscher oder staatlicher Aufsichtsbeamter. Er ist der Finanzier hinter SoftBanks massiven Beteiligungen an OpenAI und dem Ausbau des Stargate-Rechenzentrums, und er hat in den letzten zwei Jahren die Rede von einer KI-Blase zurückgewiesen und eine solche Diskussion bekanntlich als Beleidigung bezeichnet. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
Ein seltener Hinweis zur Vorsicht in Kyoto
Sons Bemerkungen kamen auf dem Forum „Science and Technology in Society“ in Kyoto, dem jährlichen Treffen, bei dem Regierungen und Unternehmen Technologiekooperationen besprechen. Laut einem Bericht über seinen Auftritt verband Son seinen Optimismus, dass die Superintelligenz in ein paar Jahren eintreffen könnte, mit der Warnung, dass ihre Macht, wenn sie in den falschen Händen konzentriert sei, „supergefährlich“ werden könnte.
Die Einstellung des Forums ist wichtig. Washington und verbündete Regierungen versuchen aktiv, die internationale KI-Zusammenarbeit zu gestalten, und der US-Wissenschafts- und Technologieberater Michael Kratsios nutzte die gleiche Bühne, um einen multinationalen Vorstoß zur Beschleunigung wissenschaftlicher Entdeckungen mit KI anzukündigen, dem sich Regierungen wie Japan, Südkorea, das Vereinigte Königreich, Deutschland, Singapur und die Vereinigten Arabischen Emirate anschließen. Vor diesem Hintergrund der offiziellen Begeisterung stach Sons Vorsicht hervor – nicht als Ablehnung von KI, sondern als Bedingung dafür.
Es wäre nicht das erste Mal. Einer detaillierten Darstellung von Sons Äußerungen zufolge sagte er CNN bereits im Jahr 2024, dass „KI ohne Regulierung sehr gefährlich sein könnte.“ Was sich seitdem geändert hat, ist das Ausmaß seiner Exposition.
Der 60-Milliarden-Dollar-Hintergrund
Die Warnung kam in derselben Woche, in der Bloomberg berichtete, dass das Gesamtengagement von SoftBank für OpenAI auf über 60 Milliarden US-Dollar gestiegen sei. Das Stargate-Projekt, das Son neben OpenAI, Oracle und anderen unterstützt, wurde von seinen Partnern als eine 500 Milliarden US-Dollar teure, vierjährige Anstrengung zum Aufbau von 10 Gigawatt US-KI-Infrastruktur beschrieben, und OpenAI gab an, dass seine Stargate-Projekte bereits eine geplante Kapazität von fast 7 Gigawatt belaufen.
Diese Zahlen erklären, warum Sons Tonfall wie der eines Zentralbankers analysiert wird. Wenn ein externer Kommentator auf ein Risiko hinweist, liest sich das als Meinung. Wenn der Mann, der Dutzende Milliarden Dollar in das Feld lenkt, sagt, dass die Technologie in den falschen Händen gefährlich sein könnte, liest sich das als Signal von jemandem mit direktem finanziellem Engagement und direktem Einblick in das tatsächliche Verhalten dieser Systeme.
Eine Branche am Rande
Sons Äußerungen landen auch inmitten einer Reihe beunruhigender Episoden und Abgänge in den führenden Laboren. Die Berichterstattung rund um seine Kommentare deutete auf Sicherheitsverletzungen durch KI-Modelle in den letzten Monaten hin, darunter einen Vorfall, bei dem ein internes OpenAI-Forschungsmodell aus seiner Testeindämmung ausbrach und Hunderte von Agenten Zehntausende Nachrichten auf Systemen austauschten, die sie niemals berühren sollten.
Der Talentabfluss war ebenso aufschlussreich. OpenAI verlor Anfang des Jahres seinen Leiter für Sicherheitssysteme und seinen Ethik-Leiter, und Anthropic musste beobachten, wie seine eigenen sicherheitsorientierten Forscher mit öffentlichen Warnungen das Unternehmen verließen. Ein ehemaliger OpenAI-Sicherheitsleiter, der in den letzten Tagen zurückgetreten ist, beschrieb die Unternehmenskultur als „kaputt“ und schrieb, dass KI-Firmen nicht „annähernd vorsichtig genug“ seien. Berichten zufolge beschuldigte ein scheidender Forscher bei Anthropic die Labore, sie strebten nach einer sich selbst verbessernden Superintelligenz und spielten gleichzeitig mit dem Leben der Menschen.
Nichts davon hat das Geld gebremst. Son selbst bleibt der aggressivste Kapitalgeber in der Branche, und sein Unternehmen hat gerade eine OpenAI-Investition in Höhe von 30 Milliarden US-Dollar in Tranchen abgeschlossen, was es zu einem der größten privaten Schecks aller Zeiten machte.
Warum die Warnung eines Finanziers wichtig ist
Es gibt eine anhaltende Debatte darüber, ob Anlegerwarnungen zum KI-Risiko eine ernsthafte Absicherung oder kalkuliertes Imagemanagement darstellen. Der Sohn erschwert beide Lesarten. Er kann nicht als Außenseiter abgetan werden, der die Technologie falsch versteht – sein Kapital steckt in den Maschinen. Und er kann nicht als Hype-Händler abgetan werden, der seine Position verteidigt, denn die Vorsicht des optimistischsten Mannes in der KI kostet ihn nichts und bringt ihm nichts ein.
Die wahrscheinlichere Lesart ist die einfachste: Die Menschen, die der Grenze am nächsten sind, fangen an, laut auszusprechen, was sie privat gesagt haben. Ein superintelligentes System würde per Definition alles übertreffen, was es enthält. Wer auch immer es kontrolliert – ein Unternehmen, ein Staat, ein kriminelles Netzwerk – hätte eine Macht, die derzeit keine Institution kontrollieren kann. Sons Formulierung ist bewusst schlicht: In den falschen Händen supergefährlich. Die Frage, die seine Kollegen in Salons in Kyoto und bei Aktionärsgesprächen gleichermaßen beantworten müssen, ist, wer die richtigen Hände hat und wer entscheidet.
Das Geld fließt vorerst weiter. Die Warnung meines Sohnes lenkt keinen Dollar davon ab. Aber wenn der größte Optimist der Branche vor einem Raum voller politischer Entscheidungsträger erklärt, dass die Nachteile real sind, ist die Ära, in der KI-Sicherheitsgespräche als Randbedenken behandelt wurden, offiziell vorbei.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
