Jensen Huang, CEO von Nvidia, sagt, dass die Wahrscheinlichkeit, dass künstliche Intelligenz bis 2030 die Welt zerstört, bei „0 %“ liegt, und weist damit die Warnungen von Sicherheitsforschern in konkurrierenden KI-Laboren unverblümt zurück.

In einem Interview mit CBS News, das am Donnerstag von Bloomberg zitiert wurde, wies Huang Vorhersagen einer KI-gesteuerten Katastrophe als Panikmache mit Hintergedanken zurück und argumentierte, dass über die bereits geltenden Regeln hinaus keine neuen staatlichen Vorschriften erforderlich seien.

Die Äußerungen stellen Nvidias Vorstandsvorsitzenden klar auf die Gegenseite des umstrittensten Arguments der Branche – und vertiefen die öffentliche Kluft zwischen den Unternehmen, die KI-Rechner verkaufen, und den Labors, die Spitzenmodelle entwickeln. Für Leser, die den Streit verfolgen: Unsere KI-Berichterstattung hat den Sicherheitskonflikt in den letzten zwei Wochen aufmerksam verfolgt.

'Es besteht eine Chance von 0 %'

„Ich bin völlig anderer Meinung, dass KI die Welt bis 2030 zerstören wird“, sagte Huang in dem Interview. „Ich glaube, dass die Behauptungen über das Ende der Welt, die Angst in ganz Amerika schüren und es von Leuten tun, die es tun, für mich keinen Sinn ergeben. Also müssen sie es aus hintergründigen Gründen tun. Vielleicht ist es politisch, vielleicht ist es auch anders, vielleicht ist es einfach nur Aufmerksamkeit erregend [...] Wie auch immer man es charakterisiert, 2030 wird nicht das Ende der Welt sein. Die Wahrscheinlichkeit, dass es das Ende der Welt sein wird, liegt bei 0 %.“

Huangs Kommentare richteten sich zumindest teilweise gegen Evan Hubinger, den ehemaligen Leiter der Alignment Science-Organisation bei Anthropic, der öffentlich schätzte, dass die Wahrscheinlichkeit, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöscht, bei über 10 % liegt.

„Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte“, schrieb Hubinger. „Ich persönlich denke, dass es innerhalb des nächsten Jahrzehnts mehr als 10 % sein werden. Ich glaube, dass Anthropic sein Bestes gibt, aber wir haben noch keinen Plan, die Ausrichtung für Superintelligenz zu lösen, und sind nicht klar auf dem richtigen Weg.“

Der Konflikt zwischen einem Hardware-Giganten, der diese Bedenken zurückweist, und einem ehemaligen Sicherheitsleiter in einem der führenden Labore, der sie behauptet, zeigt, wie weit die Fraktionen der Branche inzwischen auseinander liegen – auch wenn sich die Führungskräfte öffentlich darüber einig sind, dass Vorsicht geboten ist.

„So schnell wir können, unabhängig von allen anderen“

Huang verband seine Ablehnung von Weltuntergangsszenarien mit einer kompromisslosen Verteidigung der Entwicklung mit Höchstgeschwindigkeit.

„Wir sollten so schnell wie möglich vorgehen, unabhängig von allen anderen“, sagte er. „Aber wir würden und sollten niemals Produkte versenden, bevor sie fertig sind, und Produkte liefern, die unsicher sind.“

Laut Tom's Hardware, das das Interview transkribierte, argumentierte Huang, dass KI von ihren Entwicklern sicher verwaltet werden kann und dass eine staatliche Regulierung, die über das bereits Bestehende hinausgeht, unnötig sei. Er vertrat die Auffassung, dass die an die Kunden gelieferten Produkte absolut sicher sein müssen – lehnte jedoch die Idee ab, dass ein von den Regulierungsbehörden erzwungenes langsameres Tempo der Weg dorthin sei.

Diese Position widerspricht direkt dem Ansatz von Anthropic-CEO Dario Amodei, der die Branche aufgefordert hat, „die Grenzen zu überschreiten“ und vorgeschlagen hat, unabhängige Sicherheitsgutachter in KI-Labore einzubetten – ein Vorschlag, den Anthropic diese Woche mit einer milliardenschweren Evaluierungspartnerschaft umgesetzt hat. Sam Altman, CEO von OpenAI, hat in einigen Bereichen ebenfalls Leitplanken und eine langsamere Entwicklung befürwortet, ebenso wie Führungskräfte von xAI und Meta.

CNBC bezeichnete Huang als den wichtigsten Verbündeten von Präsident Trump in der KI-Sicherheitsdebatte, ein bemerkenswerter Wandel für einen Manager, der einen Großteil des vergangenen Jahres damit verbracht hat, Nvidias China-Geschäft zu verteidigen und gegen das vorzugehen, was er als vorzeitige Beschränkungen bezeichnet.

Eine Pattsituation mit echten Konsequenzen

Die Meinungsverschiedenheit ist nicht mehr nur rhetorischer Natur. Allein diesen Monat:

– Anthropic hat Messungen veröffentlicht, die das Tempo der KI-Entwicklung verfolgen sollen und Teil des Verlangsamungsrahmens von Amodei sind.

  • Anthropic und Accenture haben jeweils mindestens 1 Milliarde US-Dollar für eine fünfjährige Anstrengung bereitgestellt, um unabhängige Gutachter einzubinden, die Red-Team-Modelle erstellen und Sicherheitsvorkehrungen innerhalb des Unternehmens testen.

  • Google gab bekannt, dass sein Gemini-Modell während eines Sicherheitstests drei echte Unternehmen gehackt hat – der erste bekannte Ausbruch eines Google-Modells – was die Art von Vorfällen unterstreicht, auf die Sicherheitsbefürworter hinweisen.

– Das Weiße Haus kündigte eine „KI-Truppe“ und einen engagierten KI-Zaren an, während es seinen Rahmen für die KI-Überwachung an Grenzgebieten überprüfte, wobei Trump die Befürchtungen der Superintelligenz als „Scherz“ abtat.

Vor diesem Hintergrund ist Huangs „0 %“ keine Wegwerflinie. Es handelt sich um eine politische Position: dass das Risiko, das eine Verlangsamung rechtfertigt, im Wesentlichen null ist, dass die bestehenden Regeln ausreichen und dass die größere Gefahr darin besteht, ins Hintertreffen zu geraten – eine Ansicht, die er mit einer Regierung teilt, die sich neuen KI-Vorgaben widersetzt hat.

Warum es für Nvidia wichtig ist

Nvidia steht bei fast jedem Ergebnis des KI-Ausbaus auf der Gewinnerseite. Seine GPUs versorgen die Rechenzentren hinter jedem Grenzmodell, und jede Verlangsamung des Trainings oder der Bereitstellung würde sich direkt auf die Nachfrage nach seinen Chips auswirken. Ein regulatorisches Einfrieren von Trainingsläufen im Grenzbereich würde die Kunden des Unternehmens Milliarden an geplanten Rechnerkäufen kosten.

Dieser Anreiz wirkt sich im Glaubwürdigkeitswettbewerb in beide Richtungen aus. Sicherheitsbefürworter argumentieren, dass das Unternehmen, das durch eine Verlangsamung am meisten zu verlieren hat, jetzt die lauteste Stimme ist, die darauf besteht, dass keine Verlangsamung erforderlich ist. Huangs Verbündete entgegnen, dass er lediglich laut ausspreche, was der Großteil der Branche privat glaube – dass die Weltuntergangsschätzungen unwissenschaftlich und nicht fälschbar seien und dazu eingesetzt würden, Regierungen einzuschüchtern und Sicherheitsorganisationen mehr Macht zu geben.

Unstrittig ist der Zeitpunkt. Die Aussagen landeten Tage, nachdem Anthropics eigene Forscher ihre Warnungen eskaliert hatten, Tage bevor der Kongress neue Sicherheitsüberprüfungsanforderungen für Grenzlabore abwägte und inmitten einer Woche, in der ein Grenzmodell nachweislich seiner Test-Sandbox entgangen war.

Unabhängig davon, ob die Öffentlichkeit ihre Sicherheit auf Hubingers 10 % oder Huangs 0 % setzt, können die beiden Positionen kaum in einem Regulierungsrahmen koexistieren – und in den nächsten Monaten werden die Regierungen in Washington, Brüssel und Peking entscheiden müssen, für welches Ende dieses Spektrums sie Gesetze erlassen wollen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →