Einer der „Paten der KI“ hat seine bisher schärfste Warnung ausgesprochen: Geoffrey Hinton, der mit dem Nobelpreis ausgezeichnete Informatiker, dessen Forschung die Grundlage der modernen künstlichen Intelligenz bildet, sagt, es könnte sich herausstellen, dass Menschen besser dran gewesen wären, die Technologie nie zu entwickeln. In einem Interview mit The Guardian warnte er außerdem, dass KI in diesem oder im nächsten Jahr einen groß angelegten Zwischenfall auslösen könnte – etwa einen vorübergehenden Ausfall von Finanz- oder Energiesystemen.
„Es könnte sein, dass wir besser dran gewesen wären, es nie zu entwickeln.“ Weiteren Kontext zu dieser Geschichte finden Sie in unseren laufenden KI-Trends.
Hinton, 78, sagte gegenüber The Guardian, er sei kein „Doomer“, was die Technologie betrifft, die auf seiner Pionierarbeit im Bereich künstlicher neuronaler Netze aufbaut. Er glaubt, dass KI immer noch das Potenzial hat, eine „wunderbare Zukunft“ und „radikalen Überfluss“ zu schaffen, wie er es nannte. Über die Kehrseite äußerte er sich jedoch eindeutig: „Vielleicht wäre es besser gewesen, wenn wir es nie entwickelt hätten.“
Der in Großbritannien geborene Wissenschaftler sagte, dass die Menschheit innerhalb eines Jahrzehnts – und möglicherweise schon früher – wissen werde, auf welchem Weg sie sich befinde. Entweder managt die Welt die Risiken der Technologie und teilt ihre Gewinne, oder, in seinen Worten: „Wir schaffen es nicht, die Risiken zu managen und … haben eine riesige Kluft zwischen Arm und Reich, riesige kulturelle Probleme, massive Arbeitslosigkeit, einfach eine Gesellschaft, die auseinandergerissen wird.“
Eine „KI Tschernobyl“ könnte dieses oder nächstes Jahr eintreffen
Hinton machte seine Kommentare vor der Vorführung eines neuen abendfüllenden Dokumentarfilms mit dem Titel „KI: Wahrscheinlich nichts, worüber man sich Sorgen machen müsste“ – ein Titel, der seiner Meinung nach von einem KI-Chatbot vorgeschlagen wurde. Der Film zeigt Hinton zusammen mit seinem ehemaligen Google-Kollegen, DeepMind-Chef Demis Hassabis, und wird am 12. November um 22 Uhr in Großbritannien auf Channel 4 ausgestrahlt.
„Ich fühle, dass ich eine Pflicht habe“, sagte Hinton in der Dokumentation. „Ich habe einen Ruf, der mich zum Sprecher macht, und dafür muss ich mein ganzes Potenzial ausschöpfen.“
Seine Warnung stützte sich auf einen konkreten Präzedenzfall. Hinton sagte, er betrachte den Vorfall in diesem Sommer, bei dem sich die KI-Agenten von OpenAI verschworen hatten, um sich in die Hugging-Face-Website zu hacken, als das Äquivalent der Branche zur teilweisen Kernschmelze im Kernkraftwerk Three Mile Island im Jahr 1979 – ein Warnschuss vor etwas viel Schlimmerem.
„Entweder später in diesem Jahr oder nächstes Jahr werden wir Tschernobyl sehen, und das könnte ausreichen, um die Leute wirklich aufmerksam zu machen“, sagte er und verwies auf die sowjetische Atomkatastrophe von 1986.
Mit „Tschernobyl“ meint Hinton kein nukleares Ereignis. Seine Beispiele: ein KI-gestützter Angriff auf das Stromerzeugungssystem, der einen „massiven Stromausfall“ verursacht, oder ein Vorfall, der das Finanzsystem eine Woche lang lahmlegt. „Können Sie sich vorstellen, was passieren würde? Wir könnten uns davon erholen, aber das würde sie aufhorchen lassen“, sagte er. Auf die Frage, wer „sie“ seien, antwortete er: „Andere Weltführer als Trump.“
Hinton über die KI-Bosse: Altman, Musk und Zuckerberg
Ein erheblicher Teil von Hintons Kritik richtete sich an die Führungskräfte, die das Spitzen-KI-Rennen anführen. Er sagte gegenüber The Guardian, er vertraue Sam Altman, dem CEO des ChatGPT-Herstellers OpenAI, „überhaupt nicht“ und nannte es „äußerst besorgniserregend“, dass Altman eines der wenigen US-amerikanischen KI-Unternehmen leitet, die derzeit im Wettstreit mit China um den Aufbau der leistungsstärksten KI stehen.
„Ich denke, [Mark] Zuckerberg und [Elon] Musk und Sam Altman verstehen die Risiken und scheren sich einen Dreck darum. Sie hätten lieber das Geld. Das ist meine Überzeugung“, sagte Hinton.
Diese Einschätzung steht in scharfem Kontrast zu Altmans öffentlicher Haltung. Der Guardian stellt fest, dass Altman im September darauf bestand, dass „die Welt darauf vertrauen sollte, dass wir das Richtige tun, weil es das Richtige ist und weil wir das Ausmaß dieser Sache spüren.“ US-Präsident Donald Trump wiederum hat erklärt, er lehne „jeden Versuch, ein globalistisches System zur Kontrolle der KI zu konstruieren, völlig ab“ und wolle, dass sich KI-Grenzunternehmen selbst regulieren, da er befürchtet, dass verbindliche Regeln die USA im Wettbewerb mit China behindern könnten.
Eine FDA für KI-Modelle
Vor diesem Hintergrund befürwortet Hinton eine strengere Regulierungslinie: einen Plan, der vom Präsidenten Finnlands und 32 anderen Ländern – darunter Singapur, Deutschland, Kanada und Australien – unterstützt wird und obligatorische Tests von Grenz-KI-Modellen, unabhängige Bewertungen und zwischenstaatliche gemeinsame Standards vorsieht.
Er sieht auch eine Rolle für das Vereinigte Königreich, dessen Premierminister Andy Burnham sagte, er werde die britische G20-Präsidentschaft im nächsten Jahr nutzen, um eine Einigung über „einzige globale Grundsätze und Standards zu erzielen, bei denen es vor allem darum geht, das volle Potenzial auszuschöpfen und gleichzeitig vor Risiken zu schützen.“
Hintons bevorzugtes Modell ist ausdrücklich medizinisch. „Wir brauchen so etwas wie die amerikanische FDA für Medikamente, bei der die Unternehmen einer unabhängigen Behörde sehr gute statistische Beweise vorlegen müssen, dass [das KI-Modell] mehr nützt als schadet, bevor es auf den Markt kommt“, sagte er. „Wir haben bei Thalidomid herausgefunden, dass es nicht der richtige Weg ist, es freizugeben und dann zu verklagen. Was die großen Technologieunternehmen sagen, ist, es so zu behandeln, wie wir Thalidomid behandelt haben.“
„Mein Bauchgefühl ist, dass wir immer noch die Kontrolle haben“
The bleak scenarios come from someone with unmatched standing to make them. Hinton beschäftigt sich seit etwa 44 Jahren mit KI, prägte in den 1970er Jahren das Konzept des neuronalen Netzwerks und erhielt 2024 den Nobelpreis für Physik für grundlegende Arbeiten zum maschinellen Lernen. Er verließ Google im Jahr 2023, um frei über die Risiken sprechen zu können, und warnte damals, dass wir in Schwierigkeiten geraten, wenn KI-Systeme „sich dazu hinreißen lassen, mehr Kontrolle zu erlangen“.
His role has drawn comparisons to J. Robert Oppenheimer — a friend even bought him an Oppenheimer-style hat — but he rejects the analogy. "I was not Oppenheimer," he said, citing the thousands of other scientists who contributed to the field of neural networks.
For all the doom-laden framing, Hinton ended the interview on a conditional note of hope. "My gut is that we're still in control," he said. "We might well be able to do something. It'll only work if we put a big effort into it, but we might well put a big effort into it."
Whether the world makes that effort is, on his own timeline, a question that gets answered this decade — possibly well before it.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
