König Charles warnt vor den „existenziellen Gefahren“ der KI, während sich Tech-Chefs in Schottland versammeln

König Karl III. warnte am Donnerstag eindringlich vor den „existenziellen Gefahren“ der künstlichen Intelligenz und wandte sich an Führungskräfte von Nvidia, Google DeepMind und OpenAI, die sich auf seinem Anwesen im Dumfries House in Schottland zu einem hochrangigen Gipfeltreffen über die Zukunft der Technologie versammelt hatten.

Der Monarch erklärte den versammelten Branchenführern, dass es dringend geboten sei, sich den Risiken zu stellen, die von immer leistungsfähigeren KI-Systemen ausgehen, insbesondere wenn die Technologie letztendlich von böswilligen Akteuren kontrolliert wird. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

„Es scheint dringend geboten, die existenziellen Gefahren angemessen zu berücksichtigen, wenn solche Technologien in die falschen Hände geraten und auf möglicherweise katastrophale Weise eingesetzt werden“, sagte der König laut Berichten von ABC News und mehreren anderen Medien gegenüber den auf dem Ayrshire-Anwesen versammelten Führern.

Eine doppelte Botschaft: Versprechen und Gefahr

Die Ansprache des Königs war keine pauschale Ablehnung der Technologie. Er räumte ein, dass künstliche Intelligenz ein enormes Potenzial für das Gute birgt, und verwies insbesondere auf die Biowissenschaften und die Medizin, wo KI-Tools zunehmend eingesetzt werden, um die Forschung zu beschleunigen und die Behandlungsergebnisse für Patienten zu verbessern.

Aber er verband diesen Optimismus mit der Warnung, dass die Entwickler der Technologie selbst zunehmend davor gewarnt hätten, dass fortschrittliche Systeme dunklere Fähigkeiten entwickeln könnten, „vielleicht sogar Leben auslöschen“, sagte er laut der Darstellung seiner Äußerungen durch den Sender.

Der König forderte außerdem die Einführung von Sicherheitsvorkehrungen, bevor es zu spät sei, die Entwicklung der Technologie zu kontrollieren, und sprach die Umweltauswirkungen der KI-Entwicklung an, ein Thema, das zunehmend in den Fokus gerückt wird, da der Ausbau von Rechenzentren die Stromnetze in mehreren Ländern belastet.

Wer hat am schottischen Gipfel teilgenommen?

Die Gästeliste ist ein Querschnitt der einflussreichsten Persönlichkeiten der KI-Branche. Zu den Teilnehmern gehörten laut ABC News Nvidia-Gründer und CEO Jensen Huang, Google DeepMind-Gründer Demis Hassabis und OpenAI-Finanzchefin Sarah Friar. Auch die britische Ministerin für Künstliche Intelligenz, Kanishka Narayan, war anwesend.

Huang wurde zu einem Treffen mit dem König eingeladen, um die Sicherheitsmechanismen der Branche zu besprechen, wie aus von Reuters verbreiteten Bildern und Bildunterschriften hervorgeht. Auch Pater Paolo Benanti, ein päpstlicher Berater, der die Regierungen auffordert, die KI-Entwicklung zu verlangsamen, wurde zu den Diskussionen erwartet.

Die Wahl des Veranstaltungsortes und des Veranstalters ist wichtig. Die britische Monarchie verfügt über keine Regulierungsbefugnisse, aber der König hat eine lange Geschichte des öffentlichen Engagements für neue Technologierisiken, und der Gipfel bot den höchsten Persönlichkeiten der Branche einen gemeinsamen Tisch in einer Zeit, in der die Forderungen nach Aufsicht auf beiden Seiten des Atlantiks lauter werden.

Eine neu belebte Debatte

Die Versammlung findet inmitten einer erneuten öffentlichen Debatte über das KI-Risiko statt. Die Diskussion rückte wieder ins Rampenlicht, nachdem zwei Anthropic-Forscher davor gewarnt hatten, dass die schnell fortschreitende Technologie in nicht allzu ferner Zukunft zum Aussterben der Menschheit führen könnte – Kommentare, die gleichermaßen umfangreiche Berichterstattung und Kritik hervorriefen.

Anthropic-Chef Dario Amodei hat die Unternehmen separat aufgefordert, das Tempo der KI-Entwicklung zu verlangsamen. Papst Leo

Vor diesem Hintergrund wächst die Sorge, dass die Bemühungen zur KI-Sicherheit hinter der Entwicklung immer leistungsfähigerer Systeme zurückbleiben. In den letzten Wochen konzentrierte sich die Debatte auf die Frage, ob sich die Branche selbst regulieren kann und sollte. Skeptiker fragen sich, ob Führungskräfte, die zur Vorsicht aufrufen, möglicherweise Hintergedanken haben, etwa die Festlegung von Regeln, die den Wettbewerbsvorsprung bestimmter Unternehmen wahren.

Keine verbindlichen Regeln erwartet

Die Organisatoren stellten das schottische Treffen nie als Verhandlung dar. Nach Angaben von ABC News ist nicht zu erwarten, dass das Treffen zu verbindlichen Vereinbarungen führen wird. Ihr Zweck ist, zumindest nominell, explorativ: ob ein gemeinsamer Satz von Grundsätzen als Leitfaden für die grenz- und branchenübergreifende Anwendung von KI dienen kann.

Buckingham Palace sagte, bei den Diskussionen werde darüber nachgedacht, ob KI „nicht nur als Motor für Leistungsfähigkeit und Effizienz, sondern als Werkzeug, das die Menschenwürde wahrt und zum Gedeihen sowohl der Menschen als auch des Planeten beiträgt“, geführt werden könne.

Diese Formulierung spiegelt ein Thema wider, auf das der König wiederholt zurückgekommen ist: Die Frage ist nicht nur, ob KI sicher gemacht werden kann, sondern auch, wozu sie dienen sollte. Die Bemerkungen vom Donnerstag verschärften diesen Punkt zu einer Warnung vor Eigentum und Kontrolle, eine deutlich andere Betonung als die fähigkeitsorientierten Befürchtungen, die die meisten Diskussionen über KI-Risiken dominieren.

Was als nächstes passiert

Es ist unwahrscheinlich, dass der Gipfel allein politische Entscheidungen treffen wird, aber er verleiht einer Reihe bereits laufender offizieller Bemühungen Schwung. Das Vereinigte Königreich hat sich seit seinen früheren KI-Gipfeln als Veranstalter für KI-Sicherheit positioniert, und die Anwesenheit eines eigenen Ministers für künstliche Intelligenz signalisiert, dass die Regierung beabsichtigt, weiterhin sowohl mit US-amerikanischen als auch mit chinesischen KI-Entwicklern in Kontakt zu bleiben.

Für die Unternehmen im Raum ist die Rechnung heikel. Nvidia, DeepMind und OpenAI stehen alle unter kommerziellem Druck, immer leistungsfähigere Systeme zu liefern, auch wenn ihre eigenen Forscher Warnungen darüber veröffentlichen, was diese Systeme letztendlich leisten könnten. Eine königliche Vorladung löst diese Spannung nicht, sorgt aber dafür, dass die Spannung sichtbar bleibt.

Die Kernbotschaft des Königs, dass Sicherheitsvorkehrungen getroffen werden müssen, bevor die Technologie der Macht von irgendjemandem entgeht, sie zu steuern, kommt in einer Woche, in der der Sicherheitsdiskurs in der Branche ungewöhnlich laut war, von der Offenlegung mehrerer Sicherheitsvorfälle durch OpenAI mit seinen eigenen Modellen bis hin zu einem eskalierenden öffentlichen Streit zwischen der KI-Führung von Microsoft und Anthropic darüber, wie KI-Systeme gestaltet werden sollten.

Ob die Versammlung am Donnerstag zu etwas Konkreterem führt, bleibt abzuwarten. Aber da die Leiter des wertvollsten Chipherstellers der Welt und der bedeutendsten KI-Labore in einem schottischen Landhaus sitzen und sich zumindest darin einig sind, dass es existenziell auf dem Spiel steht, ist die Diskussion darüber, wer die KI kontrolliert und zu wessen Nutzen, entschieden an die Öffentlichkeit gerückt.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →