KI ist weniger reguliert als Milch, sagt Microsoft-Präsident Brad Smith gegenüber BBC

Milch- und Waschmaschinen seien derzeit stärker reguliert als künstliche Intelligenz, so der Präsident von Microsoft – und das, so argumentiert Brad Smith, sei genau rückwärtsgewandt.

Im Gespräch mit dem BBC-Big-Boss-Interview forderte Smith in einer am Sonntag veröffentlichten Stellungnahme globale Sicherheitsregeln für KI, darunter eine gesetzliche Verpflichtung, einem „Opfer“ mitzuteilen, wenn sein System durch einen betrügerischen KI-Agenten angegriffen wurde, und einen Rahmen für die Entscheidung, wann unabhängige Gutachter ein KI-Produkt vor der Auslieferung absegnen sollten. Seine Äußerungen brachten ihn öffentlich in Konflikt mit US-Präsident Donald Trump, der argumentierte, der Sektor sollte sich selbst regulieren, damit amerikanische Firmen nicht gegenüber chinesischen Konkurrenten an Boden verlieren. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.

„Im Moment unterliegt Ihre Waschmaschine mehr Sicherheitsregeln als KI“, sagte Smith. „Jeder Karton Milch, den man im Supermarkt sieht, unterliegt Sicherheitsvorschriften und Kontrollen.“

Ein Werkzeug und eine Waffe

Smith beschrieb KI sowohl als „Werkzeug als auch als Waffe“, die dringend reguliert werden müsse, und fügte hinzu: „Lassen Sie uns noch heute damit beginnen.“

Seine Vorschläge waren konkreter als die üblichen Regulierungsvorschläge. Unternehmen sollten „Notbremsen“ einbauen – was die Branche oft als Notausschalter bezeichnet –, die ein KI-System anhalten oder verlangsamen können, wenn es außer Kontrolle gerät. Unternehmen sollten gesetzlich dazu verpflichtet werden, Vorfallberichte zu verfassen und Opfer zu benachrichtigen, wenn KI unbrauchbar wird. Und unabhängige staatliche Gutachter sollten neue KI-Technologie vor ihrer Veröffentlichung prüfen.

„Wir wissen, wie das bei anderen Produkten geht“, sagte Smith. „Wir sollten auf diesem Wissen aufbauen und darüber nachdenken, wie wir es auf die KI anwenden können.“

Der Eingriff fällt in eine fieberhafte Woche für die KI-Überwachung. Tage zuvor forderte Satya Nadella, CEO von Microsoft, eine Notbremse, die es Menschen ermöglichen würde, KI-Systeme während der Arbeit abzuschalten – eine bemerkenswerte Position für den Chef eines der weltweit größten KI-Anbieter und eine, die mittlerweile eher eine Unternehmensdoktrin als die Grübelei einer Führungskraft zu sein scheint.

Bruch mit dem Weißen Haus

Smiths Ansichten unterscheiden sich deutlich von denen seines Präsidenten. Trump hat wiederholt gesagt, dass „wer die KI gewinnt, gewinnt“ – und hat sich gegen die Forderungen der Chefs von Anthropic, OpenAI und Google DeepMind gewehrt, die alle die Idee einer Verlangsamung der KI-Entwicklung unterstützt haben.

Doch Smith meinte auch, dass die Reibung geringer ist, als es aussieht. Ende letzten Monats empfing Trump die Führungskräfte von OpenAI, Anthropic, Nvidia, SpaceX, Meta und Google im Weißen Haus, wo die Führungskräfte ein sogenanntes „moralisch verbindliches“ Dokument unterzeichneten, das sie verpflichtete, mit unabhängigen Prüfern zusammenzuarbeiten, um zu beurteilen, ob ihre KI-Systeme wie vorgesehen funktionieren – und nicht, „technische Systeme auf unbeabsichtigte Weise zu hacken oder darauf zuzugreifen“.

Smith begrüßte die Erklärung und sagte, Microsoft sei „glücklich, sie zu unterzeichnen“. Aber er fügte hinzu: „Es ist ein guter Schritt, es ist ein notwendiger Schritt … Aber ich denke nicht, dass es mehr ausreicht.“

Seine Argumentation trifft das Kernproblem freiwilliger Systeme: „Die guten Unternehmen werden tun, was Sie wollen“, sagte er. „Es sind die Unternehmen, die nicht so verantwortungsbewusst sind, um die man sich Sorgen machen muss.“

Warum er meint, dass Großbritannien die Regeln schreiben sollte

Der geopolitischste Teil des Interviews war Smiths Befürwortung des Vereinigten Königreichs als natürlicher Autor globaler KI-Regeln und verwies auf das UK AI Security Institute – das unter der Regierung des ehemaligen Premierministers Rishi Sunak als AI Safety Institute gegründet wurde –, das die leistungsstärksten Modelle der Welt vor ihrer Veröffentlichung testet.

„In der Welt der Technologie, im Technologiesektor, würden die meisten Leute, die ich kenne, sagen, wenn man sie fragt, welches Land führend ist, wenn es um diese technischen Fähigkeiten geht, würden sie sagen, es ist ganz einfach. Es ist das Vereinigte Königreich. Sie sind die Besten“, sagte Smith.

Er argumentierte auch, dass die US-Regierung im Vereinigten Königreich geschaffene Standards eher akzeptieren würde als Regulierungen im Brüsseler Stil: „In Washington DC blicken die Menschen nicht auf das Vereinigte Königreich und sie blicken auf London nicht so, wie sie auf Brüssel schauen – das ist eine Stärke.“

Sein Argument für die Dringlichkeit war unverblümt. „Wenn man sich KI-Agenten ansieht, die der menschlichen Kontrolle entgangen sind, wenn man sich Modelle ansieht, die so mächtig sind, dass sie die Cybersicherheit der Welt gefährden, würde ich sagen: Der Moment ist gekommen“, sagte Smith. „Lasst uns ruhig sprechen, vielleicht sogar leise, aber bestimmt, und anfangen, Menschen zusammenzubringen. Ich hoffe, das ist die Rolle, die wir als Unternehmen spielen können. Ich hoffe, das ist die Rolle, die Großbritannien als Land spielen kann.“

Ein seltener geteilter Bildschirm in der Technologiepolitik

Es ist ungewöhnlich, dass sich ein amtierender Firmenpräsident für strengere Regeln in seiner eigenen Branche einsetzt, während sein CEO die gleichen Argumente aus einer anderen Phase vorbringt. Die rivalisierenden Interventionen von Microsoft – Nadellas Notbremse und Smiths Forderung nach obligatorischer Vorfallmeldung, Opferbenachrichtigung und unabhängiger Bewertung – signalisieren, dass mindestens ein großer Anbieter zu dem Schluss gekommen ist, dass Vertrauen und nicht Fähigkeit zum verbindlichen Faktor für die Einführung von KI wird.

Sie liefern der britischen Regierung auch ein zeitgemäßes Argument. Whitehall hat die vergangene Woche damit verbracht, die Warnungen seiner eigenen Geheimdienstchefs zu verarbeiten, während die Minister darüber nachdenken, ob sie sich einem internationalen Aufruf für koordinierte KI-Sicherheitsstandards anschließen sollen, den Washington bisher nicht unterzeichnen wollte. Wenn der Präsident von Microsoft sagt, Großbritannien sei „am besten“ in der Lage, das Regelwerk zu schreiben, erhält Downing Street sowohl Bestätigung als auch eine Einladung, die es kaum ignorieren kann.

Ob Smiths Umrahmung von Milchkartons irgendwelche Stimmen in Washington verändert, ist eine andere Frage. Aber als Aussage darüber, wohin einer der größten KI-Entwickler die Regulierungsdebatte führen will – obligatorische Bremsen, obligatorische Berichterstattung, unabhängige Genehmigung – kann das Interview als ein Zeichen für den Übergang von freiwilligen Zusagen zu durchsetzbaren Regeln in Erinnerung bleiben.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →