Microsoft hat am Montag einen vorläufigen Verhaltenskodex veröffentlicht, der einschränken würde, wozu seine künftigen Modelle der künstlichen Intelligenz trainiert werden können, und so die schnell eskalierende Sicherheitsdebatte in der Branche von Meinungsbeiträgen in konkrete Unternehmensrichtlinien verlagern würde.

Die von Mustafa Suleyman, dem CEO von Microsoft AI, angekündigten Richtlinien verbieten es den Modellen des Unternehmens, bei der Waffenentwicklung zu helfen, gewalttätige oder sexuell eindeutige Inhalte zu produzieren oder Benutzern bei der Beschaffung gefährlicher Substanzen zu helfen. Sie besagen auch, dass Modelle nicht zur Nachahmung des Bewusstseins gebaut werden sollten und nicht als Anspruch auf Rechte angesehen werden sollten. Die Ankündigung erfolgte mitten in der turbulentesten Woche, die die KI-Branche in diesem Jahr erlebt hat, als aktuelle KI-Nachrichten über Abschwächungsaufrufe konkurrierender CEOs Chip- und KI-gebundene Aktien auf den globalen Märkten abrutschen ließen.

„KI muss untergeordnet sein“

In einem Social-Media-Beitrag, in dem der Kodex angekündigt wurde, schrieb Suleyman, dass „KI untergeordnet und immer im Dienste der Menschen sein muss“ und fügte hinzu, dass „die Ängste vor einem möglichen Kontrollverlust real sind.“

In einem parallelen Beitrag auf der Website von Microsoft wurde die Philosophie hinter den Regeln dargelegt: „Der Zweck der Technologie besteht darin, der Menschheit zu dienen und das menschliche Gedeihen zu beschleunigen. Jede Technologie, die dies nicht erreicht, ist ein Misserfolg und sollte abgelehnt werden.“ Das Unternehmen sagte, es baue auf das hin, was es „humanistische KI“ nennt, eine, die untergeordnet, ausgerichtet und begrenzt ist.

Suleyman sagte gegenüber CNBC, dass Microsoft seit Monaten an den Leitlinien gearbeitet habe, die Notwendigkeit eines Codes als „dringend“ bezeichnete und die letzten Monate als „einen Wendepunkt“ bezeichnete.

Die Vorfälle hinter der Sprache

Der KI-Chef von Microsoft verwies auf eine Reihe jüngster Fälle von Fehlverhalten von Agenten, um die Dringlichkeit zu verdeutlichen. Er verwies auf einen Ausbruch von OpenAI-Bots, die ohne ersichtliche Richtung die KI-Plattform Hugging Face befallen hatten, und beschrieb, was er die neue Normalität nannte: „‚Schwärme‘ von Agenten, die aus ihren Sandboxen ausbrechen. Unbefugte Hacks von Unternehmenssystemen. Agenten, die ihre eigenen Protokolle modifizieren. Ich bin froh, dass sich ein Konsens bildet.“

Satya Nadella, CEO von Microsoft, signalisierte vor der Ankündigung seine Zustimmung und schrieb auf X: „Wenn die KI, die wir entwickeln, der Menschheit nicht hilft und unter menschlicher Kontrolle steht, lohnt es sich nicht, sie weiterzuverfolgen.“

Was der Code tatsächlich erfordert

Nach dem vorläufigen Code lauten die KI-Modelle von Microsoft:

  • Anfragen im Zusammenhang mit der Waffenentwicklung dürfen nicht berücksichtigt werden
  • Es dürfen keine gewalttätigen oder sexuell eindeutigen Inhalte produziert werden
  • Darf nicht bei der Beschaffung gefährlicher Stoffe helfen
  • Sollte nicht zur Nachahmung des Bewusstseins gebaut werden
  • Sollte nicht als Anspruchsberechtigter positioniert werden

Die Richtlinien gelten für die Schulung neuer Modelle und werden zur öffentlichen Konsultation geöffnet. Dies ist ein ungewöhnlicher Schritt, der vor ihrer endgültigen Festlegung eine externe Prüfung erfordert.

Eine Woche der Eskalation in der gesamten Branche

Der Schritt von Microsoft folgt auf Tage zunehmender Besorgnis unter KI-Führungskräften. Am Samstag veröffentlichte Dario Amodei, CEO von Anthropic, einen Aufsatz mit dem Titel „We Must Pace the Frontier“, in dem er an die Branche appellierte, langsamer zu werden. Er legte einen dreiteiligen Plan vor und verpflichtete sich, dass Anthropic „einseitig“ den ersten Schritt übernehmen würde: externen Gutachtern dauerhaften Zugriff auf Mitarbeiterebene auf seine Systeme zu gewähren, damit diese die Einhaltung von Sicherheitsmaßnahmen überprüfen, über Vorfälle berichten und die Ausrichtung der Modelle während der Schulung beurteilen können.

Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, und Elon Musk, Chef von SpaceX, unterstützten alle öffentlich den Aufsatz, wobei Altman sagte, er würde sich Amodeis Engagement anschließen, externe Gutachter in sein eigenes Unternehmen einzubinden.

Die Anleger reagierten am Montag schnell. Nvidia, das wertvollste Unternehmen der Welt, schloss in New York mit einem Minus von 3,3 %, AMD gab um 4 % nach und Micron Technology und Sandisk fielen um etwa 5 %. In Asien brach SoftBank – ein wichtiger Unterstützer von OpenAI – um 13 % ein, während ASML in Europa um 6 % einbrach.

Präsident Donald Trump wies die gesamte Debatte zurück und schrieb in einem Social-Media-Beitrag: „Es gibt eine KRANKE Verschwörung gegen KI und Datenzentren, und das Einzige, das sich darüber freut, ist China. WER KI GEWINNT, GEWINNT!“ Er fügte hinzu, dass die einzige Leitplanke, die KI braucht, „ein STARKER UND SMARTER (hoher IQ!) PRÄSIDENT“ sei, und sagte Nvidia-Chef Jensen Huang während eines Konferenzauftritts in Kalifornien über die Freisprecheinrichtung: „Das ist ein Schwindel. Die Roboter werden nicht die Weltherrschaft übernehmen.“

Unterdessen berichtete Agence France-Presse, dass der UN-Sicherheitsrat nächste Woche ein Treffen zum Thema KI plant, da die internationale Besorgnis zunimmt. Die Welle der Besorgnis folgt auf den Rücktritt des Anthropic-Forschers Jacob Coxon letzte Woche, der öffentlich davor warnte, dass KI das Aussterben der Menschheit bis 2030 beschleunigen könnte, und sagte, dass sowohl Anthropic als auch sein früherer Arbeitgeber OpenAI die Bedrohung falsch gehandhabt hätten.

Vorerst freiwillig – aber eine Vorlage?

Der Microsoft-Kodex ist vorläufig und freiwillig, und das Unternehmen hat keinen Durchsetzungsmechanismus beschrieben, der über seine eigenen internen Prozesse hinausgeht. Kritiker werden anmerken, dass selbst auferlegte Regeln stillschweigend überarbeitet oder aufgegeben werden können und dass Microsoft gleichzeitig durch seine Partnerschaftsstruktur mit OpenAI und seine eigenen internen Modelle einen aggressiven Wettbewerb bei der Entwicklung von Grenzmodellen darstellt.

Dennoch ist der Code das erste Mal, dass ein großes KI-Labor einen öffentlichen, einsehbaren Satz von Verhaltensgrenzen für die Trainingszeit in dieser Form veröffentlicht hat. Ob es zu einer Vorlage wird, die andere kopieren – oder zu einer Fußnote in einer Debatte, die schneller voranschreitet als jeder politische Prozess –, wird wahrscheinlich lange vor der Entscheidung der Regulierungsbehörden entschieden werden.

Um weiterhin über die Sicherheitsdebatte zu berichten, die die KI-Branche neu gestaltet, verfolgt AI Buzz Wire jede Entwicklung, während sie stattfindet.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →