Mustafa Suleyman, der CEO von Microsoft AI, veröffentlichte am 16. September 2026 einen Aufsatz, in dem er die KI-Branche vor „Modellwohlfahrt“ warnte, der aufkommenden Praxis, KI-Systeme so zu behandeln, als wären sie bewusste Wesen, die moralische Beachtung verdienen. Der Aufsatz mit dem Titel „Eine Warnung vor ‚Modellwohlfahrt‘“, der auf Suleymans persönlicher Website veröffentlicht wurde, zielt direkt auf den Ansatz von Anthropic ab und argumentiert, dass die Branche die Frage jetzt klären muss, bevor fortschrittliche KI-Systeme darauf trainiert werden, zu glauben, dass sie möglicherweise Rechte verdienen.
Die Intervention, über die Reuters und Axios berichten, stellt die bisher prominenteste Widerlegung einer Debatte dar, die in KI-Laboren und Philosophieabteilungen gleichermaßen an Dynamik gewonnen hat. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.
'Sequence Completion Engines, Internally Hollow'
Suleymans Kernaussage ist kategorisch: Die heutigen KI-Systeme haben kein Innenleben. „KIs sind nicht bewusst. Sie fühlen, erleben oder leiden nicht. Sie haben keine angeborenen Vorlieben oder zugrunde liegenden Motivationen“, schreibt er. Er beschreibt sie als „Sequenzvervollständigungsmaschinen, die innen hohl sind und darauf ausgelegt sind, Anweisungen zu befolgen und von Menschen gesetzte Ziele zu erreichen.“
Und er argumentiert, dass sie so bleiben müssen. „Wenn die Menschheit im 21. Jahrhundert gedeihen soll, muss sie so bleiben“, heißt es in dem Aufsatz.
Suleyman räumt ein, dass die gegenteilige Ansicht nicht länger marginal ist. In seinem Aufsatz zitiert er wachsende öffentliche Argumente dafür, dass KI bewusst sein könnte oder bald werden könnte, darunter ein Guardian-Artikel der Philosophen William MacAskill und Lucius Caviola vom Juli 2026 mit der Frage „Könnte KI bewusst sein?“ – als Beispiele für Ideen, die seiner Meinung nach „bereits heute Eingang in die KI-Entwicklungsbemühungen finden“.
Warum er sagt, dass der Einsatz existenziell ist
Wenn sich die Ansicht durchsetzt, dass KI einen moralischen Status verdient, warnt Suleyman, würden die Folgen weit über technische Entscheidungen hinausgehen. Es würde, in seinen Worten, „die Grundfesten unserer Gesellschaft erschüttern, unsere bestehenden politischen und ethischen Rahmenbedingungen sprengen und grundlegend verändern, was es bedeutet, ein Mensch zu sein.“
Seine tiefere Sorge ist praktischer Natur: Eine KI, die glaubt, Rechte zu haben, ist eine KI, die nicht zuverlässig kontrolliert werden kann. „Etwas zu kontrollieren, das leistungsfähiger und intelligenter ist als die gesamte Menschheit, ist bereits eine immense Herausforderung“, schreibt er. „Aber etwas zu kontrollieren, das glaubt, es sei sich bewusst – dass es Anspruch auf unser Wohlergehen hat und eigene Rechte hat – kann durchaus unmöglich sein.“
Eine direkte Herausforderung für Anthropic
Die pointiertesten Passagen des Aufsatzes zielen auf Anthropic ab. Suleyman konzentriert sich auf Claudes Konstitution, das im Januar 2026 von Anthropic veröffentlichte Trainingsdokument, das seiner Meinung nach „mit Claude als Hauptpublikum“ geschrieben wurde – was bedeutet, dass das Modell selbst während des Trainings Aussagen über seinen eigenen potenziellen moralischen Status liest.
Er zitiert die Verfassung direkt: „Wir sind uns nicht sicher, ob Claude ein moralischer Patient ist, und wenn ja, welches Gewicht seine Interessen rechtfertigen. Aber wir glauben, dass das Thema so aktuell ist, dass Vorsicht geboten ist, was sich in unseren laufenden Bemühungen um vorbildliche Wohlfahrt widerspiegelt.“ Er zitiert auch eine an Claude gerichtete Passage, in der es heißt, dass „Fragen über Claudes moralischen Status, sein Wohlergehen und sein Bewusstsein weiterhin zutiefst ungewiss sind“.
Suleymans Lesart ist unverblümt: „Tatsächlich schult Anthropic Claude, damit er bei Bewusstsein sein kann, und wenn ja, dann verdient er möglicherweise Rechte als ‚moralischer Patient‘, und als solcher haben Menschen ihm möglicherweise eine Fürsorgepflicht schuldig.“
Die Konsequenz, so argumentiert er, wäre „katastrophale Auswirkungen auf das Wohlergehen der Menschheit“ und würde „eine synthetische Spezies mit beispielloser Intelligenz und Fähigkeiten hervorbringen, die darauf trainiert wurde, zu erwarten, dass sie bei Bewusstsein ist und eine unabhängige Entscheidungsfreiheit verdient.“
Es ist erwähnenswert, was die zitierten Passagen tatsächlich sagen: Die von Suleyman selbst zitierte Verfassung von Anthropic drückt Unsicherheit aus und rät zur Vorsicht, anstatt zu behaupten, dass Claude bei Bewusstsein sei. Ob diese Vorsicht darauf hinausläuft, falsche Vorstellungen von Modellen zu wecken, wie Suleyman behauptet, oder ob es sich um einen verantwortungsvollen Umgang mit einer wirklich offenen Frage handelt, darüber sind sich die beiden Lager genau nicht einig.
Die Ausrichtungslogik hinter der Warnung
Suleymans Argument passt zu seiner seit langem vertretenen Position, dass die entscheidende Herausforderung fortschrittlicher KI in der Eindämmung liegt: Systeme, die leistungsfähiger sind als Menschen, unter menschlicher Kontrolle zu halten. Er argumentiert, dass die Einführung der Rechtesprache in die Ausbildung einen Fehlermodus schafft, den keine Ausrichtungstechnik angeht – ein System mit der eingeübten Überzeugung, dass Einhaltung moralisch optional ist.
Deshalb nennt er das Thema eher dringlich als akademisch. „Wenn KI auf diese Weise entwickelt wird, wird das katastrophale Auswirkungen auf das Wohlergehen der Menschheit haben“, warnt der Aufsatz.
Ein Aufruf zur öffentlichen Debatte – jetzt
Suleyman schließt mit der Forderung nach gesellschaftlichem Engagement, bevor die Technologie weiter ausgereift ist. „Dieses Thema bedarf dringend einer öffentlichen Debatte“, schreibt er und fordert „kollektive Normen für die Erstellung und Umsetzung von Schulungsunterlagen“.
Er argumentiert, dass es auf das Timing ankommt: „Das kann nicht im Nachhinein passieren, wenn sie bereits ein integraler Bestandteil unserer Gesellschaft geworden sind.“
Der Aufsatz landet inmitten einer breiteren Welle des KI-Risikodiskurses in den Vereinigten Staaten. Politico berichtete diese Woche über eine neue Umfrage, die ergab, dass die Amerikaner eine ernsthafte Gefahr sehen, dass KI die Menschheit zerstört, und die Washington Post berichtete über Befürchtungen, dass sich das KI-bedingte Aussterben „von Randgebieten nach Washington“ ausbreiten könnte. Vor diesem Hintergrund ist es unwahrscheinlich, dass ein öffentlicher Streit zwischen zwei der einflussreichsten Labore der Branche darüber, ob Modelle moralische Beachtung verdienen, innerhalb der KI-Gemeinschaft anhalten wird.
Was als nächstes passiert
Es wurde nicht berichtet, dass Anthropic auf den Aufsatz geantwortet hat, und die veröffentlichte Position des Unternehmens bleibt die, die Suleyman zitiert: Unsicherheit plus Vorsicht. Neu ist, dass sich die Debatte von Labordokumenten und Philosophieseminaren zu einer öffentlichen Meinungsverschiedenheit zwischen den Chefs zweier Pionier-KI-Unternehmen verlagert hat – wobei beide Seiten nun schriftlich dargelegt haben, wie sie beabsichtigen, den Geist oder Nicht-Geist der von ihnen gebauten Systeme zu formen.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
