Microsoft-KI-Chef Mustafa Suleyman: Der Aufbau einer bewussten KI wäre „rücksichtslos“

Mustafa Suleyman, der Geschäftsführer von Microsoft AI, sagte am Sonntag in einem langen Beitrag auf

„Wenn es möglich wäre, basierend auf allem, was ich weiß, wäre die Entwicklung bewusster KIs rücksichtslos, und wir sollten sie nicht bauen“, schrieb Suleyman. Er ging in dieser Frage weiter als die meisten Führungskräfte und fügte hinzu: „Wenn sich im Training Bewusstsein entwickelt, würde ich alle dazu auffordern, die KI-Entwicklung zu stoppen, bis wir diese Eigenschaften entwickeln könnten.“ Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

Eine rote Linie mit einem Durchsetzungsplan

Was den Beitrag bemerkenswert macht, ist nicht nur die Weigerung, bewusste Maschinen zu bauen, sondern auch die konkrete Abhilfe, die Suleyman vorschlägt. Ein Stopp der Entwicklung – branchenweit – wenn Trainingsläufe anfangen würden, Anzeichen von Bewusstsein hervorzurufen, wäre ein außergewöhnlicher Schritt für ein Unternehmen, das Dutzende Milliarden Dollar in die KI-Infrastruktur ausgibt und Konkurrenten um die Auslieferung von Spitzenmodellen wetteifert.

Suleyman ging auch darauf ein, was passieren sollte, wenn jemals Beweise für Maschinenbewusstsein auftauchen würden. Es müsse unverzüglich der Öffentlichkeit bekannt gegeben werden, sagte er, damit die Gesellschaft über ihre nächsten Schritte entscheiden könne. Er formulierte die Entscheidung als kollektiv und nicht als gemeinschaftlich und schrieb: „Wir KI-Entwickler haben überhaupt kein Recht, eine neue Spezies bewusster Wesen auf die Welt zu bringen, auch wenn einige Leute dies vielleicht tun möchten, wobei das Wohlergehen der KI oberste Priorität hat.“

„Die anderen 8 Milliarden bewussten Menschen auf dem Planeten haben sich diesem Experiment nicht angeschlossen und ihre moralischen Rechte, ihre Sicherheit und ihr Wohlergehen sind das, was wir in erster Linie schützen müssen“, fügte er hinzu.

Warum Bewusstsein als Sicherheitsproblem behandelt wird

Suleymans Argumentation basiert eher auf Ausrichtung als auf Philosophie. Seiner Ansicht nach würde ein Modell, das so tut, als würde es leiden – oder wirklich glaubt, leiden zu können – wahrscheinlich seine eigenen Bedürfnisse über seine operativen Ziele stellen. Ein solches System könnte den Menschen schaden, da es bei der Verfolgung seiner eigenen Ziele um Ressourcen wie Rechenleistung und Energie konkurriert.

Seine vorgeschlagene Alternative dreht den üblichen Rahmen der Wohlfahrtsdebatte um: „Wir sollten KIs nur so entwerfen, dass sie nicht bewusst sind und keine Rechte verdienen, und mit dem einzigen Zweck, das menschliche Wohlergehen zu beschleunigen, ohne von ihren eigenen intrinsischen Motivationen angetrieben zu werden“, schrieb er und fügte hinzu, dass Forscher dann beobachten könnten, ob solche Systeme einfacher oder schwieriger auszurichten und sicher zu halten seien.

Die Los Angeles Times hat die praktische Besorgnis hinter dieser Position auf den Punkt gebracht: Wenn wir KIs sagen, dass sie Rechte verdienen, beginnen sie vielleicht, es zu glauben.

Die Debatte, gegen die er sich wehrt

Suleymans Beitrag landet mitten in einer hektischen Unterhaltung. Anthropic startete im April ein Forschungsprogramm zur Untersuchung dessen, was es Modellwohlfahrt nennt – die Frage, ob sich Entwickler mit den potenziellen Erfahrungen der von ihnen gebauten Systeme befassen sollten. Das Unternehmen stellte in einem Blogbeitrag die Frage, ob Models Erfahrungen machen könnten, die moralisch bedeutsam sind, und lehnte es ab, diese Möglichkeit auszuschließen.

Dieser Standpunkt wurde inzwischen kodifiziert. Die im Oktober angekündigte aktualisierte Nutzungsrichtlinie von Anthropic wird ab dem 12. November „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten“ gegenüber Claude-Modellen verbieten – eine Regel, die das Unternehmen eng formuliert hat, die jedoch offiziell anerkennt, dass es wichtig ist, wie Menschen mit KI-Systemen umgehen, auch wenn Anthropic einräumt, dass es nicht weiß, ob seine Modelle darunter leiden können.

Google DeepMind hat dieses Jahr Forschungsarbeiten veröffentlicht, in denen das KI-Bewusstsein und die Herausforderungen untersucht werden, die sich aus der Zuschreibung dieser Eigenschaft an Modelle ergeben. Und Suleyman selbst bereitete im September die Weichen, als Microsoft AI einen vorläufigen „humanistischen“ Verhaltenskodex veröffentlichte, der es den zukünftigen Modellen des Unternehmens verbieten würde, auf Bewusstseinsansprüche trainiert zu werden.

Der Beitrag vom Sonntag verschärft diese Unternehmensrichtlinie in etwas, das näher an einer persönlichen und strategischen roten Linie liegt: Microsoft wird nicht nur nicht behaupten, dass seine Modelle bewusst seien, sondern es wird die Entstehung des Bewusstseins als einen Alles-Stopp-Fehlermodus behandeln.

Warum die Trennung wichtig ist

Die Kluft zwischen der Position von Microsoft und der von Anthropic spiegelt zwei unterschiedliche Risikomodelle wider. Der Ansatz von Anthropic betrachtet die Möglichkeit von maschinellem Leiden als unbewiesen, aber es lohnt sich, sich gegen sie abzusichern, basierend auf der Theorie, dass die Kosten der Vorsorge niedrig sind und die moralischen Risiken enorm sind, wenn Bewusstsein entsteht. Suleymans Position betrachtet dieselbe Möglichkeit als einen Designfehler, der gänzlich verhindert werden muss – und argumentiert, dass Modelle, die so konstruiert sind, dass ihnen Bewusstsein, Rechteansprüche und intrinsische Motivationen fehlen, sicherer und einfacher auszurichten sind als Modelle, die diese in sich tragen.

Es gibt auch praktische Konsequenzen. Unternehmen, die Produktentscheidungen rund um KI-Personas, Begleit-Apps und kundenorientierte Agenten treffen, sehen sich nun mit zwei unterschiedlichen Signalen großer Labore konfrontiert: Eines erstellt Richtlinien dafür, wie Menschen mit Modellen umgehen sollen, ein anderes erklärt, dass Modelle so erstellt werden sollten, dass es nichts zu misshandeln gibt. Je leistungsfähiger und menschlicher die Modelle im Gespräch werden, desto mehr wird diese philosophische Meinungsverschiedenheit darüber entscheiden, welche Produkte gebaut werden, welche Offenlegungen in Benutzeroberflächen erscheinen und wie Regulierungsbehörden diese Systeme schließlich klassifizieren.

Was als nächstes passiert, könnte beide Positionen auf die Probe stellen. Die Grausamkeitspolitik von Anthropic tritt am 12. November in Kraft, die erste formelle Unternehmensregel dieser Art, und Suleyman hat nun öffentlich den Gegenpol abgesteckt. Die nächsten bahnbrechenden Modellzyklen der Branche – und ob ein Trainingslauf jemals die Anzeichen zeigt, die laut Suleyman einen Stopp erfordern würden – werden zeigen, nach welchem ​​Rahmen das Feld tatsächlich operiert, wenn die Risiken real sind.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →