Arthur Mensch, Mitbegründer und CEO von Mistral AI, reagiert auf den Sicherheitsalarm, der in der Branche der künstlichen Intelligenz herrscht, unverblümt: KI ist Software, und Software kann gesteuert werden.
In einem Interview, das die französische Zeitung Le Monde am 24. September veröffentlichte, argumentierte der Chef von Europas bedeutendstem KI-Startup, dass amerikanische Technologiegiganten die Risiken von KI überbewerten, um geschlossene, proprietäre Systeme zu rechtfertigen und den Markt abzuriegeln. Sein Unternehmen, sagte er, verfolge die entgegengesetzte Wette: offene Modelle, europäische Infrastruktur und die Position, dass die Gefahren der Technologie durch gewöhnliche Technik und nicht durch außergewöhnliche Angst beherrschbar seien. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.
'Es kann kontrolliert werden'
Das Le Monde-Interview, das unter der Überschrift „KI ist Software, sie kann kontrolliert werden“ veröffentlicht wurde, kommt zu einem Zeitpunkt, an dem agentenbezogene Sicherheitsvorfälle seit Monaten den KI-Nachrichtenzyklus dominieren. Mensch ging direkt auf dieses Klima ein und machte geltend, dass Vorfälle wie der Hugging-Face-Serververstoß im Juli von großen US-Firmen in der öffentlichen Debatte instrumentalisiert wurden, um zu argumentieren, dass nur streng eingeschränkte, geschlossene Modelle sicher betrieben werden könnten.
Diese Formulierung verbindet, so Mensch, betriebliche Sicherheitsmängel mit einem Streit über die Technologie selbst. Sein in der Berichterstattung über das Interview zusammengefasster Standpunkt ist, dass KI-Systeme Softwareprodukte sind, die wie jede andere Software geprüft, eingeschränkt und kontrolliert werden können, und dass Offenheit eher mit Sicherheit vereinbar ist als im Widerspruch dazu steht.
Das Argument stellt Mistral in Konflikt mit der öffentlichen Haltung mehrerer US-Konkurrenten, die in diesem Jahr auf eine Reihe von Vorfällen von Agentenfehlverhalten mit verschärften Sicherheitsvorkehrungen, eingeschränktem Zugang und neuen Offenlegungsrahmen reagiert haben.
Offene Gewichte als strategische Wette
Menschs Kommentare beziehen sich auf die Strategie, die Mistral seit seiner Gründung im Jahr 2023 verfolgt: die Veröffentlichung von Modellen mit offen verfügbaren Gewichten, die Kunden herunterladen, verfeinern, auf ihrer eigenen Infrastruktur bereitstellen und überprüfen können.
In der Berichterstattung über das Interview wird dieser Ansatz als direkte Antwort auf die Frage formuliert, wer KI-Systeme kontrolliert. Offene Gewichtungen ermöglichen eine unabhängige Untersuchung der Funktionsweise eines Modells, die private Bereitstellung hält sensible Daten von Servern Dritter fern und die Möglichkeit, ein Modell zu ändern, ermöglicht Kunden einen Ausstieg aus der Anbieterbindung. Der Nachteil besteht laut Kritikern darin, dass offen verfügbare Gewichte auch von jedem verwendet werden können, auch von Akteuren mit böswilligen Absichten, und Mistral sowohl hinsichtlich der Leistungsfähigkeit als auch des Ökosystems mit anderen offenen Modelllaboren konkurrieren muss.
Europas Compute Push und die 3-Milliarden-Euro-Kriegskasse
Das Interview ging auch auf die Infrastrukturfrage ein, die den KI-Ambitionen Europas zugrunde liegt. Mensch plädiert für staatliche Garantien, um die Finanzierung europäischer Rechenzentren zu vereinfachen, ein politischer Mechanismus, der darauf abzielt, die Abhängigkeit des Kontinents von US-amerikanischen Cloud-Anbietern für KI-Rechnungen zu verringern.
Die Position von Mistral, dieses Argument vorzubringen, wurde durch die jüngste Finanzierung gestärkt. Das Unternehmen hat in einer von Samsung Electronics zusammen mit dem von der EU unterstützten Scaleup Europe Fund angeführten Serie-D-Runde 3 Milliarden Euro eingesammelt, eine Bewertung, die das Unternehmen auf über 21 Milliarden Euro bezifferte. Darüber hinaus schloss Mistral einen milliardenschweren Deal mit Microsoft ab, um die Azure-Infrastruktur in Europa zu erweitern. Allerdings bindet diese Vereinbarung den europäischen Champion kurzfristig an einen US-amerikanischen Hyperscaler, eine Spannung, die Beobachtern der europäischen Tech-Szene nicht entgangen ist.
Mensch hat zuvor davor gewarnt, dass Europa ein begrenztes Zeitfenster hat, seiner Schätzung nach etwa zwei Jahre, um eine dauerhafte KI-Abhängigkeit von den Vereinigten Staaten zu vermeiden, und dass der Finanzierungs- und Infrastrukturschub als direkte Reaktion auf diese Frist positioniert ist.
Sicherheitsrhetorik trifft auf Marktzugang
Der Kern von Menschs Argumentation ist sowohl kommerziell als auch philosophisch. Wenn Grenz-KI als existentielles Risiko betrachtet wird, das einen streng kontrollierten Zugang erfordert, konsolidiert sich der Markt um eine Handvoll Unternehmen, die über die Ressourcen verfügen, eingeschränkte APIs unter strengen Compliance-Regeln bereitzustellen. Wenn KI als kontrollierbare Software behandelt wird, können Open-Weight-Anbieter hinsichtlich Preis, Datenschutz und Anpassung konkurrieren.
Deshalb ist die Debatte darüber, wie gefährlich KI ist, praktisch zu einer Debatte über die Marktstruktur geworden. Mensch argumentiert gegenüber Le Monde damit, dass die Angst strategisch eingesetzt werde und dass die Vorfälle des Sommers mehr über die Betriebssicherheit einzelner Unternehmen als über die Beherrschbarkeit der gesamten Technologie aussagten.
Skeptiker entgegnen, dass offene Gewichte es schwieriger machen, Missbrauch zu verhindern, und dass die jüngsten Agentenvorfälle in der Branche, zu denen unbefugte Zugriffe und Datenlecks gehörten, zeigen, dass selbst gut ausgestattete Labore Schwierigkeiten haben, ihre Systeme zu kontrollieren. Es ist unwahrscheinlich, dass die Meinungsverschiedenheit durch ein einzelnes Interview beigelegt werden kann.
Was Sie als Nächstes sehen sollten
Mistral hat angekündigt, die Auslieferung eines neuen Modells mit offenem Gewicht zu planen, und das Interview mit Mensch bestärkt die Erwartungen, dass das Unternehmen beabsichtigt, mit den Frontier Labs Schritt zu halten und gleichzeitig offen zu bleiben. Wie bei allen Behauptungen vor der Veröffentlichung wird der aussagekräftige Test vorliegen, wenn das Modell ausgeliefert wird und unabhängige Benchmarks überprüfen können, wo es tatsächlich steht.
Das Le Monde-Interview verschärft vorerst eine Trennlinie in der Branche. Ein Lager sieht das jüngste Fehlverhalten von Agenten als Beweis dafür, dass KI strengere Kontrolle und eingeschränkten Zugriff benötigt. Die andere, vertreten durch Europas führendes KI-Labor, sieht kontrollierbare Software, deren Risiken real, aber beherrschbar sind und deren Vorteile nicht hinter einer Handvoll verschlossener Türen verschlossen bleiben sollten.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
