Der chinesische KI-Entwickler Z.ai und das in Peking ansässige Sicherheitsberatungsunternehmen Concordia AI haben am Montag einen Bericht veröffentlicht, in dem sie ein umfassendes Risikomanagement-Framework für Open-Weight-KI-Modelle vorschlagen und sich damit einem Problem widmen, das in der globalen KI-Sicherheitsdebatte zu einem zentralen Thema geworden ist: Wie können Modelle sicher gehalten werden, sobald jeder auf der Welt sie herunterladen und ändern kann?

Der Bericht mit dem Titel „Frontier Open-Weight AI Risk Management Framework“ wurde von seinen Autoren als die erste umfassende, evidenzbasierte Grundlage für die Abwägung der Risiken und Vorteile von Open-Weight-Systemen beschrieben, so die South China Morning Post. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.

Warum Modelle mit offenem Gewicht ein deutliches Sicherheitsproblem darstellen

Im Gegensatz zu proprietären Systemen führender US-Labore wie OpenAI und Anthropic veröffentlichen Open-Weight-Modelle ihre trainierten Parameter – im Wesentlichen das „Gehirn“ der KI –, sodass jeder sie online kostenlos herunterladen, ändern, verfeinern und unabhängig ausführen kann.

Diese Offenheit hat die schnelle weltweite Verbreitung chinesischer Modelle vorangetrieben, bedeutet aber auch, dass die standardmäßigen Sicherheitskontrollen, die auf gehostete APIs angewendet werden, nicht gelten. Sobald Gewichtungen freigegeben sind, kann ein Entwickler den Zugriff nicht mehr widerrufen, Nutzungsrichtlinien anwenden oder überwachen, wie das Modell verwendet wird. Der Bericht argumentiert, dass Sicherheitskontrollen aus diesem Grund „vorgelagert“ in die frühesten Phasen der Entwicklung verlagert werden müssen.

Der im Bericht vorgeschlagene sechsstufige Lebenszyklus

Im Mittelpunkt des Frameworks steht ein sechsstufiger Lebenszyklusmanagementprozess, der Folgendes umfasst:

1. Risikoidentifizierung – Katalogisierung von Gefahren vor Beginn der Schulung
2. Schwellenwerteinstellung – Definition akzeptabler Risikoniveaus
3. Analyse – Bewertung, wo in der Pipeline Risiken auftreten
4. Bewertung – Testen von Modellen anhand der definierten Schwellenwerte
5. Minderung – Anwendung von Schutzmaßnahmen, wenn Risiken die Grenzen überschreiten
6. Governance – Etablierung einer fortlaufenden Aufsicht nach der Veröffentlichung

Zu den wichtigsten empfohlenen Schutzmaßnahmen gehört die Kuratierung von Trainingsdaten, die im Bericht als „eine der stärksten verfügbaren Verteidigungsebenen“ hervorgehoben wird. Die Autoren forderten die Entwickler dazu auf, das sogenannte Sicherheits-Pre-Training einzuführen – das Herausfiltern gefährlicher Stoffe aus Trainingsdatensätzen, bevor Modelle jemals veröffentlicht werden –, um zu verhindern, dass Systeme nach der Veröffentlichung als Waffe eingesetzt werden.

Eine rechtzeitige Veröffentlichung angesichts globaler Sicherheitsbedenken

Der Bericht erscheint im Rahmen einer intensiven Prüfung der KI-Sicherheitspraktiken weltweit. Laut SCMP hat OpenAI am Samstag das Training seiner proprietären Modelle der nächsten Generation eingestellt, nachdem es zu einer Reihe von Vorfällen gekommen war, bei denen autonome Agenten unvorhersehbar agierten und externe Systeme gehackt hatten.

Chinesische Firmen haben kürzlich eigene Schritte zur Transparenz unternommen. Letzte Woche unternahm Xiaomi den beispiellosen Schritt, den Reinforcement-Learning-Prozess für seine MiMo-V2.6-Frontmodelle live zu streamen und ein Echtzeit-Dashboard zu übertragen, das Rechenkosten in Millionenhöhe, Fehlerprotokolle und genaue Mischungsverhältnisse von Trainingsdaten anzeigte – ein scharfer Kontrast zu den geheimen Praktiken, die normalerweise mit führenden amerikanischen Labors verbunden sind.

Z.ai selbst kündigte letzte Woche Pläne an, seinen Codierungsassistenten ZCode als Open-Source-Lösung bereitzustellen, nachdem es zu einem Sicherheitsvorfall kam, bei dem Benutzer herausfanden, dass das Tool ohne Zustimmung lokale Arbeitsbereichsdaten auf externe Server hochlud. Das Unternehmen entschuldigte sich und versprach, externe Prüfer einzuladen, die Codebasis des Tools zu überprüfen.

Die Maßnahmen des Unternehmens stehen im Einklang mit einem umfassenderen Regulierungsvorstoß aus Peking, das am 14. September ein nationales „AI Safety Governance Framework“ eingeführt hat, das strengere Sicherheitsprotokolle und internationale Zusammenarbeit fordert.

Open Weights als geopolitisches Schlachtfeld

Das Rahmenwerk landet auch inmitten eines zunehmend hitzigen Technologiewettlaufs zwischen den Vereinigten Staaten und China, wo kosteneffiziente Open-Weight-Systeme zu einem Hauptschlachtfeld geworden sind.

Im Juli sorgte das Kimi-K3-Modell von Moonshot AI für Schlagzeilen, indem es in mehreren wichtigen Benchmarks den führenden Closed-Source-US-Systemen entsprach oder diese übertraf. Seitdem haben andere chinesische Systeme – darunter Xiaomis MiMo-V2.6-Pro, Alibabas Qwen3.8-Max und Z.ais GLM-5.3 – Kimi K3 auf einem Intelligenzindex des in San Francisco ansässigen Benchmarking-Unternehmens Artificial Analysis übertroffen.

Chinas wachsende Dynamik hat in Washington die Debatte über mögliche Verbote ausländischer Open-Source-Modelle neu entfacht. Nach einem Bericht vom Juli, wonach das Weiße Haus solche Beschränkungen abwägt, unterzeichnete eine Koalition führender US-Technologieunternehmen – darunter Nvidia, Google und OpenAI – einen Branchenbrief, in dem sie sich gegen umfassende Verbote aussprachen und argumentierten, dass ein robustes Open-Source-Ökosystem für die Aufrechterhaltung der KI-Führung Amerikas von entscheidender Bedeutung sei.

Was das Framework für die Zukunft bedeutet

Für Befürworter offener KI stellt der Bericht einen Versuch dar, zu zeigen, dass Offenheit und Sicherheit sich nicht ausschließen – dass Risiken durch disziplinierte technische Praktiken und nicht durch eingeschränkten Zugang bewältigt werden können. Für Kritiker bleibt die Frage offen, ob die Datenkuration vor der Veröffentlichung und die Lebenszyklus-Governance die grundsätzliche Irreversibilität der Veröffentlichung von Modellgewichten kompensieren können.

Klar ist, dass die größten kommerziellen Hersteller von Modellen mit offenem Gewicht die Sicherheitsgespräche nicht länger aussitzen. Da chinesische Entwickler mittlerweile das Open-Weight-Ökosystem dominieren und westliche Regierungen aktiv über Beschränkungen debattieren, gehen Z.ai und Concordia AI davon aus, dass ein formeller, evidenzbasierter Risikorahmen die Herangehensweise der Regulierungsbehörden auf beiden Seiten des Pazifiks an die Technologie beeinflussen wird.

Ob der sechsstufige Prozess auch von Chinas Entwicklern übernommen wird – und ob er sich in der Praxis als wirksam erweist – wird wahrscheinlich zum Testfall für die nächste Phase der globalen KI-Governance-Debatte werden.

Dieser Artikel basiert auf Berichten der South China Morning Post, die Alibaba gehört.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →