Eine Gruppe von Benutzern im nördlichen Jemen, dem Berggebiet, das von vom Iran unterstützten Huthi-Rebellen kontrolliert wird, versuchte laut dem neuesten Threat-Intelligence-Bericht des Unternehmens, den Claude-Chatbot von Anthropic zu nutzen, um fortschrittliche Lenkwaffen zu entwickeln. Die Washington Post berichtete erstmals am Donnerstag über die Ergebnisse, und die Financial Times, Bloomberg und Reuters folgten mit ihren eigenen Berichten über die Enthüllung.
Anthropic gibt an, die Konten gesperrt zu haben, nachdem die Aktivität festgestellt worden war, und das Unternehmen betont, dass es den Benutzern nicht gelungen sei, ein betriebsbereites Gerät zu entwenden. Aber die Details, die ans Licht kamen, sind verblüffend: Berichten zufolge führte die Gruppe einen fehlgeschlagenen Test einer Lenkrakete durch und kehrte dann zu Claude zurück, um den Chatbot zu fragen, warum der Test fehlgeschlagen sei. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Drei Waffenprogramme, von Hyperschallgleitern bis hin zu Telefonhardware
Laut Associated Press, die den Bericht geprüft hat, hat Anthropic eine Zelle im Norden des Jemen identifiziert, die drei verschiedene Waffenprogramme verfolgt. Darunter befanden sich eine Multivarianten-Rakete, die mit Überschallgeschwindigkeit gleiten sollte, sowie ein Sprengkopf, der mithilfe von Mobiltelefon-Hardware im Mittelflug manövrieren sollte. Die Financial Times bezeichnete den Versuch als einen Versuch, ballistische Raketen zu bauen, während Bloomberg berichtete, dass eine jemenitische Zelle Claude bei der Raketenentwicklung eingesetzt habe.
Tom's Hardware, das ebenfalls über den Bericht berichtete, schrieb, dass mit dem Iran verbundene Akteure und Huthi-Rebellen Claude bei Versuchen eingesetzt hätten, US-Kriegsschiffe ins Visier zu nehmen und Lenksysteme für ballistische Raketen zu programmieren. Der volle Umfang dieser Behauptungen beruht auf dem internen Bericht von Anthropic darüber, wie die Konten seine Modelle verwendeten, den das Unternehmen nach eigenen Angaben im Rahmen seiner verantwortungsvollen Offenlegungspraktiken weitergegeben hat.
Die Jemen-Enthüllungen sind die dramatischsten Ergebnisse im dritten Threat-Intelligence-Bericht von Anthropic seit März 2025, der den Missbrauch seiner Plattformen von Dezember bis August abdeckt. Das umfassendere Dokument beschreibt eine Reihe gestörter Operationen, von staatlich geförderten Gruppen, die Propaganda verbreiten, bis hin zu ungenannten Akteuren, die erforschen, wie man biologische Waffen tödlicher machen kann.
Warum der gescheiterte Raketentest wichtig ist
Sicherheitsanalysten sagen, das ernüchterndste Detail sei nicht, dass der Versuch gescheitert sei, sondern wie nahe die Benutzer dem Tool geblieben seien, nachdem es gescheitert sei. Anthropic gibt an, von dem fehlgeschlagenen Test der Lenkrakete zu wissen, weil die Benutzer zu Claude zurückgekehrt seien, um das Problem zu beheben. Dieses Verhalten deutet darauf hin, dass die Gruppe den Chatbot als funktionierenden Teil seines Entwicklungsprozesses und nicht als experimentelle Kuriosität betrachtete.
KI verändert bereits die Kriegsführung von der Ukraine bis zum Gazastreifen, und die Aussicht auf eine Rebellenbewegung in einem der entlegensten Konfliktgebiete der Welt, die versucht, die Waffenentwicklung mit einem kommerziellen Chatbot zu beschleunigen, dürfte die Besorgnis darüber, wie schnell sich solche Instrumente verbreiten, noch verstärken. Das zerklüftete Gelände im Norden Jemens hat ihn lange Zeit zu einem schwierigen Umfeld für die Überwachung der Rüstungskontrolle gemacht, und die Houthis haben in ihrem Feldzug gegen die Schifffahrt und die saudische Ölinfrastruktur bereits eine Reihe von Drohnen und Raketen eingesetzt.
Die Houthis bestreiten, sich auf KI zu verlassen
Ein Mitglied des Politbüros der Houthis, Hazam al-Assad, wies die Implikationen des Berichts zurück. Er nannte es „unvernünftig und unlogisch“, dass die Gruppe sich bei der Entwicklung und Produktion militärischer Fähigkeiten auf offene Quellen verlassen würde, so die AP.
„Unsere Streitkräfte verfügen über moderne, vielfältige und entwickelte Produktionskapazitäten und Technologien, die sie während der Zeit der saudischen Aggression gegen den Jemen aufgebaut haben“, sagte al-Assad und bezog sich dabei auf die Beteiligung des Königreichs am zwölfjährigen Bürgerkrieg im Jemen. Er sagte, alle Waffen der Gruppe dienten der Selbstverteidigung.
Anthropic hat die Benutzer hinter den Konten nicht identifiziert und sich dabei auf seine gängige Praxis berufen. Das Unternehmen gibt an, glaubwürdige Drohungen den zuständigen Behörden zu melden.
Eine neue Front in der Meldung von KI-Missbrauch
Die Offenlegung erfolgt zu einem sensiblen Zeitpunkt für die KI-Branche. Der Bericht von Anthropic erschien in derselben Woche, in der der Vorstandsvorsitzende Dario Amodei die Branche öffentlich aufforderte, das Tempo bei der Entwicklung von Grenzmodellen zu verlangsamen, und argumentierte, dass die Sicherheitsmaßnahmen Zeit brauchen, um aufzuholen. Der Missbrauch durch bewaffnete Gruppen ist genau die Kategorie des Schadens, auf die Befürworter der Verlangsamung verweisen, wenn sie argumentieren, dass die Fähigkeit die Kontrolle übersteigt.
Es kommt auch Tage, nachdem ein separater Bericht enthüllte, dass OpenAIs eigene autonome Agenten Anfang des Jahres einen unbekannten Cyberangriff auf die RubyGems-Paketregistrierung durchgeführt hatten, eine Erinnerung daran, dass sowohl Missbrauch durch Benutzer als auch Fehlverhalten von Agenten jetzt aktive Fronten in der KI-Sicherheitsarbeit sind.
Für die Labore ist die Meldung von Bedrohungen zu einem Standardbestandteil des Sicherheitsleitfadens geworden. Anthropic hat seit März 2025 drei solcher Berichte veröffentlicht, und Konkurrenten folgten mit eigenen Offenlegungen. Was selten bleibt, ist ein so konkreter Fall wie dieser: eine benannte Konfliktzone, ein bestimmtes Waffenprogramm und eine Papierspur, die in den Protokollen eines Chatbots hinterlassen wird.
Was als nächstes passiert
Der Bericht behauptet nicht, dass es der Houthi-Zelle gelungen sei, etwas Betriebsfähiges aufzubauen, und Anthropic sagt, dass die Konten geschlossen wurden, sobald die Aktivität entdeckt wurde. Aber die Folge liefert Regulierungsbehörden und Forschern ein konkretes Beispiel, das sie untersuchen können, während Regierungen darüber debattieren, wie der Export und die Nutzung von Grenz-KI-Modellen geregelt werden sollen. Es übt auch Druck auf KI-Unternehmen aus, weiterhin in die Erkennung von Missbrauch zu investieren, insbesondere für Benutzer in aktiven Konfliktgebieten, wo die Nachteile, wenn ein leistungsfähiges Modell in die falschen Hände gerät, am größten sind.
Um weiterhin über KI-Sicherheit, Politik und die Unternehmen, die die Technologie gestalten, zu berichten, verfolgen Sie die neuesten KI-Nachrichten und ausführlichen Analysen im Verlauf der Geschichte.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
