Anthropic veröffentlichte am Donnerstag seinen Threat-Intelligence-Bericht vom September 2026 mit dem Titel „Detecting and Countering Misuse of AI“, in dem beschrieben wird, wie sein Threat Intelligence-Team Bedrohungsakteure identifiziert und stört, die Claude zwischen Dezember 2025 und August 2026 missbraucht haben. Die Fälle umfassen sieben verschiedene Schadensbereiche: Cyberoperationen, Einflussoperationen, Überwachung, Betrug und Betrug, biologischer Missbrauch, Entwicklung konventioneller Waffen und illegale Modelldestillation. Nach Angaben des Unternehmens wurde jede von ihm beschriebene Kampagne unterbrochen und die Informationen gegebenenfalls an Behörden und Industriepartner weitergegeben.
Der Bericht fällt in einen Moment intensiver Prüfung für die KI-Branche und insbesondere für Anthropic, da aktuelle KI-Nachrichten diese Woche von Sicherheitsoffenlegungen, Whistleblower-Berichten und zunehmendem Druck seitens der Gesetzgeber dominiert wurde. Es erscheint auch zusammen mit Berichten der New York Times und von Politico, in denen Versuche hervorgehoben werden, Grenzmodelle zu Waffen zu machen – einschließlich blockierter Bemühungen im Zusammenhang mit der Entwicklung biologischer Waffen.
Wie Anthropic KI-gestützte Bedrohungsakteure verfolgt
Anthropic verfolgt die Akteure in seinem Bericht unter internen Bezeichnungen, die als Generative Threat Groups (GTGs) bekannt sind. Jede Fallstudie misst, was das Unternehmen Uplift nennt – den Leistungsschub, den KI einem Betrieb in drei Dimensionen verleiht: Geschwindigkeit, Umfang und Tiefe. Die Missbrauchsfälle betrafen die Modelle Claude Haiku, Sonnet und Opus. Mit Ausnahme eines Falles einer illegalen Destillation betraf keiner die Modelle der Fable- oder Mythos-Klasse des Unternehmens.
Anthropic bezeichnet seine Bereitschaft zur Veröffentlichung als Pflicht und nicht als Marketingmaßnahme und erklärt in dem Bericht: „Wir glauben, dass wir die Verantwortung haben, den böswilligen Missbrauch unserer Dienste offenzulegen.“
Eine Operation im Zusammenhang mit Midnight Blizzard, die ihre eigene Malware neu erstellte
Der umfangreichste Cyber-Fall des Berichts, der als GTG-20006 verfolgt wird, beschreibt einen Akteur, dessen Zuschreibung laut Anthropic mit öffentlichen Berichten übereinstimmt, die ihn mit Midnight Blizzard in Verbindung bringen, der russischen staatsnahen Hackergruppe, die früher als Nobelium oder APT29 bekannt war. Einer seiner Betreiber, eine Person mit dem Pseudonym „JackPoterz“, spricht Russisch.
Dem Bericht zufolge hatte die Gruppe mehr als 20 Organisationen ins Visier genommen, vor allem ukrainische Regierungs-, Militär- und Diplomatenorganisationen. Dabei wurden mindestens drei Hotel-WLAN-Anbieter kompromittiert, um DNS-Einträge zu kapern, die WhatsApp-Konten von mindestens zwei ehemaligen hochrangigen ukrainischen Beamten übernommen und mehr als 300.000 nationale Identitätsdatensätze sowie Handelsregisterdaten von mehr als einer halben Million Unternehmen von einer Technologiebehörde der nordafrikanischen Regierung gestohlen.
Das auffälligste Detail ist die autonome Anpassung: Anthropic berichtet, dass die KI-Agenten des Akteurs die Malware der Gruppe jedes Mal modifizierten und neu erstellten, wenn Sicherheitsprodukte sie entdeckten – eine Schleife, für die zuvor qualifizierte Entwickler auf Abruf erforderlich gewesen wären.
Credential Harvesting im großen Maßstab und autonome Zero-Day-Jagd
Ein zweiter Fall, GTG-50014, betrifft Betreiber, die im Verdacht stehen, mit dem ShinyHunters-Kollektiv verbunden zu sein. Ihre Credential-Harvesting-Pipelines luden massenhaft 1,8 Millionen Android-APKs herunter und durchsuchten sie nach fest codierten Geheimnissen. Bei einer Kompromittierung eines Technologieanbieters wurden mehr als ein Terabyte an Daten exfiltriert, darunter Millionen von Zahlungskartendatensätzen. Ein anderes Tochterunternehmen extrahierte Daten von rund 200 Downstream-Kunden eines Software-as-a-Service-Anbieters mit Verstößen und entsorgte in etwa 34 Stunden mehr als 2.100 Azure AD-Token-Sets, die sich über 40 Unternehmensmandanten erstreckten – wobei KI-Agenten dem Bericht zufolge fast die gesamte Arbeit erledigten.
GTG-10007 ist für Verteidiger noch ernüchternder. Anthropic führt diesen Cluster auf chinesischsprachige Betreiber zurück, die wahrscheinlich in Changsha, Hunan, ansässig sind – von denen zwei als Studenten identifiziert wurden –, die etwa fünfzig Organisationen ins Visier genommen und ein autonomes Schwachstellenforschungsprogramm durchgeführt haben. Ein auf Netzwerkgeräten iterierender Workflow lieferte in einem einzigen Monat mehr als ein Dutzend mögliche Zero-Day-Ergebnisse.
Erpressung, ein einsamer Hacktivist und ein gescheiterter Überfall auf AI Labs
Finanziell motivierter Missbrauch steht im Vordergrund. GTG-50020, ein russischsprachiger Schauspieler, erbeutete etwa 26 Gigabyte von einem Opfer und forderte Erpressung zwischen 1,5 und 2,5 Millionen US-Dollar. Dieselbe Gruppe griff dann innerhalb von etwa vier Tagen etwa dreißig KI-Unternehmen an, mit dem erklärten Ziel, an ein Vorabversionsmodell von Claude zu gelangen. Anthropic sagt, dass jeder versuchte Weg gescheitert sei und die eigenen Systeme nie kompromittiert worden seien.
Am anderen Ende des Spektrums war GTG-50029 ein einzelner französischsprachiger Hacktivist, der eine zuvor undokumentierte Wettlaufbedingung bei der Neuinstallation von WordPress gegen mindestens vier Websites ausnutzte, sich internen Zugriff auf mindestens 14 von 42 verfolgten Zielen verschaffte und etwa 140.000 Datensätze exfiltrierte – darunter auch die politischen Meinungen der Benutzer von einer Kampagnenplattform. Anschließend baute der Schauspieler eine Doxxing-Plattform, Fafsearch, auf, die Dutzende Millionen Zeilen enthielt.
Einflussoperationen von der Zentralafrikanischen Republik bis Malaysia
Neun Fälle von Einflussnahme im Bericht hatten ihren Ursprung in Russland, Iran, der Türkei, dem Golf, Südasien, Afrika und Europa, wobei die Reichweite anhand der Breakout Scale der Brookings Institution gemessen wurde. In einem Fall produzierte GTG-04001, ein russischsprachiger Schauspieler mit Sitz in Bangui, tägliche Inhalte für Radio Lengo Songo, einen Sender von Anthropic, der mit Politology verbunden ist – der Africa Corps- und Wagner-Einflusszweig, der seiner Einschätzung nach Ende 2023 unter die Kontrolle des russischen Auslandsgeheimdienstes geriet.
Ein anderes Netzwerk, GTG-54002, wurde auf LKM Company zurückgeführt, eine in Frankreich ansässige Agentur für digitale Werbung, die etwa 70 gefälschte Nachrichten-Websites, 70 Matching-X-Konten und mehr als 250 unechte Kommentarkonten betreibt. Das Netzwerk veröffentlichte mindestens 8.913 Artikel in etwa 20 Sprachen, 318 davon konzentrierten sich auf die Demokratische Republik Kongo.
Auch Wahlen waren ein Ziel. GTG-84005, eine auf Malaysia abzielende kommerzielle Wahlmanipulationsplattform, die Anthropic mit der in Istanbul ansässigen BBS Bilisim Teknolojileri verband, verwaltete etwa 1.000 gefälschte X-Konten in allen 222 malaysischen Parlamentswahlkreisen und fabrizierte Dossiers gegen einen Oppositionspolitiker. Ein separater Cluster, GTG-24015, nutzte vier Konten als KI-gestützte Redaktion, die russische Staatsmedien belieferte.
Warum Offenlegung wichtig ist
Anthropic sagt, es habe die Aktivitäten in jedem Fall gestört, die Ergebnisse zur Stärkung seiner Sicherheitsvorkehrungen genutzt und gegebenenfalls Informationen an Behörden und Industriepartner weitergegeben. Die Veröffentlichung detaillierter Fallstudien – einschließlich Fehleranalysen der eigenen Erkennungen – ist bei Grenzlaboren nach wie vor selten, und das Unternehmen argumentiert, dass Transparenz die Basis für die gesamte Branche erhöht.
Der Bericht unterstreicht auch einen Wandel, den Sicherheitsteams nicht länger ignorieren können: Die gefährlichsten KI-gestützten Operationen, die hier beschrieben werden, waren keine hypothetischen Demonstrationen, sondern Live-Kampagnen gegen Regierungen, Unternehmen und Wahlen. Da Modelle immer leistungsfähiger werden, deuten die Daten von Anthropic darauf hin, dass der Auftrieb, den sie entschlossenen Gegnern bieten, immer größer wird – und die derzeit beste verfügbare Antwort der Verteidiger ist Sichtbarkeit, Offenlegung und eine schnellere Iteration von Schutzmaßnahmen.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
