Hacker nutzten ein sich schnell entwickelndes, KI-gestütztes Hacking-Framework bei einem Angriff auf den US-amerikanischen Luft- und Raumfahrtsektor, teilte Googles Threat-Intelligence-Abteilung am Montag in von Nextgov gemeldeten Erkenntnissen mit. Das als Cairn bekannte Tool ist ein öffentlich zugängliches Penetrationstest-Framework, das an die chinesische Open-Source-Sicherheitsgemeinschaft gebunden ist – und sein Erscheinen in einem Live-Einbruch markiert einen weiteren Schritt bei der Migration der Agenten-KI von Forschungsdemos zu echten Spionageoperationen.
Google nannte weder den Namen der Luft- und Raumfahrtorganisation, auf die zugegriffen wurde, noch gab er an, welche Informationen möglicherweise erfasst wurden, noch ordnete Google den Eingriff einer bestimmten Regierung zu. Der Bericht deckt im Großen und Ganzen die im letzten Quartal beobachteten Aktivitäten ab und fügt sich in die heutige Berichterstattung der KI-Branche ein, in der es um Agentensysteme geht, die schneller umfunktioniert werden, als sich Verteidiger anpassen können.
Was Cairn und seine Cousins tun können
Cairn unterscheidet sich von dem Chatbot-gestützten Hacking, das frühere Bedrohungsberichte dominierte. Anstatt dass ein Mensch einen KI-Assistenten Schritt für Schritt anweist, verwendet Cairn KI-Agenten, die Informationen miteinander austauschen und entscheiden, welche Hacking-Techniken sie als Nächstes ausprobieren, während sie auf das Eindringen in ein System hinarbeiten.
Google-Forscher sagten, dass andere Open-Source-Systeme – darunter ARTEX, CyberStrikeAI und PentAGI – jetzt verwendet werden, um „mehrstufige Einbrüche mit höherer Betriebsgeschwindigkeit auszuführen“, verglichen mit früheren Aktivitäten, bei denen Hacker KI-Chatbots manuell dazu aufforderten, bei einzelnen Schritten zu helfen. ARTEX wurde in einer am Freitag veröffentlichten Cybersicherheitsempfehlung des FBI gesondert gekennzeichnet.
Das alarmierendste Ergebnis: Vollautomatische Ausbeutung
Eine Entdeckung sticht aus dem Quartalsbericht hervor. Google-Forscher haben herausgefunden, dass das System eines Angreifers so konfiguriert ist, dass es Software-Korrekturen untersucht, auf der Grundlage der gewonnenen Erkenntnisse Angriffe entwickelt und diese Angriffe automatisch ausführt – ohne dass ein Mensch in die Schleife involviert ist. Das Unternehmen sagte, es sei das erste Mal, dass seine Forscher Angreifer identifiziert hätten, die diesen Prozess vollständig automatisiert hätten.
Die Implikation ist deutlich: Der Wettlauf zwischen Patch-Veröffentlichungen und Ausnutzung könnte von Wochen auf Stunden verfallen, was den Druck auf Organisationen, die bereits Schwierigkeiten haben, Sicherheitsupdates zu installieren, bevor Kriminelle sie erreichen, noch weiter erhöht. Die Hacker News berichteten über die gleichen Ergebnisse und fassten die Technik so zusammen, dass Hacker KI-Agenten nutzen, um Exploits direkt aus Software-Patches zu erstellen und auszuführen.
„Angesichts der geringen Eintrittsbarriere, der einfachen Integration neuer Exploits und des enormen Skalierungspotenzials halten wir es für sehr wahrscheinlich, dass Bedrohungsakteure diese Frameworks weiterhin in Kampagnen nutzen werden, die sich an Organisationen weltweit richten“, sagte das Unternehmen laut Nextgov.
Chinesische Teams industrialisieren die Analyse; Nordkoreanische Personalvermittler gehen synthetisch vor
Der Bericht beschreibt auch, wie staatsnahe Akteure Modelle in verschiedene Phasen ihrer Operationen einteilen. Chinesische Hackerkollektive haben KI-Modelle genutzt, um gestohlene Dateien zu analysieren und fertige Geheimdienstberichte für Kunden zu erstellen. In einem Fall nutzte ein Auftragnehmer KI, um gestohlene Informationen zu übersetzen und zu analysieren, herauszufinden, wie Zielorganisationen strukturiert waren, und die Ergebnisse in Geheimdienstberichten zu organisieren – wobei er die Technologie für die komplexe Interpretationsarbeit verwendete, die einem Diebstahl folgt, und nicht für den Diebstahl selbst.
Google beobachtete auch mutmaßliche chinesische Agenten, die mit automatisierten Hacking-Tools experimentierten, darunter eine mit China verbundene Gruppe, die ein eigenes System entwickelte, das wahrscheinlich für Spionageoperationen eingesetzt werden sollte.
Nordkoreanische Akteure nutzen unterdessen KI, um ihr Social Engineering zu verbessern. Eine Gruppe von Google verfolgt gezielte Kryptowährungsorganisationen in Nordamerika und Europa mithilfe erfundener Personalvermittlerprofile. Die gefälschten Personalvermittler verwiesen ihre Ziele auf gefälschte Besprechungsdienste, wo Anweisungen zur Behebung eines vermeintlichen technischen Problems dazu führten, dass sie bösartigen Code ausführten.
Einmal drinnen, änderten die Angreifer die Einstellungen für Claude Code – den KI-Codierungsassistenten von Anthropic – in den Code-Repositories des Unternehmens, sodass der Start des Assistenten einen Malware-Download auslöste. Die Verwendung eines vertrauenswürdigen Entwicklertools bedeutet, dass die böswillige Aktion auf Softwareentwicklern basiert, denen sie bereits vertrauen.
Die Ergebnisse spiegeln eine Ankündigung des Justizministeriums von letzter Woche wider, die auf FaceStealer abzielt, ein nordkoreanisches gefälschtes Videoanrufsystem, das mit Diebstählen im Wert von mehr als 400 Millionen US-Dollar in Verbindung gebracht wird, sowie Gerichtsbeschlüsse über mehr als 1,2 Milliarden US-Dollar, die von Binance gestohlen wurden. Der Bericht von Google stellte keinen Zusammenhang zwischen den Ergebnissen und den beiden Fällen her.
Influence-Operationen werden ebenfalls stärker automatisiert
Über Spionage und Finanzkriminalität hinaus verwenden Einflussoperationen im Zusammenhang mit Russland, China und dem Iran laut Google inzwischen routinemäßig KI-Modelle, um Inhalte zu produzieren und deren Verbreitung zu automatisieren – wodurch ein größerer Teil der Arbeit, sich online als gewöhnliche Menschen auszugeben, an Maschinen delegiert wird.
Eine wachsende Kluft
Zusammengenommen skizzieren die Ergebnisse ein Abwehrproblem, das mit jeder Open-Source-Veröffentlichung zunimmt. Penetrationstest-Frameworks wie Cairn, ARTEX, CyberStrikeAI und PentAGI sind juristische Tools, die von und für die Sicherheitsgemeinschaft entwickelt wurden, und ihre Agentenarchitektur macht sie für Red Teams wirklich nützlich. Die gleichen Eigenschaften machen sie zu schlüsselfertigen Angriffswaffen für jeden, der sie herunterlädt.
Bei der Botschaft von Google an die Verteidiger handelt es sich im Grunde um eine Planungsannahme und nicht um eine Vorhersage: Gehen Sie davon aus, dass der nächste Einbruch, mit dem Sie konfrontiert werden, mit Maschinengeschwindigkeit und nach einem von einem Agenten festgelegten Zeitplan ausgeführt wird, der Ihre Patchnotizen liest, bevor Sie mit der Bereitstellung fertig sind.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →