Anthropic hat OSS Scanner eingeführt, einen kostenlosen Opt-in-Dienst, der die stärksten KI-Modelle des Unternehmens – darunter Claude Mythos – nutzt, um berechtigte Open-Source-Projekte regelmäßig auf Sicherheitslücken zu scannen und vollständig modellgenerierte Fehlerberichte direkt an Betreuer zu liefern.
Der Dienst, der am Mittwoch in einem Blogbeitrag des Unternehmens angekündigt wurde, ist das Ergebnis einer stillen Veränderung in der Sicherheitsarbeit von Anthropic: Seine Modelle finden in letzter Zeit Schwachstellen schneller, als das eigene Sicherheitsteam von Anthropic sie überprüfen kann. Für Entwickler, die die Tools verfolgen, die die Softwaresicherheit neu gestalten, ist die Einführung ein bedeutender Moment für unsere Berichterstattung über KI-Entwicklungen in der Open-Source-Infrastruktur.
Vom Projekt Glasswing zum öffentlichen Dienst
OSS Scanner basiert auf den Erfahrungen von Anthropic mit der Verwendung von Claude zur Suche nach Schwachstellen im Rahmen von Project Glasswing, der unternehmensinternen Schwachstellenerkennungsmaßnahme. Die Zahlen aus dieser Arbeit erklären, warum Anthropic die Pipeline für die Öffentlichkeit öffnet.
Laut Anthropic haben seine neuesten Modelle in den letzten sechs Monaten mehr als 29.000 potenzielle Schwachstellen in einigen der wichtigsten Softwareprojekte der Welt aufgedeckt – das Unternehmen konnte jedoch nur etwa 6.000 davon manuell überprüfen und selektieren. Die menschliche Validierungskapazität, nicht die Modellfähigkeit, ist zum Engpass geworden.
Die Nachfrageseite erzählt eine ähnliche Geschichte. Anthropic berichtet, dass Betreuer, die die ersten Berichte erhalten, zunehmend alles verlangen, was das Unternehmen hat: Fast 5.000 Berichte wurden bereits direkt an Betreuer gesendet, die Masseneinsendungen ungeprüfter Ergebnisse, einschließlich Patches, anforderten.
Der Fähigkeitskontext ist stark. Bei CyberGym, einem akademischen Benchmark zur Schwachstellensuche, haben große Sprachmodelle laut Anthropic von weniger als 20 Prozent der Schwachstellen zu Beginn des letzten Jahres auf über 85 Prozent in diesem Jahr zugelegt – ein Sprung, der KI-Fehlerberichte von Lärm in umsetzbare Erkenntnisse verwandelt hat.
Wie sich die Zahlen beim Testen gehalten haben
Vor dem Start validierte Anthropic die Pipeline mit Dutzenden von Open-Source-Projekten und erstellte Hunderte von Fehlerberichten – einschließlich Schwachstellen, die nach Angaben des Unternehmens mit nicht authentifizierten Exploits zur Remotecodeausführung verknüpft sein könnten.
Der aussagekräftigste Test war eine externe Prüfung. Anthropic hat die erfahrenen Penetrationstester, die die Ergebnisse der koordinierten Offenlegung von Schwachstellen (CVD) überprüfen, gebeten, 97 kritische und schwerwiegende Ergebnisse des Scanners aus 48 Projekten zu untersuchen. Davon erfüllten 85 – 88 Prozent – die Messlatte für den CVD-Prozess von Anthropic. Von den verbleibenden 12 handelte es sich bei 11 um echte, aber duplizierte bekannte Probleme oder andere Ergebnisse aus demselben Scan. Nur einer war völlig falsch positiv.
Nach Angaben des Unternehmens enthält jeder Bericht eine eigenständige Darstellung und eine Erläuterung der Schwachstelle, einschließlich einer Halbierung, um festzustellen, wann die Schwachstelle aufgetreten ist.
Der Kompromiss: Geschwindigkeit statt Gewissheit
Die zentrale Designentscheidung des OSS Scanners ist auch das größte Risiko: Die Berichte werden vollständig modellgeneriert, ohne menschliche Überprüfung oder Triage. Anthropic weist ausdrücklich darauf hin, dass dies ein schnelleres und häufigeres Scannen ermöglicht, aber auch, dass einige Berichte falsch oder ungültig sein werden.
Das Unternehmen formuliert den Kompromiss als Reaktion auf die Nachfrage der Betreuer. Da Exploits mittlerweile innerhalb von Minuten entwickelt werden können, ziehen es Projekte zunehmend vor, jedes unbestätigte Ergebnis sofort zu erhalten – mit vorgeschlagenen Patches –, anstatt auf eine menschliche Überprüfung zu warten. Inspiriert von Googles OSS-Fuzz, das seit Jahren Open-Source-Software mit Fuzzern scannt, wendet OSS Scanner dieselbe Logik auf die KI-gesteuerte Codeanalyse an.
Projekte, die die traditionelle Bearbeitung bevorzugen, kommen nicht zu kurz: Anthropic sagt, dass es weiterhin manuell von Menschen verifizierte Schwachstellenberichte über seinen bestehenden CVD-Prozess offenlegen wird, insbesondere für Projekte, die nicht über die Ressourcen verfügen, um Berichte selbst zu selektieren. Ein optionaler Fast-Track ist für diejenigen verfügbar, die Rohergebnisse erhalten möchten, sobald diese erstellt wurden.
Wer kann sich anmelden – und was Anthropic sonst noch angekündigt hat
Hauptbetreuer berechtigter Projekte können sich anmelden, indem sie eine Pull-Anfrage an ein GitHub-Repository senden und dabei einer Standardprojektvorlage folgen. Die Teilnahmeberechtigung spiegelt die OSS-Fuzz-Kriterien wider: Projekte sollten einen entscheidenden Einfluss auf die Infrastruktur und die Benutzersicherheit haben, wobei über die Zulassung von Fall zu Fall entschieden wird.
Der Scanner kommt zusammen mit einer breiteren Reihe von Anthropic-Sicherheitsinitiativen. Das Cyber-Verifizierungsprogramm des Unternehmens stellt qualifizierten Sicherheitsexperten erweiterte Cyber-Fähigkeiten und Klassifikatoren mit reduzierter Blockierung zur Verfügung – ein Programm, das Anthropic Anfang dieser Woche um drei Ebenen des Claude-Zugriffs für Sicherheitsteams erweitert hat. Eine separate Claude-für-OSS-Initiative stellt kostenlose Claude Max 20x-Abonnements bereit, um Betreuern dabei zu helfen, Schwachstellen zu beheben und ihre Projekte zu verbessern. SiliconANGLE berichtete außerdem über ein neues Anthropic-Programm, das sich auf den Schutz kritischer Infrastruktur konzentriert, und bezeichnete die Ankündigungen dieser Woche als einen koordinierten Vorstoß in die defensive Cybersicherheit.
Was es für Open-Source-Sicherheit bedeutet
Wenn der OSS-Scanner wie angekündigt funktioniert, bedeutet dies einen strukturellen Wandel in der Open-Source-Sicherheit: KI findet die Fehler und der Mensch verlagert sich von der Suche zur Überprüfung. Diese Verschiebung stellt eine echte Belastung für die Betreuer dar, die maschinell generierte Berichte – einige davon falsch – selektieren müssen, während sie gleichzeitig entscheiden müssen, ob sie automatisierten Patches vertrauen sollen.
Die Validierungsrate von 88 Prozent deutet darauf hin, dass das Signal-Rausch-Verhältnis nun gut genug ist, um die Zeit eines Betreuers zu lohnen, zumindest bei kritischen Infrastrukturprojekten. Ob das breitere Ökosystem zustimmt, wird sich an den Anmeldezahlen zeigen – und daran, wie viele angemeldete Projekte sich nach der ersten Flut an Berichten stillschweigend wieder abmelden.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
