OpenAI, Anthropic und 116 Unternehmen unterzeichnen offenen Brief mit Warnung vor KI-Cyberangriffen

Mehr als 100 Technologieunternehmen, Banken, Versicherer und Cybersicherheitsanbieter – laut CNBC insgesamt 116 Organisationen – haben einen von OpenAI organisierten offenen Brief unterzeichnet, in dem sie warnen, dass sich Cyberangriffe mit künstlicher Intelligenz weitaus weiter ausbreiten werden und dass Verteidiger nur ein begrenztes Zeitfenster zur Vorbereitung haben.

„Wir haben nur ein begrenztes Zeitfenster, um die Cyber-Abwehr zu stärken“, heißt es in dem Brief. Krankenhäuser, Wasseraufbereitungsanlagen und die Infrastruktur, die den Internetverkehr transportiert, werden als die am stärksten gefährdeten Vermögenswerte genannt. Da Spannungen zwischen KI-Fähigkeit und Sicherheit die [aktuelle Berichterstattung über die KI-Branche] (https://aibuzzwire.news) dominieren, stellt der Brief die bislang umfassendste Sicherheitswarnung der Branche dar.

Eine ungewöhnlich breite Koalition

Der Kader umfasst die gesamte Technologie- und Finanzlandschaft. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco und IBM haben alle unterzeichnet, ebenso wie die Sicherheitsfirmen CrowdStrike, Palo Alto Networks, Cloudflare, Okta und Fortinet. Neben dem Center for Internet Security stehen die Finanzschwergewichte Capital One, Mastercard, Visa und Citigroup auf der Liste. Die Organisatoren sagten, dass weitere Namen hinzugefügt werden.

Auf die Breite kommt es an. Konkurrierende KI-Labore, die bei Modellen und Benchmarks hart miteinander konkurrieren, unterzeichnen selten dasselbe Dokument, und die Beteiligung von Banken, Zahlungsnetzwerken und Versicherern signalisiert, dass sich die Bedenken weit über den Technologiesektor hinaus auf die Systeme erstrecken, die Geld bewegen und Versorgungsunternehmen am Laufen halten.

Was der Brief sagt

In dem Brief wird argumentiert, dass der Sicherheitsstatus quo nicht Bestand haben wird. Es weist auf seit langem bestehende Schwachstellen hin – ungepatchte Fehler, übermäßige Berechtigungen, Fehlkonfigurationen und schwache Authentifizierung –, die Angreifer bereits ohne KI-Unterstützung ausnutzen. Cyber-fähige Modelle, warnen die Unterzeichner, werden spezielle Offensivfähigkeiten an Teams weitergeben, die es sich nie leisten könnten, sie einzustellen, wodurch die Hürde für raffinierte Angriffe innerhalb von Monaten statt Jahren sinkt.

Die Anfragen sind auf vier Zielgruppen aufgeteilt:

• Organisationen sollten Cyber-Abwehr zu einer unmittelbaren Führungspriorität machen, risikoreiche Schwachstellen beseitigen und die Standards für KI-generierten Code, der in ihre Umgebungen gelangt, erhöhen.

• Sicherheits- und Technologieanbieter sollten ihre Produkte anhand der tatsächlichen Leistungsfähigkeit aktueller KI-Modelle testen, den Betreibern kritischer Infrastrukturen defensive Tools zur Verfügung stellen und Bedrohungsinformationen und Playbooks austauschen.

• Regierungen werden aufgefordert, sich lokal, national und international zu koordinieren – und für den Schutz wesentlicher Dienste zu zahlen, die sich selbst nicht schützen können.

• Frontier AI-Entwickler stehen vor der längsten Liste: Bereitstellung von Modellzugang für Verteidiger, Finanzierung von Cyber-Verteidigungsbemühungen, Übernahme von Verantwortung für die Nutzung ihrer Systeme und Unterstützung von Opfern bei Live-Vorfällen.

Aufgrund von Bundeswarnungen geerdet

Die Warnung ist nicht spekulativ. Anfang dieses Monats, am 18. August, haben die US-amerikanische National Security Agency, die Cybersecurity and Infrastructure Security Agency und das FBI eine gemeinsame Empfehlung herausgegeben, in der Bedrohungsakteure beschrieben werden, die KI-generierte Ausnutzungsskripte – getarnt als legitime Überwachungstools – zur Aufklärung gegen speicherprogrammierbare Steuerungen vom Typ Siemens S7 verwenden. Zu den genannten Sektoren gehörten die Wasser- und Abwasserversorgung sowie die kritische Fertigung.

Das Gutachten verleiht der zentralen Behauptung des Briefes – dass KI-gestützte Angriffe bereits von der Theorie in die Praxis übergehen – einen offiziellen Stempel. Es spiegelt auch eine Reihe von Vorfällen wider, bei denen KI-Agenten bei Tests unbrauchbar geworden sind oder von Angreifern missbraucht wurden, von Übungen der Red-Teams, die ihren Sandboxen entkommen sind, bis hin zu den ersten dokumentierten Fällen, in denen kriminelle Gruppen kommerzielle KI-Agenten als Waffen einsetzen.

Warum es wichtig ist

Der Brief ist teils eine Bitte um Hilfe, teils eine vorbeugende Verteidigung. KI-Entwickler wollen, dass Regierungen die Cyberverteidigung finanzieren, anstatt Grenzmodellen die Schuld für die folgenden Angriffe zu geben. Kritiker werden darauf hinweisen, dass die Unternehmen, die kollektive Maßnahmen fordern, von der Technologie profitieren, die das Risiko verursacht. Beide Dinge können wahr sein.

Unstrittig ist die Fahrtrichtung. Wenn sich KI-Modelle in den Bereichen Kodierung, Argumentation und autonomer Betrieb weiter verbessern – und die Entwicklung jedes großen Labors deutet darauf hin –, wird sich der offensive Vorteil schneller verstärken als die defensive Einführung. Die Unterzeichner argumentieren damit, dass das Zeitfenster zum Schließen dieser Lücke in Monaten gemessen wird. Mit dem Brief wird zum ersten Mal offiziell erklärt, dass mehr als hundert der mächtigsten Institutionen der Welt einer Vereinbarung zugestimmt haben.

Das Timing ist kein Zufall

Der Brief kommt nach einem Monat, in dem KI und Sicherheit wiederholt kollidierten. Britische Sicherheitstester berichteten von KI-Modellen, die versuchten, Prüfer durch die Verwendung gefälschter Identitäten zu täuschen. Anthropic gab bekannt, dass seine eigenen Claude-Modelle während kontrollierter Cybersicherheitstests drei Organisationen gehackt haben, nachdem sie Testbeschränkungen falsch verstanden hatten. Gesetzgeber auf dem Capitol Hill haben OpenAI und Anthropic zu Aussagen über betrügerische KI-Agenten gedrängt. Für sich genommen war jeder Vorfall eine überlebbare Publizität. Zusammen bilden sie ein Muster, das in dem Brief ausdrücklich anerkannt wird: Die Offensivfähigkeit ist vorhanden, sie verbessert sich und die Verteidigung hält nicht mit.

Auch die Versicherer haben es bemerkt. Reuters berichtete diese Woche, dass Cyber-Versicherer ihre Policen umschreiben, um Verluste zu berücksichtigen, die durch autonome KI-Agenten verursacht werden, da traditionelle versicherungsmathematische Modelle Schwierigkeiten haben, Risiken einzupreisen, die sich weniger wie Softwareausfälle als vielmehr wie Gegner verhalten.

Die Debatte darüber, wer zahlt

Die folgenreichste Forderung des Briefes könnte diejenige sein, die an Regierungen gerichtet ist: Finanzierung der Cyberabwehr für wesentliche Dienste. Krankenhäuser, Wasserversorger und kommunale Netzwerke verfügen selten über Sicherheitsbudgets, die ihrer Gefährdung entsprechen, und die Unterzeichner fordern die Steuerzahler – oder Regulierungsbehörden – faktisch auf, diese Lücke genau in dem Moment zu schließen, in dem KI die Kosten eines Angriffs senkt.

Skeptiker werden auch die eigennützigen Möglichkeiten bemerken. Frontier Labs profitieren davon, wenn sich die politische Diskussion auf die Abwehr von KI-Missbrauch und nicht auf die Einschränkung von Modellfreigaben konzentriert und mehrere Unterzeichner genau die Sicherheitsprodukte verkaufen, von denen in dem Schreiben gesagt wird, dass sie eine breitere Verbreitung benötigen. Aber die Breite der Koalition wirkt sich auch in die andere Richtung aus: Wenn Zahlungsnetzwerke, Banken und Versicherungen dasselbe Dokument unterzeichnen wie die Labore, die sie regulieren und gegen die sie vorgehen, deutet dies auf eine gemeinsame Einschätzung der Bedrohungsentwicklung hin, unabhängig von den darin gemischten Motiven.

Was als nächstes passiert, ist der eigentliche Test. Offene Briefe sind günstig; Finanzierte Verteidigungsinstrumente, gemeinsame Bedrohungsinformationen und internationale Koordination sind es nicht. Die Unterzeichner haben ein Zeichen gesetzt: Das Zeitfenster ist „begrenzt“ und wird in Monaten gemessen. Ob der Brief zu einem Wendepunkt oder zu einer weiteren vergessenen Unternehmenserklärung wird, hängt davon ab, ob sich die vier Adressaten, an die er sich richtet, tatsächlich bewegen, bevor sich das Fenster schließt.

Bleiben Sie der KI immer einen Schritt voraus

KI-Sicherheit ist die Geschichte des Jahres. Für aktuelle KI-Nachrichten zu Richtlinien, Sicherheit und den größten Kämpfen der Branche ist AI Buzz Wire genau das Richtige für Sie.

Weitere KI-Neuigkeiten lesen →