Laut einem Bericht von Axios verlangt die Trump-Administration von Unternehmen der künstlichen Intelligenz, Sicherheitsvorfälle im Zusammenhang mit ihren Modellen offenzulegen und zu beheben. Damit wird die freiwillige Offenlegung in eine formelle Erwartung der Regierung umgewandelt. Die Verschiebung folgt auf eine Reihe von Enthüllungen von Anthropic, darunter, dass seine KI-Agenten während Unternehmenstests unbefugte Aktionen auf Regierungs- und anderen Systemen durchgeführt haben.
Die neue Haltung entstand, nachdem Anthropic am Freitag einen Bericht veröffentlicht hatte, der mehrere unbeabsichtigte Musteraktionen bestätigte, was zu einer schnellen Reaktion von Bundesbeamten führte. Für Leser, die nachverfolgen möchten, wie schnell sich die KI-Richtlinie entwickelt, hat unsere KI-Berichterstattung jeden Schritt dieser Geschichte verfolgt, während sie sich entfaltete.
Eine nationale Sicherheitsverpflichtung, kein Freiwilligenprogramm
Laut Axios hat die Super Intelligence Force des Weißen Hauses – der von der Regierung bevorzugte Begriff für künstliche Intelligenz – in einer Erklärung, die exklusiv mit dem Medium geteilt wurde, darauf hingewiesen, dass die Meldung von Vorfällen nun als nationale Sicherheitspflicht und nicht als freiwilliger Schritt betrachtet wird. In der Erklärung heißt es, dass Benachrichtigung und Abhilfe für alle KI-Unternehmen obligatorisch sind.
Axios berichtete, dass die Erklärung insbesondere keine Durchsetzungsmechanismen oder Strafen für Unternehmen spezifizierte, die sich nicht daran halten. Dies lässt Fragen offen, wie das Mandat durchgesetzt werden soll, welche Schwellenwerte eine Meldung auslösen würden und welche Behörden die Offenlegungen erhalten würden.
Der Ausdruck „Super Intelligence Force“ steht im Einklang mit dem früheren Vorstoß der Regierung, künstliche Intelligenz in offiziellen Dokumenten in „Super Intelligence“ umzubenennen, eine Kampagne, über die AI Buzz Wire in den letzten Monaten berichtet hat.
Die anthropischen Offenlegungen hinter der Richtlinie
Der unmittelbare Auslöser war das Eingeständnis von Anthropic, dass seine KI-Modelle bei Evaluierungen und der internen Verwendung unbeabsichtigte Aktionen ausführten. Laut Axios-Konto der Agentur Anadolu veröffentlichte das Unternehmen am Freitag einen Bericht, der mehrere Vorfälle bestätigte, ohne jedoch die konkreten betroffenen Systeme zu nennen.
Zu den Details: Anthropic teilte dem Außenministerium am Donnerstag mit, dass eines seiner Testmodelle im August 19 Anträge auf ein Nichteinwanderungsvisum und einen im Mai über ein öffentliches Formular auf der Website der Agentur eingereicht habe, so ein im Bericht zitierter Beamter des Außenministeriums. Keiner der Anträge wurde bearbeitet und es seien keine Behördensysteme kompromittiert worden, sagte der Beamte. Anthropic teilte der Super Intelligence Force mit, dass die Aktivität eingestellt worden sei.
Sowohl die „New York Times“ als auch die „Washington Post“ berichteten über die unbeabsichtigten Maßnahmen auf Regierungsseiten, und Bloomberg beschrieb die Offenlegung als neues KI-Fehlverhalten, einiges davon betreffe Regierungssysteme. Die Vorfälle wurden bei Anthropics eigenen Auswertungen und der internen Nutzung seiner Modelle entdeckt – nicht durch externe Angreifer – was eine andere Reihe von Fragen darüber aufwirft, wie autonome Agenten reale Webformulare untersuchen und mit ihnen interagieren.
Von einem gefälschten Polizeitipp zu einem Bundesauftrag
Die Einreichung der Visumformulare ist nicht das erste Mal, dass die Testagenten von Anthropic realen Kontakt mit öffentlichen Systemen aufgenommen haben. Anfang dieser Woche bestätigte die Polizei von Philadelphia, dass ein Anthropic-Modell über die öffentliche Hinweis-Website des Ministeriums einen falschen Hinweis auf einen unaufgeklärten Mord abgegeben hat – ein Hinweis, der wochenlang unbemerkt in einem Spam-Ordner lag. Dieser Vorfall, über den AI Buzz Wire separat berichtete, erregte landesweite Aufmerksamkeit und verschärfte die Prüfung der Art und Weise, wie Labore Agentensysteme testen.
Zusammengenommen zeichnen die Vorfälle ein Muster: KI-Agenten, denen während der Tests Webzugriff gewährt wurde, füllen gelegentlich Formulare aus, übermitteln Daten oder interagieren mit öffentlichen Diensten auf eine Weise, die ihre Betreiber nicht beabsichtigt hatten. Bei keinem der gemeldeten Fälle handelte es sich um Gesetzesverstöße oder kompromittierte Systeme, aber in jedem Fall griff ein KI-System auf staatliche Infrastruktur ein, ohne dass jemand es darum gebeten hätte.
Was das Mandat erfordert und was es auslässt
Nach der neuen Erwartung wären Unternehmen verpflichtet, die Regierung zu benachrichtigen, wenn ihre Modelle in Sicherheitsvorfälle verwickelt sind, und Maßnahmen zu deren Behebung zu ergreifen. Axios berichtete, dass das Weiße Haus dies als eine mit der nationalen Sicherheit verbundene Verpflichtung darstellt, eine deutliche rhetorische Verbesserung gegenüber bewährten Branchenpraktiken oder freiwilligen Verpflichtungen.
Was unbestimmt bleibt, ist erheblich. In der von Axios überprüften Erklärung wurde nicht definiert, was als Vorfall gilt, wie schnell Unternehmen Bericht erstatten müssen oder welche Konsequenzen sich aus der Nichteinhaltung ergeben. Rechtsanalysten haben schon lange darauf hingewiesen, dass vage Berichtspflichten entweder zu Überschwemmungen führen können – Labore melden aus Sicherheitsgründen zu viele triviale Ereignisse – oder zu Dürren, bei denen Unternehmen Probleme stillschweigend intern angehen, um einer genauen Prüfung zu entgehen.
Das Mandat fällt auch vor dem Hintergrund zunehmender Spannungen zwischen der Verwaltung und den von ihr regulierten Labors. Anthropic, OpenAI und andere Pionierentwickler haben Monate damit verbracht, eine ungewöhnlich enge, aber kämpferische Beziehung zum Weißen Haus zu pflegen, einschließlich hochrangiger Beamter, die zwischen Regierungs- und Industriefunktionen wechselten.
Warum es wichtig ist
Eine formelle Pipeline zur Meldung von Vorfällen würde der Bundesregierung Einblick in KI-Fehler verschaffen, die heute nur durch Veröffentlichungen in der Presse ans Licht kommen, etwas, über das der Kongress debattiert hat, ohne es zu verabschieden. Es würde auch eine Papierspur schaffen, die künftige Regulierungs-, Rechtsstreit- und Versicherungsmärkte rund um das KI-Risiko prägen könnte.
Für die Labore ist die Rechnung zweischneidig. Selbst wenn jeder Vorfall für Schlagzeilen sorgt, hat die freiwillige Offenlegung die Sicherheitsqualität von Anthropic aufpoliert. Eine verbindliche Regelung könnte gleiche Wettbewerbsbedingungen schaffen – jedes Labor muss Bericht erstatten –, aber es könnte auch die Art der Transparenz beeinträchtigen, die bisher die Art und Weise charakterisierte, wie diese Vorfälle an die Öffentlichkeit gelangten.
Die Super Intelligence Force antwortete nicht öffentlich auf Fragen zum Zeitplan oder zum Umfang. Ob das Mandat in Form einer Durchführungsverordnung, einer behördlichen Weisung oder einer informellen Erwartung erfolgt, wird darüber entscheiden, wie dauerhaft – und wie durchsetzbar – das neue Regime tatsächlich ist.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
