Mitarbeiter des kleinen US-Regierungsbüros, das für die Prüfung der Sicherheit von Grenz-KI-Modellen zuständig ist, wurden kürzlich gebeten, sich informell bei einem Büro im Weißen Haus zu melden, berichtete Associated Press am Samstag, was neue Bedenken hinsichtlich der Unabhängigkeit des führenden KI-Sicherheitsevaluators des Landes hervorrief.
Das Büro, das Center for Advancing Innovation and Standards for Super Intelligence – bekannt als CAISSI und im Handelsministerium angesiedelt – hat laut AP ebenfalls die Veröffentlichung seiner Forschungsergebnisse eingestellt. Der Bericht landet inmitten wachsender öffentlicher Besorgnis über eine Reihe von Geschichten über außer Kontrolle geratene KI-Agenten und beschreibt einen Wachhund, der unterbesetzt, führerlos und immer stiller ist. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
Was CAISSI tut – und was der AP herausgefunden hat
CAISSI hat die Aufgabe, die Sicherheit neuer KI-Angebote zu bewerten, bevor sie der Öffentlichkeit zugänglich gemacht werden. Zu diesem Auftrag gehört auch die Bewertung, wie gut Frontier-Modelle dem Missbrauch für Cyberangriffe und andere schwerwiegende Schäden widerstehen. Nach Angaben der AP wurden die Mitarbeiter des Zentrums „kürzlich“ gebeten, sich informell in einem Büro des Weißen Hauses zu melden. Die Nachrichtenagentur zitierte zwei ehemalige Regierungsbeamte mit Kenntnis der Diskussionen, die anonym sprachen, um die derzeitigen Mitarbeiter zu schützen. Das Weiße Haus antwortete nicht auf konkrete Fragen zum Zentrum.
Der Umfang der Operation ist bescheiden. Die AP berichtet, dass CAISSI etwa 10 Millionen US-Dollar pro Jahr erhält – etwa ein Achtel dessen, was sein Pendant im Vereinigten Königreich erhält, obwohl die meisten Frontier-Modelle in den Vereinigten Staaten gebaut werden.
Die informelle Meldevereinbarung ist nur die jüngste Störung im Zentrum. Die AP beschreibt ein Führungsvakuum, das Monate zurückreicht: Ein Direktor wurde im April eingestellt und innerhalb weniger Tage entlassen, sein Nachfolger hielt einige Monate durch, bevor er zurücktrat, und der Leiter des Mutterinstituts fungiert derzeit als kommissarischer Direktor. In der Praxis bedeutet das, dass derzeit niemand mit einem Dauermandat die Unabhängigkeit des Zentrums verteidigt.
Ein Wachhund, der die Veröffentlichung eingestellt hat
Die folgenschwerere Veränderung ist laut AP das, was das Zentrum nicht mehr vornimmt. Im August fragte der Kongress, warum CAISSI die öffentliche Veröffentlichung von Berichten über die Leistung von KI-Systemen bei Sicherheitstests eingestellt habe. Tests vor der Bereitstellung fungieren nur dann als öffentliche Überprüfung für Modellbauer, wenn ihre Ergebnisse außerhalb des Labors sichtbar sind – und das ist im Moment noch nicht der Fall.
Der Wandel kam nicht von ungefähr. Im Oktober enthüllte Reuters unter Berufung auf einen Bericht von The Information, dass die Regierung plante, drei hochrangige CAISSI-Beamte ins Weiße Haus zu verlegen. Ein Beamter des Weißen Hauses sagte damals gegenüber The Information, dass Koordinierungsprobleme mit dem Handel die Notwendigkeit zeigten, die Führung des Zentrums näher an die KI-Entscheidungsfindung heranzuführen. Diesem Bericht zufolge würden die Beamten Michael Kratsios, der das Amt für Wissenschafts- und Technologiepolitik leitet, und dem nationalen Cyberdirektor Sean Cairncross antworten. Handelsminister Howard Lutnick hatte die beiden etwa sechs Monate zuvor eingeladen, das Zentrum gemeinsam zu leiten.
Zusammengefasst deutet die neue Berichterstattung der AP darauf hin, dass der Plan in die Tat umgesetzt wird – informell und vor einer formellen Umstrukturierung.
Unabhängigkeitsbedenken, in beide Richtungen
Von der AP zitierte Kritiker befürchten, dass Entscheidungen im Zusammenhang mit Cybersicherheit und Biowaffenrisiken politisiert werden könnten oder dass die Ergebnisse abgeschwächt werden könnten, um sie an die Technologiebranche anzupassen. Amos Toh vom Brennan Center for Justice sagte der AP, dass solche Entscheidungen von enormer öffentlicher Bedeutung seien und öffentlich erklärt werden sollten. Caroline Siegel Singh von der Federation of American Scientists beschrieb Zentren wie CAISSI als mächtige Institutionen, die das Leben drastisch verbessern oder das Gegenteil bewirken können.
Es gibt ein Gegenargument, und die AP weist es nicht zurück. Die Bewertung der Fähigkeit eines Modells, beim Schreiben von Malware zu helfen, ist eine Frage der nationalen Sicherheit, und eine Verwaltung, die Einblick in die Person haben möchte, die diese Ergebnisse sieht, hat ein vertretbares Argument. Die Schwierigkeit ist institutioneller Natur: Ein Schiedsrichter, der einem der Sponsoren der Mannschaft Rechenschaft ablegen muss, ist schlecht in der Lage, das Spiel klar zu entscheiden, und das Zentrum hat aufgehört, Berichte zu veröffentlichen, die andernfalls seine Unabhängigkeit beweisen würden.
Warum es für Bauherren und Käufer wichtig ist
Für Unternehmen, die auf Frontier-Modellen aufbauen, ist das in der Berichterstattung identifizierte praktische Risiko kein Verbot, sondern Unsicherheit. Wenn die Bewertungen geheim bleiben und in Exportkontrollen und staatliche Beschaffungen einfließen, könnte ein Labor einen Auftrag oder einen Markt verlieren, weil es Ergebnisse erhält, die es nie sehen oder anfechten kann. Dieses Risiko würde sich ohne Vorwarnung über die Lieferkette auf nachgelagerte Produkte ausbreiten.
Zwei Dinge sind als nächstes einen Blick wert. Die erste Frage ist, ob die Verwaltung einen ständigen Direktor für das Zentrum benennt und wer ihn auswählt. Die zweite Frage ist, ob der Kongress, der das Zentrum bereits wegen seines Schweigens zu veröffentlichten Berichten unter Druck gesetzt hat, die Unabhängigkeit des Zentrums gesetzlich verankert. Solange nichts passiert, arbeitet Amerikas Grenzschiedsrichter für KI-Sicherheit mit einem Budget von 10 Millionen US-Dollar, ohne ständigen Anführer und einer Berichtslinie, die zum Weißen Haus führt.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
