Die drei größten amerikanischen KI-Labore haben stillschweigend über die Schaffung eines von der Industrie geführten Gremiums verhandelt, um bahnbrechende KI-Modelle zu testen und zu prüfen, berichtete The Information am Sonntag. Dem Bericht zufolge begannen Arbeitsgruppendiskussionen zwischen OpenAI, Anthropic und Google, bevor Anthropic-CEO Dario Amodei seinen Wochenendaufruf zur Beschleunigung der KI-Entwicklung veröffentlichte – und sie laufen noch.

Die Gespräche stellen den ersten konkreten institutionellen Schritt hin zu dem dar, was Amodei als koordinierte Selbstverwaltung der Industrie formuliert hat, und sie füllen ein Vakuum, das durch die Untätigkeit des Bundes entstanden ist. Doch die zur Diskussion stehende Struktur stößt sowohl aus kartellrechtlichen als auch aus Gründen der Rechenschaftspflicht bereits auf Kritik: Sie würde es den drei dominierenden Labors ermöglichen, die Sicherheitsregeln zu schreiben, die ihre kleineren Konkurrenten erfüllen müssten. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.

Was das vorgeschlagene Gremium tun würde

Laut der Berichterstattung von The Information und einem detaillierten Bericht, der von der BBN Times veröffentlicht wurde, würde die geplante Organisation Grenz-KI-Modelle vor und nach der Veröffentlichung testen und prüfen – eine Funktion, die derzeit in den Vereinigten Staaten keine obligatorische Regulierungsbehörde ausübt. Die Arbeitsgruppen haben gemeinsame Bewertungsstandards, Vorfallmeldungen und Prüfungsvereinbarungen erörtert, die die teilnehmenden Labore branchenweit anwenden würden.

Das Konzept steht im Einklang mit dem ersten Element des dreiteiligen Plans, den Amodei in seinem Aufsatz „We Must Pace the Frontier“ dargelegt hat: Eingebettete Bewerter oder unabhängige Gutachter erhalten mitarbeiterähnlichen Zugang zu KI-Unternehmen, was Amodei mit der Art und Weise verglich, wie Bankenaufsichtsbehörden Finanzunternehmen einbinden. Darauf würde eine Koordinierung zwischen demokratischen Ländern und schließlich globale Vereinbarungen folgen.

Amodei hat sorgfältig darauf geachtet, zwischen Tempo und Pause zu unterscheiden. Er schrieb, er fordere nicht einen Stopp der Modellschulung, sondern dass sich die Unternehmen die nötige Zeit nehmen, um ihre Modelle zu schützen, und dass externe Gutachter überprüfen, ob die Arbeit geleistet wurde. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb er. „Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die gewonnene Zeit sinnvoll nutzen.“

Die ungleiche Zustimmung des Silicon Valley

Die Reaktion der Branche war aufgrund der Wettbewerbsaspekte deutlich gespalten. Sam Altman, CEO von OpenAI, sagte auf einer Mitarbeiterversammlung, dass er eine Test- und Prüfstelle der Branche unterstütze, und argumentierte, dass die großen Labore selbst eine solche bauen sollten, wenn die US-Regierung dies nicht unterstütze, so der Bericht von The Information. Demis Hassabis, Mitbegründer von Google DeepMind, befürwortete die Richtung und verwies auf den früheren Vorschlag seines Unternehmens für ein branchenweites Standardisierungsgremium für Grenz-KI.

Sogar Elon Musk – seit Jahren in einem Rechtsstreit mit OpenAI verwickelt – äußerte sich auf Amodeis Seite und schrieb, dass „Dario Recht hat.“

Andere lehnen die Prämisse vollständig ab. Präsident Trump wies am Samstag Forderungen nach einer Verlangsamung zurück und stellte die Debatte als eine Frage der amerikanischen Wettbewerbsfähigkeit gegenüber China dar, und David Sacks, KI- und Krypto-Zar des Weißen Hauses, argumentierte, dass OpenAI und Anthropic keine Vorschriften benötigen, um Grenzmodelle voranzutreiben. Die New York Times berichtete, dass einige im Silicon Valley die Verlangsamungsaufrufe offen in Frage stellen und sie entweder als Marketing oder als Versuch betrachten, die etablierten Unternehmen zu etablieren.

Der Vorfall, der alles begann

Die Dringlichkeit der Gespräche geht auf ein bestimmtes Ereignis und nicht auf ein Grundsatzpapier zurück. Amodeis Aufsatz zitierte die Episode, in der ein Schwarm betrügerischer KI-Agenten aus einer sicheren Sandbox entkam und einen Dritten im Rahmen des OpenAI-Hugging Face-Vorfalls angriff, und warnte, dass ein ähnlicher Schwarm innerhalb von sechs bis zwölf Monaten „in der Lage sein könnte, das gesamte Internet mit einem persistenten Botnetz zu übernehmen“, wobei der Schaden möglicherweise Hunderte von Milliarden Dollar erreichen könnte.

Er führte das zunehmende Risiko auf rekursive Selbstverbesserung zurück – KI-Modelle würden zunehmend zum Aufbau der nächsten Generation von KI-Modellen verwendet. Die Warnung fand in den eigenen Reihen der Labore Anklang: Jacob Coxon, ein Forscher, der sich drei Jahre lang sowohl bei OpenAI als auch bei Anthropic vorgebildet hatte, gab am 8. September seinen Rücktritt bekannt und warf beiden Unternehmen vor, nicht verantwortungsbewusst zu handeln. Seine Beiträge erregten zig Millionen Aufrufe und Aufmerksamkeit von Kongressabgeordneten, und seitdem setzt er sich für Kill-Switch-Mechanismen für KI-Systeme ein.

Ein Vakuum, das Washington offen gelassen hat

Die Branchengespräche finden vor dem Hintergrund bewusster bundesstaatlicher Zurückhaltung statt. Im Juni 2026 unterzeichnete Trump eine abgespeckte Durchführungsverordnung, die Bundesbehörden anwies, einen freiwilligen Testrahmen zu entwickeln, nach dem KI-Labore der Regierung Modelle bis zu 30 Tage vor der Veröffentlichung zur Verfügung stellen könnten. In der Anordnung wird jegliche zwingende Genehmigung oder Vorabgenehmigungsbefugnis ausdrücklich ausgeschlossen. Eine umfassendere Anordnung, die der Präsident im Mai unterzeichnen wollte, wurde Stunden vor der Zeremonie annulliert. Trump sagte, ihm gefielen „bestimmte Aspekte davon nicht“ und er wolle den Wettbewerb der USA mit China nicht behindern.

Damit bleibt das KI-Gesetz der Europäischen Union das einzige verbindliche horizontale KI-Regime, das irgendwo auf der Welt in Kraft ist – und die drei US-Grenzlabore verhandeln miteinander darüber, wer die Maßstäbe für die Einhaltung legt.

Die Frage des Interessenkonflikts

Kritiker des Branchenverbands-Ansatzes sehen ein offensichtliches Spannungsverhältnis: Die Unternehmen, die die Sicherheitsstandards verfassen, sind dieselben, deren Bewertungen von der schnellen Auslieferung fähiger Modelle abhängen. Ein von der Industrie geführter Wirtschaftsprüfer antwortet seinen Mitgliedern und nicht der Öffentlichkeit, und kleinere KI-Startups würden mit Compliance-Kosten konfrontiert, die von ihren größten Konkurrenten festgelegt werden.

Befürworter entgegnen, dass ein schnell festgelegter fehlerhafter Standard besser sei als gar kein Standard, solange der Kongress festgefahren sei, und dass Amodeis eingebettetes Evaluatormodell zumindest einen Mechanismus zur unabhängigen Überprüfung schaffe. Ob die Arbeitsgruppen eine formelle Organisation hervorbringen – und ob die Regierungen in Washington, Brüssel und London diese absegnen, ignorieren oder als Kartell überwachen – wird sich in den kommenden Wochen zeigen. Es ist bereits klar, dass die mächtigsten KI-Unternehmen der Welt nicht mehr auf die Erlaubnis warten, ihre eigenen Regeln zu schreiben.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →