„Wenn Sie es ernst meinen, öffnen Sie die Gewichte“: Viraler offener Brief fordert Dario Amodeis Aufruf zur KI-Verlangsamung heraus

Nur wenige Stunden nachdem Anthropic-CEO Dario Amodei seinen Essay „We Must Pace the Frontier“ veröffentlichte, in dem er die Regierungen aufforderte, den KI-Wettlauf zu verlangsamen, verbreitete sich eine gezielte Reaktion in den Hacker News und wurde schließlich zu einer der meistgeschätzten Geschichten des Tages. Das in einem offenen Brief des Autors und Entwicklers Jacob Gold dargelegte Argument ist entwaffnend einfach: Wenn Amodei es mit der Verlangsamung der KI ernst meint, könnte er ein Gesetz fordern, das dies tatsächlich bewirken würde – und kein anderer Laborleiter könnte es vorschlagen. Fordern Sie, dass jedes KI-Modell, das ein Unternehmen der Öffentlichkeit anbietet, als offene Gewichte veröffentlicht wird.

„Ich glaube, Sie meinen es ernst“, beginnt der Brief und richtet sich direkt an Amodei, „deshalb bitte ich Sie, ein anderes Gesetz zu fordern, eines, das die Dinge tatsächlich verlangsamen würde, auch wenn es von Ihrer Seite echte Opfer erfordern würde.“ Der Brief hat genau deshalb einen Nerv getroffen, weil er sich auf die stärkste Version von Amodeis Argumentation einlässt, anstatt sie abzutun – und weil er mitten in der folgenreichsten politischen Debatte in der heutigen KI landet, einer Debatte, die wir täglich in unserer [KI-Politikberichterstattung] verfolgen (https://aibuzzwire.news).

Was Amodei vorgeschlagen hat und warum Gold sagt, dass es nicht funktionieren wird

Amodeis Essay verpflichtete Anthropic dazu, externe Gutachter zu engagieren, und forderte die Regierungen auf, von jedem anderen Grenzunternehmen zu verlangen, dieser Verpflichtung nachzukommen. Sam Altman stimmte innerhalb weniger Stunden zu – „Ich stimme Dario zu, dass wir die Grenze überschreiten müssen“, sagte er laut Politico, wobei OpenAI auch der Verpflichtung des Gutachters entsprach. Auf den ersten Blick ist das eine beispiellose Konfrontation: Die Leiter der beiden wertvollsten KI-Labore der Welt fordern öffentlich eine Entschleunigung.

Gold argumentiert in seinem Brief, dass es genau dieser Konsens ist, der Beobachter misstrauisch machen sollte. „Jede Regelung, die Sie gefordert haben, endet mit der Gefangennahme“, warnt es. Eingebettete Evaluatoren, Rechenschwellenwerte, Branchenkoordination mit Kartellverzichtserklärungen – „Alles wird mit Hilfe der aktuellen Grenzlabore geschrieben, weil niemand sonst die technischen Details gut genug versteht, um es zu schreiben.“ Sobald solche Regeln zum Gesetz werden, fügt jeder Vorfall eine Regel hinzu und keine wird jemals entfernt, und die Giganten können sich die Compliance-Teams leisten, die kleinere Herausforderer fernhalten. „Anstatt Sie auszubremsen“, heißt es in dem Brief zu Amodei, „schützt es Ihre Position und Ihre Gewinne.“

Der offene Gegenvorschlag

Die alternativen Gold-Skizzen sind bewusst unverblümt. Jedes KI-Modell, das ein Unternehmen der Öffentlichkeit anbietet, müsste mit veröffentlichten Gewichten ausgeliefert werden. Interne Modelle und Forschungsmodelle blieben unberührt, und Regierungen hätten weiterhin Zugang zu unveröffentlichten Systemen – aber Anthropic müsste die Gewichtungen seines nächsten Grenzmodells am Tag seiner Veröffentlichung veröffentlichen, und OpenAI müsste dasselbe tun. „Da gibt es nichts zu spielen oder auszuweichen“, schließt der Brief, „auch nicht für Sie.“

Der Mechanismus ist eher finanzieller als bürokratischer Natur. Wie Gold erklärt, hängt die Finanzierung der Entwicklung von Grenzmodellen von Bewertungen ab, die davon ausgehen, dass die Gewichte proprietär bleiben. Ein Mandat stellt diese Annahme um: Wenn jede öffentliche Veröffentlichung offen ist, kommt der Wettbewerbsvorteil demjenigen zugute, der das beste Modell trainiert, und nicht demjenigen, der den Zugang dazu verkauft, die in privaten Bewertungen enthaltene Prämie sinkt und das für den nächsten Trainingslauf verfügbare Geld schrumpft – „in jedem Labor gleichzeitig, ohne dass eine Regulierungsbehörde etwas entscheidet.“ Es ist im Grunde ein Argument dafür, dass die Erwartung des Marktes an geschlossene Modelle der Motor des Rennens ist und dass die Beseitigung der Erwartung den Motor entfernt.

Warum gerade Amodei?

Die Begründung des Briefes dafür, warum Amodei die einzige Person ist, die diesen Vorschlag machen könnte, basiert auf seinen Aufzeichnungen und ist besonders respektvoll. Gold schreibt ihm zu, dass er OpenAI Ende 2020 verlassen hat, um Anthropic zu gründen, „als der sichere Karriereschritt darin bestand, zu bleiben“, dass er sich jahrelang für die Regulierung seiner eigenen Branche eingesetzt hat und dass er Exportkontrollen vorangetrieben hat, die seinen eigenen Markt schrumpfen ließen. Er weist darauf hin, dass sich Anthropic als gemeinnützige Gesellschaft mit einem rechtlichen Auftrag strukturiert hat – „die verantwortungsvolle Entwicklung und Aufrechterhaltung fortschrittlicher KI zum langfristigen Nutzen der Menschheit“ –, der es seiner Führung ermöglichen würde, die finanziellen Auswirkungen, die ein solches Gesetz mit sich bringen würde, aufzufangen. In Amodeis eigenem Essay heißt es laut Gold, Anthropic befürworte Regulierung, „selbst wenn uns dadurch Hype, ‚Doomerismus‘ oder regulatorische Vereinnahmung vorgeworfen werden.“

Skeptiker werden die offensichtlichen Gegenargumente zur Kenntnis nehmen, und der Brief beantwortet sie nicht vollständig: Offene Gewichte erleichtern den Missbrauch und erschweren den Fortschritt, ein Mandat offener Gewichte würde bei den Investoren jedes Labors auf heftigen Widerstand stoßen, und Kritiker von Amodeis früheren Positionen zu chinesischen offenen Modellen werden in dem Vorschlag Anklänge an alte Streitigkeiten hören. Die Kernherausforderung des Briefes hängt jedoch nicht davon ab, dass seine Politik übernommen wird. Es hängt von einer Spannung ab, die es explizit benennt: Ein Labor, das von den Regierungen verlangt, alle anderen zu bremsen, während seine eigene Bewertung davon abhängt, vorne zu bleiben, hat noch nichts verlangt, was es etwas kostet.

Eine Debatte, die jetzt unvermeidlich ist

Ob Amodei antwortet, ist fast nebensächlich. Innerhalb eines einzigen Tages wechselten die Grenzlabore von einem Leistungswettbewerb zu einer Einigung über die Notwendigkeit einer Taktung, und die öffentliche Reaktion verlagerte sich von der Frage, ob KI gefährlich sei, zu der Frage, ob man den Leuten, die davor warnen, Glauben schenken kann. Golds Brief – ein paar hundert Worte politischer Einzelheiten, verpackt in eine unbequeme Frage – ist zum schärfsten Ausdruck dieser Skepsis geworden, und seine Viralität deutet darauf hin, dass die Tempodebatte nicht nur in Washington, sondern öffentlich auf Plattformen wie Hacker News geführt wird, wo die Open-Weights-Community dieses Argument seit Jahren variiert.

Der KI einen Schritt voraus sein

Regulierung, offene Gewichte und der Kampf um das Tempo der KI – behandelt ohne den Hype.

Weitere KI-Neuigkeiten lesen →