Anthropic veröffentlicht Tempomessungen des Frontier Lab und enthüllt, dass 30.000 KI-Agenten im Unternehmen arbeiten

Anthropic hat am Samstag eine detaillierte Reihe von Selbstmessungen veröffentlicht, die es der Öffentlichkeit, Journalisten und Regierungen ermöglichen sollen, zu verfolgen, wie schnell bahnbrechende KI tatsächlich entwickelt wird – einschließlich eines einzigartigen Index darüber, wie viel der firmeneigenen Forschung mittlerweile von KI durchgeführt wird, und der Offenlegung, dass rund 30.000 KI-Agenten zu jedem Zeitpunkt innerhalb des Unternehmens Forschungs- und Entwicklungsarbeiten durchführen.

Der Beitrag mit dem Titel „Maßnahmen zum Verständnis der Geschwindigkeit der KI-Entwicklung in Grenzlaboren“ bringt den Kern des folgenreichsten Arguments in der Branche zum Ausdruck: ob die Grenzentwicklung absichtlich verlangsamt werden sollte. Dario Amodei forderte eine Koordinierung, um „die Grenze zu überschreiten“, ein Vorschlag, der die Märkte erschütterte, eine Verbraucherklage wegen angeblicher Absprachen zwischen großen Labors nach sich zog und Präsident Trump dazu veranlasste, eine „KI-Truppe“ anzukündigen, die sich der Verhinderung einer Verlangsamung widmen soll. Die Formulierung von Anthropic geht explizit auf diesen Kontext ein: „Während die Welt darüber nachdenkt, das Tempo der Entwicklung von Spitzen-KI zu verlangsamen, benötigt die Öffentlichkeit mehr Informationen.“

Drei Messungen zur Verfolgung des KI-Fortschritts

Das Unternehmen legte drei Messbereiche dar, die seiner Meinung nach jedes Grenzlabor regelmäßig veröffentlichen könnte:

1. Wie viel der KI-Forschung und -Entwicklung wird von der KI selbst durchgeführt. Anthropic hat einen Prototyp „Anthropic R&D Automation Index“ erstellt, indem jede Art von KI-Forschungs- und Entwicklungsarbeit im Unternehmen katalogisiert, bewertet wurde, wie automatisiert jede Aufgabe derzeit ist, und die Ergebnisse aggregiert wurden. Die Bewertungen basieren auf der öffentlichen „Automation Level“-Skala von Epoch AI, die von AL0 (keine KI-Beteiligung) bis AL5 (KI arbeitet völlig autonom, ohne dass ein Mensch beteiligt ist) reicht. Auf dieser Skala bedeutet AL3, dass die KI „zusammenarbeitet“ – also große Teile der Arbeit unter enger menschlicher Anleitung erledigt –, während AL4 bedeutet, dass die KI „führt“ und den Großteil einer Aufgabe von einer übergeordneten Eingabeaufforderung aus Ende-zu-Ende erledigt, während ein Mensch sie überwacht.

Der Zweck des Index besteht darin, zu messen, wie nahe ein Labor der rekursiven Selbstverbesserung kommt – einem Modell, das völlig autonom seinen eigenen Nachfolger aufbaut. Anthropic stellt fest, dass Modelle, die die KI-Entwicklung beschleunigen, „es für Menschen schwieriger machen könnten, diese Systeme zu verstehen oder zu kontrollieren“.

2. Wie gut die Aktionen von KI-Agenten überwacht werden. Hier erscheint die Zahl 30.000. Im August 2026 führten etwa 30.000 Agenten gleichzeitig Forschungs- und Entwicklungsarbeiten innerhalb der meistgenutzten internen Plattform von Anthropic durch, delegierten sich gegenseitig Aufgaben und arbeiteten über weite Strecken halbautonom. Das Unternehmen misst drei Dinge bei der Überwachung dieser Agenten: Abdeckung (der Anteil der Agentenaktionen, die vor oder nach der Ausführung einen Monitor durchlaufen), Überprüfungslatenz (wie schnell gekennzeichnete Aktionen zuerst von einem automatisierten Monitor und dann von einem Menschen überprüft werden) und Eskalationsrate (der Anteil der blockierten, umgeleiteten oder zur Überprüfung markierten Aktivitäten).

Die bisherigen Überwachungsdaten von Anthropic deuten darauf hin, dass sich einzelne Agenten selten schlecht benehmen – das Unternehmen warnt jedoch: „Wenn Millionen oder Milliarden von Agenten in der Wirtschaft tätig sind, können selbst seltene Ereignisse regelmäßig auftreten.“

3. Wie Rechenleistung zugewiesen wird. Die dritte Messung verfolgt, wie die Rechenressourcen des Labors verteilt sind – die Roheingabe, die mit den Modellfunktionen korreliert. Zusammen mit den anderen beiden Metriken gibt Anthropic an, dass dies Außenstehenden eine Möglichkeit gibt, Modelleingaben mit Modellausgaben zu korrelieren und die Fähigkeitsbewertungen zu ergänzen, die das Unternehmen bereits in seinen Risikoberichten zur Responsible Scaling Policy veröffentlicht.

Die Zahlen würden sich bei einer Verlangsamung verändern

Die politisch pointierteste Linie in dem Beitrag zielt direkt auf die Tempodebatte ab: Anthropic gibt an, dass man „erwarten würde, dass sich diese Zahlen verschieben würden, wenn es eine Koordinierung bei der Taktung der Grenze gäbe, wie es von Anthropic-CEO Dario Amodei gefordert wurde.“ Mit anderen Worten: Wenn sich die Branche wirklich verlangsamt, kann die Öffentlichkeit dies anhand dieser Kennzahlen überprüfen – und wenn Unternehmen behaupten, Schritt zu halten, während ihre Zahlen weiter steigen, würden die Messungen dies ebenfalls aufdecken.

Die unabhängige Überprüfung ist das fehlende Stück

Anthropic erkennt die zentrale Schwäche selbstberichteter Metriken an: Es verwendet seine eigenen Modelle, um seine eigenen Systeme zu bewerten, was bedeutet, dass das „Richter“-Modell die blinden Flecken des überprüften Modells teilen könnte. Das Unternehmen weist außerdem darauf hin, dass es in allen Laboren keine gemeinsame Methodik gibt, was Vergleiche erschwert.

Die vorgeschlagene Abhilfe besteht darin, unabhängige externe Gutachter mehrerer Organisationen in Anthropic einzubetten und ihnen Zugriff auf interne Prozesse, Systeme und Daten zu geben, die mit dem vergleichbar sind, was interne Risikobewertungsteams sehen. Diese Dritten würden Sicherheitspraktiken überprüfen, Vorfälle melden und die neuen Kennzahlen überwachen. Das Unternehmen gibt an, dass METR, die gemeinnützige Bewertungsorganisation, zuvor ihre Offline-Überwachungsplattform unabhängig überarbeitet hat und plant, diese Messungen regelmäßig in einer Form zu veröffentlichen, die andere überprüfen können.

Die Messungen knüpfen an den umfassenderen Advanced AI Framework-Vorschlag von Anthropic an, der „Verkehrsregeln“ für die Veröffentlichung von Grenzmodellen festlegt, einschließlich Transparenzpflichten, die Regierungen verlangen könnten – wie etwa standardisierte Risikoberichte.

Ein Test für die gesamte Branche

Die tiefere Bedeutung des Beitrags kann wettbewerbsintensiv sein. Anthropic fordert praktisch jedes Frontier-Labor auf, die gleichen Zahlen zu veröffentlichen, und argumentiert, dass „jeder Frontier-Entwickler diese Messungen regelmäßig veröffentlichen könnte, indem er eine öffentliche Methodik verwendet“. Wenn Konkurrenten nachlassen, wird der Kontrast zu einem eigenen Datenpunkt in der Sicherheitsdebatte; Wenn sie zustimmen, erhält die Branche den ersten gemeinsamen Maßstab dafür, wie schnell die KI wirklich voranschreitet.

Derzeit werden die Zahlen von einem Unternehmen selbst gemeldet, das ein offensichtliches Interesse an der Diskussion über die Taktung hat. Aber sie stellen etwas dar, was in der Debatte gefehlt hat: konkrete, wiederholbare Messungen, die zeigen würden, ob sich die Grenze beschleunigt, stabil bleibt oder sich tatsächlich verlangsamt.

Bleiben Sie der KI immer einen Schritt voraus

Offenlegungen aus Grenzlaboren wie diese landen wöchentlich. Für weitere aktuelle KI-Forschung und Branchenberichterstattung folgen Sie AI Buzz Wire.

Lesen Sie die neuesten KI-Nachrichten →