Die Forschungspräferenzmodelle von Meta FAIR bewerten KI-Experimente, bevor GPU-Stunden aufgewendet werden

Ein Forschungsteam von FAIR at Meta, der University of Oxford und dem University College London hat AI Research Preference Models (RPMs) eingeführt, eine Methode zur Entscheidung, welche maschinellen Lernexperimente ein autonomer Forschungsagent tatsächlich durchführen sollte. Anstatt vorherzusagen, wie ein Experiment abschneiden wird, ordnet ein RPM nicht durchgeführte Kandidaten ein und wählt den vielversprechendsten aus. Laut dem Bericht von MarkTechPost über die Arbeit behebt diese Änderung laut dem Team den eigentlichen Engpass in der KI-gesteuerten Forschung: die Verifizierungsberechnung.

Die Idee kommt zu einem Zeitpunkt, an dem Forschungsagenten bereits ihre eigenen Experimente vorschlagen, durchführen und bewerten können. Ideengenerierung ist billig; Ausführung ist nicht. Das Training eines einzelnen Kandidaten kann Stunden bis Tage GPU-Zeit in Anspruch nehmen, sodass ein Agent zwangsläufig weit mehr Experimente vorschlägt, als er sich leisten kann. Welche Kandidaten hingerichtet werden, ist für das Team der eigentliche Hebel für den Forschungsfortschritt. Für Labore, die beobachten, wie ihre Rechenkosten steigen, ist genau dieser Rahmen der Grund, warum diese Arbeit die Aufmerksamkeit auf die neuesten KI-Entwicklungen in der Forschungsautomatisierung lenkt.

Warum die Experimentauswahl der Engpass ist

Das Team stellte fest, dass Sprachmodelle bei der Vorhersage absoluter Kennzahlen oder Ausführungsergebnisse unzuverlässig sind. Ein Modell kann sich ein Kandidatenexperiment nicht ansehen und die erzielte Punktzahl genau vorhersagen. Die Forscher fanden heraus, dass es damit möglich ist, zu beurteilen, welcher der beiden Kandidaten die bessere Wahl ist – ein relativer Vergleich statt einer absoluten Vorhersage. RPMs basieren ausschließlich auf dieser Unterscheidung: Sie prognostizieren niemals eine Punktzahl, sondern nur eine Rangfolge.

Das System läuft innerhalb von AIRA-dojo, einem Open-Source-Gerüst für die Suche nach evolutionären Bäumen, das maschinelle Lernexperimente durch gierige Elternauswahl und Draft-, Improve- und Debug-Operatoren generiert und am Ende den Knoten mit der höchsten Validierungsbewertung zurückgibt. Der Benchmark AIRS-Bench ist ebenfalls Open Source. Sowohl das Gerüst als auch das Präferenzmodell verwenden Qwen3.6-27B als Rückgrat, bei dem es sich nach Angaben des Teams um offene Gewichte handelt.

So funktioniert das Knockout-Turnier

Anstatt ein untergeordnetes Experiment zu generieren und auszuführen, wendet der Agent einen Operator 15 Mal parallel an, um 15 nicht ausgeführte Kandidaten zu erzeugen. Das RPM vergleicht sie dann paarweise in einem Knockout-Turnier und nur der Gewinner wird ausgeführt. Jeder Vergleich basiert auf Kontextknoten, die durch eine Breitenwanderung des untersuchten Baums gesammelt werden, wobei jeder Kandidat zusammen mit den Validierungswerten seiner Vorfahren angezeigt wird, sodass der Richter seine Entscheidungen auf der Grundlage des tatsächlichen Suchverlaufs des Agenten und nicht im luftleeren Raum treffen kann.

Das Papier beschreibt zwei Varianten mit unterschiedlichen Rechenbudgets:

• Nur-Inferenz-RPM – ein LLM als Richter, der Kandidatenpläne, Code und Suchverlauf in einem einzigen Durchgang vergleicht. Seine Eingabeaufforderung wurde mit MIPROv2 aus dem DSPy-Framework optimiert und näherte sich dem an, was das Team eine Principal-Investigator-Rubrik nennt: Es toleriert behebbare Fehler, belohnt Erweiterbarkeit und bestraft redundante Forschungsrichtungen. Die Offline-Vergleichsgenauigkeit betrug 57,7 bis 59,0 Prozent.

• Agentic RPM – derselbe Richter plus eine Sandbox, die die Umgebung des Agenten klont, einschließlich einer einzelnen H200-GPU, mit auf Python, Bash und einer Aktion zum Senden einer Lösung beschränkten Tools. Es führt kleine Pilotexperimente durch, dann schlägt ein Feedback-Modell entweder das informativste nächste Experiment vor oder beendet die Schleife. Die Piloten sind auf 30 mit einem Schwellenwert von 60 Sekunden begrenzt, und das verbleibende Zeitbudget ist absichtlich überbewertet – 2.700 Sekunden werden im Vergleich zu echten 300 angegeben –, damit der Agent nicht vorzeitig mit der Optimierung aufhört.

Ein Richter, der wie ein Hauptermittler eingestellt ist

Die Darstellung des Hauptermittlers ist der durchaus interessante Teil. Anstatt Kandidaten zu belohnen, die maximal beeindruckend aussehen, spiegelt die optimierte Rubrik wider, wie ein erfahrener Forscher Ideen sortiert: Fehlerhafter Code, der repariert werden kann, schlägt ausgefeilten Code, der in eine Sackgasse führt, und Anweisungen, die den vorhandenen Baum duplizieren, sind weniger wert als neuartige. Die Ablationen des Teams lassen darauf schließen, dass diese Rubrik, die durch schnelle Optimierung und nicht durch manuelle Abstimmung erlernt wurde, die Ursache für die Verbesserung ist.

Benchmark-Ergebnisse auf AIRS-Bench

Die Bewertung umfasste 20 öffentliche Text- und Tabellenaufgaben, wobei jede Aufgabe 24 Stunden lang auf einem einzelnen H200 und 10 zufälligen Seeds durchgeführt wurde. Entscheidend ist, dass sowohl die Experimentieroperatoren als auch das Präferenzmodell vom gleichen Qwen3.6-27B-Backbone angetrieben wurden, sodass die Gewinne eher von der Auswahlschicht als von einem stärkeren Richtermodell stammen. Die durchschnittlichen normalisierten Werte:

• Keine Drehzahl (zufällige Auswahl): 0,684

• Nur-Inferenz-RPM: 0,711

• Agentendrehzahl: 0,729

• Validierungsorakel (Obergrenze): 0,748

• Testorakel (Decke): 0,759

Die Wahrscheinlichkeit einer Verbesserung gegenüber der Zufallsauswahl betrug 0,5923 für die reine Inferenzvariante und 0,5913 für die Agentenvariante, mit Untergrenzen des 95-Prozent-Konfidenzintervalls von 0,5066 und 0,5018 – über dem Schwellenwert von 0,5 für statistische Signifikanz, obwohl das Team offen ist, dass die Margen eher bescheiden als transformativ sind.

Effizienz ist das praktischere Ergebnis. Die reine Inferenz-RPM erreichte den Endwert der zufälligen Basislinie von 0,684 in 14,88 Stunden, was einer 1,61-fachen Beschleunigung entspricht, während die Agentenvariante 15,50 Stunden benötigte, was einer 1,55-fachen Beschleunigung entspricht. Selbst unter Berücksichtigung des Mehraufwands für selbst durchgeführte Richterbeschlüsse blieben die bereinigten Zahlen günstig.

Offene Gewichtungen und ehrliche Vorbehalte

Das Team stellt klar, dass RPMs heute nur teilweise einsetzbar sind. Die Komponenten sind offen – eingefrorene vorab trainierte Backbones ohne Feinabstimmung, ein Open-Source-Gerüst und Benchmark sowie Open-Weights-Backbone-Modelle – aber die Sandbox-Anforderungen der Agentenvariante und der Pilotexperiment-Overhead bedeuten, dass die meisten Labore mit der reinen Inferenzversion beginnen würden. Die Forscher stellen außerdem fest, dass Debug-Schritte in der Agentenvariante auf eine zufällige Auswahl zurückgreifen, da die Pilotzeit mit der eigenen Uhr des Agenten konkurriert.

Die größere Bedeutung kann richtungsabhängig sein. Da autonome Forschungsagenten von Demos zum täglichen Einsatz in Industrielaboren übergehen, sind die knappen Ressourcen nicht länger Ideen, sondern GPU-Stunden und Methoden, die im Laufe der Zeit mehr Fortschritt aus einem festen Rechenbudget herausholen. Das Ranking vor dem Laufen ist eine einfache Idee, und die AIRS-Bench-Zahlen deuten darauf hin, dass es sich um eine Idee handelt, die gut genug funktioniert, um von Bedeutung zu sein.

Der KI einen Schritt voraus sein

Bleiben Sie auf dem Laufenden über die Forschung, die die Modelle von morgen prägt, unter AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →