Un gruppo di ricerca del FAIR di Meta, dell’Università di Oxford e dell’University College di Londra ha introdotto i modelli di preferenza di ricerca sull’intelligenza artificiale (RPM), un metodo per decidere quali esperimenti di apprendimento automatico dovrebbe effettivamente eseguire un agente di ricerca autonomo. Invece di prevedere il punteggio di un esperimento, un RPM classifica i candidati non eseguiti e sceglie quello più promettente, un cambiamento che, secondo il team, affronta il vero collo di bottiglia nella ricerca basata sull’intelligenza artificiale: il calcolo della verifica, secondo il rapporto di MarkTechPost sul lavoro.

L’idea arriva in un momento in cui gli agenti di ricerca possono già proporre, implementare e valutare i propri esperimenti. La generazione di idee è economica; l'esecuzione non lo è. La formazione di un singolo candidato può richiedere ore o giorni di tempo dedicato alla GPU, quindi un agente propone inevitabilmente molti più esperimenti di quanti può permettersi di eseguire. Quali candidati vengono giustiziati è, come lo inquadra il team, la vera leva sul progresso della ricerca. Per i laboratori che vedono aumentare le loro bollette informatiche, questa inquadratura è esattamente il motivo per cui questo lavoro sta attirando l’attenzione sugli ultimi sviluppi dell’intelligenza artificiale nell’automazione della ricerca.

Perché la selezione dell'esperimento rappresenta il collo di bottiglia

Il team ha scoperto che i modelli linguistici sono inaffidabili nel prevedere parametri assoluti o risultati di esecuzione. Un modello non può esaminare un esperimento candidato e prevedere con precisione il punteggio che otterrà. Ciò che può fare, hanno scoperto i ricercatori, è giudicare quale tra due candidati sia la scommessa migliore: un confronto relativo piuttosto che una previsione assoluta. Gli RPM si basano interamente su questa distinzione: non prevedono mai un punteggio, si limitano a classificare.

Il sistema funziona all'interno di AIRA-dojo, un'impalcatura evolutiva di ricerca ad albero open source che genera esperimenti di apprendimento automatico attraverso un'avida selezione dei genitori e gli operatori Draft, Improve e Debug, restituendo alla fine il nodo con il punteggio di convalida più alto. Anche il benchmark AIRS-Bench è open source. Sia l'impalcatura che il modello delle preferenze utilizzano Qwen3.6-27B come struttura portante, che secondo il team è un peso aperto.

Come funziona il torneo a eliminazione diretta

Invece di generare un esperimento figlio ed eseguirlo, l'agente applica un operatore 15 volte in parallelo per produrre 15 candidati non eseguiti. L'RPM li confronta quindi a coppie in un torneo a eliminazione diretta e viene eseguito solo il vincitore. Ogni confronto si basa su nodi di contesto raccolti da un percorso in ampiezza dell'albero esplorato, con ciascun candidato mostrato insieme ai punteggi di convalida dei suoi antenati, in modo che il giudice ragioni in base alla cronologia di ricerca effettiva dell'agente piuttosto che nel vuoto.

Il documento descrive due varianti con budget di calcolo diversi:

  • RPM di sola inferenza: un LLM come giudice che confronta i piani dei candidati, il codice e la cronologia delle ricerche in un unico passaggio. Il suo prompt è stato ottimizzato con MIPROv2 dal framework DSPy e converge su quella che il team chiama una rubrica principale-investigatore: tollera bug risolvibili, premia l'estensibilità e penalizza le direzioni di ricerca ridondanti. La precisione del confronto offline è stata misurata dal 57,7 al 59,0%.
  • Agentic RPM: lo stesso giudice più un sandbox che clona l'ambiente dell'agente, inclusa una singola GPU H200, con strumenti limitati a Python, Bash e un'azione di invio della soluzione. Esegue esperimenti pilota su piccola scala, quindi un modello di feedback propone l'esperimento successivo più informativo o termina il ciclo. I piloti hanno un limite di 30 con una soglia di 60 secondi e il budget di tempo rimanente è deliberatamente sopravvalutato - 2.700 secondi segnalati contro 300 reali - quindi l'agente non smette di ottimizzare in anticipo.

Un giudice sintonizzato come un investigatore principale

L'inquadramento principale-investigatore è la parte abbastanza interessante. Piuttosto che premiare i candidati che sembrano più impressionanti, la rubrica ottimizzata rispecchia il modo in cui un ricercatore esperto valuta le idee: il codice difettoso che può essere corretto batte il codice raffinato che insegue un vicolo cieco, e le indicazioni che duplicano l’albero esistente valgono meno di quelle nuove. Quella rubrica, appresa attraverso una tempestiva ottimizzazione piuttosto che attraverso la messa a punto manuale, è ciò che porta al miglioramento, suggeriscono le ablazioni del team.

Risultati del benchmark su AIRS-Bench

La valutazione ha riguardato 20 compiti di testo pubblico e tabelle, con ciascun compito assegnato 24 ore su un singolo H200 e 10 semi casuali. Fondamentalmente, la stessa dorsale Qwen3.6-27B ha alimentato sia gli operatori dell'esperimento che il modello di preferenza, quindi i guadagni provengono dal livello di selezione piuttosto che da un modello di giudizio più forte. I punteggi medi normalizzati:

  • Nessun RPM (scelta casuale): 0,684
  • RPM solo inferenza: 0,711
  • RPM agenti: 0,729
  • Oracolo di validazione (tetto): 0,748
  • Oracolo di prova (tetto): 0,759

La probabilità di miglioramento rispetto alla selezione casuale era 0,5923 per la variante di sola inferenza e 0,5913 per quella agentica, con limiti inferiori dell'intervallo di confidenza al 95% di 0,5066 e 0,5018 - al di sopra della soglia di 0,5 per la significatività statistica, sebbene il team sia sincero nel dire che i margini sono modesti piuttosto che trasformativi.

L’efficienza è il risultato più pratico. L'RPM di sola inferenza ha raggiunto il punteggio finale della linea di base casuale di 0,684 in 14,88 ore, un aumento di 1,61 volte, mentre la variante agentica ha richiesto 15,50 ore, un aumento di 1,55 volte. Anche tenendo conto del sovraccarico dell’inferenza dei giudici self-hosted, i numeri corretti sono rimasti favorevoli.

Pesi aperti e avvertenze oneste

Il team è sicuro che gli RPM oggi siano implementabili solo parzialmente. I componenti sono aperti - backbone pre-addestrati congelati senza messa a punto, un'impalcatura e un benchmark open source e modelli di backbone a pesi aperti - ma i requisiti sandbox della variante agentica e il suo sovraccarico di esperimento pilota significano che la maggior parte dei laboratori inizierebbe con la versione di sola inferenza. I ricercatori notano inoltre che le fasi di debug ritornano alla selezione casuale nella variante dell'agente perché il tempo del pilota compete con l'orologio dell'agente.

Il significato più grande può essere direzionale. Mentre gli agenti di ricerca autonomi passano dalle dimostrazioni all'uso quotidiano nei laboratori industriali, la risorsa scarsa non sono più le idee ma le ore di GPU e i metodi che nel tempo spremono più progressi da un budget di elaborazione fisso. Classificare prima di correre è un’idea semplice e i numeri dell’AIRS-Bench suggeriscono che è un’idea che funziona abbastanza bene da avere importanza.

Stai al passo con l'intelligenza artificiale

Tieniti aggiornato sulla ricerca che sta dando forma ai modelli di domani su AI Buzz Wire.

Leggi altre notizie sull'AI →