O echipă de cercetare de la FAIR de la Meta, Universitatea din Oxford și University College London a introdus Modele de preferință de cercetare AI (RPM), o metodă pentru a decide ce experimente de învățare automată ar trebui să execute efectiv un agent de cercetare autonom. În loc să prezică cum va nota un experiment, un RPM clasifică candidații neexecuți și îl alege pe cel mai promițător, o schimbare despre care echipa spune că abordează adevăratul blocaj în cercetarea bazată pe inteligență artificială: calculul de verificare, conform raportului MarkTechPost asupra lucrării.

Ideea aterizează într-un moment în care agenții de cercetare își pot deja propune, implementa și nota propriile experimente. Generarea de idei este ieftină; execuția nu este. Antrenarea unui singur candidat poate consuma ore până la zile de timp GPU, așa că un agent propune inevitabil mult mai multe experimente decât își poate permite să ruleze. Candidații care sunt executați este, așa cum o încadrează echipa, adevărata pârghie a progresului cercetării. Pentru laboratoarele care își urmăresc creșterea facturilor de calcul, această încadrare este exact motivul pentru care această lucrare atrage atenția asupra celor mai recente evoluții ale AI în automatizarea cercetării.

De ce selecția experimentului este blocajul

Echipa a descoperit că modelele lingvistice nu sunt de încredere în prognoza valorilor absolute sau a rezultatelor execuției. Un model nu poate privi un experiment candidat și nu poate prezice cu precizie scorul pe care îl va obține. Ceea ce poate face, au descoperit cercetătorii, este să judece care dintre doi candidați este cel mai bun pariu - o comparație relativă mai degrabă decât o predicție absolută. RPM-urile sunt construite în întregime în jurul acestei distincții: nu prognozează niciodată un scor, ci doar se clasează.

Sistemul rulează în interiorul AIRA-dojo, o schelă de căutare în arbore evolutiv cu sursă deschisă care generează experimente de învățare automată prin selecția părinților lacomi și prin operatorii Draft, Improve și Debug, returnând nodul cu cel mai mare scor de validare la sfârșit. Benchmark-ul, AIRS-Bench, este, de asemenea, open source. Atât schela, cât și modelul de preferință folosesc Qwen3.6-27B ca coloană vertebrală, despre care echipa notează că sunt greutăți deschise.

Cum funcționează turneul eliminatoriu

În loc să genereze un experiment copil și să-l execute, agentul aplică un operator de 15 ori în paralel pentru a produce 15 candidați neexecuți. RPM-ul le compară apoi în perechi într-un turneu knockout și doar câștigătorul este executat. Fiecare comparație este bazată pe noduri de context colectate de o plimbare la lățimea întâi a arborelui explorat, fiecare candidat fiind afișat alături de scorurile de validare ale strămoșilor săi, astfel încât judecătorul argumentează din istoricul real de căutare a agentului, mai degrabă decât în ​​vid.

Lucrarea descrie două variante cu bugete de calcul diferite:

  • RPM numai pentru inferență — un LLM ca judecător care compară planurile candidaților, codul și istoricul căutărilor într-o singură trecere. Promptul său a fost optimizat cu MIPROv2 din cadrul DSPy și a convergit spre ceea ce echipa numește o rubrică de investigator principal: tolerează erori reparabile, recompensează extensibilitatea și penalizează direcțiile de cercetare redundante. Precizia comparației offline a fost măsurată între 57,7 și 59,0 la sută.
  • Agentic RPM — același judecător plus un sandbox care clonează mediul agentului, inclusiv un singur GPU H200, cu instrumente limitate la Python, Bash și o acțiune de trimitere a soluției. Derulează experimente pilot la scară mică, apoi un model de feedback fie propune cel mai informativ experiment următor, fie încheie bucla. Piloții sunt limitati la 30 cu un prag de 60 de secunde, iar bugetul de timp rămas este supraevaluat în mod deliberat - 2.700 de secunde raportate față de 300 reale - astfel încât agentul nu se oprește din optimizare devreme.

Un judecător s-a reglat ca un anchetator principal

Încadrarea investigatorului principal este partea liniștită interesantă. În loc să răsplătească candidații care arată maxim impresionant, rubrica optimizată reflectă modul în care un cercetător experimentat triajează ideile: codul buggy care poate fi remediat învinge codul șlefuit care urmărește o fundătură, iar direcțiile care dublează arborele existent valorează mai puțin decât cele noi. Această rubrică, învățată prin optimizare promptă, mai degrabă decât prin reglarea manuală, este ceea ce aduce îmbunătățirea, sugerează ablațiile echipei.

Evaluați rezultatele pe AIRS-Bench

Evaluarea a acoperit 20 de sarcini publice și tabelare, fiecare sarcină fiind acordată 24 de ore pe un singur H200 și 10 semințe aleatorii. În mod esențial, aceeași coloană vertebrală Qwen3.6-27B a alimentat atât operatorii de experiment, cât și modelul de preferință, astfel încât câștigurile provin din stratul de selecție mai degrabă decât de un model de judecător mai puternic. Scorurile medii normalizate:

  • Fără RPM (aleatorie aleatorie): 0,684
  • RPM numai pentru inferență: 0,711
  • RPM agentic: 0,729
  • Oracol de validare (plafon): 0,748
  • Test oracol (plafon): 0,759

Probabilitatea de îmbunătățire a selecției aleatoare a fost de 0,5923 pentru varianta numai de inferență și de 0,5913 pentru cea agentică, cu limite inferioare ale intervalului de încredere de 95% de 0,5066 și 0,5018 - peste pragul de 0,5 pentru semnificația statistică, deși echipa este mai degrabă sinceră decât marjele transformative.

Eficiența este rezultatul mai practic. RPM-ul numai de inferență a atins scorul final al liniei de bază aleatoare de 0,684 în 14,88 ore, o accelerare de 1,61 ori, în timp ce varianta agentică a avut nevoie de 15,50 ore, o accelerare de 1,55 ori. Chiar și luând în considerare costul general al inferenței judecătorului auto-găzduit, cifrele ajustate au rămas favorabile.

Greutăți deschise și avertismente sincere

Echipa este sinceră că RPM-urile sunt implementate doar parțial astăzi. Componentele sunt deschise - coloana vertebrală pre-antrenată înghețată fără reglaj fin, o schelă și un benchmark cu sursă deschisă și modele de coloană vertebrală cu greutăți deschise - dar cerința de tip sandbox a variantei agentice și experiența sa pilot înseamnă că majoritatea laboratoarelor ar începe cu versiunea doar pentru inferență. Cercetătorii observă, de asemenea, că pașii de depanare revin la selecția aleatorie în varianta agentică, deoarece timpul pilot concurează cu ceasul propriu al agentului.

Semnificația mai mare poate fi direcțională. Pe măsură ce agenții de cercetare autonomi trec de la demonstrații la utilizarea zilnică în laboratoarele industriale, resursa limitată nu mai sunt idei, ci ore GPU și metode care stoarce mai mult progres dintr-un buget fix de calcul compus în timp. Clasamentul înainte de alergare este o idee simplă, iar cifrele AIRS-Bench sugerează că este o idee care funcționează suficient de bine pentru a conta.

Stai înaintea AI

Țineți pasul cu cercetările care modelează modelele de mâine la AI Buzz Wire.

Citiți mai multe știri AI →