Μια ερευνητική ομάδα από το FAIR στο Meta, το Πανεπιστήμιο της Οξφόρδης και το University College του Λονδίνου εισήγαγε τα μοντέλα AI Research Preference Models (RPMs), μια μέθοδο για να αποφασίσετε ποια πειράματα μηχανικής μάθησης θα πρέπει πραγματικά να εκτελέσει ένας αυτόνομος ερευνητικός πράκτορας. Αντί να προβλέπει πώς θα βαθμολογηθεί ένα πείραμα, ένα RPM κατατάσσει τους μη εκτελεσμένους υποψηφίους και επιλέγει τον πιο πολλά υποσχόμενο, μια αλλαγή που σύμφωνα με την ομάδα αντιμετωπίζει το πραγματικό εμπόδιο στην έρευνα που βασίζεται στην τεχνητή νοημοσύνη: τον υπολογισμό επαλήθευσης, σύμφωνα με την έκθεση της MarkTechPost για την εργασία.

Η ιδέα προσγειώνεται σε μια στιγμή που οι ερευνητές μπορούν ήδη να προτείνουν, να εφαρμόσουν και να σκοράρουν τα δικά τους πειράματα. Η δημιουργία ιδεών είναι φθηνή. εκτέλεση δεν είναι. Η εκπαίδευση ενός μεμονωμένου υποψηφίου μπορεί να καταναλώσει ώρες έως ημέρες χρόνου GPU, επομένως ένας πράκτορας αναπόφευκτα προτείνει πολύ περισσότερα πειράματα από όσα μπορεί να αντέξει οικονομικά για να τρέξει. Το ποιοι υποψήφιοι εκτελούνται είναι, όπως το πλαισιώνει η ομάδα, ο πραγματικός μοχλός της ερευνητικής προόδου. Για τα εργαστήρια που παρακολουθούν τους υπολογιστικούς λογαριασμούς τους να ανεβαίνουν, αυτό το πλαίσιο είναι ακριβώς ο λόγος που αυτή η εργασία εφιστά την προσοχή στις τελευταίες εξελίξεις της τεχνητής νοημοσύνης στον αυτοματισμό της έρευνας.

Γιατί η επιλογή πειράματος είναι το σημείο συμφόρησης

Η ομάδα διαπίστωσε ότι τα γλωσσικά μοντέλα είναι αναξιόπιστα στην πρόβλεψη απόλυτων μετρήσεων ή αποτελεσμάτων εκτέλεσης. Ένα μοντέλο δεν μπορεί να εξετάσει ένα υποψήφιο πείραμα και να προβλέψει με ακρίβεια τη βαθμολογία που θα επιτύχει. Αυτό που μπορεί να κάνει, βρήκαν οι ερευνητές, είναι να κρίνει ποιος από τους δύο υποψηφίους είναι το καλύτερο στοίχημα - μια σχετική σύγκριση και όχι μια απόλυτη πρόβλεψη. Οι στροφές ανά λεπτό χτίζονται εξ ολοκλήρου γύρω από αυτή τη διάκριση: δεν προβλέπουν ποτέ μια βαθμολογία, αλλά μόνο κατατάσσονται.

Το σύστημα τρέχει μέσα στο AIRA-dojo, ένα ανοιχτού κώδικα εξελικτικό ικρίωμα αναζήτησης δέντρων που δημιουργεί πειράματα μηχανικής μάθησης μέσω άπληστης επιλογής γονέα και τελεστών Draft, Improve και Debug, επιστρέφοντας τον κόμβο με την υψηλότερη βαθμολογία επικύρωσης στο τέλος. Το σημείο αναφοράς, AIRS-Bench, είναι επίσης ανοιχτού κώδικα. Τόσο το ικρίωμα όσο και το μοντέλο προτίμησης χρησιμοποιούν το Qwen3.6-27B ως τη ραχοκοκαλιά τους, το οποίο η ομάδα σημειώνει ότι είναι ανοιχτά βάρη.

Πώς λειτουργεί το τουρνουά νοκ άουτ

Αντί να δημιουργήσει ένα θυγατρικό πείραμα και να το εκτελέσει, ο πράκτορας εφαρμόζει έναν τελεστή 15 φορές παράλληλα για να παράγει 15 μη εκτελεσμένους υποψηφίους. Στη συνέχεια, το RPM τα συγκρίνει ανά ζεύγη σε ένα τουρνουά νοκ-άουτ και μόνο ο νικητής εκτελείται. Κάθε σύγκριση βασίζεται σε κόμβους περιβάλλοντος που συλλέγονται από μια πρώτη βόλτα στο πλάτος του εξερευνημένου δέντρου, με κάθε υποψήφιο να εμφανίζεται μαζί με τις βαθμολογίες επικύρωσης των προγόνων του, επομένως ο κρίνει από το πραγματικό ιστορικό αναζήτησης του πράκτορα και όχι στο κενό.

Η εργασία περιγράφει δύο παραλλαγές με διαφορετικούς υπολογιστικούς προϋπολογισμούς:

  • RPM μόνο για συμπεράσματα — ένα LLM-as-a-judge που συγκρίνει σχέδια υποψηφίων, κώδικα και ιστορικό αναζήτησης σε ένα μόνο πάσο. Η προτροπή του βελτιστοποιήθηκε με το MIPROv2 από το πλαίσιο DSPy και συνέκλινε σε αυτό που η ομάδα αποκαλεί ρουμπρίκα κύριου ερευνητή: ανέχεται διορθώσιμα σφάλματα, επιβραβεύει την επεκτασιμότητα και τιμωρεί τις περιττές κατευθύνσεις έρευνας. Η ακρίβεια σύγκρισης εκτός σύνδεσης μετρήθηκε από 57,7 έως 59,0 τοις εκατό.
  • Agentic RPM — ο ίδιος κριτής συν ένα sandbox που κλωνοποιεί το περιβάλλον του πράκτορα, συμπεριλαμβανομένης μιας μοναδικής GPU H200, με εργαλεία περιορισμένα σε Python, Bash και μια ενέργεια υποβολής λύσης. Εκτελεί πιλοτικά πειράματα μικρής κλίμακας και, στη συνέχεια, ένα μοντέλο ανάδρασης είτε προτείνει το πιο κατατοπιστικό επόμενο πείραμα είτε τερματίζει τον βρόχο. Οι πιλότοι περιορίζονται στα 30 με όριο 60 δευτερολέπτων και ο προϋπολογισμός χρόνου που απομένει είναι σκόπιμα υπερεκτιμημένος — 2.700 δευτερόλεπτα αναφέρονται έναντι πραγματικών 300 — έτσι ο πράκτορας δεν σταματά τη βελτιστοποίηση νωρίς.

Ένας δικαστής συντονισμένος σαν κύριος ερευνητής

Το καδράρισμα του διευθυντή-ανακριτή είναι το ήσυχο ενδιαφέρον μέρος. Αντί να ανταμείβει υποψηφίους που φαίνονται εξαιρετικά εντυπωσιακοί, η βελτιστοποιημένη ρουμπρίκα αντικατοπτρίζει τον τρόπο με τον οποίο ένας έμπειρος ερευνητής δοκιμάζει τις ιδέες: ο κώδικας σφαλμάτων που μπορεί να διορθωθεί ξεπερνά τον γυαλισμένο κώδικα που επιδιώκει ένα αδιέξοδο και οι οδηγίες που αντιγράφουν το υπάρχον δέντρο αξίζουν λιγότερο από τις νέες. Αυτή η ρουμπρίκα, που μαθαίνεται μέσω της άμεσης βελτιστοποίησης και όχι μέσω του συντονισμού με το χέρι, είναι αυτό που φέρνει τη βελτίωση, υποδηλώνουν τα ablations της ομάδας.

Συγκριτική αξιολόγηση αποτελεσμάτων στο AIRS-Bench

Η αξιολόγηση κάλυψε 20 εργασίες δημόσιου κειμένου και πινάκων, με κάθε εργασία να δίνεται 24 ώρες σε ένα μόνο H200 και 10 τυχαίους σπόρους. Είναι πολύ σημαντικό ότι η ίδια ραχοκοκαλιά Qwen3.6-27B τροφοδοτούσε τόσο τους τελεστές του πειράματος όσο και το μοντέλο προτίμησης, επομένως τα κέρδη προέρχονται από το επίπεδο επιλογής και όχι από ένα ισχυρότερο μοντέλο κριτή. Οι μέσες κανονικοποιημένες βαθμολογίες:

  • Χωρίς RPM (τυχαία επιλογή): 0,684
  • RPM μόνο για συμπεράσματα: 0,711
  • Agent RPM: 0,729
  • Μαντείο επικύρωσης (οροφή): 0,748
  • Δοκιμαστικό μαντείο (οροφή): 0,759

Η πιθανότητα βελτίωσης έναντι της τυχαίας επιλογής ήταν 0,5923 για την παραλλαγή που βασίζεται μόνο στο συμπέρασμα και 0,5913 για την παραγοντική, με 95 τοις εκατό χαμηλότερα όρια διαστήματος εμπιστοσύνης 0,5066 και 0,5018 — πάνω από το όριο 0,5 για στατιστική στατιστική, αν και η ομάδα είναι ελάχιστα σημαντική παρά περιορισμένη.

Η αποτελεσματικότητα είναι το πιο πρακτικό αποτέλεσμα. Το RPM μόνο για συμπεράσματα έφτασε στην τελική βαθμολογία της τυχαίας γραμμής βάσης 0,684 σε 14,88 ώρες, μια επιτάχυνση 1,61x, ενώ η agentical παραλλαγή χρειαζόταν 15,50 ώρες, μια επιτάχυνση 1,55x. Ακόμη και αν λάβουμε υπόψη τα γενικά έξοδα του συμπερασμάτων των αυτοδιοικούμενων δικαστών, οι προσαρμοσμένοι αριθμοί παρέμειναν ευνοϊκοί.

Ανοιχτά βάρη και ειλικρινείς επιφυλάξεις

Η ομάδα υποστηρίζει ότι τα RPM μπορούν να αναπτυχθούν μόνο εν μέρει σήμερα. Τα εξαρτήματα είναι ανοιχτά — παγωμένα προεκπαιδευμένα ραχοκοκαλιά χωρίς λεπτομέρεια, ανοιχτού κώδικα ικρίωμα και σημείο αναφοράς και μοντέλα ραχοκοκαλιάς ανοιχτού βάρους — αλλά η απαίτηση sandbox της πρακτορικής παραλλαγής και η επιβάρυνση του πιλοτικού πειράματός της σημαίνει ότι τα περισσότερα εργαστήρια θα ξεκινούσαν με την έκδοση μόνο συμπερασμάτων. Οι ερευνητές σημειώνουν επίσης ότι τα βήματα εντοπισμού σφαλμάτων επανέρχονται σε τυχαία επιλογή στην παραλλαγή του πράκτορα, επειδή ο χρόνος πιλότου ανταγωνίζεται το ρολόι του ίδιου του πράκτορα.

Η μεγαλύτερη σημασία μπορεί να είναι κατευθυντική. Καθώς οι αυτόνομοι ερευνητικοί πράκτορες περνούν από τις επιδείξεις στην καθημερινή χρήση σε βιομηχανικά εργαστήρια, ο σπάνιος πόρος δεν είναι πλέον οι ιδέες αλλά οι ώρες GPU και οι μέθοδοι που συμπιέζουν περισσότερη πρόοδο από μια σταθερή σύνθεση υπολογιστικού προϋπολογισμού με την πάροδο του χρόνου. Η κατάταξη πριν από το τρέξιμο είναι μια απλή ιδέα και οι αριθμοί AIRS-Bench υποδηλώνουν ότι είναι μια ιδέα που λειτουργεί αρκετά καλά ώστε να έχει σημασία.

Μείνε μπροστά από την τεχνητή νοημοσύνη

Συνεχίστε με την έρευνα που διαμορφώνει τα αυριανά μοντέλα στο AI Buzz Wire.

Διαβάστε περισσότερα νέα AI →