Ο John Schulman, ο συνιδρυτής του OpenAI που τώρα υπηρετεί ως επικεφαλής επιστήμονας στη Thinking Machines, είπε ότι αναμένει επαναλαμβανόμενη αυτοβελτίωση -τα συστήματα τεχνητής νοημοσύνης που επιταχύνουν τη δική τους ανάπτυξη- σε περίπου τρία έως τέσσερα χρόνια, ένα χρονοδιάγραμμα που τον τοποθετεί μεταξύ των πιο επιθετικών προγνωστικών στον τομέα. Ο Schulman έδωσε την εκτίμηση κατά τη διάρκεια ενός επεισοδίου στρογγυλής τραπέζης του Dwarkesh Podcast που δημοσιεύτηκε την Παρασκευή, στο οποίο τρεις ερευνητές συνοριακών εργαστηρίων συζήτησαν ανοιχτά πόσο κοντά είναι στην πραγματικότητα η βιομηχανία στο ανώτατο όριο της.

Η συζήτηση πρόσφερε μια σπάνια αφύλακτη ματιά στο πώς οι ερευνητές κοντά στα σύνορα σκέφτονται την πρόοδο, φτάνοντας μέσα σε μια θορυβώδη εβδομάδα που είδε τον Διευθύνοντα Σύμβουλο της Nvidia, Jensen Huang, να δηλώνει ότι "το AGI έφτασε" και μια ομάδα 25 Μεταλλίων Fields προειδοποιεί ότι η καταδίωξη σημείων αναφοράς AI βλάπτει τα μαθηματικά. Για τους αναγνώστες που παρακολουθούν τις [τελευταίες εξελίξεις της τεχνητής νοημοσύνης] (https://aibuzzwire.news), το επεισόδιο είναι ένα χρήσιμο αντίβαρο: αυτοί είναι άνθρωποι που κατασκευάζουν τα συστήματα και διαφωνούν έντονα μεταξύ τους.

Ποιος ήταν στο τραπέζι

Ο παρουσιαστής Dwarkesh Patel είπε ότι συγκέντρωσε το πάνελ επειδή οι καλεσμένοι εργάζονται σε αυτό που αποκάλεσε «κάπως ανοιχτά εργαστήρια και εταιρείες», που σημαίνει ότι μπορούσαν να μιλήσουν στον δίσκο. Μαζί με τον Schulman ήταν η Beren Millidge, επικεφαλής τεχνολογίας στη Zyphra, μια startup που αναπτύσσει μοντέλα ανοιχτού κώδικα, και ο Charlie O'Neill, επικεφαλής εκπαίδευσης μοντέλων στη Baseten.

Τα διαπιστευτήρια του Schulman δίνουν ιδιαίτερη βαρύτητα στην ομιλία του στο χρονοδιάγραμμα. Συνίδρυσε το OpenAI και ηγήθηκε της ενισχυτικής μάθησης από την έρευνα ανθρώπινης ανατροφοδότησης που παρήγαγε τις τεχνικές πίσω από το ChatGPT, πριν αναχωρήσει για το Thinking Machines, όπου τώρα υπηρετεί ως επικεφαλής επιστήμονας.

Η υπόθεση κατά της μοναδικότητας, ατσαλένια

Ο Patel άνοιξε με μια αιχμηρή ερώτηση: εάν το 2036 φτάσει χωρίς δισεκατομμύρια υπερευφυή συστήματα να μεταμορφώσουν τον κόσμο, ποιος θα ήταν ο τεχνικός λόγος; Ο Millidge προσέφερε την ισχυρότερη περίπτωση για σκεπτικισμό, περιγράφοντας αυτό που ονόμασε ένα σχεδόν παράδοξο μοτίβο του Moravec, στο οποίο τα μοντέλα έχουν άσους όποια σημεία αναφοράς έβαλαν οι ερευνητές μπροστά τους, αλλά ο πραγματικός αντίκτυπος απογοητεύει.

«Υπάρχει ακόμα κάποιο επίμονο κενό sim-to-real που με κάποιο τρόπο μπλοκάρει τα πάντα», είπε ο Millridge, περιγράφοντας έναν κόσμο όπου η τεχνητή νοημοσύνη γίνεται «εξαιρετικά καλή σε όλα όσα οι άνθρωποι βάζουν σε ένα σημείο αναφοράς» χωρίς να γενικεύει περαιτέρω. Πρόσθεσε ότι θεωρεί αυτό το αποτέλεσμα απίθανο, επισημαίνοντας στοιχεία ότι η ενισχυτική μάθηση γενικεύεται ήδη στην πράξη.

Ο Schulman συμφώνησε σε μεγάλο βαθμό ότι η πρόοδος δεν είναι αυτόματη. Οι άνθρωποι έχουν πραγματικά πλεονεκτήματα έναντι των σημερινών μοντέλων, είπε, και κάθε νέα έκδοση μοντέλου φτάνει σε ορισμένους τομείς ενώ παραμένει στενόχωρος σε άλλους - το μοτίβο που καθόρισε τους τελευταίους πολλούς κύκλους προϊόντων.

Χρονολόγια ταχείας πυρκαγιάς: δύο χρόνια, τρία έως τέσσερα, πέντε έως δέκα

Όταν ο Patel πίεσε για αριθμούς, ο πίνακας χωρίστηκε. Ερωτηθείς πότε η τεχνητή νοημοσύνη θα μπορούσε να προσφέρει δεκαπλάσια αύξηση της παραγωγικότητας για έναν ικανό υπάλληλο, ο Schulman αρνήθηκε αρχικά να δώσει ένα μόνο νούμερο και μετά είπε «θα έλεγα δύο χρόνια». Ο Millridge είπε ότι μπορούσε «κάπως να το δει αυτό, στην πραγματικότητα», υποστηρίζοντας ότι το κέρδος υπερβαίνει ήδη το 10 φορές για ορισμένες κατηγορίες εργασίας. Ο O'Neill ήταν ο πιο συντηρητικός, απαντώντας "5 έως 10" χρόνια.

Στη συνέχεια ο Patel προχώρησε περαιτέρω, χαρακτηρίζοντας το σενάριο ως «βασικά απλώς ASI». Η απάντηση του Schulman: «Θα έλεγα 3-4 χρόνια», προσθέτοντας ότι η αυτοματοποίηση της ίδιας της έρευνας τεχνητής νοημοσύνης δεν είναι «ένα από τα πιο δύσκολα πράγματα για την τεχνητή νοημοσύνη, γιατί περιλαμβάνει πολλή» δουλειά που οι τρέχουσες τεχνικές μπορούν ήδη να προσεγγίσουν. Η ανταλλαγή ήταν αξιοσημείωτη για το πόσο μικρή απώθηση προκάλεσε η εκτίμηση από τους άλλους ερευνητές.

Πώς θα εκπαιδεύονταν πραγματικά οι αυτοματοποιημένοι ερευνητές

Ένα σημαντικό μέρος του επεισοδίου αφορούσε τη μηχανική του σεναρίου στο οποίο τιμολογούσε ο Schulman. Ερωτηθείς πώς θα εκπαιδεύονταν συστήματα τεχνητής νοημοσύνης ικανά να αυτοματοποιούν την έρευνα τεχνητής νοημοσύνης, ο Schulman περιέγραψε "κάποιο συνδυασμό μάθησης από την ανθρώπινη ανατροφοδότηση για να απορροφήσει το γούστο των ερευνητών και απλώς να δημιουργήσει πολλά περιβάλλοντα πρακτικής που περιλαμβάνουν έρευνα πολλαπλών βημάτων".

Αυτή η απάντηση συνδέεται με το πού πηγαίνουν τα χρήματα του κλάδου. Η πρόσφατα ολοκληρωμένη συμφωνία της Google για το Mechanize, μια startup που δημιουργεί προσομοιωμένα περιβάλλοντα εργασίας για εκπαιδευτικούς πράκτορες, αντικατοπτρίζει ακριβώς αυτό το στοίχημα ότι καλύτεροι χώροι εκπαίδευσης — όχι μόνο μεγαλύτερα μοντέλα — θα οδηγήσουν στον επόμενο γύρο κερδών ικανοτήτων. Ο Schulman επισήμανε επίσης μια βασική δυσκολία: οι συναρτήσεις ανταμοιβής που βασίζονται σε φυσικά δεδομένα είναι δύσκολο να καθοριστούν και επιφανειακά σήματα όπως το αν ένας χρήστης αποδέχτηκε μια επεξεργασία κώδικα μπορεί να παραπλανήσουν την εκπαίδευση.

Απόσταξη έναντι συγκεντροποίησης

Μία από τις πιο συγκεκριμένες προβλέψεις του Schulman αφορούσε τη δομή της βιομηχανίας. «Πιστεύω ότι η απόσταξη είναι το κύριο πράγμα που καταπολεμά τη συγκεντρωτική δύναμη», είπε, υποστηρίζοντας ότι οι ικανότητες που μαθαίνονται μέσω της ενισχυτικής μάθησης μπορούν να μεταφερθούν σε μικρότερα μοντέλα σχετικά εύκολα, διαδίδοντας την ικανότητα των γειτονικών συνόρων πέρα ​​από τις λίγες εταιρείες που μπορούν να αντέξουν οικονομικά προγράμματα εκπαίδευσης.

Στο ερώτημα τι μένει για τους ανθρώπους, ο Schulman ήταν κατηγορηματικός. «Θα έλεγα ότι η τελευταία δουλειά για τους ανθρώπους, ή ο ρόλος για τους ανθρώπους που θα διαρκέσει περισσότερο, είναι να ορίσουμε τον στόχο και να αποφασίσουμε τι πραγματικά θέλουμε», είπε. Όταν ο Patel συνόψισε «η ευθυγράμμιση είναι η τελική δουλειά», ο Schulman συμφώνησε: «Η ευθυγράμμιση είναι μια απάντηση», ενώ σημείωσε ότι αποσυντίθεται στον προσδιορισμό του σωστού στόχου και στη συνέχεια στην επίτευξή του.

Πού ταιριάζει το επεισόδιο στη συζήτηση για το χρονικό

Ο υπότιτλος του επεισοδίου — «Δεν είμαστε πουθενά κοντά στο ταβάνι» — αποτυπώνει τη γενική του σημασία: ερευνητές που βλέπουν σημαντικό διάδρομο μπροστά, ακόμη κι αν αμφισβητούν πόσο ανώμαλο θα είναι το μονοπάτι. Η συζήτηση περιλάμβανε τι οδηγεί την πρόοδο των κινεζικών εργαστηρίων, εάν η μάθηση ενίσχυσης μακρού ορίζοντα μπορεί να αποσπάσει γενική ευφυΐα και γιατί η RL έχει αρχίσει να λειτουργεί το ίδιο καλά.

Ο δημόσιος διάλογος για τα χρονοδιαγράμματα έχει ενταθεί από όλες τις πλευρές αυτόν τον μήνα. Η διακήρυξη του Huang "Το AGI έφτασε" προκάλεσε σκεπτικισμό από τους αναλυτές που το διάβασαν ως επιχειρηματική υπόθεση και όχι ως επιστημονικό ισχυρισμό, ενώ ο Διευθύνων Σύμβουλος του OpenAI Sam Altman είπε στο προσωπικό ότι η εταιρεία είναι ανοιχτή στην επιβράδυνση της ανάπτυξης αιχμής καθώς αυξάνονται οι ανησυχίες για την ασφάλεια, σύμφωνα με το Bloomberg. Το παράθυρο τριών έως τεσσάρων ετών του Schulman για επαναλαμβανόμενη αυτοβελτίωση βρίσκεται κάπου μεταξύ του μάρκετινγκ και του μορατόριουμ - μια λειτουργική εκτίμηση από κάποιον με ιστορικό στην κατασκευή των τεχνικών που τώρα οδηγούν το πεδίο.

Το αν έχει δίκιο θα εξαρτηθεί από τα ερωτήματα που περιέγραψε μόνο το πάνελ: εάν η ενισχυτική μάθηση συνεχίζει να γενικεύει τα εκπαιδευτικά της περιβάλλοντα και εάν το χάσμα μεταξύ της απόδοσης αναφοράς και της πραγματικής οικονομικής αξίας συνεχίζει να κλείνει.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Οι ερευνητές συνόρων συζητούν δημόσια τα όρια της τεχνητής νοημοσύνης — ακολουθήστε την ιστορία καθώς εξελίσσεται.

Διαβάστε περισσότερα νέα AI στο AI Buzz Wire