Η Anthropic βελτιώνει τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης της περίπου δύο φορές πιο γρήγορα από ό,τι πριν από ένα χρόνο, και μεγάλο μέρος αυτής της επιτάχυνσης φαίνεται να προέρχεται από συστήματα τεχνητής νοημοσύνης που βοηθούν στη δημιουργία των δικών τους διαδόχων, σύμφωνα με μια ανεξάρτητη ανάλυση που κυκλοφόρησε την Πέμπτη από τη μη κερδοσκοπική ομάδα αξιολόγησης METR.
Τα ευρήματα, που αναφέρθηκαν από το Associated Press, έχουν ασυνήθιστη βαρύτητα επειδή βασίζονται σε αυτό που το METR περιέγραψε ως «πρωτοφανή πρόσβαση» στα εσωτερικά δεδομένα του Anthropic. Ερευνητές από την ομάδα που εδρεύει στο Μπέρκλεϊ της Καλιφόρνια - του οποίου το πλήρες όνομα είναι Model Evaluation and Threat Research - προσκλήθηκαν στην εταιρεία για περίπου 11 εβδομάδες, από τα μέσα Αυγούστου έως τα τέλη Οκτωβρίου, όπου ανέλυσαν εσωτερικά ερευνητικά δεδομένα και πήραν συνέντευξη από το προσωπικό.
Για τους αναγνώστες που παρακολουθούν τη συζήτηση για την ασφάλεια γύρω από τα συνοριακά εργαστήρια, ανατρέξτε στην κάλυψη έκτακτες ειδήσεις AI.
Το βασικό εύρημα: Η πρόοδος περιπλέκεται
Η κεντρική εκτίμηση της METR είναι ότι η Anthropic βελτιώνει την απόδοση των μοντέλων της σε καλά καθορισμένες εργασίες περίπου δύο φορές πιο γρήγορα από ό,τι ήταν ένα χρόνο νωρίτερα. Η έκθεση το έθεσε ξεκάθαρα: «Η Anthropic φαίνεται να σημείωσε τόση πρόοδο στα σημεία αναφοράς το περασμένο έτος, όπως έκανε μεταξύ Οκτωβρίου 2023 και Οκτωβρίου 2025».
Πιο συνεπές είναι αυτό που πιστεύει η METR ότι οδηγεί στην επιτάχυνση. Οι ερευνητές είπαν ότι μπόρεσαν να αποκλείσουν «με σιγουριά» την αύξηση της υπολογιστικής ισχύος ως αιτία - παραδοσιακά τη μεταβλητή που συνδέεται στενότερα με την απόδοση του μοντέλου. Το συμπέρασμά τους: η βελτίωση οφείλεται σε μεγάλο βαθμό στη χρήση της ίδιας της τεχνητής νοημοσύνης για την έρευνα της τεχνητής νοημοσύνης.
Η Anthropic έχει αναγνωρίσει ότι το Claude chatbot της βοηθά όλο και περισσότερο την εταιρεία να αναπτύξει νεότερες, πιο προηγμένες εκδόσεις του εαυτού της. Η έκθεση του METR δεν βρήκε "συμφόρηση" - όπως περιορισμούς στους υπολογισμούς ή τα δεδομένα - που εμποδίζουν αυτή τη διαδικασία και σημείωσε ότι ενώ η τεχνητή νοημοσύνη δεν έχει ακόμη "ιδιαίτερα σημαντική και πλήρως αυτόνομη συνεισφορά" στα πιο σημαντικά μέρη της εκπαίδευσης μοντέλων, οι ερευνητές της Anthropic περιέγραψαν σημαντικά "σημάδια ζωής" που υπονοούν ότι θα μπορούσε να αλλάξει σύντομα.
Τα ευρήματα προσγειώθηκαν στη συζήτηση στη μέση της επιβράδυνσης
Η συγκυρία είναι δύσκολη για μια εταιρεία της οποίας ο διευθύνων σύμβουλος ασκεί πιέσεις για περιορισμό. Κατά τη διάρκεια της περιόδου αξιολόγησης της METR, ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο στις 12 Σεπτεμβρίου που προέτρεπε τη βιομηχανία της τεχνητής νοημοσύνης να "επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης" ώστε τα μέτρα ασφαλείας να μπορέσουν να καλύψουν τη διαφορά.
Το METR εξέτασε επίσης τόσο την έκθεση δημόσιου κινδύνου Anthropic που δημοσιεύτηκε τον Αύγουστο όσο και μια ιδιωτική έκδοση και κατέληξε στο συμπέρασμα ότι το δημόσιο έγγραφο "συνολικά υποεκτιμά το επίπεδο επιτάχυνσης που εμφανιζόταν".
Anthropic's Response: Μερική Συμφωνία, Βαριές Διαγραφές
Ο Sam McCandlish, συνιδρυτής της Anthropic και επικεφαλής αρχιτέκτονας της εταιρείας, απάντησε στην έκθεση την Πέμπτη σε μια μακροσκελή ανάρτηση στο X, γράφοντας ότι πολλά από τα συμπεράσματα του METR ταιριάζουν με τη δική του άποψη.
«Η τεχνητή νοημοσύνη επιταχύνει την έρευνά μας, αλλά είναι δύσκολο να πούμε ακριβώς πόσο», έγραψε, προσθέτοντας ότι η Anthropic σχεδιάζει να δημοσιεύσει τη δική της ανάλυση για τον ρυθμό προόδου της τεχνητής νοημοσύνης εντός της εταιρείας τις επόμενες εβδομάδες.
Ο McCandlish υπερασπίστηκε επίσης την απόφαση της εταιρείας να συντάξει μεγάλα τμήματα της έκθεσης, η οποία περιόριζε τον τρόπο με τον οποίο η METR μπορούσε να κοινοποιήσει τις εκτιμήσεις της για την επιτάχυνση. Είπε ότι το να μοιράζεσαι «ακριβώς αυτό που οδηγεί στην επιτάχυνση δεν είναι το σωστό», επειδή οι πληροφορίες είναι εμπορικά ευαίσθητες και «κινδυνεύουν να διανείμουν έναν οδικό χάρτη σε άλλους για να προχωρήσουν πιο γρήγορα» - κάτι που, όπως υποστήριξε, θα έκανε χειρότερους τους κινδύνους για τους οποίους ανησυχεί η METR. «Αυτό είναι ένα αντάλλαγμα», έγραψε.
Σημαντικές επιφυλάξεις
Η έκθεση ήταν, σύμφωνα με την περιγραφή του ίδιου του METR, με επιφυλάξεις. Η ομάδα είπε ότι το βασικό της εύρημα θα μπορούσε να είναι υπερβολικά ζητήματα: η μετρούμενη επιτάχυνση μπορεί να ισχύει μόνο για καλά καθορισμένες εργασίες που μπορούν να βαθμολογηθούν αυτόματα, αντί για τις πιο μπερδεμένες, ανοιχτές εργασίες που ορίζουν την έρευνα αιχμής. Εναλλακτικά, η Anthropic μπορεί απλώς να υποτίμησε την προηγούμενη γραμμή βάσης της, κάνοντας το τελευταίο άλμα να φαίνεται μεγαλύτερο από ό,τι είναι.
Η θέση του METR αξίζει επίσης να σημειωθεί για λόγους διαφάνειας: ο μη κερδοσκοπικός οργανισμός χρηματοδοτείται από δωρεές, δεν δέχεται αποζημίωση για τις αξιολογήσεις του και έχει πραγματοποιήσει αξιολογήσεις ικανοτήτων για Anthropic, OpenAI και άλλα εργαστήρια εδώ και χρόνια — αν και οι συνεργαζόμενες εταιρείες παρέχουν πρόσβαση σε μοντέλα και τα διακριτικά που απαιτούνται για την εκτέλεση της έρευνάς του.
Γιατί έχει σημασία τώρα
Η ανάλυση προσγειώνεται εβδομάδες πριν η Anthropic αναμένει να βγει στο χρηματιστήριο σε αυτό που θα μπορούσε να είναι η μεγαλύτερη αρχική δημόσια προσφορά στην ιστορία, με τη συζήτηση να στροβιλίζεται για το αν τα ολοένα πιο ικανά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να διαφύγουν τον ανθρώπινο έλεγχο. Οι υποστηρικτές της ασφάλειας έχουν υποστηρίξει εδώ και καιρό ότι η ανεξάρτητη επαλήθευση - όχι η αυτοαναφορά εργαστηρίου - είναι το μόνο αξιόπιστο μέτρο για το πόσο γρήγορα κινούνται τα σύνορα, ιδιαίτερα καθώς η κυβέρνηση Τραμπ έχει ενθαρρύνει τις εταιρείες να αστυνομεύονται.
Το METR επισήμανε μια τελευταία ανησυχία: εάν η έρευνα τεχνητής νοημοσύνης με τη βοήθεια AI αρχίσει να εντείνεται, η ίδια η επιτάχυνση θα μπορούσε να επιταχυνθεί, με τους κινδύνους από τα προηγμένα μοντέλα να αυξάνονται με ρυθμό που οι εξωτερικοί παρατηρητές δεν μπορούν να παρακολουθήσουν εύκολα. Η έκθεση της ομάδας υποδηλώνει ότι για ένα κορυφαίο εργαστήριο τουλάχιστον, ο βρόχος ανάδρασης για τον οποίο ανησυχεί το πεδίο δεν είναι πλέον υποθετικός - εμφανίζεται στα δεδομένα αναφοράς.
Το πόσο γρήγορα ακολουθεί ο υπόλοιπος κλάδος είναι το ερώτημα που θα παρακολουθούν τώρα οι ρυθμιστικές αρχές, οι επενδυτές και τα ίδια τα στελέχη της εταιρείας.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
