Η τροποποιημένη κατάθεση IPO της Anthropic έγινε πρωτοσέλιδο τη Δευτέρα για τα οικονομικά της - περίπου 17 δισεκατομμύρια δολάρια σε έσοδα τρίτου τριμήνου έναντι 895,4 δισεκατομμυρίων δολαρίων σε υπολογιστικές δεσμεύσεις. Ωστόσο, θαμμένη στους παράγοντες κινδύνου του αναθεωρημένου S-1A είναι μια αποκάλυψη που μπορεί να αποδειχθεί πιο σημαντική: η εταιρεία λέει ότι μπορεί να βρίσκεται στα πρόθυρα να ξεπεράσει το δικό της όριο για επαναλαμβανόμενη αυτοβελτίωση, το σημείο στο οποίο τα συστήματα AI καθίστανται ικανά να επιταχύνουν τη δική τους ανάπτυξη.
Το TechCrunch ανέφερε ότι η κατάθεση φαίνεται να προειδοποιεί ότι η Anthropic βρίσκεται στο κατώφλι της δημιουργίας ενός μοντέλου ικανού για επαναληπτική αυτοβελτίωση, κοινώς γνωστό ως RSI - το στάδιο στο οποίο η τεχνητή νοημοσύνη γίνεται τόσο καλή στη βελτίωση της τεχνητής νοημοσύνης που τα κέρδη των δυνατοτήτων αρχίζουν να επιδεινώνονται δραματικά. For more context on this story, see our ongoing more AI stories.
Τι λέει πραγματικά η κατάθεση
Η Anthropic χρησιμοποιεί ήδη AI για να επιταχύνει τη δική της έρευνα και ανάπτυξη. Στην τροποποιημένη κατάθεση, η εταιρεία προειδοποιεί ότι αυτή η πρακτική περιορίζεται αμφίδρομα: "Η χρήση τεχνητής νοημοσύνης για να βοηθήσει στη δημιουργία πιο ικανής τεχνητής νοημοσύνης θα μπορούσε επίσης να δημιουργήσει σημαντικό κίνδυνο για την ασφάλεια, ιδιαίτερα εάν επιταχύνει απότομα τον ρυθμό προόδου. Αυτός είναι ένας από τους τομείς που καλύπτονται από την Πολιτική Υπεύθυνης Κλιμάκωσης, η οποία καθορίζει τα σχέδιά μας για την παρακολούθηση και τον μετριασμό του όρου "αυτοπροσέγγιση".
Η νέα γλώσσα παράγοντα κινδύνου προχωρά περισσότερο από ό,τι η Anthropic είχε δηλώσει προηγουμένως στις δημόσιες καταθέσεις της. Η εταιρεία αποκαλύπτει ότι στο παρελθόν απέτυχε να αναγνωρίσει σημαντικά άλματα ικανότητας όπως συνέβησαν: «στο παρελθόν δεν εντοπίσαμε, και μπορεί να μην εντοπίσουμε στο μέλλον, σημαντική επιτάχυνση στον ρυθμό ανάπτυξής μας μέχρι να συμβεί».
Στη συνέχεια ακολουθεί η δήλωση που εφιστά την προσοχή του κλάδου. Σύμφωνα με την κατάθεση: "οι εσωτερικές μας εκτιμήσεις και οι προσδοκίες μας σχετικά με τα μελλοντικά μοντέλα, αντί για τα τρέχοντα μοντέλα μας, υποδεικνύουν ότι ενδέχεται να ανταποκριθούμε άμεσα στον ορισμό της Πολιτικής Υπεύθυνης Κλιμάκωσης για "δραματικά επιταχυνόμενη πρόοδο που αποδίδεται στην τεχνητή νοημοσύνη".
Η Anthropic προσθέτει ότι «δεν έχει προσδιορίσει κανένα από τα τρέχοντα μοντέλα μας ότι υπερβαίνει αυτό το όριο» και συνεχίζει να αξιολογεί τα υποκείμενα δεδομένα. Με άλλα λόγια: κανένα τρέχον μοντέλο Claude δεν πληροί τις προϋποθέσεις, αλλά οι εσωτερικές προβλέψεις της εταιρείας υποδηλώνουν ότι η επόμενη γενιά του μπορεί.
Κρατώντας τους ανθρώπους στο βρόχο
Παράλληλα με την προειδοποίηση, η Anthropic δεσμεύεται να διατηρεί τους ανθρώπους υπό τον έλεγχο της ανάπτυξης μοντέλων. «Δεν προβλέπουμε ότι θα μπορέσουμε να χρησιμοποιήσουμε με ασφάλεια τον Claude για να σχεδιάσει και να κατασκευάσει πλήρως αυτόνομα διαδοχικές γενιές μοντέλων συνόρων χωρίς ουσιαστική ανθρώπινη επίβλεψη ή κατανόηση, εάν και όταν αυτό καταστεί τεχνικά δυνατό», αναφέρει η κατάθεση. «Συνεπώς, εξετάζουμε ενημερώσεις στην Πολιτική μας για την Υπεύθυνη Κλιμάκωση για να διατηρήσουμε τον άνθρωπο υπό τον έλεγχο της ανάπτυξης μοντέλων συνόρων στο Anthropic».
Η κλίμακα του ρόλου του AI στην έρευνα της ίδιας της Anthropic αυξάνεται γρήγορα. Το Business Insider ανέφερε ότι η τεχνητή νοημοσύνη οδηγεί τώρα περίπου το ένα τέταρτο της εσωτερικής εργασίας Ε&Α της Anthropic, από 1 τοις εκατό τον Μάρτιο - ένα γράφημα που οι γνώστες του κλάδου αποκαλούν ένα από τα πιο σημαντικά στην τεχνητή νοημοσύνη.
Μετατόπιση λόγου: Από το Buzzword στον Ισολογισμό
Όταν ο όρος RSI έγινε δημοφιλής νωρίτερα αυτό το έτος, πολλοί στον κλάδο τον απέρριψαν ως τσιτάτο - ή, στην καλύτερη περίπτωση, ως έναν στόχο που ήταν πολύ κακώς καθορισμένος για να επιτευχθεί, να αποδειχθεί ή να ρυθμιστεί. Αυτός ο σκεπτικισμός είναι πιο δύσκολο να υποστηριχθεί τώρα που η έννοια εμφανίζεται, με έναν ακριβή εσωτερικό ορισμό, σε ένα έγγραφο που μια εταιρεία υποχρεούται νομικά να καταθέσει στην SEC πριν πουλήσει μετοχές στο κοινό.
Η Anthropic δεν είναι επίσης η μόνη που αντιμετωπίζει την αυτοβελτίωση ως υπόθεση βραχυπρόθεσμου προγραμματισμού. Ο συνιδρυτής της Google, Σεργκέι Μπριν, περιέγραψε τη βιομηχανία ως αγώνα δρόμου προς έναν «διάδρομο RSI» στον οποίο τα μοντέλα βοηθούν στην οικοδόμηση των διαδόχων τους και ο πρώην συνιδρυτής του OpenAI, Τζον Σούλμαν, είπε ότι αναμένει επαναλαμβανόμενη αυτοβελτίωση μέσα σε περίπου τρία έως τέσσερα χρόνια. Αυτό που διακρίνει τη γνωστοποίηση της Anthropic είναι η τυπικότητά της: ένα καθορισμένο όριο, μια εσωτερική διαδικασία μέτρησης και μια δημόσια δήλωση για το πότε η εταιρεία αναμένει να το υπερβεί.
Γιατί το RSI είναι το Tripwire Both Camps Watch
Το RSI έχει διαφορετικές έννοιες ανάλογα με το ποιος το περιγράφει. Για τους ερευνητές ασφάλειας τεχνητής νοημοσύνης, αντιπροσωπεύει το σημείο χωρίς επιστροφή - το σενάριο στο οποίο τα συστήματα τεχνητής νοημοσύνης βελτιώνονται ταχύτερα από ό,τι οι άνθρωποι μπορούν να κατανοήσουν, να επικυρώσουν ή να παρέμβουν, δυνητικά ξεφεύγοντας από τον ανθρώπινο έλεγχο. Για τους αισιόδοξους της τεχνητής νοημοσύνης, η ίδια δυναμική είναι το έπαθλο: συστήματα που βελτιώνονται αξιόπιστα θα συντελούσαν σε εξαιρετική παραγωγικότητα και επιστημονική ανακάλυψη.
Το καδράρισμα του Anthropic αναγνωρίζει και τις δύο πιθανότητες. Η αποκάλυψη βρίσκεται σε ένα έγγραφο του οποίου το κύριο κοινό είναι οι επενδυτές και οι σκεπτικιστές σημειώνουν ότι ένα S-1 λειτουργεί τόσο ως αποκάλυψη όσο και ως μάρκετινγκ — ένας ισχυρισμός ότι η εταιρεία είναι κοντά στην κατασκευή μιας αυτοβελτιούμενης τεχνητής νοημοσύνης θα μπορούσε εξίσου εύκολα να διαβαστεί ως επιχείρημα για την αποτίμησή του.
Υπάρχει, ωστόσο, μια συγκεκριμένη άγκυρα για τον ισχυρισμό. Οι ικανότητες του Claude στην κωδικοποίηση, τα μαθηματικά και την ασφάλεια στον κυβερνοχώρο έχουν προχωρήσει απότομα μέχρι το 2026 και η Πολιτική Υπεύθυνης Κλιμάκωσης της Anthropic ορίζει το πρότυπο «δραματικά επιταχυνόμενης προόδου που αποδίδεται στην τεχνητή νοημοσύνη» που η εταιρεία λέει τώρα ότι μπορεί να εκπληρώσει άμεσα.
Μια δοκιμή για διακυβέρνηση AI
Η αποκάλυψη προσγειώνεται εν μέσω εντεινόμενων συζητήσεων πολιτικής σχετικά με την επίβλεψη συνοριακής τεχνητής νοημοσύνης, από το πλαίσιο του Λευκού Οίκου για την αναθεώρηση των μοντέλων συνόρων έως τις διεθνείς συζητήσεις για την υπολογιστική διακυβέρνηση. Εάν ένα κορυφαίο εργαστήριο τεχνητής νοημοσύνης ορίσει επίσημα ένα μοντέλο που πληροί το δικό του κατώφλι επιταχυνόμενης προόδου, θα ενεργοποιούσε υποχρεώσεις βάσει της Πολιτικής Υπεύθυνης Κλιμάκωσης της Anthropic - και θα ήταν η πρώτη πραγματική δοκιμή για το εάν τέτοια βιομηχανικά πλαίσια μπορούν να επιβραδύνουν ή να διαμορφώσουν τον αγώνα ικανοτήτων στην πράξη.
Προς το παρόν, η Anthropic λέει ότι κανένα μοντέλο δεν έχει ξεπεράσει τα όρια. Η κατάθεση υποδηλώνει ότι η εταιρεία αναμένει ότι αυτή η γραμμή θα ξεπεραστεί σύντομα — και ζητά από τους επενδυτές να κατανοήσουν, εκ των προτέρων, τι σκοπεύει να κάνει για αυτό.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
