Η Anthropic έχει προειδοποιήσει σε μια αναθεωρημένη κατάθεση S-1/A IPO ότι μπορεί «αμεσα» να ανταποκριθεί στον ορισμό της δικής της Πολιτικής Υπεύθυνης Κλιμάκωσης της «δραματικά επιταχυνόμενης προόδου που αποδίδεται στην τεχνητή νοημοσύνη» — το όριο που αναφέρεται ευρέως ως αναδρομική αυτοβελτίωση ή RSI, το σημείο στο οποίο τα συστήματα AI γίνονται αρκετά καλά ώστε τα συστήματα AI να γίνονται αρκετά καλά. Το TechCrunch ανέφερε την αποκάλυψη τη Δευτέρα, υπογραμμίζοντας τη γλώσσα που είναι κρυμμένη στους παράγοντες κινδύνου της κατάθεσης που ισοδυναμεί με μία από τις πιο συνεπακόλουθες δηλώσεις που έχει κάνει οποιοδήποτε εργαστήριο τεχνητής νοημοσύνης σχετικά με τη δική του τροχιά.

Η κατάθεση αναφέρει, σύμφωνα με τα λόγια του Anthropic: "οι εσωτερικές μας εκτιμήσεις και οι προσδοκίες μας σχετικά με τα μελλοντικά μοντέλα, αντί για τα τρέχοντα μοντέλα μας, δείχνουν ότι μπορεί να ανταποκριθούμε άμεσα στον ορισμό της Πολιτικής Υπεύθυνης Κλιμάκωσης της "δραματικά επιταχυνόμενης προόδου που αποδίδεται στην τεχνητή νοημοσύνη". Δεν έχουμε προσδιορίσει κανένα από τα τρέχοντα μοντέλα μας ότι υπερβαίνει αυτό το όριο και συνεχίζουμε να αξιολογούμε τα υποκείμενα δεδομένα». For more context on this story, see our ongoing more AI stories.

Τι λέει πραγματικά η κατάθεση

Η προειδοποίηση βρίσκεται μέσα σε έναν ευρύτερο παράγοντα κινδύνου σχετικά με την αυξανόμενη χρήση συστημάτων τεχνητής νοημοσύνης από την Anthropic για να επιταχύνει τη δική της έρευνα και ανάπτυξη. Η εταιρεία αποκαλύπτει ότι αυτή η δυναμική έχει ήδη δημιουργήσει άλματα ικανότητας που δεν κατάφερε να αναγνωρίσει σε πραγματικό χρόνο. «Ως αποτέλεσμα, στο παρελθόν δεν έχουμε εντοπίσει, και ενδέχεται να μην εντοπίσουμε στο μέλλον, σημαντική επιτάχυνση του ρυθμού ανάπτυξής μας έως ότου αυτή συμβεί», αναφέρεται στην κατάθεση.

Η Anthropic πλαισιώνει την υποκείμενη δυναμική και ως κινητήρα και ως κίνδυνο. «Η χρήση της τεχνητής νοημοσύνης για να βοηθήσει στη δημιουργία πιο ικανής τεχνητής νοημοσύνης θα μπορούσε επίσης να αποτελέσει σημαντικό κίνδυνο για την ασφάλεια, ιδιαίτερα εάν επιταχύνει απότομα τον ρυθμό της προόδου», αναφέρει η κατάθεση. "Αυτός είναι ένας από τους τομείς που καλύπτονται από την Πολιτική μας για την Υπεύθυνη Κλιμάκωση, η οποία καθορίζει τα σχέδιά μας για την παρακολούθηση και τον μετριασμό των κινδύνων καθώς προσεγγίζουμε αυτό που έχει ονομαστεί "αναδρομική αυτοβελτίωση".

Τα στοιχήματα είναι ασυνήθιστα για ένα έγγραφο IPO. Το RSI είναι η έννοια που διαχωρίζει τα αισιόδοξα και τα απαισιόδοξα οράματα της τεχνητής νοημοσύνης πιο έντονα από σχεδόν οποιαδήποτε άλλη. Για τους ερευνητές ασφάλειας της τεχνητής νοημοσύνης, η επαναληπτική αυτοβελτίωση είναι το σενάριο φυγής: ένα σύστημα που βελτιώνεται στη δημιουργία καλύτερων συστημάτων, επιταχύνοντας πέρα ​​από το σημείο όπου η ανθρώπινη επίβλεψη παραμένει ουσιαστική. Για τους υποστηρικτές της τεχνητής νοημοσύνης, είναι η υπόσχεση: ένα εργαλείο που εκκινεί τον δρόμο του προς την επιστημονική ανακάλυψη και τα κέρδη παραγωγικότητας, καμία διαδικασία ανθρωποκεντρική δεν θα μπορούσε να ταιριάξει. Το αρχείο της Anthropic αναγνωρίζει και τις δύο αναγνώσεις, ενώ ουσιαστικά λέει στους επενδυτές ότι η εταιρεία πιστεύει ότι το φαινόμενο είναι αρκετά κοντά ώστε να δικαιολογεί τη δική της γραμμή στους παράγοντες κινδύνου.

Το Safeguards Anthropic είναι πολλά υποσχόμενο

Παράλληλα με την προειδοποίηση, η Anthropic δεσμεύτηκε να κρατά τους ανθρώπους στον κύκλο της ανάπτυξης μοντέλων συνόρων για το άμεσο μέλλον. «Δεν προβλέπουμε ότι θα μπορέσουμε να χρησιμοποιήσουμε με ασφάλεια τον Claude για να σχεδιάσει και να κατασκευάσει πλήρως αυτόνομα διαδοχικές γενιές μοντέλων συνόρων χωρίς ουσιαστική ανθρώπινη επίβλεψη ή κατανόηση, εάν και όταν αυτό καταστεί τεχνικά δυνατό», αναφέρει η κατάθεση. Η εταιρεία πρόσθεσε ότι "εξετάζει τις ενημερώσεις στην Πολιτική μας για την Υπεύθυνη Κλιμάκωση για να διατηρήσει τους ανθρώπους υπό τον έλεγχο της ανάπτυξης μοντέλων συνόρων στο Anthropic".

Η εταιρεία ήταν προσεκτική σχετικά με τον ενεστώτα: κανένα τρέχον μοντέλο Anthropic δεν έχει χαρακτηριστεί ότι υπερβαίνει το όριο RSI. Αλλά η φράση "μπορεί να συναντηθεί άμεσα" - που εφαρμόζεται σε μελλοντικά μοντέλα και όχι σε αυτά που αποστέλλονται - είναι μια εντυπωσιακή παραδοχή για το πώς το εργαστήριο διαβάζει τις δικές του εσωτερικές εκτιμήσεις και τα προγράμματα εκπαίδευσης που βρίσκονται σε εξέλιξη.

Αποκάλυψη ή Μάρκετινγκ;

Οι σκεπτικιστές έσπευσαν να σημειώσουν ότι ένα S-1 εξυπηρετεί δύο ακροατήρια ταυτόχρονα: είναι μια νομική αποκάλυψη και ένα βήμα. Οι ισχυρισμοί ότι μια εταιρεία βρίσκεται στο κατώφλι μιας τεχνολογίας αρκετά ισχυρής ώστε να οικοδομηθεί μπορεί να θεωρηθεί είτε ως προειδοποίηση είτε ως επιχείρημα αποτίμησης — ή και τα δύο. Δεν υπάρχει εξωτερικός τρόπος για να ελεγχθεί εάν οι εσωτερικές εκτιμήσεις της Anthropic δικαιολογούν τη λέξη "επικείμενα" και η εταιρεία δεν έχει ορίσει κανένα τρέχον μοντέλο ως πέρα ​​από τη γραμμή, γεγονός που αφήνει τον ισχυρισμό να βασίζεται στις μετρήσεις του ίδιου του εργαστηρίου για τον ερευνητικό αγωγό της.

Ωστόσο, η υποκείμενη τάση που περιγράφει η κατάθεση είναι παρατηρήσιμη από έξω. Οι δυνατότητες του Claude στην κωδικοποίηση, τα μαθηματικά και την ασφάλεια στον κυβερνοχώρο έχουν προχωρήσει απότομα μέχρι το 2026 και η Anthropic δημοσιοποιείται σταδιακά σχετικά με τη χρήση των δικών της μοντέλων για έρευνα, εκτέλεση πειραμάτων ευθυγράμμισης και βοήθεια σε εργασίες ανάπτυξης. Αυτό που είναι νέο στην κατάθεση είναι ότι η εταιρεία επισημοποιεί, σε ένα νομικά δεσμευτικό έγγραφο γνωστοποίησης, ότι αυτός ο βρόχος ανατροφοδότησης μπορεί σύντομα να εγγραφεί στη δική του επίσημη κλίμακα για επικίνδυνη επιτάχυνση.

Γιατί έχει σημασία πέρα από το Anthropic

Η αποκάλυψη προσγειώνεται σε μια στιγμή που το ζήτημα της επιτάχυνσης της ανάπτυξης της τεχνητής νοημοσύνης έχει μεταφερθεί από τα πάνελ συνεδρίων σε ατζέντα πολιτικής. Εάν το κορυφαίο εργαστήριο που εστιάζει στην ασφάλεια πει σε μια κατάθεση της SEC ότι μπορεί να υπερβεί άμεσα το δικό του όριο για επιτάχυνση με γνώμονα την τεχνητή νοημοσύνη - ενώ ταυτόχρονα παραδέχεται ότι έχασε τέτοιες επιταχύνσεις μέχρι τότε - οι ρυθμιστικές αρχές, οι επενδυτές και τα ανταγωνιστικά εργαστήρια έχουν τώρα ένα έγγραφο για να επισημάνουν και στις δύο πλευρές της συζήτησης.

Για την Anthropic, η οποία ετοιμάζει μια από τις πιο δημοφιλείς IPO στον κλάδο, η κατάθεση εκτελεί μια λεπτή εξισορροπητική πράξη: αρκετή προειδοποίηση για να αποδείξει ότι η εταιρεία λαμβάνει σοβαρά τις δεσμεύσεις της για την ασφάλεια και αρκετή εμπιστοσύνη στους ελέγχους της για να συνεχίσει να πουλάει τα ανοδικά. Οι ενημερώσεις της Πολιτικής Υπεύθυνης Κλιμάκωσης της εταιρείας, εάν υλοποιηθούν, θα δείξουν σε ποια πλευρά αυτής της ισορροπίας προσγειώνονται οι πραγματικές πρακτικές του εργαστηρίου.

Παρακολουθήστε τη συνεχιζόμενη κάλυψη της έρευνας για την τεχνητή νοημοσύνη και τις αναφορές για την ασφάλεια της τεχνητής νοημοσύνης για εξελίξεις σχετικά με την αναδρομική αυτοβελτίωση και τη διακυβέρνηση συνόρων.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →