Ένα κύμα δημόσιων προειδοποιήσεων από το εσωτερικό του Anthropic εντάθηκε αυτή την εβδομάδα καθώς πολλοί ερευνητές στην εταιρεία τεχνητής νοημοσύνης απηχούσαν την αποκαλυπτική εκτίμηση ενός πρώην συναδέλφου για την τεχνητή νοημοσύνη - προκαλώντας μια περιφρονητική απάντηση από τον Elon Musk, ο οποίος πρότεινε ότι η κατακραυγή ήταν μια συντονισμένη «ψυχοψία».

Σύμφωνα με τον The Guardian, η κλιμάκωση ήρθε μια μέρα αφότου ο ερευνητής Anthropic Jacob Coxon ανακοίνωσε την παραίτησή του σε μια viral ανάρτηση, γράφοντας ότι ούτε η Anthropic ούτε η OpenAI —ο πρώην εργοδότης του— κατασκεύαζαν υπεύθυνα μοντέλα τεχνητής νοημοσύνης και «παίζουν με τις ζωές μας». Αντί να ξεθωριάσει, η διαμάχη μεγάλωσε καθώς το σημερινό προσωπικό της Anthropic δημοσίευσε τις δικές του τρομερές εκτιμήσεις προς υποστήριξη. For more context on this story, see our ongoing artificial intelligence updates.

Οι προειδοποιήσεις συσσωρεύονται

Η Anna Wang, η οποία εργάζεται για την ασφάλεια της τεχνητής γενικής νοημοσύνης στο Anthropic και προηγουμένως εργαζόταν στο DeepMind της Google, είπε την Πέμπτη ότι πολλοί άνθρωποι στην εταιρεία θέλουν να επιβραδύνουν την ανάπτυξη για να σχεδιάσουν τους κινδύνους που θέτουν τα ολοένα πιο ικανά μοντέλα.

"Δεν υπάρχει ακόμη ένα βιώσιμο επιστημονικό σχέδιο για την επίλυση των κινδύνων από την επαναληπτικά αυτοβελτιούμενη τεχνητή νοημοσύνη", έγραψε ο Wang στο X.

Ένας άλλος υπάλληλος της Anthropic, ο Drake Thomas, δήλωσε ότι σεβόταν την απόφαση της Coxon να απομακρυνθεί από την κατασκευή της τεχνολογίας. «Τα πράγματα κινούνται πολύ γρήγορα, δεν έχουμε πουθενά τον βαθμό βεβαιότητας που θα θέλαμε για την ASI [τεχνητή υπερνοημοσύνη]», έγραψε ο Thomas.

Ο Samuel Marks, ο οποίος εργάζεται στην έρευνα για την ασφάλεια στην εταιρεία, υποστήριξε ότι οι ανησυχίες είναι ευρέως κοινές στον κλάδο - και ότι η αρχαιότητα σχετίζεται με τον συναγερμό. «Οι προγραμματιστές τεχνητής νοημοσύνης πιστεύουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει την ανθρώπινη εξαφάνιση (ή παρόμοια άσχημα αποτελέσματα)», έγραψε ο Marks. "Αυτό θα μπορούσε να συμβεί τα επόμενα χρόνια. Σε γενικές γραμμές, όσο πιο ανώτερος είναι ο υπάλληλος, τόσο περισσότερο ανησυχεί."

Ο Evan Hubinger, ο οποίος περιγράφει τον εαυτό του ως επικεφαλής στο τμήμα ευθυγράμμισης του Anthropic, πήγε πιο μακριά. «Πραγματικά πιστεύουμε ειλικρινά η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους!» Ο Hubinger έγραψε, προσθέτοντας ότι ο ίδιος προσωπικά βάζει την πιθανότητα πάνω από 10 τοις εκατό μέσα στην επόμενη δεκαετία.

Οι σημειώσεις του Insider ακολουθούν το ρεπορτάζ του CBS News ότι ένας ερευνητής Anthropic εκχωρεί περισσότερες από 10 τοις εκατό πιθανότητες στην τεχνητή νοημοσύνη που προκαλεί την εξαφάνιση των ανθρώπων και την κάλυψη από τους The Japan Times ότι οι προειδοποιήσεις ανανέωσαν τις εκκλήσεις για νέους κανόνες τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες.

Μασκ: «Φαίνεται σαν εγκατάσταση»

Ο Έλον Μασκ είχε μια έντονα αντίθετη άποψη. «Φαίνεται σαν στήσιμο», έγραψε ο πλουσιότερος άνθρωπος του κόσμου στο X, τη δική του κοινωνική πλατφόρμα.

Ο Coxon απάντησε με μια selfie: "Είμαι αληθινός και αυτές είναι οι πραγματικές μου πεποιθήσεις. Θα μπορούσατε να ρωτήσετε τους ερευνητές του xAI για εμένα αν δεν τους είχατε απολύσει."

Ο Μασκ και άλλες συμπαθητικές φωνές ενίσχυσαν μια θεωρία που διατύπωσε ο Parker Thayer, ερευνητής στο συντηρητικό think tank Capital Research, ο οποίος πρότεινε -με ελάχιστα στοιχεία, σημειώνει ο Guardian- ότι η ανάρτηση του Coxon ήταν η εναρκτήρια κίνηση μιας «ΠΟΛΥ εξελιγμένης και καλά χρηματοδοτούμενης επιχείρησης δημοσίων σχέσεων για να λάβουν υποστήριξη από τους Δημοκρατικούς για να ρυθμίσουν την τεχνητή νοημοσύνη».

Ο δισεκατομμυριούχος διευθυντής hedge fund Bill Ackman παρέθεσε την ανάρτηση του Thayer με μια μονολεκτική απάντηση: «Ενδιαφέρον».

Ο Μασκ επεξεργάστηκε αργότερα. «Πιστεύω ότι το υπόβαθρο για αυτήν την ψυχολογική εργασία (ελλείψει καλύτερου όρου) έχει προετοιμαστεί εδώ και πολύ καιρό», δημοσίευσε. «Αυτό ήταν μόνο το σπίρτο που άναψε τη φωτιά».

Η Anthropic υπερασπίζεται την προσέγγισή της

Παγιδευμένη ανάμεσα στις προειδοποιήσεις των εργαζομένων της και στις επιθέσεις από το εξωτερικό, η Anthropic έδωσε μια μετρημένη δημόσια απάντηση.

«Ήμασταν πάντα διαφανείς ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτόγνωρους κινδύνους», δήλωσε εκπρόσωπος της εταιρείας στον Guardian. «Για να αντιμετωπίσουμε αυτούς τους κινδύνους, συνεχίζουμε να κατασκευάζουμε μοντέλα με μερικές από τις ισχυρότερες διασφαλίσεις στον κλάδο».

Η εταιρεία επεσήμανε το ιστορικό της όσον αφορά την τεκμηρίωση και τη διακοπή της κακής χρήσης. Την ίδια ημέρα που οι προειδοποιήσεις έγιναν viral, η Anthropic κυκλοφόρησε την έκθεση πληροφοριών απειλών του Σεπτεμβρίου, η οποία περιγράφει πώς η εταιρεία εξάρθρωσε μια επιχείρηση που προσπαθούσε να κατασκευάσει ένα βιολογικό όπλο χρησιμοποιώντας τα μοντέλα της AI – παράλληλα με διαταραγμένες εκστρατείες που καλύπτουν κυβερνοεπιθέσεις και επιχειρήσεις επιρροής. Το Al Jazeera και το BBC ήταν μεταξύ των ειδήσεων που τόνισαν τα ευρήματα των βιοόπλων την Παρασκευή.

Οι σκεπτικιστές βλέπουν έναν διαφορετικό κίνδυνο

Δεν αποδέχονται όλοι το καδράρισμα της εξάλειψης. Ο Γκάρι Μάρκους, ο επιστήμονας και μακροχρόνιος κριτικός της τεχνητής νοημοσύνης, υποστήριξε ότι η τεχνολογία προκαλεί ήδη βλάβη που δικαιολογεί δράση ανεξάρτητα από τα σενάρια υπερκατασκοπίας — ζητώντας μποϊκοτάζ της τεχνητής νοημοσύνης σε σχέση με τη σημερινή ζημιά.

Περισσότερο από εξαφάνιση, ο Μάρκους είπε στον Guardian ότι ανησυχεί για τον "κίνδυνο καταστροφής" από "παθογόνα που δημιουργούνται από την τεχνητή νοημοσύνη, από πολέμους που ξεκίνησαν ή κλιμακώθηκαν από παραπληροφόρηση που δημιουργείται από την τεχνητή νοημοσύνη, από hacks που καταστρέφουν κρίσιμες υποδομές κ.λπ.

Η θέση του υπογραμμίζει μια διάσπαση εντός της ίδιας της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης: μεταξύ εκείνων που επικεντρώνονται σε μακροπρόθεσμους κινδύνους πολιτισμικής κλίμακας από μελλοντικά συστήματα και εκείνων που επικεντρώνονται σε συγκεκριμένες βλάβες από τα σημερινά μοντέλα.

Μια συζήτηση που αρνείται να παραμείνει εσωτερική

Αυτό που ξεκίνησε ως επιστολή παραίτησης ενός ερευνητή έχει γίνει ένα πολύ δημόσιο δημοψήφισμα για το πώς η βιομηχανία της τεχνητής νοημοσύνης χτίζει τα πιο ισχυρά συστήματά της. Μέσα στο Anthropic, οι εργαζόμενοι συζητούν ανοιχτά εάν τα δικά τους χρονοδιαγράμματα για ασφαλή ανάπτυξη έχουν γλιστρήσει. Έξω από αυτό, οι προειδοποιήσεις αναδιπλώνονται σε έναν ολοένα και πιο πολωμένο πολιτικό αγώνα για το αν και πώς θα πρέπει να παρέμβουν οι κυβερνήσεις.

Το ρεπορτάζ του Guardian δείχνει ότι πολλά μέλη του προσωπικού της Anthropic συμμερίζονται αυτές τις ανησυχίες ιδιωτικά, αλλά δεν έχουν μιλήσει δημόσια. Εάν περισσότεροι από αυτούς ακολουθήσουν τους Coxon, Wang, Thomas, Marks και Hubinger, η πίεση στα κορυφαία εργαστήρια τεχνητής νοημοσύνης να επιβραδύνουν - και στις ρυθμιστικές αρχές να δράσουν - θα αυξηθεί.

_Αυτό το άρθρο βασίζεται σε αναφορές του The Guardian, με πρόσθετο πλαίσιο από το CBS News, τους The Japan Times, το Al Jazeera και το BBC._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →