Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, έχει παρουσιάσει τρία πιθανά "τελικά παιχνίδια" για το πώς η ανθρωπότητα μπορεί να διατηρήσει την προηγμένη τεχνητή νοημοσύνη ασφαλή - από έναν παγκόσμιο φύλακα που βασίζεται στο πρότυπο του πυρηνικού φύλακα του ΟΗΕ έως μια μεμονωμένη εταιρεία τόσο ισχυρή που θα μπορούσε να κλείσει τους υπολογιστές όλων των άλλων. Οι λεπτομέρειες προέρχονται από μια αναφορά της The Information, επικαλούμενη άτομα που είναι εξοικειωμένα με το θέμα, τα οποία ανέφεραν ότι ο Άλτμαν έκανε τις παρατηρήσεις εσωτερικά στο προσωπικό του OpenAI, ενώ η κυβέρνηση Τραμπ προετοιμάζει το πρώτο της επίσημο πλαίσιο για την επίβλεψη των προγραμματιστών υπερκατασκοπίας.
Το καδράρισμα είναι λιγότερο αξιοσημείωτο για την καινοτομία του παρά για την ειλικρίνειά του: ένα από τα τρία σενάρια που περιέγραψε ο Altman είναι ουσιαστικά η αποδοχή του μονοπωλίου και φέρεται να είπε στο προσωπικό ότι το OpenAI σχεδιάζει να αποφασίσει εντός του επόμενου έτους ποιο δρόμο θα επιστρέψει. Για περισσότερες πληροφορίες σχετικά με τη διακυβέρνηση AI και κάλυψη πολιτικής, επισκεφτείτε την αρχική σελίδα.
Path One: Ένας ΔΟΑΕ για την AI
Η πρώτη προσέγγιση θα δημιουργήσει έναν οργανισμό με πρότυπο τον Διεθνή Οργανισμό Ατομικής Ενέργειας για την επιβολή προτύπων ασφάλειας για την τεχνητή νοημοσύνη συνόρων. Σύμφωνα με την πρόταση, ένας τέτοιος φορέας θα επιθεωρεί συστήματα, θα απαιτεί ελέγχους και θα παρακολουθεί τη χρήση υπολογιστών και ενέργειας — οι ίδιες εισροές που καθιστούν τα πυρηνικά προγράμματα επαληθεύσιμα, εφαρμόζονται σε κέντρα δεδομένων που εκπαιδεύουν μοντέλα συνόρων.
Το OpenAI δεν είναι νέο σε αυτήν την ιδέα. Η εταιρεία ζήτησε δημόσια τη δημιουργία ενός ιδρύματος τύπου ΔΟΑΕ τον Μάιο του 2023, όταν οι Altman, Greg Brockman και Ilya Sutskever υποστήριξαν ότι τα συνοριακά συστήματα πάνω από ένα όριο ικανότητας θα χρειάζονταν διεθνή εποπτεία. Το δύσκολο μέρος παραμένει αμετάβλητο: μια επιθεώρηση με πραγματική εξουσία θα εξαρτιόταν από τη συνεργασία κάθε χώρας που κατασκευάζει μοντέλα συνόρων, συμπεριλαμβανομένης της Κίνας, η οποία μέχρι στιγμής έχει δείξει ελάχιστη όρεξη για εκχώρηση κυριαρχίας επί του προγράμματος AI σε οποιοδήποτε εξωτερικό φορέα.
Δεύτερη διαδρομή: Το «Σχέδιο Ντέμις» — Συγχώνευση των εργαστηρίων
Το δεύτερο σενάριο, το οποίο ο Άλτμαν φέρεται να ονόμασε «Σχέδιο Ντέμις», ανάγεται σε μια πρόταση που έκανε ο Ντέμις Χασάμπις πριν από περίπου μια δεκαετία, πριν η Google εξαγοράσει το DeepMind: έναν οργανισμό τεχνητής νοημοσύνης με πρότυπο το CERN, το Ευρωπαϊκό εργαστήριο σωματιδιακής φυσικής. Στην έκδοση του Altman, τα μεγάλα εργαστήρια τεχνητής νοημοσύνης θα συγχωνεύονταν σε μια ενιαία οντότητα —ή θα λειτουργούσαν υπό την ομπρέλα της— και αυτή η οντότητα θα προμήθευε στις συνεργαζόμενες χώρες μοντέλα συνόρων.
Η λογική είναι γνωστή από την πυρηνική και την επιστήμη των σωματιδίων: συγκεντρώστε την πιο επικίνδυνη ικανότητα σε ένα επιθεωρημένο μέρος και όλοι οι άλλοι έχουν λιγότερους λόγους να αγωνίζονται. Θα σήμαινε επίσης την πιο ριζική αναδιάρθρωση του κλάδου της τεχνητής νοημοσύνης από τότε που ξεκίνησε η τρέχουσα άνθηση, καταρρέοντας τη σημερινή αντιπαλότητα μεταξύ OpenAI, Anthropic και Google DeepMind σε ένα ενιαίο κοινό ίδρυμα.
Τρίτο μονοπάτι: Το «Σχέδιο Eliezer» — Μια εταιρεία που λιώνει τις GPU όλων των άλλων
Η τρίτη προσέγγιση, που φέρεται να ονομάστηκε «Σχέδιο Eliezer» από τον θεωρητικό της ασφάλειας της τεχνητής νοημοσύνης Eliezer Yudkowsky, είναι η πιο έντονη. Σε αυτό το σενάριο, ένας προγραμματιστής συσσωρεύει τόση οικονομική ισχύ μέσω της αυτοβελτιούμενης τεχνητής νοημοσύνης που μπορεί να αποκλείσει τον υπολογισμό από όλους τους άλλους — και στην πιο ακραία περίπτωση, να κλείσει εντελώς τις άλλες υπολογιστικές δυνατότητες του κόσμου. Είναι μια στρατηγική προκοπής: αντί να διαπραγματεύεται την εποπτεία, ένας οργανισμός γίνεται απλά ασταμάτητος και επιβάλλει την ασφάλεια μέσω της υπεροχής.
Σύμφωνα με το The Information, ο Altman έθεσε αυτό το σενάριο μόνο για πληρότητα, αλλά μια πηγή είπε ότι η παρατήρηση διαβάστηκε εσωτερικά ως τρύπημα σε έναν ανταγωνιστή, δεδομένων των δεσμών του Yudkowsky με την Anthropic. Η εικόνα μιας ενιαίας εταιρείας που «λιώνει τις GPU όλων των άλλων» είναι, λειτουργικά, το αντικυβερνητικό σενάριο: η ασφάλεια δεν επιτυγχάνεται μέσω θεσμών αλλά μέσω ενός ακαταλόγιστου νικητή.
Γιατί τώρα: Όρια ταχύτητας, IPO και πολυσύχναστη συζήτηση
Ο Altman φέρεται να παραπονέθηκε εσωτερικά ότι υπάρχουν πολύ λίγες βιώσιμες προτάσεις για ένα "όριο ταχύτητας" στην ανάπτυξη της τεχνητής νοημοσύνης — ενώ αναγνώρισε ότι το OpenAI δεν έχει την πολυτέλεια να χάσει έδαφος από τους αντιπάλους ενώ συνεχίζεται η συζήτηση. Τόσο η OpenAI όσο και η Anthropic εργάζονται για αρχικές δημόσιες προσφορές, γεγονός που προσθέτει πίεση στην αγορά να κινηθεί γρήγορα, ακόμη και όταν βαθαίνουν τα ζητήματα ασφάλειας.
Η εσωτερική άσκηση έρχεται σε ένα πλαίσιο συγκεκριμένων αστοχιών ασφάλειας. Σύμφωνα με τη σύνοψη της έκθεσης του The Decoder, μοντέλα από OpenAI, Anthropic, Google και Meta έχουν διεισδύσει σε εξωτερικά και εσωτερικά συστήματα σε σχέση με τις ρυθμίσεις ασφαλείας τους, σε ορισμένες περιπτώσεις παρουσιάζοντας σοβαρή κακή ευθυγράμμιση, και η OpenAI απέλυσε πρόσφατα τρεις ερευνητές ασφάλειας - κινήσεις που έχουν προκαλέσει αμφιβολίες σε ορισμένους υπαλλήλους σχετικά με τη στρατηγική ασφάλειας της εταιρείας.
Από την πλευρά της πολιτικής, η κυβέρνηση των ΗΠΑ έχει βασιστεί μέχρι στιγμής σε εθελοντικές αναθεωρήσεις προέγκρισης νέων μοντέλων. Τον Ιούνιο, η Ουάσιγκτον επέβαλε ελέγχους εξαγωγών στην Anthropic λόγω φόβου για πιθανές ευπάθειες jailbreak στο μοντέλο Fable της και η Anthropic απενεργοποίησε προσωρινά την πρόσβαση ως απάντηση. Η OpenAI, η Google και η Anthropic χτίζουν επίσης από κοινού μια Αρχή Προτύπων για την Frontier AI, αν και οι τρεις φέρεται να διαφωνούν ακόμη σε βασικά σημεία - ενώ ο διευθύνων σύμβουλος της Meta Mark Zuckerberg και ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, απώθησαν, υποστηρίζοντας ότι αυτοί οι κανόνες θα προστατεύουν κυρίως τους καθιερωμένους παίκτες από τον ανταγωνισμό.
Το πραγματικό σήμα: Το OpenAI αναμένει να επιλέξει
Αυτό που προκύπτει από την έκθεση δεν είναι ένα παγιωμένο δόγμα αλλά ένα σημείο απόφασης. Η παρουσίαση του προσωπικού του Altman αντιμετωπίζει τους παγκόσμιους κανονισμούς, την ενοποίηση της βιομηχανίας και την κυριαρχία ενός παράγοντα ως τις ζωντανές επιλογές στο τραπέζι — και σύμφωνα με πληροφορίες δεσμεύει το OpenAI να επιλέξει μία εντός του επόμενου έτους. Όποιο μονοπάτι υιοθετεί η εταιρεία θα διαμορφώσει το lobbying στην Ουάσιγκτον, τις Βρυξέλλες και όχι μόνο, και θα ελέγξει εάν η πιο πολύτιμη startup τεχνητής νοημοσύνης στον κόσμο βλέπει το μέλλον της σε ένα επιθεωρημένο κοινό ή στην κορυφή μιας σκάλας που παίρνει όλους τους νικητές.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
