Ο Διευθύνων Σύμβουλος της Google DeepMind, Demis Hassabis, πρότεινε τη δημιουργία ενός ανεξάρτητου φορέα προτύπων υπό την ηγεσία των ΗΠΑ, με πρότυπο τη Ρυθμιστική Αρχή Χρηματοοικονομικής Βιομηχανίας (FINRA) για την αξιολόγηση και τη ρύθμιση μοντέλων τεχνητής νοημοσύνης συνόρων πριν από τη δημόσια κυκλοφορία, προειδοποιώντας ότι η ανθρωπότητα έχει ένα «πολύτιμο παράθυρο» για να διασφαλίσει ότι η τεχνητή γενική νοημοσύνη αναπτύσσεται με ασφάλεια.
Σε ένα έγγραφο-πλαίσιο με τίτλο "A Framework for Frontier AI and the Dawning of a New Age", που δημοσιεύτηκε στο X το πρωί της Τρίτης, ο Hassabis παρουσίασε μια λεπτομερή πρόταση για το πώς οι Ηνωμένες Πολιτείες θα μπορούσαν να δημιουργήσουν μια αξιόπιστη ρυθμιστική υποδομή για τα πιο ισχυρά συστήματα AI. Το σχέδιο απαιτεί έναν νέο οργανισμό που θα δοκιμάζει μοντέλα αιχμής και θα αναπτύσσει βέλτιστες πρακτικές για την ανάπτυξή τους — χρηματοδοτούμενος από τη βιομηχανία τεχνητής νοημοσύνης, αλλά θα λειτουργεί ανεξάρτητα από οποιαδήποτε εταιρεία.
Για τις πιο πρόσφατες [ενημερωτικές ειδήσεις AI] (https://aibuzzwire.news) και τη σε βάθος ανάλυση πολιτικής, το AI Buzz Wire παρακολουθεί τις εξελίξεις που διαμορφώνουν τη βιομηχανία.
Πώς θα λειτουργούσε το προτεινόμενο σώμα προτύπων
Σύμφωνα με την πρόταση του Hassabis, τα εργαστήρια τεχνητής νοημοσύνης θα μοιράζονται εθελοντικά τα συνοριακά μοντέλα τους με τον οργανισμό προτύπων για επανεξέταση έως και 30 ημέρες πριν από τη δημόσια κυκλοφορία. Αυτή η αξιολόγηση πριν από την ανάπτυξη θα αξιολογούσε μοντέλα για την ασφάλεια, την ασφάλεια και τους πιθανούς κινδύνους κακής χρήσης. Μόλις το πρωτόκολλο αξιολόγησης αποδειχθεί αποτελεσματικό και ισχυρό, το πλαίσιο προβλέπει την επισημοποίηση της διαδικασίας, έτσι ώστε τα μοντέλα συνόρων να απαιτείται να το περάσουν πριν αναπτυχθούν στην αγορά των ΗΠΑ.
Η πρόταση αντιμετωπίζει άμεσα ένα κενό που αποκαλύπτεται από τις πρόσφατες κυβερνητικές αναθεωρήσεις των συνοριακών συστημάτων τεχνητής νοημοσύνης. Νωρίτερα αυτό το έτος, η κυβέρνηση των ΗΠΑ διεξήγαγε ad hoc επιθεωρήσεις ασφαλείας του μοντέλου Mythos της Anthropic και του μοντέλου Sol του OpenAI πριν από τις αντίστοιχες εκδόσεις τους. Αυτές οι αναθεωρήσεις προκάλεσαν σημαντική κριτική για έλλειψη τεχνικού βάθους και για αδιαφανή λήψη αποφάσεων σχετικά με το πότε ένα μοντέλο κρίθηκε αρκετά ασφαλές για δημόσια ανάπτυξη.
Σύμφωνα με το πλαίσιο του Χασάμπις, αυτές οι αποφάσεις θα αναλαμβάνονταν από έναν αφοσιωμένο οργανισμό στελεχωμένο με τεχνικούς εμπειρογνώμονες, με την υποστήριξη της κυβέρνησης των ΗΠΑ, αλλά απομονωμένος από την πολιτική πίεση. Τα εργαστήρια θα πρέπει επίσης να συνεργαστούν με τον οργανισμό προτύπων για την αντιμετώπιση κρίσιμων τρωτών σημείων που ανακαλύφθηκαν μετά την κυκλοφορία.
Ένα «πολύτιμο παράθυρο» πριν από το AGI
Σε συνεντεύξεις με το Axios, το CNBC και το The Economist που συνοδεύουν την κυκλοφορία του πλαισίου, ο Hassabis τόνισε ότι η τρέχουσα στιγμή αντιπροσωπεύει μια στενή ευκαιρία για τη δημιουργία μηχανισμών διακυβέρνησης πριν φτάσει η τεχνητή γενική νοημοσύνη. Περιέγραψε αυτή την περίοδο ως «πολύτιμο παράθυρο» — υπονοώντας ότι το παράθυρο δεν θα παραμείνει ανοιχτό επ' αόριστον.
Ο Hassabis υπήρξε εδώ και καιρό υπέρμαχος της προληπτικής διακυβέρνησης της τεχνητής νοημοσύνης. Το πλαίσιό του φτάνει εν μέσω εντεινόμενης συζήτησης σχετικά με το εάν οι Ηνωμένες Πολιτείες θα πρέπει να δημιουργήσουν έναν επίσημο ρυθμιστή τεχνητής νοημοσύνης και εάν ναι, ποια μορφή θα πρέπει να λάβει. Το μοντέλο FINRA είναι αξιοσημείωτο επειδή ο οργανισμός αυτορρύθμισης του χρηματοπιστωτικού κλάδου χρηματοδοτείται από εταιρείες μέλη, αλλά λειτουργεί υπό την επίβλεψη της κυβέρνησης, παρέχοντάς του τόσο τεχνογνωσία στον κλάδο όσο και δημόσια ευθύνη.
Αντίσταση από την κυβέρνηση Τραμπ
Η πρόταση αντιμετωπίζει σημαντικά πολιτικά αντίθετα. Η κυβέρνηση Τραμπ έχει σηματοδοτήσει βαθύ σκεπτικισμό ως προς τη δημιουργία νέων ρυθμιστικών φορέων για την τεχνητή νοημοσύνη. Ο σύμβουλος τεχνητής νοημοσύνης του Λευκού Οίκου και γενικός εταίρος της a16z Sriram Krishnan - ο οποίος έκτοτε έχει εγκαταλείψει τον ρόλο του - απέρριψε δημόσια την ιδέα ενός ρυθμιστή τεχνητής νοημοσύνης εντός της εκτελεστικής εξουσίας, δηλώνοντας ωμά ότι "δεν θα υπάρξει FDA για την τεχνητή νοημοσύνη".
Αυτή η στάση έχει φέρει τους διοικητικούς υπαλλήλους σε αντίθεση με ορισμένους από τους πιο εξέχοντες ηγέτες του κλάδου. Ενώ εταιρείες όπως η Anthropic και η OpenAI έχουν υποστηρίξει ευρέως τις δοκιμές ασφάλειας πριν από την ανάπτυξη, ο μηχανισμός και η εξουσία για τέτοιες δοκιμές παραμένουν αμφισβητούμενες. Η πρόταση του Hassabis επιχειρεί να περάσει αυτή τη βελόνα τοποθετώντας τον οργανισμό προτύπων ως χρηματοδοτούμενο από τη βιομηχανία και εθελοντικό αρχικά, με την επισημοποίηση να έρχεται μόνο αφού η διαδικασία αποδείξει την αξία της.
Με βάση τις υπάρχουσες προσπάθειες
Το πλαίσιο δεν ξεκινά από την αρχή. Βασίζεται στις εθελοντικές δεσμεύσεις που έχουν ήδη αναλάβει αρκετές μεθοριακές εταιρείες τεχνητής νοημοσύνης σχετικά με τις δοκιμές ασφαλείας και το red-teaming. Βασίζεται επίσης σε διεθνείς προσπάθειες, συμπεριλαμβανομένου του Ινστιτούτου Ασφάλειας AI του Ηνωμένου Βασιλείου και της Διαδικασίας AI της Χιροσίμα της G7, οι οποίες έχουν θεσπίσει προκαταρκτικά πλαίσια για την αξιολόγηση προηγμένων μοντέλων.
Ωστόσο, η πρόταση του Hassabis προχωρά περαιτέρω καλώντας για έναν μόνιμο οργανισμό με καλά πόρους με εντολή να δοκιμάζει κάθε μοντέλο συνόρων πριν από την κυκλοφορία — ένα επίπεδο ελέγχου που κανένας τρέχων φορέας δεν παρέχει. Η αναλογία FINRA προτείνει μια κλιμακωτή, επαγγελματική λειτουργία με εκατοντάδες τεχνικούς εμπειρογνώμονες, όχι μια μικρή συμβουλευτική ομάδα.
Η πρόταση αφορά επίσης την παρακολούθηση μετά την ανάπτυξη, απαιτώντας από τα εργαστήρια να συνεργάζονται με τον οργανισμό προτύπων για τα τρωτά σημεία που ανακαλύπτονται μετά τη δημοσιοποίηση ενός μοντέλου. Αυτό αντικατοπτρίζει την αυξανόμενη αναγνώριση ότι οι κίνδυνοι για την ασφάλεια δεν τελειώνουν με την κυκλοφορία, όπως αποδεικνύεται από τα jailbreak και τις περιπτώσεις κακής χρήσης που προέκυψαν μετά από πολλές εκδόσεις μοντέλων υψηλού προφίλ.
Απόκριση κλάδου και επόμενα βήματα
Το πλαίσιο έχει προσελκύσει σημαντική προσοχή σε όλη την κοινότητα πολιτικής τεχνητής νοημοσύνης. Οι υποστηρικτές υποστηρίζουν ότι ένα αξιόπιστο καθεστώς δοκιμών πριν από την ανάπτυξη θα μπορούσε να οικοδομήσει την εμπιστοσύνη του κοινού στα μοντέλα συνόρων και να μειώσει τον κίνδυνο καταστροφικής κακής χρήσης. Οι επικριτές, συμπεριλαμβανομένων ορισμένων υποστηρικτών της ελεύθερης αγοράς, προειδοποιούν ότι μια υποχρεωτική απαίτηση δοκιμών θα μπορούσε να παγιώσει μεγάλους κατεστημένους φορείς δημιουργώντας ρυθμιστικά εμπόδια για μικρότερες εταιρείες και προγραμματιστές ανοιχτού κώδικα.
Η πρόταση του Hassabis δεν διευκρινίζει ποια μοντέλα θα πληρούν τις προϋποθέσεις ως "σύνορα" - ένα ερώτημα κατωφλίου που θα καθορίσει το πεδίο εφαρμογής οποιουδήποτε μελλοντικού ρυθμιστικού καθεστώτος. Αφήνει επίσης ανοιχτό τον τρόπο με τον οποίο ο οργανισμός προτύπων θα χειριζόταν τις διαβαθμισμένες εφαρμογές ή τις εφαρμογές διπλής χρήσης, ιδίως δεδομένων των πρόσφατων ανησυχιών σχετικά με τα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται για τη διάρρηξη διαβαθμισμένων συστημάτων των ΗΠΑ.
Η χρονική στιγμή της πρότασης είναι σκόπιμη. Με το AGI να εμφανίζεται όλο και πιο εύλογο μέσα στα επόμενα αρκετά χρόνια, ο Hassabis πιέζει την υπόθεση ότι η υποδομή διακυβέρνησης πρέπει να κατασκευαστεί τώρα, όχι μετά την εμφάνιση μιας επικίνδυνης ικανότητας. Το αν η Ουάσιγκτον θα ανταποκριθεί στην έκκλησή του μένει να φανεί.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Για ολοκληρωμένη κάλυψη της πολιτικής, των κανονισμών και των εξελίξεων στον κλάδο της τεχνητής νοημοσύνης, επισκεφτείτε το AI Buzz Wire.
Διαβάστε περισσότερα νέα AI →
