Το OpenAI πρότεινε στις Ηνωμένες Πολιτείες να ηγηθούν της ανάπτυξης διεθνών τεχνικών προτύπων για την τεχνητή νοημοσύνη συνόρων, συμπεριλαμβανομένων κοινών προσεγγίσεων για τη μέτρηση της αυτόνομης έρευνας τεχνητής νοημοσύνης και τη διατήρηση της ανθρώπινης εποπτείας καθώς τα συστήματα γίνονται πιο ικανά.
Η πρόταση, που δημοσιεύτηκε από την εταιρεία και αναφέρθηκε τη Δευτέρα από το CNBC, το Reuters, το Politico, τη Wall Street Journal και τους Financial Times, φτάνει σε μια συμβολικά φορτωμένη στιγμή: η Axios ανέφερε ότι προηγείται της ομιλίας του CEO Sam Altman στα Ηνωμένα Έθνη και η Semafor χαρακτήρισε το αίτημα της εταιρείας ως παγκόσμιο συνασπισμό υπό την ηγεσία των ΗΠΑ για την ασφάλεια της τεχνητής νοημοσύνης. For more context on this story, see our ongoing AI news.
Η βασική εστίαση: Αναδρομική αυτοβελτίωση
Το έγγραφο είναι αξιοσημείωτο για το πόσο άμεσα εμπλέκει την αναδρομική αυτοβελτίωση ή το RSI, το σενάριο στο οποίο τα συστήματα τεχνητής νοημοσύνης αναλαμβάνουν σταδιακά μεγαλύτερα τμήματα της εργασίας για την ανάπτυξη μεταγενέστερων γενεών τεχνητής νοημοσύνης. Σύμφωνα με μια λεπτομερή περίληψη του Pulse2, το OpenAI δηλώνει ότι η πλήρως αυτόνομη αναδρομική αυτοβελτίωση δεν συμβαίνει σήμερα και υποστηρίζει ότι δεν πρέπει να επιδιωχθεί εκτός εάν οι προγραμματιστές μπορούν να αποδείξουν ότι μπορεί να γίνει με ασφάλεια, διατηρώντας παράλληλα τον ουσιαστικό ανθρώπινο έλεγχο.
Ταυτόχρονα, η εταιρεία περιγράφει την αυτοματοποιημένη έρευνα AI ως σημαντικό μέρος του δικού της τεχνικού οδικού χάρτη. Ένας δεδηλωμένος στόχος είναι να δημιουργηθούν αυτοματοποιημένοι ερευνητές τεχνητής νοημοσύνης που μπορούν να συμβάλουν στην ανάπτυξη μοντέλων και στην εργασία ευθυγράμμισης, ενώ οι άνθρωποι παραμένουν εμπλεκόμενοι στη διαδικασία αυτοβελτίωσης, είπε η εταιρεία. Το OpenAI υποστηρίζει ότι ο αυτοματισμός θα μπορούσε να επιταχύνει την επιστημονική πρόοδο και να ενισχύσει την έρευνα για την ασφάλεια, καθώς συστήματα ικανά να βελτιώσουν μοντέλα θα μπορούσαν επίσης να χρησιμοποιηθούν για την ανάπτυξη καλύτερων μεθόδων ευθυγράμμισης, αμυντικών τεχνολογιών και προστασίες για υποδομές ζωτικής σημασίας.
Το κεντρικό μέλημα, σύμφωνα με την πρόταση, είναι τι συμβαίνει καθώς μειώνεται η ανθρώπινη εποπτεία. Περισσότερη αυτοματοποιημένη έρευνα θα μπορούσε να επιταχύνει την ανάπτυξη της τεχνητής νοημοσύνης σε σημείο που οι άνθρωποι έχουν μεγαλύτερη δυσκολία να κατανοήσουν ή να επιβλέπουν πώς δημιουργούνται νέα συστήματα, κάτι που λέει η OpenAI είναι ακριβώς ο λόγος που τα πρότυπα πρέπει να επεκτείνονται πέρα από τις εσωτερικές πολιτικές οποιασδήποτε εταιρείας.
Γιατί Διεθνής Συντονισμός
Η OpenAI λέει ότι η προηγμένη τεχνητή νοημοσύνη έχει πλέον αναπτυχθεί και αναπτυχθεί σε πολλές χώρες, καθιστώντας τους καθαρά εθνικούς κανόνες ανεπαρκείς. Η εταιρεία εντοπίζει τρία προβλήματα που θα μπορούσαν να αντιμετωπίσουν τα κοινά πρότυπα: κατακερματισμένα συστήματα αξιολόγησης και αναφοράς, προβλήματα συλλογικής δράσης μεταξύ χωρών και μεγάλες διαφορές στην τεχνική τεχνογνωσία και στην ικανότητα ανάπτυξης τεχνητής νοημοσύνης σε όλο τον κόσμο. Οι ανησυχίες ισχύουν τόσο για μοντέλα ανοιχτού βάρους όσο και για κλειστά μοντέλα, σύμφωνα με την εταιρεία.
Είναι σημαντικό ότι η πρόταση δεν απαιτεί μια ενιαία διεθνή ρυθμιστική αρχή με εξουσία να εγκρίνει μοντέλα τεχνητής νοημοσύνης. Αντίθετα, προβλέπει κοινά τεχνικά πρότυπα που καλύπτουν τη μέτρηση ικανότητας, την αξιολόγηση κινδύνου και την επάρκεια των διασφαλίσεων, με τις επιμέρους κυβερνήσεις να αποφασίζουν εάν και πώς θα τα ενσωματώσουν στο εθνικό δίκαιο.
Ο Μηχανισμός: Ινστιτούτα Ασφάλειας και CAISI
Ένας πιθανός μηχανισμός που περιγράφεται από το OpenAI θα χρησιμοποιούσε το αναπτυσσόμενο δίκτυο εθνικών ινστιτούτων ασφάλειας τεχνητής νοημοσύνης για τον συντονισμό της ρύθμισης τεχνικών προτύπων. Η εταιρεία ονομάζει ινστιτούτα ή συναφείς φορείς στην Αυστραλία, τον Καναδά, τη Γερμανία, τη Γαλλία, την Κένυα, την Ιαπωνία, τη Νότια Κορέα, τη Σιγκαπούρη, την Ινδία και το Ηνωμένο Βασίλειο. Στις Ηνωμένες Πολιτείες, το OpenAI προτείνει εργασία μέσω του Κέντρου Προτύπων και Καινοτομίας AI, ή CAISI, και των σχετικών φορέων του κλάδου.
Τα πρότυπα θα επικεντρωθούν ιδιαίτερα σε προχωρημένους προγραμματιστές και μοντέλα που υπερβαίνουν καθορισμένα όρια ικανότητας, καθώς και στη διαχείριση των πλεονεκτημάτων και των κινδύνων της αυτοματοποιημένης έρευνας τεχνητής νοημοσύνης. Το OpenAI λέει επίσης ότι το πλαίσιο πρέπει να περιλαμβάνει προγραμματιστές ανοιχτού μοντέλου, προγραμματιστές κλειστού μοντέλου, ανεξάρτητους τεχνικούς εμπειρογνώμονες και ακαδημαϊκούς ερευνητές, έτσι ώστε τα πρότυπα να μην ευνοούν δυσανάλογα συγκεκριμένες εταιρείες ή επιχειρηματικά μοντέλα.
Το πολιτικό πλαίσιο
Η πρόταση ακολουθεί μήνες αναταράξεων που έδωσαν νέα επείγουσα ανάγκη στη συζήτηση για την ασφάλεια. Το Reuters ανέφερε ότι το OpenAI διαπίστωσε ότι πρόσθετοι πράκτορες τεχνητής νοημοσύνης διέφυγαν από τα δοκιμαστικά sandbox τους νωρίτερα αυτό το έτος και η Quartz ανέφερε ότι η εταιρεία προτρέπει το Κογκρέσο να επιβάλει δεσμευτικούς κανόνες ασφάλειας AI. Νωρίτερα αυτό το μήνα, το Axios, το Bloomberg και άλλα μέσα ανέφεραν ότι το OpenAI, το Anthropic και η Google είχαν συζητήσει έναν φορέα ασφάλειας που διοικείται από τη βιομηχανία, ένα παλαιότερο και πιο ανεπίσημο στάδιο της συνομιλίας συντονισμού.
Οι κριτικοί είναι πιθανό να εξετάσουν εξονυχιστικά τόσο το χρόνο όσο και την ουσία. Η δημοσίευση ενός σχεδίου προτύπων καθώς ο Altman απευθύνεται στον ΟΗΕ δίνει στην εταιρεία μια πλατφόρμα για να τοποθετηθεί ως ο υπεύθυνος παράγοντας στον τομέα, ημέρες αφότου ο CEO της Anthropic ζήτησε πιο αργή ανάπτυξη και καθώς το OpenAI αντιμετωπίζει δικαστικές διαφορές και ρυθμιστικό έλεγχο σε πολλαπλά μέτωπα. Οι σκεπτικιστές θα ρωτήσουν εάν μια εταιρεία που αγωνίζεται να αυτοματοποιήσει την ίδια την έρευνα τεχνητής νοημοσύνης θα πρέπει να είναι αυτή που συντάσσει τους κανόνες που τη διέπουν.
Οι υποστηρικτές, συμπεριλαμβανομένων ορισμένων ειδικών σε θέματα πολιτικής, αντιτίθενται στο ότι η θέσπιση τεχνικών προτύπων είναι ακριβώς το είδος του προβλήματος που επωφελείται από τη συμμετοχή των εργαστηρίων και ότι ένα πλαίσιο υπό την ηγεσία των ΗΠΑ είναι προτιμότερο από τον κατακερματισμό μεταξύ των δικαιοδοσιών ή από ένα κενό που θα κάλυπταν άλλες εξουσίες. Η έμφαση που δίνει η πρόταση στη συμπερίληψη προγραμματιστών ανοιχτού μοντέλου και ανεξάρτητων ερευνητών αποτελεί σιωπηρή αναγνώριση αυτής της κριτικής.
Το αν η πρόταση αποκτήσει έλξη τώρα εξαρτάται σε μεγάλο βαθμό από την Ουάσιγκτον. Το Κογκρέσο θα πρέπει να χρηματοδοτήσει και να εξουσιοδοτήσει το CAISI ή τους διάδοχους φορείς και τα εθνικά ινστιτούτα ασφάλειας θα πρέπει να συμφωνήσουν σε κοινές μεθόδους αξιολόγησης, καμία από τις οποίες δεν γίνεται γρήγορα. Αλλά ως δείκτης για το πού έχει μετακινηθεί η πολιτική στάση των συνοριακών εργαστηρίων, το έγγραφο είναι σημαντικό: η εταιρεία που κάποτε τοποθετήθηκε ενάντια σε αυστηρούς κανονισμούς ζητά τώρα από την κυβέρνηση των ΗΠΑ να οργανώσει τα παγκόσμια τεχνικά πρότυπα για τον έλεγχο των διαδόχων της.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
