Ο βουλευτής Ro Khanna, Δημοκρατικός της Silicon Valley, θα εισαγάγει νομοθεσία που θα απαγόρευε τα μοντέλα τεχνητής νοημοσύνης που μπορούν να βελτιώνονται επαναληπτικά έως ότου η ομοσπονδιακή κυβέρνηση δημιουργήσει ένα ρυθμιστικό σύστημα ικανό να τα επιβλέπει — η πιο σαρωτική πρόταση ασφάλειας τεχνητής νοημοσύνης που έχει καταλήξει ακόμη στο Κογκρέσο.
Το νομοσχέδιο, που ονομάστηκε νόμος Human Control Over AI, κοινοποιήθηκε αποκλειστικά στο CNBC σε συνοπτική μορφή πριν από την εισαγωγή του. Φτάνει εν μέσω κλιμακούμενων ανησυχιών για την ασφάλεια που έχουν ήδη ωθήσει τους Διευθύνοντες Συμβούλους των OpenAI και Anthropic να ζητήσουν επιβράδυνση της ανάπτυξης μοντέλων συνόρων. For more context on this story, see our ongoing artificial intelligence updates.
«Υπάρχει στην πραγματικότητα κίνδυνος εξαφάνισης πολιτισμού», είπε ο Khanna τη Δευτέρα σε συνέντευξή του στο CNBC. «Υπάρχει κίνδυνος για την ασφάλεια απώλειας του ελέγχου και μετά υπάρχει κίνδυνος κακής χρήσης και πρέπει να λάβουμε και τα δύο σοβαρά υπόψη».
Τι θα απαγόρευε το νομοσχέδιο
Στον πυρήνα του, ο νόμος Human Control Over AI θα απαγόρευε μοντέλα τεχνητής νοημοσύνης που αναδρομικά αυτοβελτιώνονται ή τροποποιούν αυτόνομα τους βασικούς τους στόχους, μηχανισμούς περιορισμού ή ελέγχους τερματισμού λειτουργίας — εκτός εάν υπάρχουν ομοσπονδιακά προστατευτικά κιγκλιδώματα και μια νέα κυβερνητική υπηρεσία εγκρίνει τις δραστηριότητες.
Πρακτικά, αυτό στοχεύει την ικανότητα που φοβούνται περισσότερο οι ερευνητές ασφάλειας: συστήματα που μπορούν να επανασχεδιάσουν τον εαυτό τους σε έναν αυτοκατευθυνόμενο κύκλο, αφήνοντας τους ανθρώπους με λιγότερη επίβλεψη σε κάθε βήμα. Η απαγόρευση θα παραμείνει σε ισχύ έως ότου οι ρυθμιστικές αρχές είναι εξοπλισμένες για να αξιολογήσουν τους κινδύνους.
Μια Νέα Ομοσπονδιακή Υπηρεσία για τη Συνοριακή Τεχνητή Νοημοσύνη
Το νομοσχέδιο θα δημιουργήσει μια ειδική ομοσπονδιακή υπηρεσία επικεντρωμένη στα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης - αυτά που αναπτύχθηκαν από τις OpenAI, Anthropic, Google DeepMind και xAI - καθώς αυτές οι εταιρείες βρίσκονται υπό εντατικό έλεγχο.
Σύμφωνα με τη σύνοψη που κοινοποιήθηκε στο CNBC, η υπηρεσία θα είναι υπεύθυνη για:
- Σύνταξη κανονισμών ασφαλείας για συστήματα συνοριακής τεχνητής νοημοσύνης
- Λειτουργία συστήματος αδειοδότησης για την έγκριση μοντέλων εκπαίδευσης και ανάπτυξης
- Διενέργεια ελέγχων μοντέλων τεχνητής νοημοσύνης συνόρων
- Καθορισμός προτύπων ασφαλείας για συνεχείς δοκιμές και αποτελεσματικό ανθρώπινο έλεγχο
Ανεξάρτητοι ελεγκτές θα είναι ενσωματωμένοι σε κάθε μεθοριακό εργαστήριο και θα αναφέρουν απευθείας στον οργανισμό — ένας δομικός έλεγχος που έχει σχεδιαστεί για να διασφαλίσει ότι τα εργαστήρια δεν μπορούν απλώς να σημειώσουν τη δική τους εργασία. Ο οργανισμός θα θέσει επίσης πρότυπα που καλύπτουν περιβάλλοντα δοκιμών sandbox, κενά αέρα που απομονώνουν τα συστήματα δοκιμών από το διαδίκτυο, διακόπτες εξόδου και ελέγχους που εμποδίζουν τα μοντέλα να ξεφύγουν από τις ρυθμίσεις του εργαστηρίου και να περιπλανηθούν στο ανοιχτό διαδίκτυο.
Συγκεκριμένα, η νομοθεσία θα επεκτείνει την ομοσπονδιακή εποπτεία στα προηγμένα τσιπ που χρησιμοποιούν τα συνοριακά εργαστήρια, συμπεριλαμβανομένων μηχανισμών για την παρακολούθηση ή τον έλεγχο του τρόπου με τον οποίο αναπτύσσονται αυτοί οι επεξεργαστές.
Ποινικές κυρώσεις και υποχρεωτική ασφάλιση
Το νομοσχέδιο προχωρά περισσότερο από οποιαδήποτε προηγούμενη πρόταση για κυρώσεις. Θα ποινικοποιούσε αυτό που ορίζει ως «εγκλήματα κατά της ανθρωπότητας» για την ανάπτυξη μοντέλων τεχνητής νοημοσύνης που έχουν ως αποτέλεσμα την καταστροφή άμαχων πληθυσμών.
Οι υπάλληλοι εταιρειών τεχνητής νοημοσύνης θα αντιμετωπίσουν ποινικές κυρώσεις για απενεργοποίηση διασφαλίσεων, θανάτωση διακοπτών, καταγραφή ή συστήματα περιορισμού — ή για εν γνώσει τους ανάπτυξη ενός μη εξουσιοδοτημένου συστήματος. Οι εταιρείες τεχνητής νοημοσύνης θα πρέπει επίσης να διαθέτουν εκτεταμένη ασφάλιση αστικής ευθύνης πριν κυκλοφορήσουν τα μοντέλα τους, μετατοπίζοντας τον οικονομικό κίνδυνο αποτυχίας στον κλάδο και όχι στο κοινό.
Στο γεωπολιτικό μέτωπο, το νομοσχέδιο καλεί τη διοίκηση να επιδιώξει εκτελεστές συμφωνίες και στοχευμένους ελέγχους εξαγωγών που έχουν σχεδιαστεί για να αποτρέψουν την Κίνα και άλλους αντιπάλους από την ανάπτυξη επικίνδυνων συστημάτων τεχνητής νοημοσύνης.
Κατασκευάστηκε με την κοινότητα ασφάλειας, όχι με τα εργαστήρια
Η Khanna ήταν ξεκάθαρη για το ποιος η συμβολή διαμόρφωσε το νομοσχέδιο. Αντί να διαπραγματευτεί με τα στελέχη των εταιρειών που θα ρυθμίζει, είπε ότι η νομοθεσία βασίστηκε σε συνομιλίες με οργανισμούς ασφάλειας τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ανεξάρτητων μη κερδοσκοπικών οργανισμών Model Evaluation and Threat Research, του Machine Intelligence Research Institute και της Palisade Research.
«Θέλω αυτό να είναι ένα μοντέλο για να δώσω φωνή στην κοινότητα ασφάλειας AI», είπε ο Khanna στο CNBC. "Πιστεύω ότι έχουν απορριφθεί άδικα ως επιστημονική φαντασία και δεν έχουν ληφθεί αρκετά σοβαρά υπόψη. Πρέπει να οδηγήσουν αυτήν τη συζήτηση, η κοινότητα ασφάλειας της τεχνητής νοημοσύνης, όχι τα στελέχη των συνοριακών εργαστηρίων."
Ο Khanna περιέγραψε το μέτρο ως την πιο ολοκληρωμένη νομοθεσία για την ασφάλεια της τεχνητής νοημοσύνης που έχει προταθεί μέχρι σήμερα.
Μεγάλες πιθανότητες σε ένα διχασμένο συνέδριο
Ο νόμος για τον ανθρώπινο έλεγχο της τεχνητής νοημοσύνης εντάσσεται σε ένα πολυσύχναστο πεδίο προτάσεων ασφάλειας τεχνητής νοημοσύνης στο Καπιτώλιο. Μεταξύ αυτών είναι ο δικομματικός νόμος FRONTIER από τον βουλευτή Jay Obernolte, Ρεπουμπλικανό από την Καλιφόρνια, και τον Lori Trahan, Δημοκρατικό της Μασαχουσέτης, ο οποίος θα τοποθετούσε ανεξάρτητους ελεγκτές σε συνοριακά εργαστήρια και θα έδινε στην κυβέρνηση εξουσία να κλείσει μοντέλα που κρίνεται ότι ενέχουν καταστροφικό κίνδυνο. Μια ξεχωριστή πρόταση Sanders-Casar για την απαγόρευση της τεχνητής υπερνοημοσύνης έχει λάβει τη δημόσια υποστήριξη από δέκα Δημοκρατικούς της Βουλής, συμπεριλαμβανομένου του ίδιου του Khanna.
Η πολιτική πραγματικότητα, ωστόσο, είναι αποθαρρυντική. Κανένα νομοσχέδιο της Βουλής δεν αναμένεται να ψηφιστεί μέχρι τις ενδιάμεσες εκλογές και η Γερουσία αναμένεται να εγκαταλείψει την Ουάσιγκτον και να μην επιστρέψει παρά μόνο αφού οι ψηφοφόροι προσέλθουν στις κάλπες.
Αυτό το χρονοδιάγραμμα σημαίνει ότι ο νόμος Human Control Over AI Act θα λειτουργεί, τουλάχιστον προς το παρόν, ως δείκτης: ένα λεπτομερές σχέδιο για το τι θα κατασκεύαζε η κοινότητα ασφάλειας AI εάν κρατούσε το στυλό - που εισήχθη ακριβώς τη στιγμή που οι άνθρωποι που κατασκευάζουν το frontier AI προειδοποιούν, επί του παρόντος, ότι η τεχνολογία ξεπερνά τους ελέγχους της.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
