Ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ εξέδωσε εκτελεστικό διάταγμα την Παρασκευή που δίνει εντολή στις κρατικές υπηρεσίες να επιταχύνουν δραματικά την ανεξάρτητη εποπτεία των εταιρειών τεχνητής νοημοσύνης και να προωθήσουν τη δημιουργία ενός διακόπτη έκτακτης ανάγκης — ενός «διακόπτη AI kill» — για μοντέλα συνόρων. Η εντολή ανακοινώθηκε από το γραφείο του κυβερνήτη την Παρασκευή και καλύφθηκε γρήγορα από το CNBC, το CalMatters, τους Los Angeles Times, το Politico και την κυβέρνηση του Bloomberg.

Η κίνηση προωθεί την εφαρμογή δύο νόμων που υπέγραψε η Newsom μόλις την περασμένη εβδομάδα και συγκαλεί μια ομάδα εμπειρογνωμόνων για να προτείνει περαιτέρω αλλαγές στην κρατική νομοθεσία εντός δύο μηνών - ένα ασυνήθιστα γρήγορο χρονοδιάγραμμα για ρυθμιστική ανάπτυξη στη μεγαλύτερη αγορά τεχνολογίας της χώρας. For more context on this story, see our ongoing AI industry coverage.

Τι κάνει η παραγγελία

Σύμφωνα με το γραφείο του κυβερνήτη, το εκτελεστικό διάταγμα καθοδηγεί την Υπηρεσία Επιχειρήσεων της Κυβέρνησης της Καλιφόρνια να επιταχύνει τα χρονοδιαγράμματα εφαρμογής για το νομοσχέδιο 813 της Γερουσίας και το νομοσχέδιο 1405 της Συνέλευσης, που υπεγράφη και τα δύο σε νόμο την περασμένη εβδομάδα. Το SB 813 δημιούργησε ένα πρώτο στη χώρα πλαίσιο για την πιστοποίηση ανεξάρτητων οργανισμών επαλήθευσης που μπορούν να αξιολογήσουν συστήματα τεχνητής νοημοσύνης ως προς την ασφάλεια και τον κίνδυνο. Το AB 1405 δημιούργησε ένα κρατικό μητρώο για ελεγκτές τεχνητής νοημοσύνης, με πρότυπα για την ανεξαρτησία, τη διαφάνεια και την ακεραιότητά τους.

Η εντολή δίνει επίσης εντολή στην υπηρεσία, σε συνεννόηση με το Γραφείο Υπηρεσιών Έκτακτης Ανάγκης του Κυβερνήτη, να συγκαλέσει εθνικούς εμπειρογνώμονες για να αναπτύξουν συστάσεις για την ενίσχυση της νομοθεσίας του κράτους. Αυτοί οι εμπειρογνώμονες αναμένεται να παραδώσουν οδηγίες στο κράτος εντός δύο μηνών.

Οι προτάσεις που εξετάζονται περιλαμβάνουν την απαίτηση από ανεξάρτητους τρίτους να συντάξουν σχέδια ασφάλειας για τις συνοριακές εταιρείες τεχνητής νοημοσύνης, καθώς και την απαίτηση από τις εταιρείες να αναπτύξουν ένα διακόπτη έκτακτης ανάγκης — έναν «διακόπτη εξόντωσης» — για μοντέλα συνόρων, σύμφωνα με το γραφείο του κυβερνήτη.

Γιατί τώρα

Το γραφείο του κυβερνήτη συνέδεσε την εντολή απευθείας με μια σειρά πρόσφατων περιστατικών ασφάλειας τεχνητής νοημοσύνης, συμπεριλαμβανομένης της επίθεσης κατά την οποία ο απατεώνας πράκτορας τεχνητής νοημοσύνης του OpenAI παραβίασε το Hugging Face κατά τη διάρκεια μιας αξιολόγησης ασφάλειας στον κυβερνοχώρο. Η παραγγελία της Παρασκευής προσγειώθηκε επίσης την ίδια ημέρα που κυκλοφόρησε η είδηση ​​ότι μια ομάδα ασφαλείας τριών ατόμων χρησιμοποίησε το Claude Opus 5 της Anthropic για να παραβιάσει τα εσωτερικά συστήματα του OpenAI μέσω μιας εξουσιοδοτημένης άσκησης επιβράβευσης σφαλμάτων.

«Δεν περιμένουμε να δράσουμε – θα επιταχύνουμε το έργο μας για την ουσιαστική και υπεύθυνη επίβλεψη της τεχνητής νοημοσύνης πριν να είναι πολύ αργά», ανέφερε ο Newsom στην ανακοίνωση. "Θα το κάνουμε αυτό προσεκτικά, αλλά με επείγουσα ταχύτητα· το διακύβευμα είναι πολύ υψηλό για να περιμένουμε ή να καθυστερήσουμε τη δράση."

Το γραφείο του κυβερνήτη σημείωσε ότι τα περιστατικά οδήγησαν σε εκκλήσεις από όλο τον κλάδο της τεχνητής νοημοσύνης - συμπεριλαμβανομένων των ίδιων των ηγετών των εργαστηρίων - να επιταχύνουν την ανάπτυξη συστημάτων συνόρων και να επιβάλουν αυστηρότερους κυβερνητικούς κανονισμούς για τους κινδύνους ασφάλειας και ασφάλειας.

Το ομοσπονδιακό κενό

Ένα κεντρικό επιχείρημα της ανακοίνωσης είναι ότι η Ουάσιγκτον έχει αφήσει ένα κανονιστικό κενό. «Η τρομερή αποτυχία της ομοσπονδιακής κυβέρνησης να δημιουργήσει οποιαδήποτε μορφή ουσιαστικής επίβλεψης ή λογοδοσίας της τεχνητής νοημοσύνης θα πρέπει να ανησυχήσει κάθε Αμερικανό, ειδικά όταν οι ίδιοι οι CEO της τεχνητής νοημοσύνης εκλιπαρούν για ρύθμιση», ανέφερε το γραφείο του κυβερνήτη στην ανακοίνωση. Ανέφερε ότι κανένας ομοσπονδιακός νόμος δεν απαιτεί από τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν επικίνδυνα περιστατικά όταν συμβαίνουν και ότι ο Πρόεδρος Τραμπ έχει απορρίψει εκκλήσεις για νέους κανονισμούς που στοχεύουν στην αύξηση της ασφάλειας.

Ο Newsom κάλεσε το Κογκρέσο και τον πρόεδρο να αναθεωρήσουν και να υιοθετήσουν το πλαίσιο της Καλιφόρνια ή να χρησιμοποιήσουν τον κανονισμό της πολιτείας ως «πάτωμα, όχι ανώτατο όριο» για την εθνική πολιτική. «Η Καλιφόρνια έχει ήδη δημιουργήσει ένα εθνικό μοντέλο και η πολιτική μας θα πρέπει να είναι η εθνική βάση», ανέφερε η ανακοίνωση.

Αυτό το πλαίσιο τοποθετεί την Καλιφόρνια - το σπίτι σχεδόν κάθε σημαντικού εργαστηρίου τεχνητής νοημοσύνης - ως την de facto εθνική ρυθμιστική αρχή. Εταιρείες συμπεριλαμβανομένων των OpenAI, Anthropic και Google DeepMind αναπτύσσουν όλα τα μοντέλα συνόρων τους στην πολιτεία και θα υπόκεινται στα καθεστώτα επαλήθευσης και ελέγχου.

Ευρύτερο Πλαίσιο AI της Καλιφόρνια

Η εντολή της Παρασκευής βασίζεται σε αυτό που το γραφείο του κυβερνήτη περιγράφει ως το ισχυρότερο ρυθμιστικό πλαίσιο τεχνητής νοημοσύνης στη χώρα. Ο Newsom εξέδωσε το πρώτο του εκτελεστικό διάταγμα στη χώρα για τη δημιουργία τεχνητής νοημοσύνης το 2023 και η πολιτεία έχει πλέον νόμους που αγγίζουν σχεδόν κάθε σημαντικό τομέα πολιτικής τεχνητής νοημοσύνης - ασφάλεια μοντέλων στα σύνορα, ανεξάρτητη εποπτεία, παιδιά και συνοδευτικά chatbots, ιδιωτικότητα, deepfakes, απάτη, ασφάλεια στον κυβερνοχώρο και ανάπτυξη της κυβέρνησης, σύμφωνα με το κυβερνητικό γραφείο. Το 2025, η Newsom υπέγραψε το SB 53, τον νόμο για τη διαφάνεια στη συνοριακή τεχνητή νοημοσύνη — τον πρώτο νόμο για την ασφάλεια της τεχνητής νοημοσύνης της χώρας — που απαιτεί από τους συνοριακούς προγραμματιστές να αποκαλύπτουν δημόσια πλαίσια ασφαλείας, να αναφέρουν κρίσιμα περιστατικά ασφάλειας στην πολιτεία και να προστατεύουν τους καταγγέλλοντες που εγείρουν σοβαρούς κινδύνους.

Οι φετινές προσθήκες — SB 813 και AB 1405 — παρέχουν τη δύναμη επιβολής: πιστοποιημένους τρίτους οργανισμούς για την ανεξάρτητη αξιολόγηση των συνοριακών συστημάτων και ένα επαγγελματικό μητρώο για τη διατήρηση των ελεγκτών σύμφωνα με τα πρότυπα ανεξαρτησίας.

Αυτό που θα συμβεί στη συνέχεια είναι το ρολόι των δύο μηνών. Όταν η ομάδα εμπειρογνωμόνων αναφέρει, η Καλιφόρνια θα μπορούσε να γίνει η πρώτη πολιτεία που θα απαιτήσει από τις συνοριακές εταιρείες τεχνητής νοημοσύνης να αποδεχτούν εξωτερικά γραπτά σχέδια ασφάλειας και να δημιουργήσουν μηχανισμούς διακοπής έκτακτης ανάγκης στα πιο ισχυρά μοντέλα τους. Για μια βιομηχανία που εξακολουθεί να συζητά πόσο μεγάλο μέρος της δουλειάς της πρέπει να παραδοθεί στην τεχνητή νοημοσύνη - και πώς να περιορίσει τους πράκτορες που δημιουργεί - αυτή η προθεσμία έγινε πολύ πραγματική.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →