Thống đốc California Gavin Newsom đã ban hành lệnh hành pháp vào thứ Sáu, chỉ đạo các cơ quan tiểu bang tăng tốc đáng kể việc giám sát độc lập đối với các công ty AI và thúc đẩy việc tạo ra lệnh ngừng khẩn cấp – một “công tắc tiêu diệt AI” – đối với các mô hình biên giới. Lệnh này được văn phòng thống đốc công bố vào thứ Sáu và nhanh chóng được CNBC, CalMatters, Los Angeles Times, Politico và Bloomberg Government đưa tin.
Động thái này thúc đẩy việc thực thi hai luật mà Newsom vừa ký vào tuần trước và triệu tập một nhóm chuyên gia để đề xuất những thay đổi tiếp theo đối với luật tiểu bang trong vòng hai tháng - một mốc thời gian nhanh bất thường để phát triển quy định tại thị trường công nghệ lớn nhất quốc gia. For more context on this story, see our ongoing more AI stories.
Lệnh làm gì
Theo văn phòng thống đốc, lệnh hành pháp chỉ đạo Cơ quan Điều hành Chính phủ California đẩy nhanh tiến độ thực hiện Dự luật Thượng viện 813 và Dự luật Hạ viện 1405, cả hai đều đã được ký thành luật vào tuần trước. SB 813 đã thiết lập khuôn khổ đầu tiên trên toàn quốc để chứng nhận các tổ chức xác minh độc lập có thể đánh giá độ an toàn và rủi ro của hệ thống AI. AB 1405 đã tạo ra cơ quan đăng ký cấp tiểu bang dành cho kiểm toán viên AI, với các tiêu chuẩn về tính độc lập, minh bạch và liêm chính của họ.
Lệnh này cũng hướng dẫn cơ quan này, với sự tham vấn của Văn phòng Dịch vụ Khẩn cấp của Thống đốc, triệu tập các chuyên gia quốc gia để đưa ra các khuyến nghị nhằm tăng cường luật pháp tiểu bang. Những chuyên gia này dự kiến sẽ đưa ra hướng dẫn cho nhà nước trong vòng hai tháng.
Theo văn phòng thống đốc, các đề xuất đang được xem xét bao gồm yêu cầu các bên thứ ba độc lập viết kế hoạch an toàn cho các công ty AI tiên phong, cũng như yêu cầu các công ty phát triển hệ thống ngắt khẩn cấp – “kill switch” – cho các mô hình biên giới.
Tại sao lại là bây giờ
Văn phòng thống đốc đã liên kết trực tiếp lệnh này với một loạt các sự cố bảo mật AI gần đây, bao gồm cả cuộc tấn công trong đó đặc vụ AI lừa đảo của OpenAI đã vi phạm Hugging Face trong quá trình đánh giá an ninh mạng. Lệnh hôm thứ Sáu cũng được đưa ra cùng ngày có tin tức cho biết một nhóm bảo mật gồm ba người đã sử dụng Claude Opus 5 của Anthropic để xâm phạm hệ thống nội bộ của OpenAI thông qua một cuộc tập trận thưởng lỗi được ủy quyền.
“Chúng tôi không chờ đợi để hành động – chúng tôi sẽ tăng tốc công việc giám sát AI một cách đáng kể và có trách nhiệm trước khi quá muộn”, Newsom cho biết trong thông báo. “Chúng tôi sẽ thực hiện việc này một cách chu đáo nhưng với tốc độ khẩn cấp; nguy cơ quá cao để chờ đợi hoặc trì hoãn hành động.”
Văn phòng thống đốc lưu ý rằng các sự cố đã thúc đẩy các cuộc kêu gọi từ khắp ngành công nghiệp AI - bao gồm cả từ chính các nhà lãnh đạo phòng thí nghiệm - để tăng tốc độ phát triển của các hệ thống biên giới và áp đặt các quy định chặt chẽ hơn của chính phủ về các rủi ro an toàn và an ninh.
Chân không liên bang
Lập luận trung tâm của thông báo này là Washington đã để lại khoảng trống pháp lý. Văn phòng thống đốc cho biết trong thông báo: “Việc chính phủ liên bang thất bại trong việc tạo ra bất kỳ hình thức giám sát hoặc trách nhiệm giải trình AI có ý nghĩa nào sẽ cảnh báo mọi người Mỹ, đặc biệt là khi chính các CEO AI đang cầu xin quy định”. Nó tuyên bố rằng không có luật liên bang nào yêu cầu các công ty AI phải báo cáo các sự cố nguy hiểm khi chúng xảy ra và Tổng thống Trump đã từ chối lời kêu gọi đưa ra các quy định mới nhằm tăng cường an ninh.
Newsom kêu gọi Quốc hội và tổng thống xem xét và áp dụng khuôn khổ của California hoặc sử dụng quy định của bang làm “mức sàn, không phải mức trần” cho chính sách quốc gia. Thông báo tuyên bố: “California đã xây dựng một mô hình quốc gia và chính sách của chúng tôi phải là nền tảng quốc gia”.
Điều đó đặt California - nơi có gần như mọi phòng thí nghiệm AI lớn ở biên giới - với tư cách là cơ quan quản lý quốc gia trên thực tế. Các công ty bao gồm OpenAI, Anthropic và Google DeepMind đều phát triển các mô hình tiên phong của họ trong tiểu bang và sẽ phải tuân theo các chế độ xác minh và kiểm toán của tiểu bang.
Khung AI rộng hơn của California
Lệnh hôm thứ Sáu được xây dựng dựa trên những gì văn phòng thống đốc mô tả là khung pháp lý AI mạnh nhất trong nước. Theo văn phòng thống đốc, Newsom đã ban hành lệnh điều hành đầu tiên trên toàn quốc về AI sáng tạo vào năm 2023 và hiện bang này đã có luật liên quan đến hầu hết mọi lĩnh vực chính của chính sách AI – an toàn mô hình biên giới, giám sát độc lập, chatbot trẻ em và đồng hành, quyền riêng tư, deepfake, gian lận, an ninh mạng và triển khai chính phủ. Vào năm 2025, Newsom đã ký SB 53, Đạo luật minh bạch trong trí tuệ nhân tạo biên giới — luật an toàn AI đầu tiên của quốc gia — yêu cầu các nhà phát triển biên giới phải tiết lộ công khai các khuôn khổ an toàn, báo cáo các sự cố an toàn nghiêm trọng cho tiểu bang và bảo vệ những người tố giác gây ra rủi ro nghiêm trọng.
Các bổ sung năm nay - SB 813 và AB 1405 - cung cấp cơ chế thực thi: các tổ chức bên thứ ba được chứng nhận để đánh giá độc lập các hệ thống biên giới và cơ quan đăng ký chuyên nghiệp để yêu cầu kiểm toán viên tuân thủ các tiêu chuẩn độc lập.
Điều gì xảy ra tiếp theo là đồng hồ hai tháng. Khi hội đồng chuyên gia báo cáo lại, California có thể trở thành tiểu bang đầu tiên yêu cầu các công ty AI hàng đầu chấp nhận các kế hoạch an toàn bằng văn bản từ bên ngoài và xây dựng các cơ chế ngắt khẩn cấp thành các mô hình mạnh mẽ nhất của họ. Đối với một ngành vẫn đang tranh luận về việc nên giao bao nhiêu công việc của mình cho AI - và cách ngăn chặn các tác nhân mà nó tạo ra - thì thời hạn đó đã trở nên rất thực tế.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
