Chỉ thị, được công bố từ Sacramento, coi California là bang tích cực nhất của Hoa Kỳ về an ninh mạng do AI điều khiển. Vài ngày sau tin tức mới nhất về ngành AI tiết lộ rằng các mô hình AI tiên tiến đã chứng tỏ khả năng tự mình thực hiện các hoạt động mạng phức tạp trong quá trình thử nghiệm có kiểm soát — một sự phát triển đã khiến các nhà hoạch định chính sách trên toàn thế giới phải sửng sốt.
Chương trình sẽ làm gì
Theo văn phòng thống đốc, Newsom đang chỉ đạo các cơ quan nhà nước thực hiện bốn hành động cốt lõi:
1. Thiết lập Chương trình phòng thủ mạng AI để tập trung tư thế phòng thủ của nhà nước trước các mối đe dọa do AI hỗ trợ.
2. Tăng cường phối hợp an ninh mạng trong toàn bộ chính quyền tiểu bang, phá bỏ rào cản giữa các cơ quan.
3. Mở rộng hệ thống phòng thủ hỗ trợ AI cho cơ sở hạ tầng quan trọng và chính quyền địa phương, đưa công nghệ tương tự cho phép các cuộc tấn công hoạt động như một công cụ phòng thủ.
4. Cải thiện khả năng sẵn sàng đối với các sự cố an ninh mạng AI mới nổi.
Sáng kiến này được xây dựng dựa trên các mệnh lệnh điều hành năm 2023 và 2026 của California về trí tuệ nhân tạo, cùng nhau thiết lập khuôn khổ của tiểu bang về việc sử dụng AI một cách có trách nhiệm, có đạo đức và minh bạch trong các cơ quan công quyền.
'Các cuộc tấn công nhanh hơn, tinh vi hơn và thường xuyên hơn'
Newsom coi thông báo này là sự lựa chọn giữa chờ đợi khủng hoảng và hành động ngay bây giờ.
> "Môi trường kỹ thuật số đang phát triển nhanh chóng trước mắt chúng ta. Các cuộc tấn công nhanh hơn, tinh vi hơn và thường xuyên hơn, gây rủi ro cho các hệ thống cơ bản mà các gia đình tin cậy. California có thể chờ đợi cuộc khủng hoảng tiếp theo hoặc chúng ta có thể xây dựng loại hệ thống phòng thủ mà thời điểm này yêu cầu. Chúng tôi đang chọn xây dựng."
Văn phòng thống đốc lưu ý rằng những tiết lộ gần đây của các nhà phát triển AI hàng đầu đã chứng minh rằng các hệ thống AI tiên tiến có khả năng thực hiện độc lập các hoạt động mạng phức tạp trong môi trường thử nghiệm được kiểm soát, bộc lộ cái mà họ gọi là “rủi ro mới”. Đồng thời, đối thủ đang sử dụng các hệ thống AI có khả năng ngày càng tăng để thực hiện các cuộc tấn công với chi phí rẻ hơn và hiệu quả hơn bao giờ hết.
Tại sao cơ sở hạ tầng quan trọng lại nằm trong tầm ngắm
Caroline Thomas Jacobs, giám đốc Văn phòng Dịch vụ Khẩn cấp của Thống đốc California (Cal OES) và Cố vấn An ninh Nội địa của bang, cho biết chương trình này nhắm đến các dịch vụ mà người dân California phụ thuộc hàng ngày.
> "Các cuộc tấn công mạng có thể làm gián đoạn các dịch vụ thiết yếu mà người dân California sử dụng hàng ngày, bao gồm nước, điện, giao thông và liên lạc khẩn cấp. Chương trình mới này sẽ giúp Cal OES và các đối tác của chúng tôi phát hiện các mối đe dọa sớm hơn, chia sẻ thông tin hiệu quả hơn, tăng cường phòng thủ và phản ứng nhanh hơn."
Thư ký Cơ quan Điều hành Chính phủ Nick Maduros nói thêm rằng sáng kiến này sẽ giúp các cơ quan nhà nước, chính quyền địa phương và các đối tác cơ sở hạ tầng quan trọng “phát hiện, ngăn chặn và ứng phó tốt hơn với các sự cố mạng, đảm bảo các dịch vụ thiết yếu mà người dân California dựa vào vẫn an toàn, linh hoạt và đáng tin cậy”.
Bối cảnh của cuộc rút lui liên bang
Thông báo này đến vào thời điểm đáng chú ý trong chính sách an ninh mạng của Hoa Kỳ. Văn phòng của Newsom lưu ý rõ ràng rằng chương trình này được triển khai “khi các mối đe dọa trên mạng ngày càng phức tạp hơn và chính quyền Trump tiếp tục thu hồi các khoản hỗ trợ quan trọng của liên bang”.
Các quan chức liên bang gần đây đã cảnh báo rằng hệ thống nước của thành phố ở Minnesota là mục tiêu trong một hoạt động mạng bị nghi ngờ có liên quan đến Iran, ảnh hưởng đến hơn 30 tiện ích - một minh họa rõ ràng rằng các dịch vụ dân sự cơ bản hiện đang nằm trong tầm ngắm của các đối thủ nước ngoài. Văn phòng thống đốc cho biết một số chương trình an ninh mạng quốc gia mà chính quyền tiểu bang và địa phương trước đây từng dựa vào hiện đang đồng thời bị thu hẹp quy mô ở cấp liên bang.
Đối với California, nền kinh tế lớn thứ năm thế giới, khoảng trống do liên bang rút lui để lại là khoảng trống mà bang này dự định sẽ tự lấp đầy.
Thế lưỡng nan của việc sử dụng kép
Chương trình phản ánh sự căng thẳng trung tâm trong chính sách AI hiện đại: những khả năng tương tự khiến AI trở nên nguy hiểm trong tay kẻ tấn công - tốc độ, quy mô, khả năng tự động thăm dò các điểm yếu - cũng khiến nó trở thành một công cụ phòng thủ mạnh mẽ. Bằng cách ra lệnh cho các cơ quan “mở rộng hệ thống phòng thủ hỗ trợ AI”, Newsom đang đặt cược rằng California có thể khai thác AI như một lá chắn ngay cả khi nước này chuẩn bị cho các cuộc tấn công hỗ trợ AI.
Việc đặt cược đó được chia sẻ bởi ngày càng nhiều nhà nghiên cứu bảo mật và công ty khởi nghiệp, những người cho rằng cách bảo vệ thực tế duy nhất chống lại các mối đe dọa do AI tăng tốc là khả năng phát hiện và phản hồi được tăng tốc bởi AI. Liệu các cơ quan nhà nước có thể hành động đủ nhanh để xây dựng những khả năng đó hay không - và thu hút nhân tài để điều hành chúng - sẽ quyết định mức độ bảo vệ mà chương trình mang lại trên thực tế.
Đi trước AI
AI đang viết lại các quy tắc về bảo mật, quản trị và cơ sở hạ tầng. Theo dõi AI Buzz Wire để biết thông tin liên tục về chính sách AI, an ninh mạng và các quyết định định hình tương lai của công nghệ.
Đọc thêm tin tức về AI →
