Hạ nghị sĩ Ro Khanna, một đảng viên Đảng Dân chủ ở Thung lũng Silicon, sẽ đưa ra luật cấm các mô hình AI có khả năng tự cải thiện đệ quy cho đến khi chính phủ liên bang xây dựng một hệ thống quản lý có khả năng giám sát chúng - đề xuất an toàn AI sâu rộng nhất chưa được Quốc hội thông qua.

Dự luật, được mệnh danh là Đạo luật kiểm soát con người đối với AI, đã được chia sẻ độc quyền với CNBC dưới dạng tóm tắt trước khi được giới thiệu. Nó xuất hiện trong bối cảnh những lo ngại về an toàn ngày càng leo thang đã khiến các CEO của OpenAI và Anthropic kêu gọi giảm tốc độ phát triển mô hình biên giới. For more context on this story, see our ongoing AI industry coverage.

Khanna cho biết hôm thứ Hai trong một cuộc phỏng vấn với CNBC: “Thực sự có nguy cơ tuyệt chủng nền văn minh”. “Có nguy cơ mất kiểm soát về mặt an toàn và sau đó là nguy cơ sử dụng sai mục đích và chúng ta cần phải xem xét cả hai vấn đề này một cách nghiêm túc”.

Dự luật sẽ cấm những gì

Về cốt lõi, Đạo luật kiểm soát con người đối với AI sẽ cấm các mô hình AI tự cải tiến đệ quy hoặc tự động sửa đổi các mục tiêu cốt lõi, cơ chế ngăn chặn hoặc kiểm soát tắt máy của riêng chúng – trừ khi tồn tại các biện pháp bảo vệ liên bang và cơ quan chính phủ mới phê duyệt các hoạt động.

Về mặt thực tế, điều đó nhắm đến khả năng mà các nhà nghiên cứu an toàn lo ngại nhất: các hệ thống có thể tự thiết kế lại theo chu trình tự định hướng, khiến con người giảm bớt khả năng giám sát ở mỗi bước. Lệnh cấm sẽ được giữ nguyên cho đến khi các cơ quan quản lý được trang bị để đánh giá rủi ro.

Cơ quan liên bang mới cho Frontier AI

Dự luật sẽ thành lập một cơ quan liên bang chuyên trách tập trung vào các mô hình AI mạnh mẽ nhất – những mô hình được phát triển bởi OpenAI, Anthropic, Google DeepMind và xAI – khi những công ty này nhận thấy mình đang bị giám sát chặt chẽ hơn.

Theo bản tóm tắt được chia sẻ với CNBC, cơ quan này sẽ chịu trách nhiệm:

  • Viết các quy định an toàn cho hệ thống AI biên giới
  • Vận hành hệ thống cấp phép phê duyệt đào tạo và triển khai mô hình
  • Tiến hành kiểm tra các mô hình AI biên giới
  • Thiết lập các tiêu chuẩn bảo mật để thử nghiệm liên tục và kiểm soát con người hiệu quả

Các kiểm toán viên độc lập sẽ có mặt tại mọi phòng thí nghiệm biên giới và sẽ báo cáo trực tiếp cho cơ quan - một cuộc kiểm tra mang tính cơ cấu được thiết kế để đảm bảo rằng các phòng thí nghiệm không thể đơn giản chấm bài tập về nhà của họ. Cơ quan này cũng sẽ đặt ra các tiêu chuẩn bao gồm các môi trường thử nghiệm hộp cát, các khoảng trống cách ly hệ thống thử nghiệm với Internet, công tắc tắt và các biện pháp kiểm soát ngăn các mô hình thoát khỏi môi trường phòng thí nghiệm và chuyển vùng trên Internet mở.

Đáng chú ý, luật này sẽ mở rộng sự giám sát của liên bang đối với các con chip tiên tiến mà các phòng thí nghiệm biên giới sử dụng, bao gồm các cơ chế giám sát hoặc kiểm soát cách triển khai các bộ xử lý đó.

Hình phạt hình sự và Bảo hiểm bắt buộc

Dự luật đi xa hơn bất kỳ đề xuất nào trước đây về hình phạt. Nó sẽ hình sự hóa những gì nó định nghĩa là “tội ác chống lại loài người” đối với việc triển khai các mô hình AI dẫn đến sự tàn phá dân thường.

Nhân viên của các công ty AI sẽ phải đối mặt với các hình phạt hình sự nếu vô hiệu hóa các biện pháp bảo vệ, tắt công tắc, hệ thống ghi nhật ký hoặc ngăn chặn – hoặc vì cố tình triển khai một hệ thống trái phép. Các công ty AI cũng sẽ được yêu cầu thực hiện bảo hiểm trách nhiệm pháp lý rộng rãi trước khi phát hành mô hình của họ, chuyển rủi ro thất bại tài chính sang ngành thay vì công chúng.

Về mặt địa chính trị, dự luật kêu gọi chính quyền theo đuổi các thỏa thuận có thể thi hành và kiểm soát xuất khẩu có mục tiêu nhằm ngăn chặn Trung Quốc và các đối thủ khác phát triển các hệ thống AI nguy hiểm.

Được xây dựng với Cộng đồng An toàn, Không phải Phòng thí nghiệm

Khanna đã nói rõ về ý kiến đóng góp của ai đã định hình nên dự luật. Thay vì đàm phán với giám đốc điều hành của các công ty mà nó sẽ quản lý, ông cho biết luật này được mô hình hóa dựa trên các cuộc trò chuyện với các tổ chức an toàn AI, bao gồm các tổ chức phi lợi nhuận độc lập Nghiên cứu mô hình và đánh giá mối đe dọa, Viện nghiên cứu trí tuệ máy và Nghiên cứu Palisade.

Khanna nói với CNBC: “Tôi muốn đây trở thành một mô hình đưa ra tiếng nói cho cộng đồng an toàn AI”. "Tôi tin rằng chúng đã bị coi là khoa học viễn tưởng một cách không công bằng và chưa được coi trọng đủ. Họ cần phải thúc đẩy cuộc tranh luận này, cộng đồng an toàn AI chứ không phải các giám đốc điều hành của các phòng thí nghiệm biên giới."

Khanna mô tả biện pháp này là luật an toàn AI toàn diện nhất được đề xuất cho đến nay.

Tỷ lệ cược dài trong một Quốc hội bị chia rẽ

Đạo luật Kiểm soát Con người đối với AI tham gia vào một loạt các đề xuất về an toàn AI trên Đồi Capitol. Trong số đó có Đạo luật FRONTIER lưỡng đảng của Dân biểu Jay Obernolte, đảng viên Cộng hòa California, và Lori Trahan, đảng viên Đảng Dân chủ Massachusetts, sẽ đưa các kiểm toán viên độc lập vào các phòng thí nghiệm ở biên giới và trao cho chính phủ quyền đóng cửa các mô hình được đánh giá là có nguy cơ thảm khốc. Một đề xuất riêng biệt của Sanders-Casar nhằm cấm siêu trí tuệ nhân tạo đã thu hút được sự ủng hộ của công chúng từ 10 đảng viên Đảng Dân chủ tại Hạ viện, bao gồm cả chính Khanna.

Tuy nhiên, thực tế chính trị lại rất đáng lo ngại. Dự kiến ​​sẽ không có dự luật nào của Hạ viện nhận được phiếu bầu cho đến sau cuộc bầu cử giữa nhiệm kỳ, và Thượng viện dự kiến ​​sẽ rời Washington và không quay trở lại cho đến khi cử tri đi bỏ phiếu.

Dòng thời gian đó có nghĩa là Đạo luật kiểm soát con người đối với AI sẽ hoạt động, ít nhất là ở thời điểm hiện tại, như một điểm đánh dấu: một bản thiết kế chi tiết về những gì cộng đồng an toàn AI sẽ xây dựng nếu họ cầm bút - được giới thiệu vào đúng thời điểm những người xây dựng AI tiên phong đang cảnh báo, trên hồ sơ, rằng công nghệ này đang vượt xa sự kiểm soát của nó.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →