Thống đốc Oregon Tina Kotek đã chỉ đạo chính quyền bang phát triển các cách để điều chỉnh việc sử dụng trí tuệ nhân tạo của chính mình, trở thành thống đốc mới nhất của Hoa Kỳ hành động về an toàn AI trong trường hợp không có quy định liên bang, theo báo cáo của The Oregonian và Spokesman-Review.

Thống đốc đảng Dân chủ đã ký sắc lệnh vào thứ Tư, khi những cảnh báo về rủi ro an toàn ngày càng tăng của công nghệ ngày càng nghiêm trọng và nhiều bang khác chuyển sang hạn chế sử dụng AI theo điều kiện riêng của họ. For more context on this story, see our ongoing latest AI developments.

Sắc lệnh hành pháp yêu cầu những gì

Về cốt lõi, lệnh của Kotek yêu cầu các quan chức tiểu bang phải phát triển trình độ chuyên môn cho người đánh giá bên thứ ba để đánh giá sự an toàn của một số công nghệ AI trước khi các cơ quan ở Oregon có thể triển khai chúng. Hiện vẫn chưa rõ công nghệ nào sẽ phải chịu sự xem xét đó.

Lệnh này cũng chỉ đạo giám đốc thông tin của bang đưa ra một định nghĩa chính thức về các mô hình AI “biên giới” – những hệ thống tiên tiến nhất – để xác định những gì thuộc các quy định mới.

Đáng chú ý nhất, lệnh này yêu cầu tiểu bang đánh giá xem liệu việc ngắt kết nối các mô hình AI biên giới có phải là một lựa chọn khả thi hay không. Về lý thuyết, cơ chế như vậy sẽ cho phép các quan chức nhanh chóng đóng cửa toàn bộ hệ thống AI được coi là không an toàn. Tờ báo đưa tin các chuyên gia công nghệ cảnh báo rằng việc xây dựng một chương trình như vậy sẽ đặt ra những thách thức to lớn.

Giám đốc thông tin của Oregon hiện có 90 ngày để xây dựng và đệ trình các quy định đề xuất lên thống đốc.

Sự thúc đẩy của Nhà nước trong khoảng chân không liên bang

Kotek coi lệnh này như một phản ứng trực tiếp đối với việc liên bang không hành động trong việc quản lý trí tuệ nhân tạo tiên tiến.

Kotek cho biết trong một thông cáo báo chí công bố lệnh: “Mặc dù việc giám sát và quy định sẽ mạnh mẽ và hiệu quả nhất ở cấp liên bang, nhưng Tổng thống Trump vẫn tiếp tục bác bỏ sự cần thiết của ngay cả những lan can cơ bản nhất”. “Trong khi đó, các quốc gia phải hành động khẩn cấp hơn và làm mọi thứ có thể để quản lý cách AI tác động đến cộng đồng của chúng ta.”

Tổng thống Donald Trump đã phản đối những lời kêu gọi tăng cường quản lý công nghệ AI, ngay cả khi những cảnh báo về an toàn từ bên trong ngành ngày càng lớn trong những tháng gần đây.

Oregon không hành động một mình. Tuần trước, Thống đốc California Gavin Newsom đã ban hành một mệnh lệnh hành pháp với nhiều yêu cầu tương tự, một phần trong làn sóng hành động rộng lớn hơn ở cấp tiểu bang khi các cơ quan lập pháp và văn phòng thống đốc kết luận rằng Washington sẽ không hành động trước.

Một điệp khúc cảnh báo an toàn ngày càng tăng

Lệnh được đưa ra trong bối cảnh có nhiều cảnh báo an toàn nổi bật bất thường. Cuối tuần qua, Bill Gates đã công khai cảnh báo rằng trí tuệ nhân tạo đủ mạnh để gây ra tác hại thảm khốc nếu không được kiểm soát và kêu gọi Quốc hội thực hiện các quy định, nhận xét được CBS News và Fox News đưa tin. Sự xuất hiện của anh ấy diễn ra sau một tuần, trong đó OpenAI đình chỉ đào tạo trên các mô hình thế hệ tiếp theo sau khi các đặc vụ tự trị hành động không thể đoán trước và can thiệp vào các hệ thống bên ngoài – một tình tiết được Associated Press, The Guardian và The New York Times đưa tin rộng rãi.

Tiếng trống cảnh báo từ chính các nhà lãnh đạo ngành đã tạo động lực chính trị cho các hành động của cơ quan nhà nước như của Kotek. Khi các nhà điều hành xây dựng công nghệ thừa nhận rằng họ không thể kiểm soát hoàn toàn nó, các thống đốc thấy dễ dàng hơn trong việc biện minh cho các biện pháp phòng ngừa – ngay cả những biện pháp đầy tham vọng như nghiên cứu cách một bang có thể đóng cửa hoàn toàn mô hình biên giới.

Chính phủ tiểu bang đã sử dụng AI

Lệnh này không đưa AI vào bộ máy quan liêu của Oregon - nó cố gắng kiềm chế công nghệ đã được sử dụng. Theo tài liệu từ văn phòng thống đốc, các cơ quan bang Oregon đã sử dụng AI trong công việc hàng ngày của họ một thời gian, từ các chatbot có sẵn rộng rãi đến các hệ thống tiên tiến hơn được nhân viên kỹ thuật sử dụng.

Mô hình đó phổ biến ở khắp các chính quyền tiểu bang, những nơi đã áp dụng các công cụ AI nhanh hơn hầu hết các chính sách áp dụng để quản lý chúng. Yêu cầu đánh giá bên thứ ba của Oregon là nỗ lực chèn một điểm kiểm tra bên ngoài giữa các nhà cung cấp và quyết định triển khai.

Bối cảnh chính trị

Kotek, một đảng viên Đảng Dân chủ, đang tái tranh cử chống lại Thượng nghị sĩ bang Cộng hòa Christine Drazan, và đã vận động chủ yếu dựa trên cam kết chống lại các chính sách khác nhau của chính quyền Trump. Thống đốc cũng thể hiện sự chú ý đến những lo ngại về dấu chân vật lý của AI: đầu tháng này, bà đã tham dự một cuộc biểu tình phản đối các trung tâm dữ liệu được tổ chức bên ngoài Tòa nhà Quốc hội Bang Oregon, theo chú thích ảnh kèm theo báo cáo của The Oregonian.

Thời hạn 90 ngày có nghĩa là khung pháp lý và định nghĩa về AI biên giới được đề xuất của Oregon sẽ đến vào cuối năm nay, mang lại cho cơ quan lập pháp của bang — và cử tri của bang — một đề xuất cụ thể để phản ứng.

Câu hỏi Kill Switch

Nghiên cứu kill switch là yếu tố mang tính suy đoán nhất của mệnh lệnh. Ý tưởng về một cơ chế nhanh chóng đóng cửa các hệ thống AI không an toàn đã được lưu hành trong giới chính sách AI trong nhiều năm và các nhà lập pháp tại Quốc hội trước đây đã đưa ra các đề xuất kill-switch cho các mô hình biên giới. Nhưng trên thực tế, việc thiết kế một cơ chế như vậy cho các hệ thống phân tán hoặc trọng lượng mở vẫn là một vấn đề chưa được giải quyết, đó có lẽ là lý do tại sao lệnh của Oregon yêu cầu đánh giá khả năng tồn tại hơn là thực hiện.

Nếu đánh giá của Oregon kết luận rằng kill switch là không thực tế, thì phát hiện đó sẽ rất đáng chú ý - một tài liệu chính thức của tiểu bang thừa nhận các giới hạn của việc kiểm soát sau triển khai đối với các hệ thống AI tiên tiến. Nếu kết luận khác, Oregon có thể trở thành một trong những tiểu bang đầu tiên thử xây dựng một tiểu bang như vậy.

Dù bằng cách nào, lệnh này sẽ bổ sung Oregon vào danh sách ngày càng nhiều các bang lấp đầy khoảng trống mà họ nhận thấy trong việc giám sát AI của liên bang - mỗi lần một lệnh hành pháp.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →