Nhà Trắng cân nhắc Bộ điều chỉnh kiểu FINRA cho các mô hình AI của cảnh sát khi ngành công nghệ đẩy lùi

Nhà Trắng đang khám phá kế hoạch thành lập một cơ quan quản lý độc lập chuyên quản lý an toàn trí tuệ nhân tạo, một động thái có thể định hình lại cách chính phủ liên bang giám sát các mô hình AI hàng đầu từ các công ty như OpenAI và Anthropic. Đề xuất này, được Bloomberg News đưa tin đầu tiên, theo sau những lời phàn nàn ngày càng tăng từ Thung lũng Silicon về những hạn chế gần đây và đôi khi không thể đoán trước của chính phủ đối với các hệ thống AI mới.

MỘT FINRA cho AI

Theo các nguồn tin quen thuộc với vấn đề đã nói chuyện với Bloomberg, kế hoạch này hiện đang được Chánh văn phòng Nhà Trắng Susie Wiles xem xét. Nó sẽ thành lập một cơ quan quản lý độc lập tập trung đặc biệt vào trí tuệ nhân tạo, báo cáo cho Ủy ban Chứng khoán và Giao dịch, theo cơ cấu được mô phỏng theo Cơ quan quản lý ngành tài chính, hay FINRA.

FINRA là một tổ chức tự quản lý giám sát các công ty môi giới và thị trường hối đoái ở Hoa Kỳ. Việc chuyển mô hình đó sang AI có nghĩa là tạo ra một thực thể có thẩm quyền đặt ra các tiêu chuẩn, tiến hành kiểm tra và thực thi sự tuân thủ giữa các công ty phát triển các mô hình tiên tiến. Theo nguồn tin của Bloomberg, mục tiêu là mang lại sự nhất quán và khả năng dự đoán cho một quy trình giám sát đã khiến cả các công ty công nghệ và các công ty Phố Wall thất vọng.

Đề xuất này được đưa ra vào thời điểm căng thẳng đặc biệt giữa chính phủ liên bang và ngành AI. Tháng trước, chính phủ đã ban hành các biện pháp kiểm soát xuất khẩu đối với Anthropic, buộc công ty này phải tạm thời vô hiệu hóa các mẫu Fable 5 và Mythos 5. Ngoài ra, OpenAI buộc phải thực hiện những thay đổi lớn đối với mô hình Sol mới nhất của mình trước khi phát hành theo yêu cầu của chính phủ. Cả hai công ty đều phản đối các quyết định này, cho rằng chúng quá đáng vì các vấn đề an toàn đang bị đe dọa.

Tại sao lại thúc đẩy giám sát có cấu trúc

Sự quan tâm của Nhà Trắng đối với cơ quan quản lý AI chuyên dụng phản ánh sự thừa nhận ngày càng tăng rằng phương pháp giám sát đặc biệt hiện nay là không bền vững. Theo khuôn khổ hiện có, chính phủ đã sử dụng kết hợp các mệnh lệnh hành pháp, kiểm soát xuất khẩu và thỏa thuận tự nguyện để tác động đến cách thức và thời điểm các công ty AI tung ra các mô hình mạnh mẽ nhất của họ. Nhưng sự chắp vá này đã thu hút sự chỉ trích từ nhiều phía.

Các công ty công nghệ cho rằng việc giám sát không nhất quán khiến việc lập lộ trình sản phẩm trở nên khó khăn vì các quy tắc có thể thay đổi đột ngột và không có tiêu chuẩn thủ tục rõ ràng. Trong khi đó, các công ty Phố Wall đã thúc ép chính phủ thực hiện hành động mạnh mẽ hơn đối với các rủi ro an ninh mạng do AI gây ra, đồng thời cảnh báo rằng khả năng của mô hình không được kiểm soát có thể tạo điều kiện cho các cuộc tấn công tinh vi vào cơ sở hạ tầng tài chính.

Các nguồn tin của Bloomberg cho biết đề xuất này được thiết kế để giải quyết cả hai mối lo ngại, mang lại sự chắc chắn hơn cho các nhà phát triển AI đồng thời thiết lập một cơ chế chính thức để đánh giá và giảm thiểu rủi ro. Bằng cách tạo ra một thực thể giống như FINRA, chính quyền hy vọng sẽ chuyển từ các biện pháp can thiệp mang tính phản ứng sang một cơ chế quản lý chủ động với các quy trình và trách nhiệm giải trình được xác định.

Tiếng vọng của lời kêu gọi tiêu chuẩn của Hassabis

Các cuộc thảo luận của Nhà Trắng diễn ra chỉ vài ngày sau khi Giám đốc điều hành Google DeepMind Demis Hassabis công khai kêu gọi cơ quan tiêu chuẩn do Hoa Kỳ đứng đầu kiểm tra độc lập các mô hình AI tiên tiến về các mối đe dọa an ninh quốc gia trước khi phát hành. Trong nhận xét được Financial Times đưa tin, Hassabis cảnh báo rằng trí thông minh nhân tạo tổng hợp có khả năng phù hợp với bộ não con người trong một loạt nhiệm vụ có lẽ chỉ còn vài năm nữa thôi, để lại cho xã hội một cánh cửa quý giá để thiết lập khả năng giám sát.

Hassabis đặc biệt đề xuất mô hình hóa tổ chức trên FINRA, khuôn khổ tương tự hiện đang được xem xét bên trong Nhà Trắng. Ông cho rằng hệ thống do Hoa Kỳ khởi xướng có thể trở thành nền tảng cho các tiêu chuẩn quốc tế khi các chính phủ phải đối mặt với rủi ro từ các hệ thống AI ngày càng có năng lực cao.

Sự đồng nhất giữa đề xuất của Hassabis và các cuộc thảo luận nội bộ của Nhà Trắng cho thấy sự đồng thuận ngày càng tăng xung quanh mô hình FINRA, ngay cả khi các chi tiết về phạm vi, thẩm quyền và việc thực thi vẫn đang được đàm phán.

Giám sát trước khi phát hành hiện có

Chính phủ đã thực hiện các bước hướng tới việc giám sát trước khi phát hành. Một lệnh điều hành được ban hành vào tháng 6 đã tìm cách tự nguyện truy cập vào các mô hình biên giới được bảo hiểm trong tối đa 30 ngày trước khi phát hành, cho phép các quan chức liên bang đánh giá các khả năng mạng tiên tiến. Google DeepMind, Microsoft và xAI đều đồng ý gửi mô hình để thử nghiệm an ninh quốc gia liên bang trong khuôn khổ.

Tuy nhiên, các biện pháp này vẫn mang tính tự nguyện và có phạm vi hạn chế. Một cơ quan quản lý chuyên trách sẽ có thẩm quyền rộng hơn nhiều để buộc phải minh bạch, bắt buộc kiểm tra an toàn và thực thi việc tuân thủ, làm thay đổi căn bản mối quan hệ giữa các công ty AI và chính phủ liên bang.

Điều gì xảy ra tiếp theo

Đề xuất này vẫn đang ở giai đoạn đầu và không có gì đảm bảo nó sẽ tiến triển theo hình thức hiện tại. Việc tạo ra một cơ quan quản lý mới đòi hỏi phải có hành động của quốc hội và các động lực chính trị xung quanh quy định về AI vẫn còn lỏng lẻo. Các nhà lập pháp đã tổ chức nhiều phiên điều trần về an toàn AI nhưng vẫn chưa thông qua luật toàn diện.

Tuy nhiên, việc Nhà Trắng đang tích cực cân nhắc cơ chế quản lý kiểu FINRA báo hiệu một sự thay đổi trong tham vọng. Thay vì dựa vào các mệnh lệnh hành pháp và can thiệp theo từng trường hợp, chính quyền dường như đang khám phá một khuôn khổ thể chế lâu dài hơn để giám sát AI, một khuôn khổ có thể tồn tại lâu hơn bất kỳ chính quyền đơn lẻ nào và mang lại sự nhất quán mà các nhà lãnh đạo ngành đang yêu cầu.

Đối với các công ty AI, triển vọng có một cơ quan quản lý chuyên dụng là con dao hai lưỡi. Nó có thể mang lại khả năng dự đoán mà họ yêu cầu, nhưng nó cũng có thể tạo ra những gánh nặng tuân thủ mới, các yêu cầu báo cáo và sự chậm trễ trong việc đưa sản phẩm ra thị trường. Cách cân bằng những sự đánh đổi đó sẽ định hình bối cảnh cạnh tranh của ngành AI trong nhiều năm tới.

Đi trước AI

Để biết thông tin liên tục về quy định AI, chính sách của chính phủ và các khuôn khổ giám sát định hình ngành, hãy theo dõi AI Buzz Wire để báo cáo về các quyết định quan trọng.

Đọc thêm tin tức về chính sách AI →