Mạng Tin tức Liên bang đưa tin hôm thứ Hai rằng Bộ Quốc phòng đã ban hành hướng dẫn mới cho nhân viên ký hợp đồng và chương trình được thiết kế để đảm bảo rằng các hệ thống trí tuệ nhân tạo mà Lầu Năm Góc mua tuân thủ các nguyên tắc mua sắm "tìm kiếm sự thật" và "trung lập về ý thức hệ" của chính quyền Trump.
Chỉ thị do John Tenaglia, giám đốc chính của Lầu Năm Góc về chính sách mua bán, hợp đồng và định giá quốc phòng ban hành, là bước đi cụ thể nhất của bộ này nhằm thực hiện chương trình nghị sự của Tổng thống Donald Trump nhằm “ngăn chặn AI thức tỉnh” trong chính phủ liên bang. For more context on this story, see our ongoing breaking AI news.
Từ mệnh lệnh đến ngôn ngữ hợp đồng
Hướng dẫn này xuất phát trực tiếp từ sắc lệnh hành pháp mà Trump đã ký vào tháng 7, trong đó yêu cầu các cơ quan liên bang đảm bảo các mô hình ngôn ngữ lớn mà họ mua là "công cụ trung lập, phi đảng phái, không thao túng các phản ứng có lợi cho các giáo điều ý thức hệ như [đa dạng, công bằng và hòa nhập]." Theo lệnh đó, Trump tuyên bố rằng các cơ quan liên bang “có nghĩa vụ không mua sắm những mô hình hy sinh tính trung thực và chính xác cho các chương trình nghị sự về hệ tư tưởng”.
Văn phòng Quản lý và Ngân sách sau đó đã đưa ra một bản ghi nhớ giải quyết các câu hỏi nảy sinh sau khi lệnh điều hành được ban hành. Tài liệu mới của Lầu Năm Góc chuyển các nhiệm vụ cấp cao đó thành bộ máy mua sắm quốc phòng: các mẫu hướng dẫn các quan chức thực hiện các giai đoạn khác nhau trong việc mua hệ thống AI và xác minh sự tuân thủ của nhà thầu với các nguyên tắc "AI không thiên vị" của bộ.
Cụ thể, các mẫu bao gồm một bản ghi nhớ để giúp các cơ quan lựa chọn các yêu cầu về tài liệu và tính minh bạch phù hợp cho việc mua sắm, ngôn ngữ chào mời được tiêu chuẩn hóa cho các công ty biết họ phải cung cấp tài liệu nào để chứng minh sự tuân thủ và ngôn ngữ hợp đồng chính thức có thể được đưa vào tuyên bố công việc hoặc báo cáo hiệu quả công việc, theo Federal News Network.
Hướng dẫn, không phải nhiệm vụ — Hiện tại
Tenaglia đã cẩn thận đóng khung sức nặng pháp lý của tài liệu. Ông viết: Mặc dù việc tuân thủ mệnh lệnh điều hành cơ bản và bản ghi nhớ OMB là bắt buộc, nhưng tài liệu mới chỉ nhằm mục đích "hướng dẫn", cung cấp "một cách tiếp cận tiêu chuẩn hóa để ghi lại, yêu cầu và thực thi các nguyên tắc AI không thiên vị".
Tenaglia viết trong bản ghi nhớ: “Nhận thấy rằng việc mua sắm AI rất khác nhau về độ phức tạp và rủi ro, các thành phần và hoạt động yêu cầu của DoD có thể linh hoạt sửa đổi, điều chỉnh hoặc bổ sung ngôn ngữ này khi cần thiết để phù hợp với nhu cầu cụ thể và bối cảnh yêu cầu riêng của họ”.
Sự linh hoạt đó có thể mang lại kết quả. Việc đo lường xem một mô hình AI có "không thiên vị" hay không - và ghi lại quyết định đó cho tệp hợp đồng - là một nhiệm vụ phức tạp hơn nhiều so với việc kiểm tra chứng nhận an ninh mạng và các nhà cung cấp có thể sẽ từ chối các yêu cầu về tài liệu liên quan đến thiết kế mô hình.
Một phần của nỗ lực lớn hơn nhằm thương mại hóa AI phòng thủ
Hướng dẫn được đưa ra khi Bộ trưởng Quốc phòng Pete Hegseth tiếp tục nỗ lực đưa AI thương mại vào bộ. Đầu năm nay, Lầu Năm Góc đã ban hành chiến lược AI nhằm biến bộ phận này thành “lực lượng chiến đấu ưu tiên AI”, Hegseth cho biết bộ này sẽ đầu tư mạnh vào cơ sở hạ tầng điện toán AI, từ trung tâm dữ liệu đến hệ thống ở khía cạnh chiến thuật.
Các nhà lập pháp đang di chuyển song song. Hạ nghị sĩ Jimmy Patronis (R-Fla.) đang tìm cách hệ thống hóa lệnh hành pháp của Trump thành luật. Patronis nói: “Tổng thống và nhóm của ông đã đưa ra một mệnh lệnh hành pháp thông minh hướng dẫn các cơ quan liên bang chỉ tận dụng các công cụ AI nói lên sự thật”, đồng thời lập luận rằng có “ví dụ này đến ví dụ khác về việc các công cụ AI đi chệch hướng vì chương trình nền tảng nghiêng về mặt chính trị”.
Ý nghĩa của nó đối với các nhà cung cấp AI
Đối với các công ty AI - bao gồm cả các phòng thí nghiệm biên giới hiện đang chạy đua hướng tới các dịch vụ công cộng - hướng dẫn báo hiệu rằng tài liệu trung lập về hệ tư tưởng đang trở thành một yêu cầu thực tế đối với thị trường quốc phòng Hoa Kỳ, một trong những phân khúc khách hàng phát triển nhanh nhất đối với AI thương mại. Các nhà cung cấp có thể tạo ra các bản kiểm tra về hoạt động đào tạo và hành vi của mô hình của họ có thể nhận thấy cánh cửa đang rộng mở; những người không thể tìm thấy hoạt động mua sắm liên bang ngày càng đóng cửa.
Hiệu quả thực tế là "AI không thiên vị" đang chuyển từ hùng biện chính trị sang yêu cầu bằng văn bản trong hợp đồng của người mua công nghệ lớn nhất thế giới - và mọi cơ quan khác đang theo dõi cách thức hoạt động của các mẫu của Lầu Năm Góc.
Nhà cung cấp thực sự sẽ phải sản xuất những gì
Theo các mẫu, gánh nặng chứng minh chuyển sang phía nhà cung cấp. Các công ty đấu thầu các hợp đồng nặng về AI sẽ cần cung cấp tài liệu chứng minh rằng mô hình của họ tuân thủ các nguyên tắc "AI không thiên vị" - tạo ra một loại thủ tục giấy tờ mua lại mới cùng với chứng nhận bảo mật và chứng thực chuỗi cung ứng một cách hiệu quả. Ngược lại, các quan chức hợp đồng sẽ có được ngôn ngữ chuẩn hóa mà họ có thể đưa vào chào mời mà không cần soạn thảo từ đầu, điều mà các chuyên gia mua sắm cho rằng thường là yếu tố biến chính sách thành thực tế.
Hướng dẫn này cũng được đưa ra khi Lầu Năm Góc bình thường hóa các chatbot thương mại cho lực lượng lao động của mình, đồng thời tung ra các phiên bản trợ lý AI thương mại do chính phủ điều chỉnh dành cho nhân viên quốc phòng. Việc đưa ngôn ngữ trung lập về ý thức hệ vào các hợp đồng đó sẽ mở rộng tiêu chuẩn chính trị vào các hệ thống được sử dụng cho mọi thứ, từ lập kế hoạch hậu cần đến công việc hành chính thông thường.
Một trường hợp thử nghiệm cho phần còn lại của Chính phủ
Các cơ quan khác hiện phải đối mặt với sự lựa chọn: áp dụng toàn bộ các mẫu của Lầu Năm Góc, tự viết mẫu hoặc chờ Quốc hội hành động. Việc Patronis thúc đẩy hệ thống hóa mệnh lệnh hành pháp sẽ giải quyết sự mơ hồ đó bằng quy chế - và sẽ khiến các yêu cầu về tính trung lập trở nên khó khăn hơn nhiều đối với chính quyền tương lai trong việc đảo ngược.
Những người chỉ trích mệnh lệnh cho rằng việc đo lường tính trung lập về mặt tư tưởng trong các mô hình ngôn ngữ là mang tính khoa học và có thể làm giảm hành vi hợp pháp của mô hình, bao gồm cả những mô tả chính xác về các chủ đề gây tranh cãi. Những người ủng hộ phản bác rằng các tiêu chuẩn mua sắm đã thường xuyên áp đặt các yêu cầu về nội dung đối với các nhà cung cấp và các nhà phát triển mô hình vẫn được tự do bán ở nơi khác.
Dù thế nào đi nữa, hướng di chuyển đã rõ ràng. Người mua công nghệ lớn nhất của chính phủ đã viết "AI không thiên vị" và các nhà thầu quốc phòng hy vọng bán hệ thống AI cho Lầu Năm Góc hiện có một danh sách kiểm tra mới để đáp ứng - một danh sách bắt đầu bằng tài liệu và có thể kết thúc trong các tranh chấp hợp đồng nếu mô hình được triển khai không đạt được bài kiểm tra tính trung lập.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
