Theo cơ quan giám sát hàng đầu của chính phủ liên bang, văn phòng Lầu Năm Góc được giao nhiệm vụ điều phối việc sử dụng trí tuệ nhân tạo có trách nhiệm và có đạo đức đang thiếu nhân lực đáng kể - sự thiếu hụt đã cản trở khuôn khổ đạo đức AI hàng đầu của bộ ngay cả khi quân đội nỗ lực trở thành lực lượng chiến đấu "đầu tiên về AI".

Trong một báo cáo ngày 14 tháng 10 và được Stars and Stripes đưa tin hôm thứ Ba, Văn phòng Trách nhiệm Chính phủ cho biết, tình trạng thiếu nhân viên tại Trưởng Văn phòng Trí tuệ Nhân tạo và Kỹ thuật số đã ngăn cản cơ quan này thực hiện đầy đủ sáng kiến ​​AI có trách nhiệm của Lầu Năm Góc. Phát hiện này xảy ra vào thời điểm việc ra quyết định của AI trong lĩnh vực phòng thủ đã chuyển từ phòng thí nghiệm sang chiến trường, gây ra những hậu quả cụ thể về khoảng cách nhân sự.

Ba trong số mười vị trí đã được lấp đầy và các vị trí tuyển dụng có thể vẫn mở

AI có trách nhiệm là khuôn khổ đạo đức tích hợp của Bộ Quốc phòng quản lý việc phát triển, triển khai và vận hành các khả năng AI trên cả hệ thống chiến đấu và phi chiến đấu. CDAO là văn phòng chính trong việc áp dụng và tích hợp AI của bộ, bao gồm cả khuôn khổ AI có trách nhiệm - điều này làm cho cấp độ nhân sự của bộ trở thành thước đo trực tiếp về mức độ năng lực thực sự của chức năng giám sát.

GAO nhận thấy rằng chỉ có 3 trong số 10 vị trí được ủy quyền của văn phòng được bổ nhiệm tính đến tháng 2. Các quan chức quốc phòng nói với cơ quan giám sát rằng các vị trí còn lại khó có thể được lấp đầy, một sự thừa nhận cho thấy sự thiếu hụt không phải là do độ trễ tuyển dụng tạm thời mà là do tình trạng cơ cấu của nhiệm vụ giám sát của văn phòng.

Chiến lược 'AI First' vượt xa các biện pháp bảo vệ của chính nó

Việc tiết lộ nhân sự nằm lúng túng bên cạnh định hướng chiến lược của bộ. Vào tháng 1, Bộ trưởng Quốc phòng Pete Hegseth đã ban hành một chiến lược AI, theo báo cáo của GAO, nhấn mạnh lại việc tăng tốc tích hợp và áp dụng AI. Báo cáo nêu rõ chiến lược này "nhấn mạnh nền tảng thời chiến, kêu gọi Bộ Quốc phòng trở thành lực lượng chiến đấu 'đầu tiên về AI' trên tất cả các thành phần."

Sự tương phản rất rõ ràng: nhiệm vụ tăng tốc AI trên các hệ thống chiến đấu, được giám sát bởi một văn phòng hoạt động với 30% sức mạnh được ủy quyền. Sự phát triển nhanh chóng của AI đã thách thức các cơ quan quản lý trên toàn thế giới khi công nghệ này vượt xa sự giám sát của cơ quan lập pháp và con người truyền thống - và cơ quan giám sát của Lầu Năm Góc hiện đã ghi lại khoảng trống bên trong bộ máy quan liêu quân sự lớn nhất thế giới. Để biết thêm báo cáo về chính sách và quản trị AI, hãy xem trang chủ tin tức AI của chúng tôi.

Tiền đặt cược: Nhắm mục tiêu, rào cản và sự từ chối định hình lại chính sách

Hậu quả của việc giám sát mỏng không phải là giả thuyết. Bloomberg đưa tin vào tháng trước và Stars and Stripes nhắc lại rằng phần mềm hỗ trợ AI được sử dụng để chọn mục tiêu đã góp phần gây ra cuộc tấn công của Mỹ vào một trường tiểu học bằng tên lửa Tomahawk vào ngày 28 tháng 2, ngày đầu tiên của Chiến tranh Iran, khiến hơn 100 trẻ em thiệt mạng.

Cuộc chiến quản trị AI của quân đội cũng thu hút sự tham gia của khu vực tư nhân. Vào tháng 2, Bộ trưởng Quốc phòng Pete Hegseth và Tổng thống Donald Trump đã thúc ép Anthropic loại bỏ các rào chắn an toàn trong mô hình Claude do chính phủ ký hợp đồng nhằm ngăn hệ thống này được sử dụng cho vũ khí tự động hoàn toàn và giám sát hàng loạt. Khi Anthropic từ chối, chính quyền đã chỉ định công ty là rủi ro an ninh quốc gia và cấm các cơ quan chính phủ sử dụng Claude - một AI Buzz Wire bế tắc đã được các tòa án đưa ra, bao gồm cả phán quyết của tòa phúc thẩm giữ nguyên danh sách đen.

Ý nghĩa của việc chạy ở mức 30% trong thực tế

Một văn phòng giám sát ở ba trong số mười vị trí được ủy quyền của nó không phải là một bộ máy quan liêu tồn đọng - đó là một khuôn khổ hoạt động với một phần công suất dự kiến. Sáng kiến ​​AI có trách nhiệm phụ thuộc vào CDAO để chuyển các nguyên tắc đạo đức thành các quy trình xem xét mà các chương trình liên lạc và vũ khí thực tế phải tuân theo và mọi chỗ trống đều thể hiện công việc sẽ được hoàn tác hoặc rơi vào tay các nhân viên còn lại trải dài trên các danh mục đầu tư.

Bởi vì các quan chức Quốc phòng đã nói với GAO rằng các vị trí tuyển dụng khó có thể được lấp đầy, hạn chế này có vẻ lâu dài hơn là theo chu kỳ. Các chương trình sẽ tiếp tục phát huy khả năng của AI và gánh nặng thực tế của việc áp dụng khuôn khổ đạo đức sẽ tiếp tục tập trung vào một nhóm người ngày càng nhỏ hơn.

Đạo đức con người là tuyến phòng thủ cuối cùng

Các luật sư quân sự cho rằng khoảng cách về nhân sự khiến phán đoán của con người trở thành sự kiểm tra có ý nghĩa duy nhất. Sean Timmons, một luật sư chuyên về luật quân sự tại công ty Tully Rinckey, cho biết qua điện thoại hôm thứ Ba, theo Stars and Stripes: “Việc ra quyết định quân sự phải dựa trên đạo đức con người và chỉ cần ra lệnh cho máy tính thực hiện điều gì đó có thể là một cách rất nhanh chóng để thực hiện điều đó, nhưng nó có thể không phải là một phương pháp pháp lý có đạo đức, đạo đức hoặc hợp pháp để thực hiện bất cứ điều gì chúng ta đang cố gắng xảy ra”.

Một số nhà lãnh đạo ngành AI đã kêu gọi làm chậm tốc độ tiến bộ của AI, cảnh báo rằng việc mất quyền kiểm soát các tác nhân AI tự trị có thể gây ra mối đe dọa hiện hữu – những cảnh báo có sức nặng đặc biệt khi áp dụng cho vũ khí tự động. Phát hiện của GAO cho thấy rằng, hiện nay, thành phần tăng trưởng nhanh nhất trong sức mạnh quân sự của Hoa Kỳ đang được mở rộng quy mô trước cơ sở hạ tầng con người nhằm quản lý nó.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →