Lầu Năm Góc đang triển khai một chương trình thí điểm sử dụng trí tuệ nhân tạo để quản lý cách phân loại và xử lý thông tin quân sự nhạy cảm, theo một bản ghi nhớ do Thứ trưởng Quốc phòng Steve Feinberg ban hành đã được DefenseScoop xem xét. Chỉ thị này yêu cầu triển khai quy mô nhỏ ban đầu khả năng phân loại bảo mật tự động trong vòng sáu tháng tới - động thái mở đầu trong nỗ lực cải tổ quy trình mà bộ mô tả là đã lỗi thời một cách nguy hiểm.
Bên trong bản ghi nhớ của Feinberg For more context on this story, see our ongoing breaking AI news.
Bản ghi nhớ được ban hành hôm thứ Hai coi các thủ tục phân loại và giải mật hiện có của Lầu Năm Góc là nguyên nhân gây ra "rối loạn chức năng" mà bộ này cho rằng đang "gây nguy hiểm" cho nhiệm vụ của họ. Nó lập luận rằng các thủ tục lỗi thời làm chậm việc "cung cấp thông tin quan trọng kịp thời" và làm xói mòn lòng tin của công chúng đối với bộ.
Theo DefenseScoop, bản ghi nhớ nêu rõ: “Sự rối loạn chức năng do các quy trình này gây ra dẫn đến việc phân loại không chính xác, gây gánh nặng cho hệ thống an ninh quốc gia của chúng ta, cản trở khả năng tương tác và làm chậm sự đổi mới bằng cách giữ dữ liệu quan trọng trong ống bếp”.
ACME: Hệ thống Không quân ở Trung tâm
Để thử nghiệm, Bộ Quốc phòng sẽ sử dụng hệ thống được hỗ trợ bởi AI mà Không quân đã phát triển gần đây có tên là Môi trường quản lý phân loại tự động, hay ACME. Bản ghi nhớ chỉ định quan chức dân sự hàng đầu của Lực lượng Không quân làm đại diện điều hành cho phi công và một phát ngôn viên của Lực lượng Không quân nói với DefenseScoop rằng cơ quan này “sẽ tuân thủ chỉ đạo trong bản ghi nhớ”.
ACME đã được gắn cờ công khai vào tháng 8, khi các quan chức đưa ra yêu cầu yêu cầu ngành thông tin giúp xây dựng một hệ sinh thái quản lý phân loại để thay thế quy trình "thủ công, sử dụng nhiều nhân lực" mà quân đội đã sử dụng trong nhiều thập kỷ. Thông báo đó mô tả một hệ thống đang gặp khó khăn: hàng trăm quan chức có thẩm quyền phân loại thông tin, nhiều người sử dụng các chương trình lỗi thời, tạo ra tài liệu lỗi thời, tỷ lệ lỗi cao, thường xuyên phân loại quá mức và tính toàn vẹn của dữ liệu bị suy giảm. Bộ cũng có một lượng tồn đọng bản cứng khoảng 140 triệu trang.
Từ thí điểm đến tài liệu tham khảo có thẩm quyền duy nhất
Nếu thí điểm thành công, bản ghi nhớ cho biết hệ thống tự động cuối cùng sẽ đóng vai trò là "tài liệu tham khảo có thẩm quyền kỹ thuật số duy nhất" cho tất cả các quyết định phân loại ban đầu của bộ. Trách nhiệm đó trước đây thuộc về các quan chức con người được chỉ định đặc biệt, những người xác định cách phân loại thông tin nhạy cảm - có nghĩa là việc triển khai thành công sẽ đánh dấu một trong những bước chuyển giao quan trọng nhất của chức năng cốt lõi của chính phủ sang các hệ thống AI cho đến nay.
Tại sao các quan chức nói rằng cần phải thay đổi
Trường hợp tự động hóa dựa trên khối lượng và tốc độ tuyệt đối của thông tin quân sự hiện đại. Yêu cầu cung cấp thông tin vào tháng 8 gọi quy trình thủ công là “không tương thích” với khối lượng và tốc độ thông tin trong thời đại kỹ thuật số. Phân loại quá mức giúp thông tin bị khóa khỏi các đơn vị và đồng minh cần thông tin đó; việc phân loại dưới mức có nguy cơ làm lộ khả năng và kế hoạch của đối thủ. Sai sót ở cả hai hướng đều gây ra chi phí và với số lượng trang bản cứng tồn đọng lên tới bảy con số, bộ đã kết luận rằng việc sửa chữa từng bước là không đủ.
Josh Wallin, một thành viên tại chương trình quốc phòng của Trung tâm An ninh Mỹ Mới, nói với DefenseScoop rằng thông tin được phân loại kém có thể tiết lộ khả năng hoặc kế hoạch cho kẻ thù, trong khi tài liệu được phân loại quá mức có thể bị giữ lại hoặc bị đình trệ do quá trình xem xét bị trì hoãn - có nghĩa là nó có thể không đến được các tổ chức cần nó, "trong môi trường liên minh nơi việc chia sẻ thông tin là rất quan trọng để phối hợp." Ông nói thêm rằng, trong nhiều trường hợp, "phần lớn thông tin không nhất thiết phải nhạy cảm đến mức bạn lo lắng về việc phân loại sai", đó chính là lý do tại sao việc xử lý nhanh hơn, nhất quán hơn có thể mang lại lợi ích cho toàn bộ bộ phận.
Các nhà phân tích nhìn thấy lợi nhuận - và rủi ro thực sự
Wallin cho biết tự động hóa có thể giúp giải quyết các vấn đề phân loại sai – bao gồm thông tin được con người bảo vệ quá mức, bảo vệ kém hoặc dán nhãn sai – và giảm thiểu tình trạng sử dụng bếp lò, đặc biệt là khi các xung đột hiện đại cho thấy luồng thông tin nhanh chóng có thể là một lợi thế mang tính quyết định.
Nhưng Wallin cũng cảnh báo rủi ro. Việc phân loại sai có thể xảy ra ở quy mô nhanh hơn trong các hệ thống được hỗ trợ bởi AI. Việc chia sẻ nhanh hơn với các đồng minh và đối tác đặt ra câu hỏi về giao thức an ninh mạng của mạng người nhận. Và quá trình giải mật được đẩy nhanh sẽ tạo ra hiệu ứng "tổng hợp", trong đó kẻ thù có thể ghép lại những hiểu biết nhạy cảm từ những tiết lộ vô hại riêng lẻ.
“Có một mối lo ngại về việc phân loại sai,” Wallin nói. "Chỉ có một mối lo ngại cố hữu là một số thông tin sẽ nhạy cảm. Liệu nó có bị phân loại sai và chia sẻ, một cách vô tình và liệu ai đó sẽ không nắm bắt được nó?"
Vẫn còn câu hỏi giám sát
Wallin cũng đặt câu hỏi về tính ngắn gọn của chương trình thí điểm và cách thức hoạt động giám sát của con người khi AI đóng vai trò là tài liệu tham khảo chính xác cho cơ quan phân loại ban đầu. "Làm thế nào [bạn] thực sự có sự giám sát của con người tại chỗ? Điều đó sẽ phải tồn tại mãi mãi", ông nói với DefenseScoop, lưu ý rằng hệ thống sẽ phát triển theo thời gian và không bao giờ có thể đạt được sự tin tưởng hoàn toàn.
Lầu Năm Góc chưa trả lời ngay lập tức các câu hỏi về mô hình AI cơ bản nào sẽ cung cấp năng lượng cho phi công hoặc liệu bộ này có lo ngại về việc sử dụng công nghệ này cho mục đích này hay không. Chỉ thị này được đưa ra trong bối cảnh một cuộc tranh luận rộng rãi hơn ở Washington về việc giám sát AI, ngay cả khi các quan chức quốc phòng cho rằng AI là một công cụ quá mạnh để có thể loại bỏ trong khi các đối thủ triển khai nó trong quân đội của họ. Làm thế nào Bộ cân bằng hai động lực đó - áp dụng tích cực và kiểm soát con người có ý nghĩa - sẽ là câu hỏi xác định của chương trình thí điểm kéo dài sáu tháng.
Đối với Không quân, nhiệm vụ này cũng là một cuộc bỏ phiếu tín nhiệm. Cơ quan này đã xây dựng ACME trong khi cuộc thảo luận trong toàn bộ về cải cách phân loại vẫn còn mang tính lý thuyết và bản ghi nhớ giờ đây giao cho cơ quan này trách nhiệm về một khả năng mà nếu hoạt động được sẽ định hình lại cách mọi quân chủng xử lý các bí mật của mình. Đối với phần còn lại của chính phủ liên bang - nơi thường xuyên xảy ra tình trạng tồn đọng phân loại và khiếu nại về phân loại quá mức - một thí điểm thành công của Lầu Năm Góc sẽ cung cấp mẫu quy mô lớn đầu tiên để xử lý thông tin được hỗ trợ bởi AI và một mẫu được theo dõi chặt chẽ ở đó.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
