Quân đội Hoa Kỳ đã tiến gần đến một cuộc đối đầu trực tiếp với Trung Quốc hơn hầu hết mọi người nhận ra vào mùa xuân này - và theo một bài báo độc quyền của CNN xuất bản hôm thứ Sáu, ảo giác về AI là lý do tại sao.

Báo cáo nêu chi tiết cách một tài liệu tình báo được tạo ra với sự trợ giúp của chatbot đã gây ra một chuỗi sự kiện khiến các nhân viên vũ trang của Mỹ chuẩn bị lên một tàu Trung Quốc ở Trung Đông với niềm tin rằng con tàu này đang vận chuyển các thành phần của chương trình vũ khí hạt nhân. Theo các nguồn tin quen thuộc với hoạt động này, máy bay quân sự đã xuất hiện. For more context on this story, see our ongoing more AI stories.

Nhiệm vụ chỉ bị hủy bỏ ngay trước khi có kế hoạch đánh chặn, khi các quan chức đào sâu hơn vào báo cáo và phát hiện ra rằng tuyên bố trọng tâm của báo cáo - tuyên bố đã huy động quân đội Hoa Kỳ - là sai.

Một nguồn tin quen thuộc với sự việc này mô tả báo cáo tình báo gửi cho CNN là "hoàn toàn sai sự thật". Nguồn tin cho biết, nó cũng "gần như bắt đầu một cuộc chiến". Bất kỳ hoạt động nào của Mỹ chống lại tàu Trung Quốc đều có thể dẫn đến xung đột vũ trang giữa hai quốc gia.

Làm thế nào yêu cầu của Chatbot trở thành một hoạt động quân sự

Sự việc bắt đầu vào mùa xuân năm nay, giữa cuộc chiến với Iran, khi một báo cáo tình báo bắt đầu lan truyền khắp quân đội Hoa Kỳ. Tài liệu khẳng định một tàu Trung Quốc ở Trung Đông đang chở các thành phần của chương trình vũ khí hạt nhân, và nó ngay lập tức gióng lên hồi chuông cảnh báo.

Theo CNN, báo cáo được tổng hợp bởi một nhà phân tích tại Bộ chỉ huy hoạt động đặc biệt của Hoa Kỳ, người đã truy vấn một chatbot về báo cáo tình báo về bản kê khai của con tàu – báo cáo bắt nguồn từ Bộ chỉ huy hoạt động đặc biệt Hoa Kỳ Thái Bình Dương, có trụ sở tại Hawaii. Hiện vẫn chưa rõ liệu chatbot là một sản phẩm thương mại hay một công cụ của chính phủ Hoa Kỳ. Một cựu quan chức cấp cao của Mỹ quen thuộc với các hệ thống AI được sử dụng bởi các nhà phân tích tình báo và quân sự đã đưa ra đánh giá thẳng thắn với CNN về các dịch vụ nội bộ của chính phủ: “Các công cụ nội bộ hầu hết chỉ là bản sao của các sản phẩm thương mại tô son môi”.

Chatbot này đã kết hợp thông tin tình báo nguồn mở với thông tin tình báo tín hiệu bí mật do chính phủ nắm giữ và đưa ra kết luận định mệnh về hàng hóa trên tàu. Sau đó, nhà phân tích sử dụng AI lần thứ hai để gói những phát hiện này thành một báo cáo tình báo tiêu chuẩn - loại mà các quan chức quân sự thường tin tưởng - và phổ biến nó.

Bốn nguồn quen thuộc với tập phim đã nói chuyện với CNN. Theo hai người trong số họ, các thành viên có vũ trang của quân đội Mỹ đang chuẩn bị lên tàu thì báo cáo thất bại. CNN không thể biết được hàng hóa bị xác định sai thực sự là gì. Bộ chỉ huy hoạt động đặc biệt Thái Bình Dương của Hoa Kỳ và Lầu Năm Góc đã không trả lời yêu cầu bình luận của CNN.

Chiến lược tăng tốc đáp ứng yêu cầu thực tế

Cơ hội suýt xảy ra vào thời điểm Lầu Năm Góc đang nỗ lực đưa AI vào gần như mọi khía cạnh công việc của mình - phân tích khối lượng lớn thông tin tình báo thô, chọn mục tiêu cho các cuộc tấn công và xử lý các nhiệm vụ trần tục hơn như lập ngân sách, hậu cần và chuỗi cung ứng.

Vào tháng 1, Bộ trưởng Quốc phòng Pete Hegseth đã công bố “Chiến lược tăng tốc trí tuệ nhân tạo” của bộ, một nỗ lực nhằm tăng tốc việc áp dụng AI cho quân đội.

Hegseth cho biết trong bài phát biểu công bố chiến lược: “Chúng tôi sẽ mở rộng thử nghiệm, loại bỏ các rào cản quan liêu, tập trung đầu tư và thể hiện cách tiếp cận thực thi cần thiết để đảm bảo chúng tôi dẫn đầu về AI quân sự”.

Bản ghi nhớ kèm theo còn đi xa hơn, yêu cầu Bộ cung cấp AI thông qua một số chương trình với mục đích "dân chủ hóa việc thử nghiệm và chuyển đổi AI trong toàn Bộ bằng cách đưa trực tiếp các mô hình AI hàng đầu thế giới của Mỹ vào tay ba triệu nhân viên dân sự và quân sự của chúng tôi, ở tất cả các cấp độ phân loại."

Nhưng nỗ lực này được phân cấp, nhiều quan chức Mỹ nói với CNN, với các bộ phận khác nhau của chính phủ sử dụng các công cụ khác nhau theo các mệnh lệnh và tiêu chuẩn an toàn khác nhau. Không có một bộ tiêu chuẩn duy nhất nào để xác minh thông tin do các công cụ này tạo ra và độ tin cậy của các hệ thống khác nhau rất khác nhau.

Nhắm mục tiêu là nơi rủi ro tồn tại

Các nhà phân tích từ lâu đã lo ngại rằng AI có thể góp phần gây ra một tính toán sai lầm thảm khốc nếu các quốc gia hành động dựa trên dữ liệu kém hoặc bị hỏng. Vụ tàu Trung Quốc là một trường hợp được ghi nhận về chính xác kiểu hư hỏng đó hình thành trong thời gian thực - và về việc các biện pháp bảo vệ đã không phát hiện được nó cho đến giây phút cuối cùng.

Một nguồn tin khác quen thuộc với các chính sách hiện tại của quân đội nói với CNN: “AI trong việc nhắm mục tiêu chắc chắn là thứ đang được phát triển và không có hướng dẫn thực sự nào về việc làm thế nào để con người tham gia vào vòng lặp sẽ ngăn ngừa thương vong cho dân thường hoặc tình huynh đệ tương tàn”.

Theo báo cáo của CNN, loại ảo giác tạo ra tuyên bố sai lầm không phải là một sự cố cá biệt trong cộng đồng tình báo kể từ khi các công cụ AI bắt đầu phổ biến trong chính phủ. Một số nguồn cũng chỉ ra rủi ro về văn hóa: các nhà phân tích trẻ, được mô tả là những người sử dụng thành thạo những công cụ này, có nhiều khả năng tin tưởng chúng một cách thiếu phê phán hơn và áp lực phải đưa ra thông tin tình báo nhanh hơn sẽ tạo ra nhiều cơ hội cho sai sót hơn.

Một nguồn tin cho biết: “AI cho phép bạn đưa ra một ý tưởng tồi nhanh hơn”.

Rủi ro trước mắt còn lớn hơn siêu trí tuệ

Trong nhiều tuần, Washington đã bị cuốn vào cuộc tranh luận về rủi ro dài hạn của AI, sau một loạt cảnh báo công khai nghiêm trọng từ các kỹ sư và giám đốc điều hành công nghệ ở Thung lũng Silicon về các hệ thống có khả năng thoát khỏi những ràng buộc của con người. Báo cáo của CNN nhấn mạnh một mối nguy hiểm khác và trực tiếp hơn: con người đưa ra những quyết định tai hại dựa trên kết quả đầu ra AI không chính xác hoặc gây hiểu lầm – ngay lúc này, giữa những căng thẳng địa chính trị thực sự.

Không có phát súng nào được bắn vào mùa xuân này, và việc lên máy bay cũng không bao giờ xảy ra. Nhưng tình tiết này là ví dụ rõ ràng nhất cho thấy các lỗi do máy tạo ra, một khi được đưa vào báo cáo chính thức, có thể đi qua bộ máy quân sự hùng mạnh nhất thế giới đến tận bờ vực xung đột vũ trang giữa các cường quốc hạt nhân - không có tiêu chuẩn xác minh thường trực nào để ngăn chặn xung đột tiếp theo.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →