Theo một báo cáo độc quyền của CNN công bố hôm thứ Năm, quân đội Hoa Kỳ đã tiến gần đến việc chặn một tàu Trung Quốc một cách nguy hiểm dựa trên một báo cáo tình báo được tạo ra với sự trợ giúp của một chatbot AI và hóa ra là hoàn toàn sai sự thật.

Sự việc, được bốn nguồn tin quen thuộc với vấn đề này mô tả cho CNN, bắt đầu vào đầu mùa xuân năm nay – giữa cuộc chiến với Iran – khi một báo cáo lan truyền khắp quân đội Hoa Kỳ tuyên bố rằng một tàu Trung Quốc ở Trung Đông đang vận chuyển các thành phần của chương trình vũ khí hạt nhân. Báo cáo ngay lập tức gióng lên hồi chuông cảnh báo và quân đội đã nhanh chóng hành động với kế hoạch đánh chặn con tàu. Để thường xuyên đưa tin về những câu chuyện như thế này, hãy theo dõi tin tức AI khi nó phát triển.

Máy bay trên không, Tiệc lên máy bay đã sẵn sàng

Theo hai nguồn tin của CNN, các thành viên có vũ trang của quân đội Mỹ đang chuẩn bị lên tàu. Một nguồn tin cho biết máy bay quân sự đã xuất hiện.

Chỉ ngay trước hoạt động theo kế hoạch, các quan chức đã tìm hiểu sâu hơn về báo cáo - được tổng hợp bởi một nhà phân tích chỉ huy hoạt động đặc biệt - và phát hiện ra rằng nó được tạo ra với sự trợ giúp của trí tuệ nhân tạo và chatbot mà nhà phân tích đã sử dụng đã xác định không chính xác vật liệu mà con tàu đang chở. CNN cho biết họ không thể biết được hàng hóa bị xác định nhầm thực sự là gì.

Một nguồn mô tả báo cáo là "hoàn toàn sai sự thật." Nguồn tin cho biết, điều đó cũng "gần như bắt đầu một cuộc chiến" - vì bất kỳ hoạt động nào của Mỹ chống lại tàu Trung Quốc đều có nguy cơ dẫn đến xung đột vũ trang giữa hai quốc gia.

Báo cáo sai được xây dựng như thế nào

Nhà phân tích đã truy vấn một chatbot về báo cáo tình báo về bản kê khai của con tàu có nguồn gốc từ Bộ Tư lệnh Tác chiến Đặc biệt Thái Bình Dương của Hoa Kỳ, có trụ sở tại Hawaii. CNN đưa tin không rõ chatbot là sản phẩm thương mại hay công cụ của chính phủ Hoa Kỳ.

Robot đã kết hợp thông tin tình báo nguồn mở với thông tin tình báo tín hiệu bí mật do chính phủ nắm giữ và đưa ra kết luận định mệnh về vật liệu trên tàu. Sau đó, nhà phân tích đã sử dụng AI lần thứ hai – để gói các phát hiện vào một báo cáo tình báo tiêu chuẩn, loại được các quan chức quân sự tin cậy – và phổ biến nó trên toàn hệ thống.

Bộ chỉ huy hoạt động đặc biệt Thái Bình Dương của Hoa Kỳ và Lầu Năm Góc đã không trả lời yêu cầu bình luận của CNN.

Cuộc đua quân sự để áp dụng AI

Tình huống suýt xảy ra vào thời điểm các quan chức trong cộng đồng tình báo và quân đội Hoa Kỳ đang nỗ lực đưa AI vào gần như mọi khía cạnh công việc của họ – từ phân tích khối lượng lớn thông tin tình báo thô và chọn mục tiêu cho các cuộc tấn công, đến các ứng dụng thông thường như lập ngân sách, hậu cần và chuỗi cung ứng.

Vào tháng 1, Bộ trưởng Quốc phòng Pete Hegseth đã công bố “Chiến lược tăng tốc trí tuệ nhân tạo” của bộ, nhằm tăng tốc độ áp dụng AI của quân đội. Hegseth cho biết trong bài phát biểu công bố chiến lược: “Chúng tôi sẽ mở rộng thử nghiệm, loại bỏ các rào cản quan liêu, tập trung đầu tư và thể hiện cách tiếp cận thực thi cần thiết để đảm bảo chúng tôi dẫn đầu về AI quân sự”.

Chiến lược này kêu gọi dân chủ hóa quyền truy cập một cách rõ ràng, ra lệnh cho Bộ đưa "các mô hình AI hàng đầu thế giới của Mỹ trực tiếp vào tay ba triệu nhân viên dân sự và quân sự của chúng tôi, ở mọi cấp độ phân loại."

Không có một bộ quy tắc nào

Nhưng nỗ lực này được phân cấp, nhiều quan chức Mỹ nói với CNN, với các bộ phận khác nhau của chính phủ sử dụng các công cụ khác nhau theo các mệnh lệnh và tiêu chuẩn an toàn khác nhau. Không có một bộ tiêu chuẩn nào về cách Hoa Kỳ xác minh thông tin do các công cụ này tạo ra và độ tin cậy của các hệ thống khác nhau rất khác nhau.

Một cựu quan chức cấp cao của Mỹ quen thuộc với hệ thống AI được các nhà phân tích quân sự và tình báo sử dụng nói với CNN: “Các công cụ nội bộ hầu hết chỉ là bản sao của các sản phẩm thương mại có tô son”.

Nhắm mục tiêu AI đang 'tăng tốc' với rất ít hướng dẫn

Các nguồn tin cho biết quân đội đang nhanh chóng chuyển sang sử dụng AI để hỗ trợ xác định mục tiêu - một lĩnh vực có nguy cơ xảy ra những sai lầm chết người. Một nguồn tin khác quen thuộc với các chính sách hiện tại của quân đội nói với CNN: “AI trong việc nhắm mục tiêu chắc chắn là thứ đang được phát triển và không có hướng dẫn thực sự nào về việc làm thế nào để con người tham gia vào vòng lặp sẽ ngăn ngừa thương vong cho dân thường hoặc tình huynh đệ tương tàn”.

Các nhà phân tích từ lâu đã cảnh báo rằng AI có thể góp phần gây ra tính toán sai lầm thảm khốc nếu các quốc gia dựa vào dữ liệu kém hoặc bị hỏng – chính xác là loại tính toán sai lầm có thể khiến Hoa Kỳ bắn vào tàu Trung Quốc dựa trên thông tin không chính xác.

Theo CNN, loại ảo giác đằng sau báo cáo sai về con tàu không phải là một sự cố cá biệt trong cộng đồng tình báo kể từ khi những công cụ này bắt đầu phổ biến thông qua chính phủ.

'AI cho phép bạn tìm ra ý tưởng tồi nhanh hơn'

Trong nhiều tuần, các nhà hoạch định chính sách của Washington đã tranh luận gay gắt về AI sau một loạt cảnh báo nghiêm trọng từ Thung lũng Silicon về khả năng AI có thể thoát khỏi những ràng buộc của con người. Nhưng vụ tàu Trung Quốc nhấn mạnh một nguy cơ khác và trực tiếp hơn: con người đưa ra những quyết định tai hại dựa trên thông tin không chính xác hoặc sai lệch do hệ thống AI tạo ra.

Một số nguồn tin nói với CNN rằng các nhà phân tích trẻ nói riêng - những người sử dụng những công cụ này - có nhiều khả năng tin tưởng chúng hơn và AI đã tăng cường áp lực lên các nhà phân tích để tạo ra và phổ biến thông tin tình báo nhanh hơn, mở ra cơ hội cho những sai lầm.

Một trong những nguồn tin cho biết: “AI cho phép bạn đưa ra một ý tưởng tồi nhanh hơn”.

Tình tiết này có thể sẽ thúc đẩy một cuộc tranh luận sôi nổi về việc quân đội Hoa Kỳ nên đưa AI vào quy trình làm việc nhạy cảm nhất của mình nhanh như thế nào và những bước xác minh nào là bắt buộc trước khi báo cáo được hỗ trợ bởi AI có thể di chuyển quân đội, máy bay và nhân viên vũ trang tới một hoạt động chiến đấu tiềm năng. Hiện tại, các chi tiết cho thấy các biện pháp bảo vệ hiện có chỉ là sự chắp vá - và trong trường hợp này, sự khác biệt giữa một báo cáo tình báo thông thường và một sự cố quốc tế là do các quan chức tình cờ kiểm tra kỹ.

Đi trước AI

Để biết thêm báo cáo về chính sách AI, an ninh quốc gia và các mô hình định hình cả hai, hãy đọc thêm tin tức về AI.