Một đánh giá của Bộ Quốc phòng Hoa Kỳ đã kết luận rằng việc phụ thuộc quá nhiều vào trí tuệ nhân tạo đã góp phần gây ra vụ tấn công tên lửa hồi tháng 3 vào một trường học ở Iran, khiến khoảng 120 trẻ em thiệt mạng, theo kết quả đánh giá được Bloomberg đưa tin hôm thứ Hai và được tóm tắt bởi Yahoo News và các cơ quan khác.
Phát hiện này là lần đầu tiên Lầu Năm Góc chính thức quy kết một kết quả chiến đấu chết người một phần là do sự phụ thuộc vào hệ thống AI, và nó rơi vào giữa một cuộc tranh luận gay gắt về việc quân đội Hoa Kỳ nên ủy quyền bao nhiêu thẩm quyền nhắm mục tiêu cho phán đoán của máy. Để biết thêm những báo cáo như thế này, hãy xem đạo đức AI của chúng tôi.
Chuyện gì đã xảy ra vào tháng 3
Cuộc tấn công xảy ra vào đầu tháng 3 năm 2026, khi phân tích video do Bellingcat công bố và được NPR và BBC xác minh cho thấy một tên lửa hành trình Tomahawk của Mỹ tấn công cạnh một trường nữ sinh ở thành phố Lamerd của Iran. Trong vài ngày, tờ New York Times đưa tin rằng một cuộc điều tra sơ bộ của Hoa Kỳ đã phát hiện ra cuộc tấn công là kết quả của một tên lửa của Mỹ và các nguồn tin của Iran cho biết số người chết lên tới hàng chục người, hầu hết là trẻ em.
Đánh giá mới của Lầu Năm Góc, được mô tả trong một cuộc điều tra của Bloomberg được công bố hôm thứ Hai, còn đi xa hơn: nó được cho là đã theo dõi sự thất bại trong quá trình nhắm mục tiêu và kết luận rằng việc phụ thuộc quá nhiều vào AI đã góp phần gây ra cuộc đình công. Yahoo News tóm tắt đánh giá là liên kết hệ thống nhắm mục tiêu AI với cuộc tấn công giết chết 120 trẻ em Iran; một số cửa hàng đã xác định hệ thống được đề cập là phần mềm do Palantir cung cấp, mặc dù Lầu Năm Góc chưa công khai xác nhận thông tin chi tiết về nhà cung cấp.
Bên trong Chuỗi Tiêu diệt
Tờ Los Angeles Times, trong một cuộc điều tra song song được công bố hôm thứ Hai, đã truy tìm cái mà họ gọi là "chuỗi tiêu diệt" của Hoa Kỳ đã phá hủy trường học - trình tự thu thập dữ liệu, đề cử mục tiêu được hỗ trợ bằng máy và xác nhận của con người kết thúc bằng một vụ phóng tên lửa. Báo cáo nhấn mạnh một thực tế khó chịu của chiến tranh chính xác hiện đại: phi hành đoàn bắn Tomahawk có thể không bao giờ nhìn thấy mục tiêu. Họ thực thi gói dữ liệu mục tiêu được tập hợp ngược dòng, trong đó các công cụ thuật toán ngày càng định hình những gì được đề cử và mức độ tin cậy của các nhà phân tích hỗ trợ.
Nói cách khác, phát hiện trọng tâm của cuộc đánh giá - sự tin cậy quá mức - không phải là việc robot bóp cò. Nó nói về việc con người tin tưởng vào kết quả đầu ra của một cỗ máy đủ để bỏ qua sự hoài nghi mà quy trình được thiết kế để yêu cầu.
Giám sát đã bị dỡ bỏ
Bối cảnh cho sự thất bại đã được báo cáo nhiều tháng trước. Politico tiết lộ vào tháng 3 rằng người đứng đầu Lầu Năm Góc đã cắt giảm các văn phòng không góp phần vào mục tiêu "sát thương" của ông, bao gồm cả Trung tâm Bảo vệ Dân sự Xuất sắc, và nhân sự trong các nhóm giảm nhẹ tác hại dân sự đã giảm khoảng 90%, tổng cộng giảm xuống dưới 20 người. ProPublica đưa tin đội cứu hộ dân sự-thương vong của Bộ Tư lệnh Trung ương đã giảm từ mười người xuống còn một.
Trong bối cảnh đó, các phát hiện của đánh giá không giống lỗi phần mềm mà giống lỗi hệ thống hơn: một công cụ AI có lỗi không thể khắc phục được bên trong một bộ máy nhắm mục tiêu có mạng lưới an toàn con người đã bị cắt đứt tận xương tủy.
Một mô hình mà Lầu Năm Góc đã biết đến
Cuộc tấn công của Iran không phải là một vụ suýt suýt xảy ra liên quan đến AI trong quân đội Mỹ. Báo cáo riêng biệt của Gizmodo và Futurism đã ghi lại một sự cố trong đó quân đội suýt lên tàu - và có khả năng bắn vào - một tàu Trung Quốc sau khi hệ thống AI gây ảo giác về vật liệu vũ khí hạt nhân trên tàu, một sai lầm có thể gây ra sự leo thang giữa các cường quốc. Trong trường hợp đó, sự can thiệp của con người đã ngăn chặn được thảm họa. Ở Iran, không có sự can thiệp nào như vậy xảy ra.
Các nhà nghiên cứu AI và các học giả về đạo đức quân sự đã cảnh báo trong nhiều năm rằng kết quả đầu ra của máy được đưa vào các quyết định có tính rủi ro cao sẽ tạo ra sự thiên vị tự động hóa - xu hướng được ghi nhận là con người quá tin tưởng vào các hệ thống tự tin. Đánh giá riêng của Lầu Năm Góc hiện được coi là sự thừa nhận chính thức rằng sự thiên vị này đã góp phần gây ra một trong những tổn thất dân sự nguy hiểm nhất trong cuộc chiến.
Điều gì xảy ra tiếp theo
Việc đánh giá có thể sẽ tăng cường áp lực ở Washington đối với các yêu cầu theo luật định về con người trong việc nhắm mục tiêu hỗ trợ AI, đồng thời khi chính quyền thúc đẩy đẩy nhanh việc áp dụng AI cho quân sự. Nó cũng làm phức tạp thêm hoạt động bán hàng của các nhà cung cấp công nghệ quốc phòng mà sản phẩm của họ hiện đang bị đưa vào đánh giá lỗi chính thức - và nó cung cấp cho Quốc hội một nghiên cứu điển hình cụ thể, được ghi lại để trích dẫn trong các phiên điều trần về chính sách vũ khí tự động.
Nhiều câu hỏi vẫn chưa được trả lời. Các bản tóm tắt của đánh giá được công bố cho đến nay không chỉ rõ phiên bản mô hình nào đang được sử dụng, liệu lỗi đó có phải là ảo giác, phân loại sai tòa nhà hay dữ liệu đầu vào bị hỏng ở thượng nguồn hay không – những khác biệt rất quan trọng đối với cách quân đội quản lý các công cụ AI. Cũng không rõ liệu đầu ra của hệ thống có được nhà phân tích nào xem xét trước khi gói mục tiêu được hoàn thiện hay không.
Dư luận vốn đã hoài nghi: một cuộc thăm dò của Reuters/Ipsos được công bố trong tuần này cho thấy 73% người Mỹ nói rằng các công ty AI không nỗ lực đủ để ngăn chặn những kết quả thảm khốc và mối lo ngại về AI trong hệ thống vũ khí luôn cao hơn mối lo ngại về AI của người tiêu dùng. Điều gì xảy ra với các đề xuất của cuộc đánh giá - và liệu có ai phải chịu trách nhiệm hay không - sẽ báo hiệu liệu phát hiện đó có làm thay đổi thực tiễn hay trở thành một báo cáo sự cố khác được nộp và bị lãng quên hay không.
---
Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
