根据彭博社周一报道、雅虎新闻和其他媒体总结的审查结果，美国国防部的一项审查得出的结论是，对人工智能的过度依赖导致了 3 月份对伊朗一所学校的导弹袭击，据报道造成约 120 名儿童死亡。
这一发现是五角大楼首次正式将致命的战斗结果部分归因于对人工智能系统的依赖，并且它正处于一场关于美国军方应将多少目标权力委托给机器判断的激烈争论之中。如需更多此类报道，请参阅我们的 AI 道德报道。
三月份发生了什么
这次袭击发生在 2026 年 3 月上旬，当时 Bellingcat 发布并经 NPR 和 BBC 核实的视频分析显示，一枚美国战斧巡航导弹袭击了伊朗城市拉默德的一所女子学校旁边。几天之内，《纽约时报》报道说，美国的初步调查发现这次袭击是美国导弹造成的，伊朗消息来源称造成数十人死亡，其中大多数是儿童。
彭博社周一发布的一份调查报告中描述的五角大楼新审查更进一步：据报道，它追踪了目标管道的失败，并得出结论，过度依赖人工智能导致了这次袭击。雅虎新闻将这篇评论总结为将人工智能定位系统与导致 120 名伊朗儿童死亡的袭击联系起来；尽管五角大楼尚未公开确认供应商详细信息，但多家媒体已确认该系统为 Palantir 提供的软件。
杀伤链内部
《洛杉矶时报》在周一发表的一项平行调查中，追踪了所谓的美国摧毁学校的“杀伤链”——数据收集、机器辅助目标提名和人类签字的顺序，最终导致导弹发射。该报告强调了现代精确战争的一个令人不安的现实：发射战斧的机组人员可能根本看不到目标。他们执行上游组装的目标数据包，算法工具逐渐决定提名的内容以及支持分析师的信心。
换句话说，该评论的核心发现——过度依赖——并不是机器人扣动扳机。这是关于人类对机器输出的足够信任，以跳过该过程设计所要求的怀疑。
被废除的监督
几个月前就报告了失败的背景。 Politico 今年 3 月透露，五角大楼负责人已经削减了对他的“杀伤力”目标没有贡献的办公室，包括平民保护卓越中心，并且平民伤害缓解小组的人员编制减少了约 90%，总体缩减至不到 20 人。 ProPublica 报道称，中央司令部的平民伤亡小组从 10 人减少到 1 人。
在此背景下，该审查的结果读起来不太像软件错误，而更像是系统故障：一种人工智能工具，其错误在目标装置内没有受到挑战，而其人类安全网已被切断。
五角大楼已经知道的模式
伊朗袭击并不是美军中一次孤立的与人工智能相关的事故。 Gizmodo 和 Futurism 的单独报道记录了一起事件，在人工智能系统幻觉船上有核武器材料后，军方差点登上一艘中国船只，并可能向其开火，这一错误可能引发大国升级。在这种情况下，人类干预避免了灾难。在伊朗，没有发生这样的干预。
人工智能研究人员和军事伦理学者多年来一直警告说，注入高风险决策的机器输出会产生自动化偏见——有记录的人类倾向于过度信任自信的系统。五角大楼自己的审查现在已成为官方承认这种偏见造成了这场战争中最致命的平民伤亡之一。
接下来会发生什么
此次审查可能会加大华盛顿对人工智能瞄准的法定人机交互要求的压力，同时政府也在推动加速军事人工智能的采用。它还使国防技术供应商的销售宣传变得复杂，这些供应商的产品现在涉及正式的故障审查——并且它为国会提供了一个具体的、记录在案的案例研究，可以在有关自主武器政策的听证会上引用。
许多问题仍然没有答案。迄今为止发布的审查摘要并未具体说明正在使用哪个模型版本，失败是否是幻觉、建筑物的错误分类或上游输入数据损坏——这些区别对于军方如何监管人工智能工具至关重要。也不清楚在目标包最终确定之前系统的输出是否经过任何分析师的审查。
公众舆论已经对此表示怀疑：路透社/益普索本周发布的一项民意调查发现，73％的美国人表示人工智能公司在防止灾难性后果方面做得不够，而且民调中对武器系统中人工智能的担忧始终高于对消费者人工智能的担忧。审查的建议会发生什么——以及是否有人被追究责任——将表明该发现是否会改变实践，或者成为另一份提交并被遗忘的事件报告。
---
获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
