今年春天，美国军方比几乎所有人意识到的更接近与中国的直接对抗——据美国有线电视新闻网 (CNN) 周五发表的独家报道称，原因是人工智能的幻觉。
该报告详细介绍了在聊天机器人的帮助下生成的一份情报文件如何引发一系列事件，导致美国武装人员准备登上中东的一艘中国船只，因为他们相信该船正在运输核武器计划的部件。据熟悉此次行动的消息人士透露，军用飞机已经在空中飞行。 更多相关背景，请参阅我们的AI最新动态。
就在计划拦截之前，官员们深入研究了该报告，发现其核心主张——动员美军的主张——是错误的，这一任务才被取消。
一位熟悉这一事件的消息人士称，向 CNN 提交的情报报告“完全错误”。消息人士称，这“几乎引发了一场战争”。美国针对中国船只的任何行动都可能演变成两国之间的武装冲突。
聊天机器人的主张如何变成军事行动
这一事件始于今年春天，正值与伊朗的战争期间，一份情报报告开始在美国军方流传。该文件称，一艘在中东的中国船只携带核武器计划部件，立即敲响了警钟。
据美国有线电视新闻网 (CNN) 报道，这份报告是由美国特种作战司令部的一名分析师整理而成，他向聊天机器人询问了该船清单上的情报报告——该报告源自总部位于夏威夷的美国太平洋特种作战司令部。目前尚不清楚该聊天机器人是商业产品还是美国政府工具。一位熟悉军事和情报分析师使用的人工智能系统的前美国高级官员向 CNN 提供了对政府内部产品的直率评估：“内部工具大多只是涂着口红的商业工具的复制品。”
该聊天机器人将开源情报与政府掌握的秘密信号情报融合在一起，得出了关于船上货物的致命结论。然后，分析师第二次使用人工智能将调查结果打包成标准情报报告（军方官员习惯于信任的那种）并进行传播。
四位熟悉这一事件的消息人士接受了 CNN 采访。据其中两人称，当报道失败时，美军武装人员正准备登船。美国有线电视新闻网无法得知被错误识别的货物到底是什么。美国太平洋特种作战司令部和五角大楼没有回应 CNN 的置评请求。
加速策略与现实检验的结合
这一险些发生之际，五角大楼正在推动将人工智能融入其工作的几乎各个方面——分析大量原始情报、选择打击目标，以及处理预算、物流和供应链等更平凡的任务。
一月份，国防部长 Pete Hegseth 发布了国防部的“人工智能加速战略”，旨在加快军事人工智能的采用。
赫格斯在宣布该战略的演讲中表示：“我们将开展实验，消除官僚障碍，集中投资，并展示确保我们在军事人工智能领域处于领先地位所需的执行方法。”
随附的备忘录更进一步，命令国防部通过多个项目提供人工智能，目的是“通过将美国世界领先的人工智能模型直接交到我们所有级别的 300 万文职和军事人员手中，实现整个部门的人工智能实验和转型民主化。”
但多位美国官员告诉 CNN，这项工作是分散的，政府不同部门根据不同的命令和安全标准使用不同的工具。没有一套单一的标准来验证这些工具生成的信息，并且各种系统的可靠性差异很大。
目标确定是风险所在
分析人士长期以来一直担心，如果民族国家对不良或损坏的数据采取行动，人工智能可能会导致灾难性的误判。中国船只的事件是一个有记录的案例，说明这种故障模式是实时形成的，而保障措施直到最后一刻才发现它。
另一位熟悉军方当前政策的消息人士告诉美国有线电视新闻网（CNN）：“人工智能在瞄准方面肯定正在加强，但目前还没有真正的指导来说明如何让人类参与其中，以防止平民伤亡或自相残杀。”
据美国有线电视新闻网 (CNN) 报道，自从人工智能工具开始在政府中扩散以来，这种产生虚假声明的幻觉在整个情报界并不是孤立事件。一些消息来源还指出了文化风险：被描述为这些工具的本地人的年轻分析师更有可能不加批判地信任它们，而更快地产生情报的压力留下了更多出错的空间。
一位消息人士表示：“人工智能可以让你更快地想出一个坏主意。”
比超级智能更直接的风险
几周来，在硅谷工程师和技术高管就系统可能摆脱人类限制发出一系列可怕的公开警告之后，华盛顿一直被关于长期人工智能风险的争论所困扰。美国有线电视新闻网 (CNN) 的报告强调了一种不同的、更迫在眉睫的危险：人类基于不准确或误导性的人工智能输出做出灾难性决策——眼下，正值真正的地缘政治紧张局势之中。
今年春天没有发生任何枪击事件，也没有发生过登机事件。但这一事件是迄今为止最明显的例子，表明机器产生的错误一旦被洗白进入官方报告，就可以通过世界上最强大的军事机构一路传播到核大国之间武装冲突的边缘——而没有现行的核查标准来阻止下一场冲突。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
