据美国有线电视新闻网 (CNN) 周四独家报道，美国军方根据人工智能聊天机器人生成的一份情报报告，险些拦截一艘中国船只，但结果证明该报告完全是错误的。
四名知情人士向美国有线电视新闻网（CNN）描述了这一事件，始于今年春天早些时候，当时正值与伊朗的战争期间，当时美国军方流传着一份报告，声称一艘中国船只在中东运输核武器计划的部件。该报告立即敲响了警钟，军方立即采取行动，计划拦截这艘船只。要定期报道此类故事，请关注 AI 新闻 的发展。
飞机在空中，登机准备就绪
据美国有线电视新闻网（CNN）的两名消息人士称，美军武装人员正准备登船。一位消息人士称，军用飞机已经在空中飞行。
就在计划行动之前，官员们对这份由特种作战指挥分析师整理的报告进行了更深入的研究，发现该报告是在人工智能的帮助下生成的，而且分析师使用的聊天机器人错误地识别了该船携带的材料。美国有线电视新闻网 (CNN) 报道称，它无法得知被错误识别的货物到底是什么。
一位消息人士称该报告“完全错误”。消息人士称，这“几乎引发了一场战争”——因为美国针对中国船只的任何行动都可能有升级为两国之间武装冲突的风险。
虚假报告是如何构建的
该分析师向聊天机器人询问了有关该船清单的情报报告，该报告源自总部位于夏威夷的美国太平洋特种作战司令部。美国有线电视新闻网 (CNN) 报道称，目前尚不清楚该聊天机器人是商用产品还是美国政府工具。
该机器人将开源情报与政府掌握的秘密信号情报融合在一起，并对船上的材料得出了致命的结论。然后，分析师第二次使用人工智能——将调查结果打包成一份标准情报报告，即军方官员信任的那种——并在整个系统中传播。
美国太平洋特种作战司令部和五角大楼没有回应 CNN 的置评请求。
采用人工智能的军事竞赛
这一险些发生之际，美国军方和情报界的官员正在推动将人工智能融入到他们工作的几乎各个方面——从分析大量原始情报和选择打击目标，到预算、物流和供应链等普通应用。
一月份，国防部长皮特·赫格斯（Pete Hegseth）发布了国防部的“人工智能加速战略”，旨在加快军队对人工智能的采用。赫格斯在宣布该战略的演讲中表示：“我们将开展实验，消除官僚障碍，集中投资，并展示确保我们在军事人工智能领域处于领先地位所需的执行方法。”
该战略明确呼吁实现访问民主化，命令国防部将“美国世界领先的人工智能模型直接交到我们所有级别的 300 万文职和军事人员手中”。
没有单一的规则集
但多位美国官员告诉 CNN，这项工作是分散的，政府不同部门根据不同的命令和安全标准使用不同的工具。美国如何验证这些工具生成的信息没有一套标准，而且各种系统的可靠性差异很大。
一位熟悉军事和情报分析师使用的人工智能系统的前美国高级官员告诉 CNN，“内部工具大多只是商业工具的复制品。”
AI 定位在几乎没有指导的情况下“加速”
消息人士称，军方正在迅速转向人工智能来帮助确定目标——这一领域显然存在致命错误的风险。另一位熟悉军方当前政策的消息人士告诉美国有线电视新闻网（CNN）：“人工智能在瞄准方面肯定正在加强，但目前还没有真正的指导来说明如何让人类参与其中，以防止平民伤亡或自相残杀。”
分析人士长期以来一直警告说，如果民族国家依赖不良或损坏的数据，人工智能可能会导致灾难性的误判——正是这种误判可能导致美国根据不准确的信息向中国船只开火。
据美国有线电视新闻网 (CNN) 报道，自从这些工具开始在政府中扩散以来，虚假船舶报告背后的这种幻觉并不是整个情报界的孤立事件。
##“人工智能可以让你更快地想到一个坏主意”
数周以来，在硅谷就人工智能可能摆脱人类限制的可能性发出一系列可怕警告后，华盛顿政策制定者一直在激烈讨论人工智能问题。但中国船只事件凸显了一个不同的、更直接的风险：人类根据人工智能系统生成的不准确或误导性信息做出灾难性的决定。
几位消息人士告诉 CNN，尤其是年轻的分析师（这些工具的原生者）更有可能不加批判地信任它们，而人工智能加大了分析师的压力，要求他们更快地生成和传播情报，从而为错误打开了大门。
一位消息人士表示：“人工智能可以让你更快地想出一个坏主意。”
这一事件可能会引发一场已经很激烈的争论：美国军方应该以多快的速度将人工智能纳入其最敏感的工作流程，以及在人工智能辅助报告能够将部队、飞机和武装人员转移到潜在的战斗行动之前应该强制执行哪些验证步骤。目前，细节表明现有的保障措施是拼凑而成的——在这种情况下，例行情报报告和国际事件之间的区别取决于碰巧进行了双重检查的官员。
保持人工智能领先地位
有关人工智能政策、国家安全以及塑造两者的模型的更多报道，阅读更多人工智能新闻。
