根据 DefenseScoop 审阅的国防部副部长史蒂夫·范伯格 (Steve Feinberg) 发布的一份备忘录，五角大楼正在启动一项试点计划，该计划将使用人工智能来管理敏感军事信息的分类和处理方式。该指令要求在未来六个月内初步小规模部署自动安全分类功能，这是彻底改革该部门所称的过时危险流程的第一步举措。
范伯格备忘录内部 更多相关背景，请参阅我们的人工智能资讯。
周一发布的备忘录将五角大楼现有的保密和解密程序视为“功能失调”的根源，该部门称这种程序正在“危及”其使命。它认为，过时的程序减缓了“关键信息的及时发布”，并削弱了公众对该部门的信任。
据 DefenseScoop 报道，备忘录指出：“这些程序造成的功能障碍会导致错误的分类，给我们的国家安全系统带来负担，阻碍互操作性，并通过将重要数据困在烟囱中而减缓创新。”
ACME：以空军系统为中心
在试验中，国防部将使用空军最近开发的人工智能支持的系统，称为自动分类管理环境（ACME）。该备忘录指定空军最高文职官员作为飞行员的执行代理人，空军发言人告诉 DefenseScoop，该部门“将遵守备忘录中的指示”。
ACME 在 8 月份被公开提及，当时官员们发出了一项信息请求，要求业界帮助建立一个分类管理生态系统，以取代军方数十年来使用的“手动、人力密集型”流程。该通知描述了一个面临压力的系统：数百名官员拥有对信息进行分类的权力，其中许多人使用过时的程序，产生过时的文档，错误率高，经常过度分类，数据完整性下降。该部门还积压了大约 1.4 亿页的硬拷贝。
从试点到单一权威参考
备忘录称，如果试点成功，该自动化系统最终将成为该部门所有原始分类决策的“单一数字权威参考”。这一责任历来属于专门指定的人类官员，他们决定如何对敏感信息进行分类——这意味着成功的推出将标志着迄今为止核心政府职能向人工智能系统最重要的转移之一。
为什么官员说需要改变
自动化的理由取决于现代军事信息的庞大数量和速度。八月份的信息请求称，手动流程与数字时代信息的数量和速度“不兼容”。过度保密使需要信息的单位和盟友无法获取信息；保密不足可能会将能力和计划暴露给对手。任何一个方向的错误都会带来成本，并且由于硬拷贝页面积压了七位数，该部门得出的结论是增量修复是不够的。
新美国安全中心国防项目研究员乔什·沃林 (Josh Wallin) 告诉 DefenseScoop，机密信息不够机密可能会将能力或计划暴露给对手，而机密信息过高可能会因审查过程延迟而被扣留或拖延，这意味着它可能无法到达需要它的组织，“在信息共享对于协调至关重要的联盟环境中”。他补充说，在许多情况下，“绝大多数信息不一定那么敏感，以至于你担心分类错误”，这正是为什么更快、更一致的处理可以为整个部门带来红利的原因。
分析师看到了收益——也看到了真正的风险
沃林表示，自动化可以帮助解决错误分类问题——包括过度保护、保护不足或被人类错误标记的信息——并减少“烟囱效应”，特别是在现代冲突已经表明快速信息流动可以成为决定性优势的情况下。
但沃林也指出了风险。在人工智能支持的系统下，错误分类可能会以更快的速度发生。与盟友和合作伙伴更快地共享引发了有关接收者网络的网络安全协议的问题。加速解密会产生“聚合”效应，对手可以从个人无害的披露中拼凑出敏感的见解。
“存在错误分类的问题，”沃林说。 “人们有一种固有的担忧，即某些信息将是敏感的。这些信息是否会被错误分类和共享，有点无意，并且有人不会发现它？”
监督问题依然存在
沃林还质疑试点的简洁性，以及当人工智能作为原始分类机构的明确参考时，人类监督将如何发挥作用。他告诉 DefenseScoop：“你将如何真正进行人为监督？这必须永远持续下去。”他指出，该系统将随着时间的推移而发展，而完全的信任是永远不可能实现的。
五角大楼没有立即回答有关哪些底层人工智能模型将为飞行员提供动力，或者该部门是否担心将该技术用于此目的的问题。该指令出台之际，华盛顿就人工智能监管展开了更广泛的辩论，尽管国防官员认为，人工智能的工具过于强大，当对手在自己的军队中部署人工智能时，不能将其边缘化。该部门如何平衡这两种冲动——积极采用和有意义的人为控制——将是为期六个月的试点的决定性问题。
对于空军来说，这一任务也是一次信任投票。该部门建立了 ACME，而全部门范围内有关保密改革的讨论仍停留在理论上，而这份备忘录现在将一项能力的责任交给了它，如果它有效，将重塑每个军事部门处理秘密的方式。对于联邦政府的其他部门来说——分类积压和过度分类投诉是长期存在的——五角大楼的成功试点将为人工智能辅助信息处理提供第一个大规模模板，并且是一个受到密切关注的模板。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
