美国参议院委员会在 2027 年国防法案中推进军事人工智能护栏

参议院军事委员会批准了一项框架，要求对军事人工智能进行人工监督，并禁止人工智能参与 2027 财年国防授权法案中的核发射决策。

美国参议院一个重要委员会已批准了监管五角大楼如何开发、测试和部署人工智能和自主武器系统的立法，使拟议的军事人工智能护栏更接近成为法律。

参议院军事委员会在其 2027 财年国防授权法案草案中批准了新框架，并于 6 月 10 日完成了该法案的加价。据军控协会称，这些条款强调人的判断和最终的人的责任，同时在很大程度上支持五角大楼采用自主技术，该协会于 2026 年 7 月报告了细节。更多相关背景，请参阅我们的AI行业报道。

拟议的立法将要求国防部确保人员对人工智能武器的使用进行适当水平的人类判断，并确保相关系统的设计使指挥官和操作员保留对使用武力的最终人类责任。

人类监督的编纂

该框架建立在国防部指令 3000.09 中已经确立的原则之上，该指令管理武器系统的自主性，但缺乏对什么构成有意义的人类判断的明确定义。新语言旨在具体阐述这一原则。

根据拟议的规定，自主系统将需要允许人类操作员进行监督，包括干预或终止的方法，纳入故障安全机制以实现手动控制，并向控制器提供足够的监控数据。这些系统还必须保存目标选择数据和逻辑的记录，并按照国际法、武装冲突法、适用条约和国防部政策运行。

该立法将对 2023 年指令规定的现有审查流程进行编纂，同时增加验证、确认、测试和评估标准。五角大楼的作战测试和评估主任办公室在当前的预算请求中将拟议预算削减了三分之二，该办公室将负责确保所涵盖的系统按预期发挥作用，以对抗适应性强的对手。

核红线

最重要的条款之一将明确禁止使用人工智能来做出任何启动或引爆核武器的决定。 2023 年，参议员 Ed Markey、众议员 Ted Lieu、众议员 Don Beyer 和众议员 Ken Buck 在两党基础上寻求实施这一限制。

然而，参议院委员会的文本并未包括禁止使用人工智能瞄准核武器的禁令，这是纽约参议员克尔斯滕·吉利布兰德 (Kirsten Gillibrand) 在 6 月 2 日提出的一项独立法案中提出的一项措施。这一遗漏凸显了立法者愿意限制的界限，即使他们正在采取行动限制最极端的自主能力。

该委员会还将建立一个事件存储库，用于跟踪系统故障、意外行为和未遂事件的数据，这项措施旨在随着军队将更多人工智能融入其行动而提高问责制。

两党基金会

该框架主要追踪民主党领导层于 6 月 8 日提出的一项法案，其中包括罗德岛州资深议员杰克·里德 (Jack Reed) 和特拉华州参议员克里斯·库恩斯 (Chris Coons)，后者是参议院国防拨款小组委员会的民主党领袖。该文本已被共和党多数人接受纳入政策法案的基本草案，其中还包含了亚利桑那州参议员马克·凯利和弗吉尼亚州众议员苏哈斯·苏布拉马尼亚姆提案的大部分内容。

其他几位民主党参议员在加价前几周提出了相互竞争的提案，包括参议员亚当·希夫、参议员艾丽莎·斯洛特金和参议员凯利提出的措施。参议院委员会基于《库恩斯-里德法案》的措辞在针对国内监视的保护方面不如其他一些替代方案具体。

在法案草案的其他地方，委员会建议建立一个机器人和自主系统司令部，负责部队组建、联合训练、互操作性、条令制定以及通过其他作战司令部进行作战部署。