关于致命性自主武器(即所谓的“杀手机器人”)的可能规则的谈判正在日内瓦联合国进行,军备控制倡导者称这次会议是在技术完全超越外交之前设定边界的最后现实机会。会谈是在本周举行的联合国特定常规武器会议(CCW)上进行的,该论坛每五年才召开一次这一级别的会议。
紧迫性并非假设。近年来,战争技术迅速发展,一些专家现在警告说,世界距离能够选择目标并在无人参与的情况下做出杀戮决定的武器只有几个月的时间了。在乌克兰和加沙,人工智能辅助武器已经被用来打击目标,乌克兰平民报告说,他们在购物或步行上学时被无人机“猎杀”。这些系统仍然由人类操作员远程控制,但远程控制和完全自主之间的距离正在缩小。为了让读者跟踪这个领域的发展速度,我们的人工智能武器和道德报道 跟踪每一个发展。
为什么活动人士称这是“最后的最佳机会”
自主武器控制的支持者认为,本周的《特定常规武器公约》会议是在该技术仍处于半自主阶段时就规则达成一致的最后窗口。他们认为,一旦独立选择和攻击目标的武器大规模部署,谈判克制就会变得更加困难——各国已经将这些系统整合到他们的武库和学说中。
会谈背后的道德影响力异常广泛。在会议之前,联合国、红十字国际委员会和教皇都呼吁制定具有法律约束力的规则。联合国秘书长安东尼奥·古特雷斯警告说,允许完全自主的武器杀人将“跨越道德红线”。
人道主义案例:责任必须以人为本
人道主义组织认为,杀戮的决定以及这一选择的责任必须掌握在人类手中。红十字会特别担心的是,自治系统无法可靠地遵守《日内瓦公约》中规定的现有战争规则。战争是混乱且快速发展的,公约保护受伤或主动投降的士兵不成为攻击目标。
红十字会法律顾问乔治亚·海恩斯表示:“风险在于,根据我们所看到的技术,它们无法像人类那样理解上下文信号。” “因此,错误识别目标的风险非常高。”
人权组织给这一危险增添了经济层面的影响:人工智能辅助武器背后的技术正变得廉价且易于使用。各国军队采用的范围越广,向恐怖组织或专制政权的执法机构扩散的风险就越大。从理论上讲,一群自主无人机可以被编程为攻击每个穿着特定颜色衣服或携带特定海报的人——战争法从来没有设计过要处理的歧视规模。
一间分开的房间:50 多个州与三巨头
至少 50 个国家——包括爱尔兰、意大利、巴西、墨西哥、法国和德国——呼吁制定严格的时间表,以商定管理自主武器的约束性规则。目前在日内瓦举行会议的许多国家都认真对待人道主义关切,并希望这一进程以国际法为基础。
但在已经开发和部署半自主武器的国家中,却遭到了坚决的抵制。美国、俄罗斯和以色列已表示将反对具有法律约束力的规则。华盛顿的反建议是:制定一个五年时间表来起草不具约束力的指导方针。
美国的立场反映出对条约更广泛的怀疑
美国的立场与一个长期的模式是一致的:美国传统上是国际条约的较晚采用者。它从未批准《渥太华地雷公约》,尽管随着时间的推移,它确实停止部署地雷并减少了库存。在特朗普总统的领导下,对国际法的怀疑变得更加明确——华盛顿对国际刑事法院实施了全面制裁,而本周末,国务卿马可·卢比奥在联邦党人协会的主题演讲中警告不要“向持剑之人引用法律”。
共识规则和解决方法的历史
日内瓦会谈面临一个结构性问题:联合国关于限制特定武器的谈判应该以协商一致方式进行。这一机制产生了一项具有里程碑意义的协议——1995 年禁止激光致盲——但大多数其他尝试都失败了。对于地雷问题,因联合国进程缓慢而感到沮丧的国家最终将谈判完全排除在联合国之外,从而制定了《渥太华公约》。
外交官们正在为本周提出一个可能的妥协方案:更长、甚至不限成员名额的谈判期来制定规则,然后各国可以采用具有约束力或不具有约束力的规则。对于支持者来说,这是保证至少取得一些进展的一种方式。对于活动人士来说,这种做法还远远不够——有人将这种方法比作把一个非常危险的罐子踢到路上。
接下来会发生什么
如果会议以开放式授权结束,那么实际效果是,对自主武器的约束性限制将进一步退却,而部署时间表不断压缩。各国政府、军队和国防初创企业本周将密切关注日内瓦会议——因为无论共识以何种方式达成,都将定义未来几年自主武器的法律格局。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →