一位美国法官就人工智能在执法中的使用做出了迄今为止最重要的裁决之一,认为第四修正案不允许警察仅仅根据未经证实的人工智能结论来逮捕一个人。该裁决是在阿兰·维兹凯·奥索里奥 (Alain Vizcay Osorio) 提起的民事诉讼中发布的,并通过 DocumentCloud 发布,驳回了一名侦探在逮捕奥索里奥后提出的合格豁免请求,因为他涉嫌仅基于面部识别匹配而通过了一张空头支票——法院认为该匹配显然是错误的。该裁决的开头段落直白地阐述了这一原则:“美国宪法第四修正案不允许侦探将评估可能原因的任务委托给人工智能。”为了持续报道 人工智能政策和法规,AI Buzz Wire 正在追踪许多人期望追随的吸引力。
空头支票、CCTV 截图和 Facebook 匹配
该案以低风险的涉嫌犯罪和低强度的警察工作开始。奥索里奥被指控在当地一家银行开出空头支票,嫌疑人的唯一图像来自该银行的闭路电视录像。肯塔基州佛罗伦萨警察局的瑞安·基尔默侦探对嫌疑人的脸部进行了截图,并通过该部门的面部识别程序进行运行。该系统返回了与属于“Yony Smith Npoles Charon”的某人的 Facebook 个人资料的匹配项,并且,由于法院干巴巴地称之为“未知原因”,基尔默得出结论,该个人资料属于奥索里奥。
这些照片讲述了一个不同的故事。根据该决定,闭路电视录像和 Facebook 个人资料图片“与奥索里奥的预订照片不相似”。法庭观察到,根据预订照片,奥索里奥与嫌疑人唯一的共同点是,两人都是留有面部毛发的黑人;这些照片显示了不同的头型、不同的发型、不同的面部特征和不同的肤色。
基尔默的证词告诉法庭,他使用“调查工具”将奥索里奥与嫌疑人“匹配”。事实上,法官发现,他使用了单一工具并接受了其错误的输出——尽管佛罗伦萨警察局的政策明确指出,仅凭面部识别不足以确定可能的原因。裁决明确表明,这名侦探无视了他所在部门的成文规则和宪法的基本要求,即可能的原因反映了对证据的实际人类评估。
法院实际判决的内容
该决定的核心语言不仅仅是发现这名侦探存在疏忽。它阐明了一条明确的规则:“第四修正案不允许仅根据人工智能未经证实的结论来逮捕某个人,即该人犯了罪。站在被告的立场上,任何理性的侦探都不会得出其他结论。”
第二句话起着举足轻重的作用。法院指出,任何有理智的官员都不会相信未经证实的人工智能匹配就足够了,从而摧毁了合格豁免辩护的基础,该豁免通常可以使官员免于承担民事责任,除非他们违反了明确规定的权利。法院认为,基尔默不能躲在这一原则背后——这既是因为第四修正案本身禁止他所做的事情,也是因为他所在部门的政策以书面形式告诉他,仅靠面部识别无法建立合理的理由。
实际的结果是,侦探亲自面对诉讼,这种姿态既增加了和解的压力,又增加了上诉审查的可能性,因为该警官现在在挑战裁决方面拥有直接的经济利益。
影响远不止一张空头支票
法律评论员指出,该决定的逻辑在快速增长的警察人工智能市场中向外辐射。同样的推理——算法的输出在人类独立证实它之前并不是可能原因的证据——同样适用于:
- 面部识别搜索,包括将监控静态图像与抓取的网络图像进行匹配的系统,即本例中所涉及的模式。
- 预测警务软件,根据算法预测指导巡逻和公众互动。
- 人工智能生成的警察报告,现在被 Axon 等供应商添加到随身摄像机中,前提是警察不愿意写报告——这引发了一个问题:机器起草的拦截或使用武力的叙述是否可以构成官方记录。
如果法院认为算法无法做出可能原因的确定,那么每个悄悄假设该算法确实做出了该确定的下游系统都会继承该问题。将人工智能输出视为调查捷径的部门可能需要在逮捕前记录真实的人类佐证,否则可能会面临证据被排除和相关官员承担个人责任的风险。
接下来会发生什么
迫在眉睫的问题是上诉。由于合格豁免权被拒绝,侦探有强烈的动机将案件向上处理,而宪法问题——人工智能工具是否以及如何参与可能原因评估——正是上诉法院需要解决的问题,以便将如此广泛的规则硬化为先例。公民自由团体可能会介入以支持裁决;警察工会和人工智能供应商可能会予以反击,认为这一决定将草率的调查与技术政策问题混为一谈。
无论哪种方式,该裁决都设定了一个警察部门今天可以阅读的标记,而无需等待上诉周期:人工智能输出是领先,而不是结论。在本案中,侦探让面部匹配算法进行思考,而忽略了他所在部门自己的规则,现在他要亲自面对后果。正如该决定本身所表明的那样,宪法的制定者并没有预见到神经网络,但事实证明,在国家逮捕一个人之前,人类需要评估可能的原因的要求,无需任何修改就可以翻译。
对于购买人工智能工具的部门来说,传达的信息同样直接:供应商关于准确性的声明并不是政策。需要人工证实的书面规则——就像弗洛伦斯警察局的规则,侦探忽略了这一点——现在不仅是最佳实践,而且是在诉讼中幸存下来的部门和亲自支付费用的警官之间的区别。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →