2026 年 11 月 18 日,美国公民权利律师委员会代表马里兰州巴尔的摩县肯伍德高中的四名黑人现任和前任学生提起诉讼,此前人工智能枪支检测系统将他们的一袋芯片误认为是枪支,武装警察在校园内拘留并搜查了这些青少年。
该诉状向巴尔的摩县巡回法院提起,被告为 Omnilert, LLC(巴尔的摩县公立学校使用的 Omnilert 枪支探测系统的制造商),以及巴尔的摩县公立学校和工作人员、巴尔的摩县警察局和个别警官。它声称侵犯了学生的联邦和州宪法权利以及疏忽和重大过失。 更多相关背景,请参阅我们的AI新闻。
2025 年 10 月发生了什么
据律师委员会称,该事件始于 Omnilert Gun Detect(一种部署在该县学校的人工智能监控系统)发出警报,将一名青少年的一袋薯片标记为枪支,据称有 90% 的可能性。系统将一名学生携带的一袋多力多滋误认为是一把枪。
虚假警报引发了反应,最终当地武装警察将青少年聚集在距离学校入口仅几步之遥的校园里。该组织称,学生们被命令跪下,戴上手铐并接受搜查。 《纽约时报》、《卫报》、NBC新闻、哥伦比亚广播公司新闻和《巴尔的摩太阳报》都报道了这起诉讼和潜在事件,这引起了全国对学校中基于人工智能的武器检测的关注。
新闻稿称,“警方告诉我儿子,这可能是一个真正的问题。巴尔的摩县的任何孩子都不应该在自己的学校外等待母亲搭车回家时面临这种危险。”当她的儿子基思和其他学生被拘留时,她正在接他们的路上。
一连串的人类失败
该诉讼的一个核心主张是,接收该技术的人类在随后的每一步中都加剧了该技术的错误。律师委员会表示,从 Omnilert 自己的工作人员到学校校长,再到巴尔的摩县警察,每个人都错过或忽视了所谓的明确证据,即没有枪支。
投诉还声称,学校官员在事件发生前就知道 Omnilert 系统经常发出虚假警报,这一说法如果提起诉讼,将成为该县如何权衡该技术的可靠性与其在面向学生的环境中部署的核心问题。
公民权利律师委员会主席兼执行董事达蒙·休伊特 (Damon Hewitt) 表示:“这些学生的失败不仅是因为容易出现误报的技术,而且是因为我们送他们上学时本意要保护他们安全的成年人。” “他们没有得到这种保护,而是遭到枪支袭击并受到创伤。情况可能会更糟。”
诉讼的目的
除了损害赔偿之外,律师委员会还利用此案推动学校和警察部门处理人工智能威胁检测警报的结构性变革。该组织表示,该诉讼旨在强制进行改革,要求公共行为者在做出响应之前验证人工智能威胁检测平台的报告,评估此类人工智能技术是否适合在学校使用,并制定政策确保错误警报不会触发武警反应。
该组织还呼吁针对错误和结果进行更多培训、监督和透明度,以及社区对如何部署技术的意见。
“不受监管的人工智能会产生深远的后果,特别是当涉及年轻人时。随着这项技术得到更广泛的采用,它的发生不能以牺牲明确的监管、护栏和对与之互动的成年人的期望为代价,”律师委员会数字司法倡议主任 Leah Frazier 说。
学校人工智能武器检测测试用例
此案发生之际,美国学区越来越多地采用人工智能武器检测,以防止校园枪击事件的名义在入口处和监控源上放置计算机视觉系统。律师委员会明确提出了更广泛的利害关系,认为该事件引起了人们对公共安全环境中人工智能技术可靠性的担忧,“在生死攸关的情况下,准确性至关重要”,并指出此类系统的危害和不准确对黑人社区造成了不成比例的影响。
法律观察员将关注投诉提出的几个问题。人工智能供应商是否可以对其检测模型的性能承担责任,部署这些模型的学区是否应该承担更高的验证责任,以及警方在没有独立证实的情况下依赖自动警报是否违反了宪法对不合理扣押的保护,这些都是巴尔的摩县巡回法院现在需要权衡的现实问题。
对于本案中心的四名学生来说——当他们还是孩子时,警察在吃零食时向他们拔出武器——这起诉讼也是针对个人的。他们的律师表示,他们的目标是确保没有学生再次因为人工审查可能在几秒钟内发现的误报而面临武装警察的威胁。
此案将在巴尔的摩县巡回法院审理。截至撰写本文时,尚未有被告公开回应的报道。
资料来源:律师民权法律委员会新闻稿、《纽约时报》、《卫报》、NBC 新闻、CBS 新闻、《巴尔的摩太阳报》。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →