法の下での公民権弁護士委員会は2026年11月18日、メリーランド州ボルチモア郡のケンウッド高校の黒人の現生徒と元生徒4人を代表して訴訟を起こした。AI銃探知システムがチップの入ったバッグの1つを銃と誤認し、武装警察がキャンパス内の10代の若者たちを拘束して捜索したことを受けて。

ボルチモア郡の巡回裁判所に提出された訴状には、ボルチモア郡公立学校全体で使用されているオムニラート銃探知システムのメーカーであるオムニラートLLC、ボルチモア郡公立学校と職員、ボルチモア郡警察署、および個々の警察官が被告として名指しされている。学生の連邦および州の憲法上の権利の侵害、過失および重過失を主張している。 この件の詳細は、人工知能の最新情報をご覧ください。

2025 年 10 月に何が起こったか

弁護士委員会によると、この事件は、郡内の学校全体に導入されたAI監視システム「Omnilert Gun Detect」が、10代の少年のポテトチップスの入った袋を90パーセントの確率で銃器であると警告するアラートを生成したときに始まった。システムは、生徒の一人が運んでいたドリトスの入ったバッグを銃と間違えたのだ。

この誤報により対応が開始され、武装した地元警察が学校の入り口からすぐのキャンパスにいた十代の若者たちに群がるという事態に終わった。同団体によると、学生らはひざまずくように命じられ、手錠をかけられ、身体検査を受けたという。ニューヨーク・タイムズ、ガーディアン、NBCニュース、CBSニュース、ボルチモア・サンはすべてこの訴訟とその根底にある事件について報道し、学校におけるAIベースの武器探知に全米の注目を集めている。

プレスリリースによると、息子のキースさんと他の生徒たちが拘束された際、迎えに行く途中だったフリーダ・ウィンフィールドさんは、「警察は息子に、これは本当に問題だった可能性があると告げた。ボルチモア郡のどの子どもも、自分の学校の外で母親の帰りの車を待っている間にこのような危険にさらされるべきではない」と語った。

人間の失敗の連鎖

訴訟の中心的な主張は、テクノロジーの誤りは、それを受け取った人間によってその後の段階ごとにさらに悪化したというものだ。弁護士委員会は、オムニラート社の職員から学校長、ボルチモア郡警察官まで全員が、銃が存在しなかったという明白な証拠と呼ぶものを見逃したか無視したと主張している。

告訴状ではまた、学校関係者はオムニラートシステムが定期的に誤警報を発していることを事件前に知っていたと主張している。この主張は、訴訟になれば、郡がこの技術の信頼性と生徒が直面する状況での導入をどのように比較検討したかの核心となるだろう。

「これらの生徒たちは、誤警報を起こしやすいテクノロジーによって失敗しただけでなく、生徒たちを学校に通わせる際に安全を守るはずだった大人たちによっても失敗したのです」と、法の下での公民権弁護士委員会の会長兼エグゼクティブディレクターのデイモン・ヒューイット氏は述べた。 「このような保護の代わりに、彼らは銃を突き付けられ、トラウマを負うことになりました。そして、それはさらにひどいものになっていた可能性があります。」

訴訟が求めるもの

弁護士委員会は損害賠償だけでなく、この訴訟を利用して、学校や警察署がAIの脅威検出アラートを処理する方法の構造的な変更を求めている。同組織は、この訴訟の目的は、対応する前にAI脅威検出プラットフォームからの報告を検証すること、そもそもそのようなAI技術が学校での使用に適しているかどうかを評価すること、そして誤報が武装警察の対応を引き起こさないことを保証する政策を策定することを公共関係者に義務付ける改革を強制することであると述べた。

同グループはまた、さらなるトレーニング、監視、エラーと結果に関する透明性を求めるとともに、テクノロジーの導入方法についてコミュニティからの意見を求めることも求めている。

弁護士委員会のデジタル・ジャスティス・イニシアチブのディレクターであるリア・フレイジャー氏は、「規制されていないAIは、特に若者が関与する場合に深刻な影響をもたらす。この技術がさらに広く普及するにつれ、明確な規制やガードレール、AIと対話する大人への期待を犠牲にして実現することはできない」と述べた。

学校における AI 兵器検出のテストケース

この事件は、アメリカの学区が学校での銃乱射事件を防ぐという名目で、入り口や監視映像にコンピュータービジョンシステムを設置し、AIを活用した武器探知をますます導入している中で起こった。弁護士委員会は、より広範な問題を明確に整理し、この事件は「生死に関わる状況において正確性が不可欠な」公共安全の現場におけるAI技術の信頼性についての懸念を引き起こしていると主張し、そのようなシステムによる危害や不正確さは黒人コミュニティに不相応な影響を与えていると指摘した。

法的監視員は、訴状が提起するいくつかの疑問点に注目することになる。 AIベンダーがその検出モデルのパフォーマンスについて責任を負えるかどうか、AIを導入した学区はより高い検証義務を負うのか、警察が独立した裏付けのない自動警報に依存することが不当な差し押さえに対する憲法の保護に違反するかどうか、これらすべてが今後、ボルチモア郡巡回裁判所で検討されることになる生きた問題である。

事件の中心人物となった4人の学生――軽食を食べながら警官らに武器を突き付けられた時は子供だった――にとって、この訴訟は個人的なものでもある。彼らの弁護士らによると、その目的は人間による審査であれば数秒で発見できた可能性のある誤警報をめぐって、学生が再び武装警察に直面しないようにすることだという。

この訴訟はボルチモア郡の巡回裁判所で進められる。この記事の執筆時点では、被告からの公的反応は報告されていない。

出典: 法に基づく公民権弁護士委員会のプレスリリース、ニューヨーク・タイムズ、ガーディアン、NBC ニュース、CBS ニュース、ボルチモア・サン。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →