米国の判事は、法執行における人工知能の使用に関して、これまでで最も重大な判決の一つを下し、合衆国憲法修正第4条は、警察が裏付けのないAIの結論にのみ基づいて人を逮捕することを認めていないとの判決を下した。この判決は、アラン・ビスケイ・オソリオ氏が起こした民事訴訟で出され、DocumentCloud経由で公開されたもので、顔認識の一致のみに基づいて不正小切手を通過した疑いでオソリオ氏を逮捕した後、適格免責を主張する刑事の試みを却下したもので、裁判所はこの一致は明らかに間違っていたと認定した。判決の冒頭では原則をきっぱりと述べており、「合衆国憲法修正第4条は、刑事が推定原因を評価する任務をAIに委任することを認めていない」としている。 AI 政策と規制 を継続的に報道するために、AI Buzz Wire は多くの人が従うことを期待している魅力を追跡しています。

不正な小切手、監視カメラのスクリーンショット、Facebook の照合

この事件は、賭け金の低い犯罪容疑と警察の取り組みの低さから始まった。オソリオ容疑者は地元銀行で不正小切手を通した容疑で告訴されており、容疑者の画像は銀行の監視カメラ映像のみだった。ケンタッキー州フローレンス市警察のライアン・キルマー刑事は、容疑者の顔のスクリーンショットを撮り、同署の顔認識プログラムに実行した。このシステムは、「Yony Smith Npoles Charon」としてリストされている人物に属する Facebook プロフィールとの一致を返した。そして、裁判所が「理由は不明」と冷たく表現したことにより、キルマー被告はそのプロフィールがオソリオのものであると結論付けた。

写真は別の物語を語っていました。判決によると、監視カメラの映像とフェイスブックのプロフィール画像は「オソリオの予約写真には似ていない」という。裁判所は、予約写真に基づいて、オソリオと容疑​​者の唯一の共通点は、両方ともひげのある黒人男性であることであると認めた。写真には、異なる頭の形、異なる髪型、異なる顔の特徴、異なる肌色が示されていました。

キルマー氏の宣誓供述書では、オソリオ氏と容疑者を「照合」するために「捜査ツール」を使用したと法廷で述べた。実際には、顔認識だけでは推定原因を確立するのに十分ではないとフローレンス市警察の方針が明示されているにもかかわらず、判事は彼が単一のツールを使用し、その欠陥のある出力を受け入れたと認定した。この刑事は、担当部署の文書化された規則と、推定原因が実際の人による証拠の評価を反映するという憲法の基本要件の両方を無視した、と判決は明らかにしている。

裁判所が実際に判断したこと

この判決の中心的な文言は、この刑事に過失があったという認定にとどまらない。同法は、「合衆国憲法修正第 4 条は、当該個人が犯罪を犯したという AI による裏付けのない結論にのみ基づいて個人を逮捕することを認めていない。そして、被告の立場にある合理的な刑事は、そうでない結論を下すことはできない。」と断固とした規則を明確に述べている。

この 2 番目の文が面倒な作業を行ってくれます。裁判所は、合理的な警察官であれば裏付けのないAIの一致だけで十分だと信じることはできないと述べ、明確に確立された権利を侵害しない限り一般的に職員を民事責任から守る適格免責の抗弁の基礎を破壊した。裁判所は、キルマー氏は教義の背後に隠れることはできないと判示した。憲法修正第 4 条自体が彼の行為を禁じていることと、キルマー氏の部門の方針が顔認識だけでは正当な原因を立証できないと書面で告げているためである。

実際的な結果として、刑事は個人的に訴訟に臨むことになるが、この姿勢は和解への圧力を強めるとともに、控訴審の可能性を高めることになる。なぜなら、刑事は判決に異議を唱える上で直接の経済的利害関係を持っているからである。

1 つの不良チェックをはるかに超えた影響

法律評論家らは、この決定の論理が急成長している警察AI市場全体に広がっていると指摘している。同じ推論、つまりアルゴリズムの出力は、人間が独自にそれを裏付けるまでは考えられる原因の証拠にはならないということは、以下の場合にも同様に適用されます。

  • 顔認識検索。監視静止画とスクレイピングされた Web 画像を照合するシステムを含み、この事件で問題となっているパターンです。
  • アルゴリズム予測に基づいてパトロールや公共の場でのやり取りを指示する予測警察ソフトウェア。
  • AI が作成した警察報告書。現在、警察官が作成したくないという前提で、Axon などのベンダーによってボディカメラに追加されています。これにより、停止や武力行使について機械で作成された物語が公式記録となり得るかどうかという疑問が生じています。

裁判所が、アルゴリズムが推定原因の判断を下すことはできないと述べた場合、アルゴリズムがその推定原因の判断を下したと密かに想定しているすべての下流システムは、問題を引き継ぎます。 AI の出力を捜査の近道として扱ってきた省庁は、逮捕前に本物の人間による裏付けを文書化する必要があるかもしれません。そうしないと、証拠の排除と関与した警察官の個人的責任の両方のリスクが生じる可能性があります。

次に何が起こるか

当面の問題は控訴である。適格免責が否定されたため、刑事はこの事件を上向きに進めようとする強い動機を持っており、AIツールが推定原因の評価に参加できるかどうか、またどのように参加できるかという憲法上の問題はまさに、この広範な規則を前例として定着させるために上訴裁判所が解決する必要がある種類の問題である。市民的自由団体がこの判決を支持して介入する可能性が高い。警察組合やAIベンダーは、この決定はずさんな捜査とテクノロジー政策の問題を混同していると主張して、反発する可能性が高い。

いずれにせよ、この判決は、警察当局が控訴サイクルを待たずに今日から読み取ることができる指標を設定するものである。つまり、AI の出力は結論ではなく、手がかりであるということである。この事件の刑事は、顔照合アルゴリズムに思考を行わせ、まさにそれに対する部門独自のルールを無視し、今では個人的にその結果に直面している。この判決自体が示しているように、憲法制定者はニューラルネットワークを想定していなかった。しかし、国家が人を逮捕する前に人間が推定原因を評価するという要件は、何の修正も必要とせずに翻訳できることが判明した。

AI ツールを購入する部門にとって、そのメッセージは同様に直接的です。精度に関するベンダーの主張はポリシーではありません。刑事が無視したフローレンス市警のような、人間による裏付けを必要とする書面による規則は、今やベストプラクティスであるだけでなく、訴訟を乗り切る部門と個人的に訴訟費用を支払う警察官との違いとなっている。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→