Суддя Сполучених Штатів виніс одне з найбільш послідовних рішень щодо використання штучного інтелекту в правоохоронних органах, постановивши, що Четверта поправка не дозволяє поліції арештовувати особу лише на основі непідтвердженого висновку ШІ. Рішення, винесене за цивільним позовом Алена Візкея Осоріо та опубліковане через DocumentCloud, відхиляє спробу детектива вимагати кваліфікованого імунітету після того, як він заарештував Осоріо за нібито погану перевірку, засновану виключно на збігу розпізнавання обличчя — збіг, який суд визнав явно неправильним. У першому абзаці рішення чітко сформульовано принцип: «Четверта поправка до Конституції Сполучених Штатів не дозволяє детективу делегувати ШІ завдання оцінки ймовірної причини». Для постійного висвітлення [політики та регулювання штучного інтелекту] (https://aibuzzwire.news) AI Buzz Wire відстежує звернення, яке багато хто очікує дотримуватися.

Погана перевірка, знімок екрана камери відеоспостереження та збіг у Facebook

Справа почалася з передбачуваного злочину з низькими ставками та незначної роботи поліції. Осоріо звинувачували в тому, що він пройшов поганий чек у місцевому банку, і єдині зображення підозрюваного були зроблені з камер відеоспостереження банку. Детектив Райан Кілмер з департаменту поліції Флоренції, штат Кентуккі, зробив знімок екрана обличчя підозрюваного та пропустив його через програму розпізнавання обличчя департаменту. Система повернула збіг із профілем Facebook, який належить людині, зазначеному як «Йоні Сміт Нполс Харон» — і, з того, що суд сухо назвав «невідомою причиною», Кілмер дійшов висновку, що профіль належить Осоріо.

Фотографії розповідали іншу історію. Згідно з рішенням, записи з камер відеоспостереження та зображення профілю Facebook «не схожі на фотографію бронювання Осоріо». Згідно з фотографією бронювання, суд зауважив, що єдине спільне, що Осоріо мав із підозрюваним, це те, що обидва були чорними чоловіками з волоссям на обличчі; на фотографіях була інша форма голови, інша стрижка, інші риси обличчя та інший колір обличчя.

Під присягою Кілмер заявив суду, що він використовував «інструменти розслідування», щоб «зіставити» Осоріо з підозрюваним. Насправді суддя виявив, що він використовував один інструмент і погодився з його помилковим виходом — незважаючи на політику поліції Флоренції, яка прямо зазначає, що лише розпізнавання обличчя недостатньо для встановлення ймовірної причини. У постанові чітко зазначено, що детектив проігнорував як письмові правила свого департаменту, так і базову вимогу Конституції, згідно з якою ймовірна причина відображала фактичну людську оцінку доказів.

Що насправді постановив суд

Основна формулювання рішення виходить за рамки висновку про недбалість цього детектива. У ньому сформульовано категоричне правило: «Четверта поправка не дозволяє заарештовувати особу лише на основі непідтвердженого висновку АІ про те, що дана особа вчинила злочин. І жоден розумний детектив на позиції Відповідача не міг би дійти іншого висновку».

Це друге речення робить важку роботу. Заявивши, що жоден розумний офіцер не може повірити, що непідтвердженого збігу штучного інтелекту достатньо, суд зруйнував основу кваліфікованого імунітету, який зазвичай захищає посадових осіб від цивільної відповідальності, якщо вони не порушують чітко встановлені права. Суд постановив, що Кілмер не може ховатися за цією доктриною — як через те, що сама Четверта поправка забороняє те, що він робив, так і через те, що політика його власного департаменту вказувала йому в письмовій формі, що лише розпізнавання обличчя не може встановити ймовірну причину.

Практичним наслідком є ​​те, що детектив особисто стикається з позовом, а це посилює тиск на угоду та робить більш вірогідним апеляційний перегляд, оскільки тепер офіцер має пряму фінансову зацікавленість у оскарженні рішення.

Наслідки, які виходять далеко за межі однієї поганої перевірки

Юридичні коментатори відзначають, що логіка цього рішення випромінюється на весь швидкозростаючий ринок поліцейського ШІ. Те саме міркування — що вихідні дані алгоритму не є доказом ймовірної причини, доки людина самостійно не підтвердить це — з такою ж силою стосується:

  • Пошук за допомогою розпізнавання облич, включаючи системи, які зіставляють кадри з камер спостереження та веб-зображення, про які йде мова в цьому випадку.
  • Програмне забезпечення для інтелектуальної поліції, яке керує патрулюванням і громадськими взаємодіями на основі алгоритмічних прогнозів.
  • Поліцейські звіти, створені штучним інтелектом, які тепер додаються до натільних камер такими постачальниками, як Axon, припускаючи, що поліцейські вважають за краще їх не писати, що викликає питання про те, чи може машинний наратив про зупинку чи застосування сили становити офіційний запис.

Якщо суд стверджує, що алгоритм не може визначити ймовірну причину, кожна наступна система, яка мовчки припускає, що алгоритм дійсно зробив це визначення, успадковує проблему. Міністерствам, які розглядають результати штучного інтелекту як швидкі шляхи розслідування, можливо, знадобиться задокументувати справжні людські підтвердження перед арештом, інакше ризикує як виключенням доказів, так і персональною відповідальністю залучених офіцерів.

Що буде далі

Безпосереднє питання – оскарження. Оскільки в кваліфікованому імунітеті було відмовлено, детектив має сильну мотивацію підняти справу на більш високий рівень, а конституційне питання — чи можуть і як інструменти штучного інтелекту брати участь у оцінці ймовірних причин — саме те питання, яке апеляційні суди мали б вирішувати, щоб таке широке правило перетворилося на прецедент. Групи громадянських свобод, ймовірно, втрутяться на підтримку рішення; Поліцейські профспілки та постачальники штучного інтелекту, швидше за все, відмовляться, стверджуючи, що це рішення пов’язує неохайне розслідування з проблемою технологічної політики.

У будь-якому випадку, постанова встановлює маркер, який поліцейські департаменти можуть прочитати сьогодні, не чекаючи циклу апеляції: результати штучного інтелекту є наведенням, а не висновком. У цьому випадку детектив дозволив алгоритму зіставлення облич подумати, проігнорував власне правило свого відділу, яке забороняє саме це, і тепер особисто стикається з наслідками. Як свідчить саме рішення, розробники Конституції не передбачали нейромережі, але вимога про те, щоб людина оцінювала ймовірну причину, перш ніж держава арештує особу, виявляється перекладеною без будь-яких поправок.

Для відділів, які купують інструменти штучного інтелекту, повідомлення настільки ж пряме: претензії постачальників щодо точності не є політикою. Письмові правила, що вимагають людського підтвердження — як-от поліція Флоренс, яку детектив проігнорував — тепер не просто найкраща практика, а й різниця між відділом, який виживає після судового процесу, та офіцером, який особисто за нього платить.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →