Sędzia ze Stanów Zjednoczonych wydał jedno z najbardziej konsekwentnych w dotychczasowej historii orzeczeń w sprawie wykorzystania sztucznej inteligencji w egzekwowaniu prawa, stwierdzając, że Czwarta Poprawka nie pozwala policji na aresztowanie osoby wyłącznie na podstawie niepotwierdzonych wniosków AI. Decyzja, wydana w ramach pozwu cywilnego wniesionego przez Alaina Vizcay Osorio i opublikowana za pośrednictwem DocumentCloud, odrzuca próbę ubiegania się przez detektywa o kwalifikowany immunitet po tym, jak aresztował Osorio za rzekome zdanie błędnej kontroli wyłącznie na podstawie zgodności w zakresie rozpoznawania twarzy – zgodność, którą sąd uznał za oczywiście błędną. Początkowy akapit orzeczenia jasno stwierdza zasadę: „Czwarta poprawka do Konstytucji Stanów Zjednoczonych nie zezwala detektywowi na delegowanie AI zadania oceny prawdopodobnej przyczyny”. Aby na bieżąco informować o polityce i przepisach dotyczących sztucznej inteligencji, AI Buzz Wire śledzi apel, którego wielu spodziewa się przestrzegać.

Zły czek, zrzut ekranu z CCTV i dopasowanie na Facebooku

Sprawa rozpoczęła się od domniemanego przestępstwa o niskiej stawce i niewymagającej wysiłku pracy policji. Osorio został oskarżony o sprawdzenie błędnego czeku w lokalnym banku, a jedyne zdjęcia podejrzanego pochodzą z nagrań CCTV banku. Detektyw Ryan Kilmer z wydziału policji we Florencji w stanie Kentucky zrobił zrzut ekranu twarzy podejrzanego i przepuścił go przez wydziałowy program rozpoznawania twarzy. System zwrócił dopasowanie do profilu na Facebooku należącego do osoby wymienionej jako „Yony Smith Npoles Charon” – i z tego, co sąd sucho nazwał „nieznanym powodem”, Kilmer doszedł do wniosku, że profil ten należy do Osorio.

Zdjęcia opowiadały inną historię. Zgodnie z decyzją nagrania z monitoringu i zdjęcie profilowe na Facebooku „nie przypominają zdjęcia z rezerwacji Osorio”. Na podstawie zdjęcia z rezerwacji sąd zauważył, że jedyną rzeczą, która łączy Osorio z podejrzanym, było to, że obaj byli czarnoskórymi mężczyznami z zarostem na twarzy; zdjęcia pokazywały inny kształt głowy, inną fryzurę, inne rysy twarzy i inną karnację.

Z oświadczenia Kilmera wynika, że ​​sąd użył „narzędzi dochodzeniowych”, aby „dopasować” Osorio do podejrzanego. W rzeczywistości, jak stwierdził sędzia, użył jednego narzędzia i zaakceptował jego wadliwe wyniki – mimo że polityka policji we Florencji wyraźnie stwierdzała, że ​​samo rozpoznanie twarzy nie wystarczy do ustalenia prawdopodobnej przyczyny. Z orzeczenia jasno wynika, że ​​detektyw zignorował zarówno pisemne zasady swojego wydziału, jak i podstawowy wymóg Konstytucji, zgodnie z którym prawdopodobna przyczyna odzwierciedla rzeczywistą ocenę dowodów przez człowieka.

Co faktycznie orzekł sąd

Zasadnicze sformułowanie decyzji wykracza poza stwierdzenie, że detektyw dopuścił się zaniedbania. Formułuje kategoryczną zasadę: „Czwarta Poprawka nie pozwala na aresztowanie osoby na podstawie jedynie niepotwierdzonego wniosku AI, że dana osoba popełniła przestępstwo. I żaden rozsądny detektyw na stanowisku oskarżonego nie mógłby stwierdzić inaczej”.

To drugie zdanie robi największe wrażenie. Stwierdzając, że żaden rozsądny funkcjonariusz nie może uwierzyć, że niepotwierdzone dopasowanie sztucznej inteligencji wystarczy, sąd zburzył podstawy obrony kwalifikowanego immunitetu, który zasadniczo chroni urzędników przed odpowiedzialnością cywilną, chyba że naruszą oni jasno określone prawa. Kilmer, zdaniem sądu, nie może ukrywać się za doktryną – zarówno dlatego, że czwarta poprawka sama w sobie zabrania tego, co zrobił, jak i dlatego, że polityka jego własnego departamentu wskaże mu na piśmie, że samo rozpoznanie twarzy nie jest w stanie ustalić prawdopodobnej przyczyny.

Praktyczną konsekwencją jest to, że detektyw osobiście stawia czoła pozwowi, co zwiększa presję na zawarcie ugody i zwiększa prawdopodobieństwo ponownego rozpatrzenia sprawy, ponieważ funkcjonariusz ma teraz bezpośredni udział finansowy w kwestionowaniu orzeczenia.

Konsekwencje wykraczające daleko poza jeden zły czek

Komentatorzy prawni zauważają, że logika tej decyzji promieniuje na cały szybko rozwijający się rynek policyjnej sztucznej inteligencji. To samo rozumowanie – zgodnie z którym wynik algorytmu nie stanowi dowodu na prawdopodobną przyczynę, dopóki człowiek go niezależnie nie potwierdzi – ma zastosowanie z równą siłą do:

  • Wyszukiwania oparte na rozpoznawaniu twarzy, w tym systemy dopasowujące zdjęcia z monitoringu do zeskrobanych obrazów internetowych, co stanowi wzór będący przedmiotem niniejszej sprawy.
  • Predykcyjne oprogramowanie policyjne, które kieruje patrolami i interakcjami publicznymi w oparciu o prognozy algorytmiczne.
– Raporty policyjne generowane przez sztuczną inteligencję, obecnie dodawane do kamer ciała przez dostawców takich jak Axon w oparciu o założenie, że funkcjonariusze wolą ich nie pisać, co rodzi pytanie, czy sporządzony maszynowo opis zatrzymania lub użycia siły może stanowić oficjalny zapis.

Jeśli sąd uzna, że ​​algorytm nie jest w stanie ustalić prawdopodobnej przyczyny, każdy system niższego szczebla, który po cichu zakłada, że ​​algorytm faktycznie tego dokonał, dziedziczy problem. Wydziały, które traktowały wyniki sztucznej inteligencji jako skróty dochodzeniowe, mogą być zmuszone do udokumentowania prawdziwego potwierdzenia przez człowieka przed aresztowaniem, w przeciwnym razie ryzykują zarówno wykluczeniem dowodów, jak i osobistą odpowiedzialnością zaangażowanych funkcjonariuszy.

Co będzie dalej

Natychmiastową kwestią jest apelacja. Ponieważ odmówiono mu kwalifikowanego immunitetu, detektyw ma silną motywację do wniesienia sprawy na wyższy poziom, a kwestia konstytucyjna – czy i w jaki sposób narzędzia sztucznej inteligencji mogą uczestniczyć w ocenie prawdopodobnych przyczyn – jest dokładnie tym rodzajem kwestii, którą sądy apelacyjne musiałyby rozstrzygnąć w sprawie tak szerokiego przepisu, który stałby się precedensem. Organizacje zajmujące się wolnościami obywatelskimi prawdopodobnie będą interweniować w celu wsparcia orzeczenia; związki zawodowe policji i dostawcy sztucznej inteligencji prawdopodobnie będą się sprzeciwiać, argumentując, że decyzja łączy niechlujne śledztwo z problemem polityki technologicznej.

Tak czy inaczej, orzeczenie stanowi wskazówkę, którą policja może już dziś odczytać, bez czekania na cykl apelacyjny: wyniki sztucznej inteligencji są wskazówką, a nie wnioskiem. W tym przypadku detektyw pozwolił myśleć algorytmowi dopasowywania twarzy, zignorował zasadę obowiązującą w jego wydziale i teraz osobiście ponosi konsekwencje. Jak sygnalizuje sama decyzja, twórcy Konstytucji nie przewidzieli sieci neuronowych, ale wymóg, aby człowiek ocenił prawdopodobną przyczynę, zanim państwo zatrzyma osobę, okazuje się nie wymagać żadnych poprawek.

Dla działów kupujących narzędzia AI wiadomość jest równie bezpośrednia: twierdzenia dostawców dotyczące dokładności nie stanowią polityki. Pisemne zasady wymagające potwierdzenia przez człowieka – takie jak policja we Florencji, którą detektyw zignorował – stanowią obecnie nie tylko najlepszą praktykę, ale różnicę między wydziałem, który przetrwa pozew, a funkcjonariuszem, który za to płaci osobiście.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →