Un giudice degli Stati Uniti ha emesso una delle sentenze più importanti finora sull’uso dell’intelligenza artificiale nelle forze dell’ordine, sostenendo che il Quarto Emendamento non consente alla polizia di arrestare una persona sulla base di nient’altro che una conclusione non confermata dell’intelligenza artificiale. La decisione, emessa in una causa civile intentata da Alain Vizcay Osorio e pubblicata tramite DocumentCloud, respinge il tentativo di un detective di rivendicare l'immunità qualificata dopo aver arrestato Osorio per aver presumibilmente superato un assegno basato esclusivamente su una corrispondenza di riconoscimento facciale - una corrispondenza che la corte ha ritenuto ovviamente sbagliata. Il paragrafo di apertura della sentenza afferma chiaramente il principio: "Il quarto emendamento alla Costituzione degli Stati Uniti non consente a un investigatore di delegare ad AI il compito di valutare la probabile causa". Per una copertura continua di politiche e regolamenti sull'IA, AI Buzz Wire sta monitorando l'appello che molti si aspettano di seguire.
Un controllo errato, uno screenshot della CCTV e una corrispondenza su Facebook
Il caso è iniziato con una presunta criminalità a basso rischio e un lavoro di polizia con poco sforzo. Osorio è stato accusato di aver emesso un assegno scoperto presso una banca locale e le uniche immagini del sospettato provenivano dalle riprese della CCTV della banca. Il detective Ryan Kilmer del dipartimento di polizia di Florence, Kentucky, ha acquisito uno screenshot del volto del sospetto e lo ha eseguito attraverso il programma di riconoscimento facciale del dipartimento. Il sistema ha restituito una corrispondenza a un profilo Facebook appartenente a qualcuno elencato come "Yony Smith Npoles Charon" - e, per quello che la corte ha definito seccamente un "motivo sconosciuto", Kilmer ha concluso che il profilo apparteneva a Osorio.
Le fotografie raccontavano una storia diversa. Secondo la decisione, il filmato della CCTV e l'immagine del profilo Facebook "non somigliano alla foto della prenotazione di Osorio". Sulla base della foto della prenotazione, osservò la corte, l'unica cosa che Osorio aveva in comune con il sospettato era che entrambi erano uomini neri con peli sul viso; le foto mostravano una forma della testa diversa, un taglio di capelli diverso, caratteristiche del viso diverse e una carnagione diversa.
La dichiarazione giurata di Kilmer disse alla corte che aveva utilizzato "strumenti investigativi" per "abbinare" Osorio al sospettato. In realtà, ha scoperto il giudice, ha utilizzato un unico strumento e ne ha accettato il risultato errato, nonostante la politica del PD di Firenze affermi esplicitamente che il riconoscimento facciale da solo non è sufficiente per stabilire una causa probabile. Il detective, chiarisce la sentenza, ha ignorato sia le regole scritte del suo dipartimento sia il requisito di base della Costituzione secondo cui la causa probabile riflette una reale valutazione umana delle prove.
Ciò che la Corte ha effettivamente ritenuto
Il nucleo centrale della decisione va oltre la constatazione che questo detective sia stato negligente. Si articola una regola categorica: "il Quarto Emendamento non consente l'arresto di un individuo sulla base di nient'altro che una conclusione non confermata di AI secondo cui l'individuo in questione ha commesso un crimine. E nessun detective ragionevole nella posizione dell'imputato potrebbe concludere diversamente."
Quella seconda frase fa il lavoro pesante. Affermando che nessun ufficiale ragionevole potrebbe ritenere sufficiente una corrispondenza non confermata con un’intelligenza artificiale, la corte ha demolito le fondamenta della difesa dell’immunità qualificata, che generalmente protegge i funzionari dalla responsabilità civile a meno che non violino diritti chiaramente stabiliti. Kilmer, ha ritenuto la corte, non può nascondersi dietro questa dottrina, sia perché lo stesso Quarto Emendamento vieta ciò che ha fatto, sia perché la politica del suo stesso dipartimento gli ha detto, per iscritto, che il riconoscimento facciale da solo non può stabilire una causa probabile.
La conseguenza pratica è che l'investigatore affronta la causa personalmente, un atteggiamento che aumenta la pressione per raggiungere un accordo e rende più probabile la revisione in appello, dal momento che l'ufficiale ora ha un interesse finanziario diretto nell'impugnare la sentenza.
Implicazioni che vanno ben oltre un assegno sbagliato
I commentatori legali notano che la logica della decisione si irradia verso l’esterno attraverso il mercato in rapida crescita dell’intelligenza artificiale della polizia. Lo stesso ragionamento – secondo cui l’output di un algoritmo non è prova di una causa probabile finché un essere umano non lo conferma in modo indipendente – si applica con uguale forza a:
- Ricerche di riconoscimento facciale, compresi sistemi che confrontano foto di sorveglianza con immagini web raschiate, il modello in questione in questo caso.
- Software di polizia predittiva che dirige le pattuglie e le interazioni pubbliche sulla base di previsioni algoritmiche.
- Rapporto di polizia generato dall'intelligenza artificiale, che ora viene aggiunto alle telecamere del corpo da venditori come Axon sulla premessa che gli agenti preferiscono non scriverli, sollevando la questione se una narrazione redatta a macchina di un fermo o di un uso della forza possa costituire un documento ufficiale.
Se un tribunale afferma che un algoritmo non può determinare la causa probabile, ogni sistema a valle che presuppone tranquillamente che l’algoritmo abbia effettuato tale determinazione eredita il problema. I dipartimenti che hanno trattato i risultati dell’IA come scorciatoie investigative potrebbero dover documentare un’autentica conferma umana prima dell’arresto, o rischiare sia l’esclusione delle prove che la responsabilità personale per gli agenti coinvolti.
Cosa verrà dopo
La questione immediata è il ricorso. Poiché l’immunità qualificata è stata negata, l’investigatore ha una forte motivazione per portare il caso verso l’alto, e la questione costituzionale – se e come gli strumenti di intelligenza artificiale possono partecipare alle valutazioni della causa probabile – è esattamente il tipo di questione di cui le corti d’appello avrebbero bisogno per risolvere una regola così ampia da consolidare in un precedente. È probabile che i gruppi per le libertà civili intervengano a sostegno della sentenza; È probabile che i sindacati di polizia e i venditori di intelligenza artificiale si oppongano, sostenendo che la decisione confonde un’indagine trascurata con un problema di politica tecnologica.
In ogni caso, la sentenza stabilisce un segnale che i dipartimenti di polizia possono leggere oggi, senza attendere il ciclo di appello: i risultati dell’intelligenza artificiale sono un indizio, non una conclusione. In questo caso il detective ha lasciato che fosse un algoritmo di riconoscimento facciale a pensare, ha ignorato la regola del suo dipartimento proprio contro questo, e ora affronta personalmente le conseguenze. Come indica la decisione stessa, gli autori della Costituzione non avevano previsto le reti neurali, ma il requisito secondo cui un essere umano valuta la causa probabile prima che lo Stato sequestri una persona risulta essere applicabile senza che sia necessaria alcuna modifica.
Per i dipartimenti che acquistano strumenti di intelligenza artificiale, il messaggio è altrettanto diretto: le affermazioni dei fornitori sull’accuratezza non costituiscono una politica. Le regole scritte che richiedono una conferma umana - come quella della polizia di Firenze, che il detective ha ignorato - ora non sono solo la migliore pratica, ma la differenza tra un dipartimento che sopravvive a una causa e un agente che la paga personalmente.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →