Un judecător din Statele Unite a pronunțat una dintre cele mai importante hotărâri de până acum cu privire la utilizarea inteligenței artificiale în aplicarea legii, susținând că al patrulea amendament nu permite poliției să aresteze o persoană doar pe baza unei concluzii AI necoroborate. Decizia, emisă într-un proces civil introdus de Alain Vizcay Osorio și publicată prin DocumentCloud, respinge încercarea unui detectiv de a revendica imunitate calificată după ce l-a arestat pe Osorio pentru că a trecut un control necorespunzător bazat exclusiv pe o potrivire de recunoaștere facială - o potrivire pe care instanța a găsit-o în mod evident greșită. Paragraful de deschidere al hotărârii precizează clar principiul: „Al patrulea amendament la Constituția Statelor Unite nu permite unui detectiv să delege AI sarcina de a evalua cauza probabilă”. Pentru acoperirea continuă a politicii și reglementărilor AI, AI Buzz Wire urmărește apelul pe care mulți se așteaptă să îl urmeze.

O verificare greșită, o captură de ecran CCTV și o potrivire pe Facebook

Cazul a început cu presupuse infracțiuni cu miză redusă și muncă de poliție cu efort redus. Osorio a fost acuzat că a dat un cec nerespectat la o bancă locală, iar singurele imagini ale suspectului au provenit din filmările CCTV ale băncii. Detectivul Ryan Kilmer de la Departamentul de Poliție din Florence, Kentucky a făcut o captură de ecran a feței suspectului și a trecut prin programul de recunoaștere facială al departamentului. Sistemul a returnat o potrivire la un profil de Facebook aparținând cuiva enumerat ca „Yony Smith Npoles Charon” – și, pentru ceea ce instanța a numit sec un „motiv necunoscut”, Kilmer a concluzionat că profilul îi aparține lui Osorio.

Fotografiile au spus o poveste diferită. Potrivit deciziei, filmările CCTV și imaginea de profil Facebook „nu seamănă cu fotografia de rezervare a lui Osorio”. Pe baza fotografiei de rezervare, a observat instanța, singurul lucru pe care Osorio îl avea în comun cu suspectul era că ambii erau bărbați de culoare cu păr facial; fotografiile au arătat o formă diferită a capului, o tunsoare diferită, trăsături faciale diferite și un ten diferit.

Declarația pe propria răspundere a lui Kilmer a spus instanței că a folosit „instrumente de investigație” pentru a „potrivi” Osorio cu suspectul. În realitate, a constatat judecătorul, el a folosit un singur instrument și a acceptat rezultatul defectuos al acestuia - în ciuda politicii PD din Florența afirmând în mod explicit că recunoașterea facială nu este suficientă pentru a stabili cauza probabilă. Detectivul, arată clar hotărârea, a ignorat atât regulile scrise ale departamentului său, cât și cerința de bază a Constituției conform căreia cauza probabilă reflectă o evaluare umană reală a probelor.

Ce a susținut de fapt Curtea

Limbajul de bază al deciziei depășește o constatare că acest detectiv a fost neglijent. Ea articulează o regulă categorică: „al patrulea amendament nu permite arestarea unui individ pe baza nimic mai mult decât o concluzie necoroborată a AI că individul în cauză a comis o infracțiune. Și niciun detectiv rezonabil din poziția inculpatului nu ar putea concluziona altfel”.

A doua propoziție face treaba grea. Afirmând că niciun ofițer rezonabil nu ar putea crede că o potrivire AI necoroborată este suficientă, instanța a demolat fundația apărării imunității calificate, care, în general, îi protejează pe funcționari de răspunderea civilă, cu excepția cazului în care au încălcat drepturile clar stabilite. Kilmer, a considerat tribunalul, nu se poate ascunde în spatele doctrinei - atât pentru că al patrulea amendament în sine interzice ceea ce a făcut, cât și pentru că politica propriului său departament i-a spus, în scris, că recunoașterea facială singură nu poate stabili cauza probabilă.

Consecința practică este că detectivul se confruntă cu procesul personal, o postură care crește presiunea de a soluționa și face ca revizuirea recursului să fie mai probabilă, deoarece ofițerul are acum o miză financiară directă în contestarea hotărârii.

Implicații care ajung mult dincolo de o verificare greșită

Comentatorii juridici notează că logica deciziei iradiază spre exterior pe piața în creștere rapidă a inteligenței artificiale a poliției. Același raționament - că rezultatul unui algoritm nu este o dovadă a cauzei probabile până când un om o coroborează în mod independent - se aplică cu forță egală pentru:

  • Căutări de recunoaștere facială, inclusiv sisteme care potrivesc fotografiile de supraveghere cu imaginile web răzuite, modelul în discuție în acest caz.
  • Software de poliție predictivă care direcționează patrulele și interacțiunile publice pe baza prognozelor algoritmice.
  • Rapoartele de poliție generate de inteligență artificială, acum fiind adăugate la camerele corporale de către vânzători precum Axon, pe premisa că ofițerii preferă să nu le scrie - ridicând întrebarea dacă o narațiune elaborată de mașină despre o oprire sau utilizarea forței poate constitui înregistrarea oficială.

Dacă o instanță spune că un algoritm nu poate face determinarea cauzei probabile, fiecare sistem din aval care presupune în liniște că algoritmul a făcut acea determinare moștenește problema. Departamentele care au tratat rezultatele AI ca pe scurtături de investigație ar putea avea nevoie să documenteze o coroborare umană autentică înainte de arestare sau riscă atât excluderea probelor, cât și răspunderea personală pentru ofițerii implicați.

Ce urmează

Întrebarea imediată este apelul. Deoarece i-a fost refuzată imunitatea calificată, detectivul are o motivație puternică pentru a duce cazul în sus, iar întrebarea constituțională - dacă și cum instrumentele AI pot participa la evaluările cauzelor probabile - este exact tipul de problemă pe care instanțele de apel ar avea nevoie pentru a se soluționa cu o regulă atât de largă pentru a se întări în precedent. Grupurile de libertăți civile sunt susceptibile de a interveni în sprijinul hotărârii; Sindicatele de poliție și vânzătorii de inteligență artificială sunt probabil să respingă, argumentând că decizia combină o investigație neglijentă cu o problemă de politică tehnologică.

Oricum, decizia stabilește un reper pe care departamentele de poliție îl pot citi astăzi, fără a aștepta ciclul de apel: ieșirea AI este o pistă, nu o concluzie. În acest caz, detectivul a lăsat un algoritm de potrivire a feței să se gândească, a ignorat regula departamentului său împotriva exact asta și acum se confruntă personal cu consecințele. După cum arată decizia însăși, autorii Constituției nu au anticipat rețelele neuronale - dar cerința ca o ființă umană să evalueze cauza probabilă înainte ca statul să pună mâna pe o persoană se dovedește a fi tradusă fără nicio modificare necesară.

Pentru departamentele care cumpără instrumente de inteligență artificială, mesajul este la fel de direct: afirmațiile furnizorilor cu privire la acuratețe nu sunt politici. Regulile scrise care necesită coroborare umană - precum cele ale poliției din Florence, pe care detectivul le-a ignorat - nu sunt acum doar cele mai bune practici, ci diferența dintre un departament care supraviețuiește unui proces și un ofițer care plătește pentru asta personal.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →