Een Amerikaanse rechter heeft een van de meest consequente uitspraken tot nu toe gedaan over het gebruik van kunstmatige intelligentie bij wetshandhaving. Hij stelt dat het Vierde Amendement de politie niet toestaat iemand te arresteren op basis van niets meer dan een onbevestigde AI-conclusie. De beslissing, uitgevaardigd in een civiele procedure aangespannen door Alain Vizcay Osorio en gepubliceerd via DocumentCloud, verwerpt de poging van een rechercheur om gekwalificeerde immuniteit te claimen nadat hij Osorio had gearresteerd omdat hij naar verluidt een slechte controle had doorstaan, uitsluitend gebaseerd op een gezichtsherkenningsmatch – een match die volgens de rechtbank duidelijk verkeerd was. In de openingsparagraaf van de uitspraak wordt het principe ronduit uiteengezet: "Het vierde amendement op de Amerikaanse grondwet staat niet toe dat een detective de taak van het beoordelen van de waarschijnlijke oorzaak aan AI delegeert." Voor voortdurende berichtgeving over AI-beleid en regelgeving volgt AI Buzz Wire de oproep die velen verwachten te zullen volgen.

Een slechte cheque, een CCTV-screenshot en een Facebook-match

De zaak begon met vermeende misdaad met weinig inzet en politiewerk met weinig inspanning. Osorio werd ervan beschuldigd een onjuiste cheque te hebben doorgegeven bij een plaatselijke bank, en de enige beelden van de verdachte waren afkomstig van de camerabeelden van de bank. Rechercheur Ryan Kilmer van de politie van Florence, Kentucky maakte een screenshot van het gezicht van de verdachte en haalde deze door het gezichtsherkenningsprogramma van de afdeling. Het systeem retourneerde een match met een Facebook-profiel van iemand die vermeld stond als ‘Yony Smith Npoles Charon’ – en om wat de rechtbank droogweg een ‘onbekende reden’ noemde, concludeerde Kilmer dat het profiel toebehoorde aan Osorio.

De foto's vertelden een ander verhaal. Volgens het besluit lijken de camerabeelden en de Facebook-profielafbeelding "niet op de boekingsfoto van Osorio." Op basis van de boekingsfoto constateerde de rechtbank dat het enige dat Osorio met de verdachte gemeen had, was dat het allebei zwarte mannen met gezichtshaar waren; de foto's toonden een andere vorm van het hoofd, een ander kapsel, andere gelaatstrekken en een andere huidskleur.

Kilmer's beëdigde verklaring vertelde de rechtbank dat hij "onderzoeksinstrumenten" had gebruikt om Osorio aan de verdachte te "matchen". In werkelijkheid, zo constateerde de rechter, gebruikte hij slechts één instrument en accepteerde hij de gebrekkige uitvoer ervan – ondanks het feit dat het beleid van de politie van Florence expliciet stelde dat gezichtsherkenning alleen niet voldoende is om de waarschijnlijke oorzaak vast te stellen. De rechercheur, zo maakt de uitspraak duidelijk, negeerde zowel de schriftelijke regels van zijn afdeling als de basisvereiste van de grondwet dat de waarschijnlijke oorzaak een daadwerkelijke menselijke beoordeling van het bewijsmateriaal weerspiegelt.

Wat het Hof feitelijk oordeelde

De kerntaal van de beslissing gaat verder dan de bevinding dat deze rechercheur nalatig was. Het verwoordt een categorische regel: "Het Vierde Amendement staat niet toe dat een individu wordt gearresteerd op basis van niets meer dan een niet-bevestigde conclusie van AI dat het individu in kwestie een misdaad heeft begaan. En geen enkele redelijke detective in de positie van de beklaagde zou anders kunnen concluderen."

Die tweede zin doet het zware werk. Door te stellen dat geen enkele redelijke functionaris kon geloven dat een niet-bevestigde AI-match voldoende was, vernietigde de rechtbank de basis van de gekwalificeerde immuniteitsverdediging, die ambtenaren over het algemeen beschermt tegen burgerlijke aansprakelijkheid, tenzij ze duidelijk gevestigde rechten hebben geschonden. Kilmer, zo oordeelde de rechtbank, kan zich niet verschuilen achter de doctrine – zowel omdat het Vierde Amendement zelf verbiedt wat hij deed, als omdat het beleid van zijn eigen afdeling hem schriftelijk vertelde dat gezichtsherkenning alleen geen waarschijnlijke oorzaak kan vaststellen.

Het praktische gevolg is dat de rechercheur persoonlijk met de rechtszaak wordt geconfronteerd, een houding die zowel de druk om een ​​schikking te treffen vergroot als de kans op een hoger beroep vergroot, aangezien de officier nu een direct financieel belang heeft bij het aanvechten van de uitspraak.

Implicaties die veel verder reiken dan één foutieve cheque

Juridische commentatoren merken op dat de logica van het besluit uitstraalt naar de snelgroeiende markt voor politie-AI. Dezelfde redenering – dat de output van een algoritme geen bewijs is van een waarschijnlijke oorzaak totdat een mens deze onafhankelijk bevestigt – is met gelijke kracht van toepassing op:

  • Zoekopdrachten via gezichtsherkenning, inclusief systemen die bewakingsfoto's vergelijken met geschraapte webafbeeldingen, het patroon waar het in deze zaak om gaat.
  • Voorspellende politiesoftware die patrouilles en openbare interacties aanstuurt op basis van algoritmische voorspellingen.
  • AI-gegenereerde politierapporten, die nu door leveranciers als Axon aan lichaamscamera's worden toegevoegd, met de veronderstelling dat agenten ze liever niet schrijven – wat de vraag doet rijzen of een machinaal opgesteld verhaal over een stopzetting of het gebruik van geweld het officiële verslag kan vormen.

Als een rechtbank zegt dat een algoritme de waarschijnlijke oorzaak niet kan bepalen, erft elk stroomafwaarts systeem dat stilletjes aanneemt dat het algoritme die bepaling heeft gedaan, het probleem. Afdelingen die AI-resultaten hebben behandeld als sluiproutes voor onderzoek, moeten mogelijk echte menselijke bevestiging documenteren vóór arrestatie, anders riskeren ze zowel uitsluiting van bewijsmateriaal als persoonlijke aansprakelijkheid voor de betrokken agenten.

Wat komt erna

De onmiddellijke vraag is hoger beroep. Omdat gekwalificeerde immuniteit werd ontzegd, heeft de rechercheur een sterke motivatie om de zaak naar voren te brengen, en de constitutionele vraag – of en hoe AI-instrumenten kunnen deelnemen aan beoordelingen van waarschijnlijke oorzaken – is precies het soort kwestie dat hoven van beroep zouden moeten regelen met een regel die zo breed is om tot een precedent te verharden. Groepen voor burgerlijke vrijheden zullen waarschijnlijk tussenbeide komen ter ondersteuning van de uitspraak; Politievakbonden en AI-leveranciers zullen waarschijnlijk terugdringen, met het argument dat de beslissing een slordig onderzoek samenvoegt met een probleem met het technologiebeleid.

Hoe dan ook, de uitspraak zet een markering die de politiediensten vandaag de dag kunnen lezen, zonder te wachten op de beroepscyclus: AI-output is een aanwijzing, geen conclusie. De rechercheur liet in dit geval een face-matching-algoritme het denkwerk doen, negeerde precies dat van zijn afdeling en wordt nu persoonlijk geconfronteerd met de gevolgen. Zoals het besluit zelf aangeeft, anticipeerden de opstellers van de Grondwet niet op neurale netwerken – maar de eis dat een mens de waarschijnlijke oorzaak moet beoordelen voordat de staat iemand in beslag neemt, blijkt te vertalen zonder dat er enige wijziging nodig is.

Voor afdelingen die op zoek zijn naar AI-tools is de boodschap net zo direct: beweringen van leveranciers over nauwkeurigheid zijn geen beleid. Geschreven regels die menselijke bevestiging vereisen – zoals die van de politie van Florence, die de rechercheur negeerde – zijn nu niet alleen de beste praktijk, maar maken ook het verschil uit tussen een afdeling die een rechtszaak overleeft en een officier die er persoonlijk voor betaalt.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →