Un juge américain a rendu l'une des décisions les plus importantes jamais rendues sur l'utilisation de l'intelligence artificielle dans l'application des lois, estimant que le quatrième amendement n'autorise pas la police à arrêter une personne sur la seule base d'une conclusion non corroborée de l'IA. La décision, rendue dans le cadre d'une action civile intentée par Alain Vizcay Osorio et publiée via DocumentCloud, rejette la tentative d'un détective de revendiquer une immunité qualifiée après avoir arrêté Osorio pour avoir prétendument passé un chèque sans provision basé uniquement sur une correspondance de reconnaissance faciale – une correspondance que le tribunal a jugée était manifestement fausse. Le premier paragraphe de la décision énonce catégoriquement le principe : « Le quatrième amendement à la Constitution des États-Unis n'autorise pas un détective à déléguer à AI la tâche d'évaluer la cause probable ». Pour une couverture continue de la politique et réglementation de l'IA, AI Buzz Wire suit l'attrait que beaucoup s'attendent à suivre.

Un mauvais chèque, une capture d'écran de vidéosurveillance et une correspondance Facebook

L’affaire a commencé avec des crimes présumés à faibles enjeux et un travail de police sans efforts. Osorio a été accusé d'avoir passé un chèque sans provision dans une banque locale, et les seules images du suspect provenaient des images de vidéosurveillance de la banque. Le détective Ryan Kilmer du département de police de Florence, Kentucky, a pris une capture d'écran du visage du suspect et l'a analysée via le programme de reconnaissance faciale du département. Le système a renvoyé une correspondance avec un profil Facebook appartenant à une personne répertoriée comme « Yony Smith Npoles Charon » – et, pour ce que le tribunal a sèchement qualifié de « raison inconnue », Kilmer a conclu que le profil appartenait à Osorio.

Les photographies racontaient une autre histoire. Selon la décision, les images de vidéosurveillance et l'image du profil Facebook "ne ressemblent pas à la photo de réservation d'Osorio". Sur la base de la photo de réservation, a observé le tribunal, la seule chose qu'Osorio avait en commun avec le suspect était que tous deux étaient des hommes noirs avec des poils sur le visage ; les photos montraient une forme de tête différente, une coupe de cheveux différente, des traits du visage différents et un teint différent.

L'affidavit de Kilmer indiquait au tribunal qu'il avait utilisé des « outils d'enquête » pour « faire correspondre » Osorio au suspect. En réalité, a constaté le juge, il a utilisé un seul outil et a accepté son résultat défectueux – malgré la politique de Florence PD stipulant explicitement que la reconnaissance faciale à elle seule ne suffit pas à établir une cause probable. Le détective, indique clairement la décision, a ignoré à la fois les règles écrites de son département et l'exigence de base de la Constitution selon laquelle la cause probable reflète une véritable évaluation humaine des preuves.

Ce que la Cour a réellement décidé

Le texte principal de la décision va au-delà de la conclusion selon laquelle le détective a fait preuve de négligence. Il énonce une règle catégorique : « le Quatrième amendement ne permet pas qu'un individu soit arrêté sur la seule base d'une conclusion non corroborée d'AI selon laquelle l'individu en question a commis un crime. Et aucun détective raisonnable dans la position de l'accusé ne pourrait conclure autrement. »

Cette deuxième phrase fait le gros du travail. En déclarant qu’aucun officier raisonnable ne pouvait croire qu’une correspondance non corroborée par l’IA était suffisante, le tribunal a démoli le fondement de la défense de l’immunité qualifiée, qui protège généralement les fonctionnaires de toute responsabilité civile à moins qu’ils n’aient violé des droits clairement établis. Kilmer, a jugé le tribunal, ne peut pas se cacher derrière cette doctrine – à la fois parce que le Quatrième amendement lui-même interdit ce qu'il a fait et parce que la politique de son propre département lui a dit, par écrit, que la reconnaissance faciale à elle seule ne peut pas établir une cause probable.

La conséquence pratique est que le détective affronte personnellement le procès, une posture qui à la fois augmente la pression en faveur d'un règlement et rend plus probable un examen en appel, puisque l'agent a désormais un intérêt financier direct dans la contestation de la décision.

Implications qui vont bien au-delà d'un mauvais chèque

Les commentateurs juridiques notent que la logique de la décision rayonne sur le marché en croissance rapide de l’IA policière. Le même raisonnement – ​​selon lequel le résultat d’un algorithme ne constitue pas une preuve d’une cause probable jusqu’à ce qu’un humain le corrobore de manière indépendante – s’applique avec la même force à :

  • Recherches par reconnaissance faciale, y compris des systèmes qui associent des images fixes de surveillance à des images Web récupérées, le modèle en cause dans cette affaire.
  • Logiciel de police prédictive qui dirige les patrouilles et les interactions publiques sur la base de prévisions algorithmiques.
  • Les rapports de police générés par l'IA, désormais ajoutés aux caméras corporelles par des fournisseurs comme Axon, en partant du principe que les agents préfèrent ne pas les rédiger - soulevant la question de savoir si un récit rédigé par une machine sur un interpellation ou un recours à la force peut constituer le dossier officiel.

Si un tribunal déclare qu’un algorithme ne peut pas déterminer la cause probable, tout système en aval qui suppose discrètement que l’algorithme a effectivement déterminé cette cause hérite du problème. Les départements qui ont traité les résultats de l’IA comme des raccourcis d’enquête pourraient devoir documenter une véritable corroboration humaine avant l’arrestation, sous peine d’exclure des preuves et d’engager la responsabilité personnelle des agents impliqués.

Ce qui vient ensuite

La question immédiate est celle de l'appel. Parce que l’immunité qualifiée a été refusée, le détective est fortement motivé pour faire avancer l’affaire, et la question constitutionnelle – si et comment les outils d’IA peuvent participer à l’évaluation des causes probables – est exactement le genre de question que les cours d’appel devraient trancher pour qu’une règle aussi large devienne un précédent. Les groupes de défense des libertés civiles interviendront probablement pour soutenir la décision ; Les syndicats de police et les fournisseurs d’IA vont probablement réagir, arguant que la décision confond une enquête bâclée avec un problème de politique technologique.

Quoi qu’il en soit, la décision pose un jalon que les services de police peuvent lire aujourd’hui, sans attendre le cycle d’appel : les résultats de l’IA sont une piste, pas une conclusion. Dans cette affaire, le détective a laissé réfléchir à un algorithme de comparaison de visages, a ignoré la propre règle de son département contre exactement cela et en assume désormais personnellement les conséquences. Comme le montre la décision elle-même, les rédacteurs de la Constitution n’ont pas prévu les réseaux de neurones – mais l’exigence selon laquelle un être humain doit évaluer la cause probable avant que l’État ne saisisse une personne s’avère se traduire sans aucun amendement requis.

Pour les départements qui recherchent des outils d’IA, le message est tout aussi direct : les affirmations des fournisseurs concernant l’exactitude ne constituent pas une politique. Les règles écrites exigeant une corroboration humaine – comme celles de Florence PD, que le détective a ignorées – ne sont plus seulement une bonne pratique, mais font la différence entre un service qui survit à un procès et un agent qui paie personnellement.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →