Le Comité des avocats pour les droits civils en vertu de la loi a intenté une action en justice le 18 novembre 2026 au nom de quatre étudiants noirs actuels et anciens du lycée Kenwood dans le comté de Baltimore, dans le Maryland, après qu'un système de détection d'armes à feu par IA ait confondu l'un de leurs sacs de chips avec une arme à feu et que des policiers armés ont arrêté et fouillé les adolescents sur le campus.
La plainte, déposée devant le tribunal de circuit du comté de Baltimore, désigne comme défendeurs Omnilert, LLC – le fabricant du système Omnilert Gun Detect utilisé dans les écoles publiques du comté de Baltimore – ainsi que les écoles publiques et le personnel du comté de Baltimore, le département de police du comté de Baltimore et des agents individuels. Il allègue des violations des droits constitutionnels des étudiants au niveau fédéral et étatique ainsi que des négligences et des négligences graves. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Que s'est-il passé en octobre 2025
Selon le comité des avocats, l'incident a commencé lorsque Omnilert Gun Detect – un système de surveillance par IA déployé dans les écoles du comté – a généré une alerte signalant le sac de chips d'un adolescent comme une arme à feu avec une probabilité déclarée de 90 %. Le système avait confondu un sac de Doritos porté par l'un des étudiants avec une arme à feu.
La fausse alerte a déclenché une réaction qui s'est terminée par une police locale armée qui a envahi les adolescents sur le campus, à quelques pas de l'entrée de l'école. Les étudiants ont été mis à genoux, menottés et fouillés, a indiqué l'organisation. Le New York Times, The Guardian, NBC News, CBS News et le Baltimore Sun ont tous rendu compte du procès et de l'incident sous-jacent, qui a attiré l'attention nationale sur la détection d'armes basée sur l'IA dans les écoles.
"La police a dit à mon fils que cela aurait pu être un réel problème. Aucun enfant du comté de Baltimore ne devrait faire face à ce genre de danger en attendant devant sa propre école que sa mère le raccompagne chez lui", a déclaré Freida Winfield, qui était en route pour récupérer son fils Keith et les autres élèves lorsqu'ils ont été arrêtés, selon le communiqué de presse.
Une chaîne d'échecs humains
L'une des principales affirmations du procès est que l'erreur de la technologie a été aggravée à chaque étape ultérieure par les humains qui l'ont reçue. Le comité des avocats affirme que tout le monde, du personnel d'Omnilert au directeur de l'école en passant par les policiers du comté de Baltimore, a manqué ou ignoré ce qu'il appelle des preuves claires qu'il n'y avait pas d'arme.
La plainte affirme également que les responsables de l'école savaient que le système Omnilert produisait régulièrement de fausses alertes avant l'incident – une affirmation qui, si elle était contestée, irait au cœur de la façon dont le comté a évalué la fiabilité de la technologie par rapport à son déploiement dans des contextes en contact avec les étudiants.
"Ces étudiants ont été abandonnés non seulement à cause d'une technologie sujette aux fausses alertes, mais aussi à cause des adultes eux-mêmes censés assurer leur sécurité lorsque nous les envoyons à l'école", a déclaré Damon Hewitt, président et directeur exécutif du Comité des avocats pour les droits civils en vertu de la loi. "Au lieu de cette protection, ils ont été accueillis avec des armes et traumatisés. Et cela aurait pu être encore pire."
Ce que recherche le procès
Au-delà des dommages, le Comité des avocats utilise cette affaire pour faire pression en faveur de changements structurels dans la manière dont les écoles et les services de police gèrent les alertes de détection de menaces basées sur l'IA. L’organisation a déclaré que le procès vise à imposer des réformes obligeant les acteurs publics à vérifier les rapports des plateformes de détection des menaces d’IA avant de répondre, à évaluer si une telle technologie d’IA est appropriée pour une utilisation dans les écoles et à élaborer des politiques garantissant que les fausses alertes ne déclenchent pas de réponses armées de la police.
Le groupe réclame également davantage de formation, de surveillance et de transparence concernant les erreurs et les résultats, ainsi que la contribution de la communauté sur la manière dont la technologie est déployée.
"Une IA non réglementée a de profondes conséquences, en particulier lorsqu'elle implique des jeunes. À mesure que cette technologie est de plus en plus adoptée, elle ne peut pas se faire au détriment de réglementations claires, de garde-fous et d'attentes pour les adultes qui interagissent avec elle", a déclaré Leah Frazier, directrice de l'Initiative pour la justice numérique au Comité des avocats.
Un cas de test pour la détection des armes IA dans les écoles
Cette affaire survient alors que les districts scolaires américains adoptent de plus en plus la détection d'armes basée sur l'IA, plaçant des systèmes de vision par ordinateur aux entrées et sur les flux de surveillance au nom de la prévention des fusillades dans les écoles. Le Comité des avocats a explicitement défini les enjeux plus larges, arguant que l'incident soulève des inquiétudes quant à la fiabilité de la technologie de l'IA dans les contextes de sécurité publique « où la précision est essentielle dans des situations de vie ou de mort » – et notant que les préjudices et les inexactitudes de tels systèmes ont un impact disproportionné sur les communautés noires.
Les observateurs juridiques observeront plusieurs questions soulevées par la plainte. La question de savoir si un fournisseur d'IA peut être tenu responsable des performances de ses modèles de détection, si les districts scolaires qui les déploient ont un devoir de vérification accru et si le recours de la police à une alerte automatisée sans corroboration indépendante viole les protections constitutionnelles contre les saisies abusives sont autant de questions d'actualité que la cour de circuit du comté de Baltimore devra désormais examiner.
Pour les quatre étudiants au centre de l’affaire – qui étaient des enfants lorsque les policiers ont pointé leur arme sur eux lors d’une collation – le litige est également personnel. Leurs avocats affirment que l’objectif est de s’assurer qu’aucun étudiant ne soit plus confronté à la police armée à la suite d’une fausse alerte qu’un examen humain aurait pu détecter en quelques secondes.
L'affaire se poursuivra devant la Circuit Court du comté de Baltimore. Aucune réponse publique de la part des accusés n’avait été rapportée au moment de la rédaction de cet article.
Sources : communiqué de presse du Comité des avocats pour les droits civils en vertu de la loi, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →