De gouverneur van Texas, Greg Abbott, heeft volgens The Verge de staatsuitgaven voor de AI-aangedreven bewakingscamera's van Flock Safety bevroren, in een van de belangrijkste politieke retraites tot nu toe voor de snelgroeiende kentekenbewakingsindustrie.
De bevriezing kwam vlak voor de publicatie van een Texas Tribune-onderzoek waaruit bleek dat de staat meer dan $ 30 miljoen aan Flock-camera's had uitgegeven. Dat geld werd voornamelijk ingezameld door een vergoeding van één dollar op verzekeringspolissen te plakken – een toeslag die naar verluidt gerechtvaardigd was als een manier om diefstal van katalysatoren te helpen bestrijden. Voor meer berichtgeving over hoe het AI-beleid zich in het hele land ontwikkelt, houdt u onze laatste AI-nieuwssectie in de gaten, waar we deze verhalen volgen terwijl ze zich ontwikkelen. Voor meer context over dit verhaal, zie ons AI-trends.
Een zeldzame tweeledige opstand tegen AI-surveillance
Wat de bevriezing in Texas opmerkelijk maakt, is niet alleen het geld dat ermee gemoeid is, maar ook de coalitie die zich tegen de camera’s keert. De geautomatiseerde kentekenlezers van Flock, oftewel ALPR's, hebben steeds meer woede gewekt vanuit het hele politieke spectrum, en de reactie in Texas strekt zich uit over beide partijen.
Gina Hinojosa, de Democratische tegenstander van Abbott in de race om het gouverneurschap, heeft hem bekritiseerd omdat hij het gebruik van camera's in de staat heeft uitgebreid. Tegelijkertijd plaatste de Republikeinse vertegenwoordiger Keith Self op Instagram: "Van Flock-camera's tot kill-switches, we zullen onze rechten op het Vierde Amendement NIET overgeven aan de groeiende surveillancestaat."
The Verge meldde dat de uitgavenstop van de regering-Abbott kwam omdat steden in het hele land hun contracten met Flock hebben opgezegd, waaronder een aantal gemeenten in Texas zelf.
Een record van misbruik
Het onderzoek is niet abstract. Volgens The Verge zijn er meerdere incidenten geweest waarbij politieagenten met verlof zijn geplaatst of strafrechtelijk zijn aangeklaagd wegens misbruik van Flock-systemen – waaronder alleen al in Texas minstens zes van dergelijke incidenten.
Naast individueel wangedrag heeft het bedrijf ook te maken gekregen met bredere vragen over de werking van zijn systemen. Deze zorgen omvatten de praktijken van Flock op het gebied van het delen van gegevens, de plaatsing van sommige camera's in de buurt van speeltuinen, de eigen toegang van Flock-medewerkers tot videofeeds, onbeveiligde videofeeds en wat The Verge omschreef als de verhaspelde pogingen van het bedrijf om de kritiek te beheersen.
De camera's van Flock taggen en registreren de bewegingen van voertuigen die vaste en mobiele cameralocaties passeren, waardoor een doorzoekbaar record wordt opgebouwd van waar auto's zijn geweest. Voorstanders van privacy hebben lang betoogd dat dergelijke systemen een vorm van massasurveillance creëren die het zwaarst valt voor mensen die niets verkeerd hebben gedaan, omdat de bewegingen van elke bestuurder worden vastgelegd, ongeacht de verdenking van criminele activiteiten.
Van lokale controverse tot bevriezing van staatsgebouwen
Het geschil over Texas is al maanden aan de gang. Het onderzoek van de Texas Tribune naar de 30 miljoen dollar aan uitgaven gaf het verzet een concreet fiscaal anker, en het besluit van de gouverneur om verdere staatsuitgaven te bevriezen voorafgaand aan de publicatie ervan suggereert dat de politieke kosten voor het verdedigen van het programma te hoog waren geworden.
De aflevering illustreert ook hoe snel de politiek van AI-aangrenzende surveillance is veranderd. Lokale schooldistricten, gemeenteraden en provinciale commissies behoorden ooit tot de meest enthousiaste klanten voor geautomatiseerde kentekenplaatlezers. Dat enthousiasme is weggeëbd naarmate de incidenten van misbruik zich opstapelden en wetgevers in beide partijen klachten indienden van kiezers die zich niet realiseerden dat hun bewegingen werden geregistreerd.
Wat gebeurt er vervolgens voor Flock in Texas
De bevriezing komt niet neer op een permanent verbod en de bestaande contracten blijven voorlopig van kracht. Maar het stopzetten van de staatsfinanciering vernauwt de pijplijn waardoor de voetafdruk van Flock in Texas kon groeien, en het levert een gespreksonderwerp op voor critici in andere staten die soortgelijke implementaties willen vertragen of stopzetten.
Het brengt ook andere gouverneurs en wetgevers op de hoogte. Surveillanceleveranciers die afhankelijk zijn van overheidsopdrachten zijn blootgesteld aan precies dit soort politieke risico's: een enkel onderzoek naar de manier waarop het geld is bijeengebracht en uitgegeven kan een groeimarkt in een probleem veranderen. Flock heeft niet onmiddellijk wijzigingen in zijn activiteiten in Texas aangekondigd, en het valt nog te bezien of de bevriezing een model zal worden voor andere staten of een Texas-specifieke episode. Voor een bedrijf waarvan het bedrijfsmodel afhankelijk is van honderden overheidsinstanties die zich met honderden tegelijk inschrijven, is het bevriezen van staatsgeld door een gouverneur een ander probleem dan een protest van de gemeenteraad: het kan nieuwe implementaties in een hele staat tegenhouden, en het geeft elke andere gekozen functionaris die een Flock-contract overweegt een kant-en-klare reden om te wachten.
Het grotere plaatje voor AI-politietools
Flock is het meest prominente voorbeeld, maar het is niet het enige bedrijf dat AI-gestuurde monitoring aan lokale overheden verkoopt. De bredere markt omvat geweerschotdetectie, gezichtsherkenning en realtime software voor misdaadcentra. Het verzet tegen Flock suggereert dat de politieke tolerantie voor deze systemen sterk afhankelijk is van transparantie over de kosten, strikte beperkingen op het delen van gegevens en zichtbare verantwoording wanneer agenten ze misbruiken.
Voor de AI-industrie is de les dat de grootste adoptie-uitdagingen misschien helemaal niet technisch zijn. Op het gebied van politie en openbare veiligheid behoren de beslissende stemmen steeds meer toe aan gemeenteraden, wetgevende machten en gouverneurs – en die organen reageren op hun kiezers, niet op productroutekaarten.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
