Interpol zegt dat 126 vermoedelijke buitenlandse terroristische strijders zijn geïdentificeerd via een online-operatie waarbij kunstmatige intelligentie werd gebruikt om enorme hoeveelheden materiaal te verwerken die door jihadistische netwerken zijn gepubliceerd – een van de duidelijkste voorbeelden tot nu toe van een internationale wetshandhavingsinstantie die AI-agenten in een live operationele pijplijn zet.

De operatie, met de codenaam Operation Shams, werd vrijdag door Interpol aangekondigd. Volgens het verslag van het bureau, dat wordt verspreid door onder meer TVC News en het Nigeriaanse The Whistler, zijn de resultaten al opgenomen in de mondiale databases van Interpol. Voor meer informatie over hoe AI de veiligheid en het politiewerk hervormt, zie onze voortdurende AI-beleidsdekking.

Hoe Operatie Shams werkte

Gespecialiseerde officieren en deskundigen uit elf landen namen deel aan de operatie en analyseerden de visuele inhoud die jihadistische groeperingen online hadden gepubliceerd. Volgens Interpol heeft het team 108.076 gezichtsbeelden uit dat materiaal gehaald.

Het AI-werk kwam daarna. Interpol zegt dat zijn agenten AI-agenten en geavanceerde scripts gebruikten om informatie te verzamelen en de dataset te comprimeren tot 6.362 unieke gezichtsbeelden, die vervolgens werden verwerkt via het gezichtsherkenningssysteem van Interpol. Die trechter – van meer dan honderdduizend onbewerkte afbeeldingen tot een paar duizend verschillende gezichten – is waar de automatisering zijn geld verdiende, waardoor weken van handmatige triage werd omgezet in een taak die in veel minder tijd werd gemeten.

Mensen bleven op de hoogte

Interpol maakte duidelijk dat de AI niet alleen handelde. Het bureau zei dat alle door AI gegenereerde resultaten werden beoordeeld en geverifieerd door getrainde functionarissen en analisten, in overeenstemming met de regels voor de verwerking van gegevens – het raamwerk dat bepaalt hoe de informatie van de lidstaten kan worden verzameld, opgeslagen en gedeeld.

“Inlichtingen verzameld over de tot nu toe geïdentificeerde buitenlandse terroristische strijders zijn toegevoegd aan de mondiale databases van INTERPOL om bestaande verdachtenprofielen te verrijken en terroristische bewegingen te ontwrichten”, aldus de dienst, volgens TVC News.

Interpol omlijstte de operatie als een demonstratie van hoe kunstmatige intelligentie onderzoekers kan helpen bij het verwerken van grote hoeveelheden online materiaal, terwijl menselijke verificatie en gevestigde waarborgen voor gegevensverwerking behouden blijven. Die framing is van belang: het agentschap presenteert in feite een sjabloon voor AI-ondersteund politiewerk waarin machine learning de hooiberg verkleint en mensen de naalden bevestigen.

Een sjabloon voor AI in de politie?

De operatie biedt een glimp van waar de workflows van de wetshandhaving naartoe gaan. Propagandaproductie van militante groepen heeft de handmatige beoordelingscapaciteit lange tijd overweldigd, en het matchen van afbeeldingen op de schaal van Interpol is precies het soort grootschalige, patroongestuurde taak waarbij de huidige AI-tools het beste presteren. Het terugbrengen van 108.076 afbeeldingen naar 6.362 unieke gezichten voordat gezichtsherkenning wordt uitgevoerd, is een filterprobleem, en het is het soort werk waarvoor AI-agenten steeds vaker worden gebouwd.

Opvallend is ook de elflandenstructuur. Dit soort operaties zijn afhankelijk van de bijdragen van functionarissen en gegevens door de lidstaten onder gedeelde regels, wat Interpol tot een van de weinige plaatsen maakt waar AI-ondersteund politiewerk in verschillende rechtsgebieden wordt getest in plaats van binnen één enkel nationaal juridisch kader.

Waar de beelden vandaan komen, bepaalt ook het risicoprofiel. Propaganda die door militante groeperingen wordt uitgebracht, is van nature vijandig: de uitgevers bepalen wat er wordt getoond, framen het voor psychologische effecten en gebruiken releasevideo's al lang als rekruterings- en propaganda-instrumenten. Een identificatiepijplijn die is gebouwd op door tegenstanders samengestelde inhoud neemt deze vervormingen over, wat nog een reden is waarom de menselijke beoordelingslaag geen formaliteit is, maar het dragende deel van het proces.

Het bredere debat over gezichtsherkenning

De aankondiging komt terecht in het midden van een onopgeloste discussie over gezichtsherkenning bij de politie. Groepen voor burgerlijke vrijheden hebben herhaaldelijk gewaarschuwd dat de technologie mensen verkeerd identificeert, bepaalde gemeenschappen onevenredig treft en van anonieme publieke aanwezigheid een permanent, doorzoekbaar record kan maken. De menselijke verificatievereiste van Interpol komt tegemoet aan een deel van die kritiek (geen enkele arrestatie of database-invoer vond alleen plaats op basis van machine-uitvoer), maar het neemt de zorgen over de schaal, de toestemming of de herkomst van de onderliggende beelden niet weg.

Er is ook de kwestie van de foutenpercentages in het wild. Interpol heeft geen details gepubliceerd over hoeveel van de 6.362 unieke afbeeldingen betrouwbare overeenkomsten hebben opgeleverd, hoeveel overeenkomsten zijn afgewezen tijdens menselijke beoordeling, of wat er gebeurt met afbeeldingen die niet tot identificatie leiden. Deze cijfers zouden enorm van belang zijn bij de beoordeling of het veiligheidsraamwerk werkte zoals beschreven, en het ontbreken ervan laat ruimte voor scepsis aan alle kanten.

Wat komt erna

Interpol zegt dat de tot nu toe verzamelde inlichtingen zijn toegevoegd aan zijn mondiale databases, en dat verdere identificaties kunnen volgen naarmate de lidstaten het materiaal verwerken. Het agentschap heeft niet gezegd of Operatie Shams een terugkerend programma zal worden, hoewel de structuur – periodieke, door meerdere landen ondersteunde, door AI ondersteunde opruimingen van online extremistische inhoud – past in de richting van de internationale politiesamenwerking.

Voor de AI-industrie is de operatie een teken van waar de vraag aan het toenemen is: niet in flitsend autonoom politiewerk, maar in weinig glamoureuze grootschalige filtering met menselijke aftekening. Voor critici herinnert het eraan dat de infrastructuur voor massabeeldanalyse al is gebouwd en al in gebruik is. Beide dingen zijn tegelijk waar, en Operatie Shams is het duidelijkste recente voorbeeld van het compromis daartussen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →