L'Interpol afferma che 126 sospetti combattenti terroristi stranieri sono stati identificati attraverso un'operazione online che ha utilizzato l'intelligenza artificiale per elaborare grandi volumi di materiale pubblicato dalle reti jihadiste - uno degli esempi più chiari finora di un'agenzia di polizia internazionale che ha inserito agenti IA in una pipeline operativa dal vivo.
L'operazione, nome in codice Operazione Shams, è stata annunciata venerdì dall'Interpol. Secondo il resoconto dell'agenzia, riportato da organi di stampa tra cui TVC News e The Whistler della Nigeria, i risultati sono già stati inseriti nei database globali dell'Interpol. Per ulteriori informazioni su come l'intelligenza artificiale sta rimodellando la sicurezza e le attività di polizia, consulta la nostra copertura delle politiche sull'intelligenza artificiale in corso.
Come ha funzionato l'operazione Shams
All’operazione hanno preso parte ufficiali specializzati ed esperti provenienti da 11 paesi, analizzando i contenuti visivi che i gruppi jihadisti avevano pubblicato online. Secondo l'Interpol, il team ha estratto 108.076 immagini facciali da quel materiale.
Il lavoro sull’intelligenza artificiale è venuto dopo. L'Interpol afferma che i suoi ufficiali hanno utilizzato agenti IA e script avanzati per raccogliere informazioni e comprimere il set di dati fino a 6.362 immagini facciali uniche, che sono state poi elaborate tramite il sistema di riconoscimento facciale dell'Interpol. Quel canale – da più di centomila immagini grezze a qualche migliaio di volti distinti – è il luogo in cui l’automazione ha guadagnato il suo posto, trasformando settimane di triage manuale in un compito misurato in molto meno tempo.
Gli esseri umani sono rimasti nel giro
L'Interpol ha chiarito che l'IA non ha agito da sola. L’agenzia ha affermato che tutti i risultati generati dall’intelligenza artificiale sono stati esaminati e verificati da funzionari e analisti qualificati, in linea con le sue regole sul trattamento dei dati, il quadro che regola il modo in cui le informazioni dei paesi membri possono essere raccolte, archiviate e condivise.
"Le informazioni raccolte sui combattenti terroristi stranieri identificati finora sono state aggiunte ai database globali dell'INTERPOL per arricchire i profili sospetti esistenti e smantellare i movimenti terroristici", ha affermato l'agenzia, secondo TVC News.
L'Interpol ha definito l'operazione come una dimostrazione di come l'intelligenza artificiale possa assistere gli investigatori nell'elaborazione di grandi volumi di materiale online mantenendo la verifica umana e le garanzie stabilite per l'elaborazione dei dati. Questo quadro è importante: l’agenzia sta effettivamente presentando un modello per la polizia assistita dall’intelligenza artificiale in cui l’apprendimento automatico restringe il pagliaio e gli esseri umani confermano gli aghi.
Un modello per l'intelligenza artificiale nella polizia?
L’operazione offre un’idea di dove si stanno dirigendo i flussi di lavoro delle forze dell’ordine. I risultati della propaganda dei gruppi militanti hanno da tempo sopraffatto la capacità di revisione manuale e la corrispondenza delle immagini su scala dell’Interpol è esattamente il tipo di attività ad alto volume e basata su modelli in cui gli attuali strumenti di intelligenza artificiale funzionano meglio. Ridurre 108.076 immagini a 6.362 volti unici prima di eseguire qualsiasi operazione di riconoscimento facciale è un problema di filtraggio ed è il tipo di lavoro per cui gli agenti di intelligenza artificiale sono sempre più progettati.
Notevole è anche la struttura a 11 paesi. Operazioni come questa dipendono dal fatto che i paesi membri conferiscano funzionari e dati secondo regole condivise, il che rende l’Interpol uno dei pochi luoghi in cui la polizia assistita dall’intelligenza artificiale viene testata in tutte le giurisdizioni piuttosto che all’interno di un unico quadro giuridico nazionale.
Anche la provenienza delle immagini determina il profilo di rischio. La propaganda diffusa dai gruppi militanti è contraddittoria per definizione: gli editori controllano ciò che viene mostrato, lo inquadrano per effetto psicologico e utilizzano da tempo i video di rilascio come strumenti di reclutamento e propaganda. Una pipeline di identificazione costruita su contenuti curati dagli avversari eredita queste distorsioni, che è un motivo in più per cui il livello di revisione umana non è una formalità ma la parte portante del processo.
Il dibattito più ampio sul riconoscimento facciale
L’annuncio si colloca nel mezzo di una disputa irrisolta sul riconoscimento facciale nella polizia. I gruppi per le libertà civili hanno ripetutamente avvertito che la tecnologia identifica erroneamente le persone, colpisce in modo sproporzionato alcune comunità e può trasformare la presenza pubblica anonima in un registro permanente e consultabile. Il requisito di verifica umana dell'Interpol affronta parte di questa critica - nessun arresto o inserimento nel database è avvenuto solo sull'output della macchina - ma non risolve le preoccupazioni sulla portata, sul consenso o sulla provenienza delle immagini sottostanti.
C’è anche la questione dei tassi di errore in natura. L'Interpol non ha pubblicato dettagli su quante delle 6.362 immagini uniche hanno prodotto corrispondenze sicure, quante corrispondenze sono state rifiutate durante la revisione umana o cosa succede alle immagini che non portano a un'identificazione. Questi numeri sarebbero estremamente importanti per valutare se il quadro di salvaguardia abbia funzionato come descritto, e la loro assenza lascia spazio allo scetticismo da tutte le parti.
Cosa verrà dopo
L’Interpol afferma che le informazioni raccolte finora sono state aggiunte ai suoi database globali e che potrebbero seguire ulteriori identificazioni man mano che i paesi membri elaboreranno il materiale. L’agenzia non ha detto se l’operazione Shams diventerà un programma ricorrente, sebbene la struttura – controlli periodici, multinazionali e assistiti dall’intelligenza artificiale di contenuti estremisti online – si adatti alla direzione del viaggio della cooperazione internazionale di polizia.
Per l’industria dell’intelligenza artificiale, l’operazione è un indicatore di dove la domanda si sta consolidando: non in appariscenti attività di polizia autonome, ma in poco affascinanti filtraggi ad alto volume con l’approvazione umana. Per i critici, ciò ricorda che l’infrastruttura per l’analisi delle immagini di massa è già costruita e già in uso. Entrambe le cose sono vere allo stesso tempo, e l’Operazione Shams è l’esempio recente più chiaro del compromesso tra di loro.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
