Interpol říká, že 126 podezřelých zahraničních teroristických bojovníků bylo identifikováno prostřednictvím online operace, která využívala umělou inteligenci ke zpracování obrovského množství materiálů publikovaných džihádistickými sítěmi – jeden z dosud nejjasnějších příkladů, kdy mezinárodní donucovací agentura zavedla agenty AI do ostrého provozu.
Operaci s kódovým označením Operation Shams oznámil v pátek Interpol. Podle zprávy agentury, kterou přinesly servery včetně TVC News a nigerijského The Whistler, byly výsledky již uloženy do globálních databází Interpolu. Další informace o tom, jak umělá inteligence přetváří bezpečnost a policejní činnost, naleznete v našich probíhajících pokrytí zásad AI.
Jak operace Shams fungovala
Operace se zúčastnili specializovaní důstojníci a experti z 11 zemí, kteří analyzovali vizuální obsah, který džihádistické skupiny zveřejnily online. Podle Interpolu tým z tohoto materiálu vytěžil 108 076 snímků obličeje.
Na řadu přišla práce AI. Interpol říká, že jeho důstojníci používali agenty umělé inteligence a pokročilé skripty ke shromažďování informací a komprimaci datové sady na 6 362 jedinečných snímků obličeje, které byly poté zpracovány prostřednictvím systému rozpoznávání obličeje Interpolu. Tento trychtýř – od více než sta tisíc nezpracovaných obrázků po několik tisíc odlišných tváří – je místem, kde si automatizace vysloužila své udržení a proměnila týdny ručního třídění v úkol, který lze měřit za mnohem kratší dobu.
Lidé zůstali ve smyčce
Interpol výslovně uvedl, že AI nejednala sama. Agentura uvedla, že všechny výsledky generované umělou inteligencí byly přezkoumány a ověřeny vyškolenými úředníky a analytiky v souladu s jejími pravidly pro zpracování dat – rámcem, který řídí, jak lze shromažďovat, ukládat a sdílet informace členských zemí.
"Zpravodajské informace shromážděné o dosud identifikovaných zahraničních teroristických bojovníkech byly přidány do globálních databází INTERPOLu, aby obohatily stávající profily podezřelých a narušily teroristická hnutí," uvedla agentura podle TVC News.
Interpol naplánoval operaci jako ukázku toho, jak umělá inteligence může pomoci vyšetřovatelům při zpracování velkých objemů online materiálu při zachování ověřování člověkem a zavedených záruk pro zpracování dat. Na tomto rámování záleží: agentura efektivně představuje šablonu pro policejní práci s pomocí AI, ve které strojové učení zužuje kupku sena a lidé potvrzují jehly.
Šablona pro AI v policii?
Operace nabízí pohled na to, kam směřují pracovní postupy vymáhání práva. Propagandistický výstup od militantních skupin již dlouho překračuje kapacitu manuální kontroly a porovnávání obrázků v měřítku Interpolu je přesně tím druhem velkoobjemových úloh řízených vzorem, kde současné nástroje umělé inteligence fungují nejlépe. Zmenšení 108 076 obrázků na 6 362 jedinečných obličejů před spuštěním rozpoznávání obličejů je problém s filtrováním a je to druh práce, pro kterou jsou agenti umělé inteligence stále více stavěni.
Pozoruhodná je také struktura 11 zemí. Operace, jako je tato, závisí na členských zemích, které přispívají důstojníky a daty podle sdílených pravidel, což dělá Interpol jedním z mála míst, kde se policejní práce s pomocí umělé inteligence testují napříč jurisdikcemi spíše než v rámci jednoho národního právního rámce.
Odkud snímky pocházejí, také utváří rizikový profil. Propaganda vypouštěná militantními skupinami je svým záměrem nepřátelská: vydavatelé kontrolují to, co je zobrazeno, rámují to pro psychologický efekt a dlouho používají videa k náboru a propagandě. Identifikační kanál postavený na obsahu spravovaném protivníkem zdědí tato zkreslení, což je další důvod, proč vrstva lidské kontroly není formalitou, ale nosnou součástí procesu.
Širší debata o rozpoznávání obličeje
Oznámení přistane uprostřed nevyřešené hádky o rozpoznání obličeje v policii. Skupiny pro občanské svobody opakovaně varovaly, že tato technologie nesprávně identifikuje lidi, neúměrně ovlivňuje určité komunity a může změnit anonymní veřejnou přítomnost na trvalý záznam, který lze prohledávat. Požadavek Interpolu na ověření člověkem řeší část této kritiky – k žádnému zatčení nebo vstupu do databáze nedošlo pouze na strojovém výstupu – ale neřeší obavy ohledně rozsahu, souhlasu nebo původu podkladových obrázků.
Je zde také otázka chybovosti ve volné přírodě. Interpol nezveřejnil podrobnosti o tom, kolik z 6 362 jedinečných snímků vytvořilo spolehlivé shody, kolik shod bylo odmítnuto během kontroly člověkem nebo co se stane se snímky, které nevedou k identifikaci. Tato čísla by byla nesmírně důležitá pro hodnocení, zda ochranný rámec fungoval tak, jak je popsáno, a jejich absence dává prostor pro skepsi na všech stranách.
Co přijde dál
Interpol říká, že dosud shromážděné informace byly přidány do jeho globálních databází a další identifikace mohou následovat, jak členské země zpracují materiál. Agentura nesdělila, zda se operace Shams stane opakujícím se programem, i když struktura – periodické, multizemní a AI podporované kontroly online extremistického obsahu – odpovídá směru cestování pro mezinárodní policejní spolupráci.
Pro průmysl umělé inteligence je operace ukazatelem toho, kde se poptávka upevňuje: ne v okázalé autonomní policii, ale v neokázalém velkoobjemovém filtrování s lidským podpisem. Pro kritiky je to připomínka, že infrastruktura hromadné analýzy obrazu je již vybudována a již se používá. Obě věci jsou pravdivé najednou a Operace Shams je nejjasnějším příkladem kompromisu mezi nimi z poslední doby.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
