Interpol twierdzi, że 126 podejrzanych zagranicznych bojowników terrorystycznych zidentyfikowano w wyniku operacji internetowej, w której wykorzystano sztuczną inteligencję do przetwarzania ogromnych ilości materiałów publikowanych przez sieci dżihadystów, co jest jednym z najwyraźniejszych jak dotąd przykładów tego, jak międzynarodowy organ egzekwowania prawa umieścił agentów AI w rzeczywistym rurociągu operacyjnym.
Operację o kryptonimie Operacja Shams ogłosił w piątek Interpol. Według relacji agencji, prowadzonej przez takie media, jak TVC News i nigeryjski „The Whistler”, wyniki zostały już wprowadzone do globalnych baz danych Interpolu. Więcej informacji o tym, jak sztuczna inteligencja zmienia bezpieczeństwo i egzekwowanie prawa, znajdziesz w naszych bieżących zasadach dotyczących sztucznej inteligencji.
Jak działała operacja Shams
W operacji wzięli udział wyspecjalizowani funkcjonariusze i eksperci z 11 krajów, analizujący treści wizualne publikowane w Internecie przez grupy dżihadystów. Według Interpolu zespół wyodrębnił z tego materiału 108 076 wizerunków twarzy.
Następnie przyszła praca nad sztuczną inteligencją. Interpol twierdzi, że jego funkcjonariusze korzystali z agentów sztucznej inteligencji i zaawansowanych skryptów do gromadzenia informacji i kompresowania zestawu danych do 6362 unikalnych wizerunków twarzy, które następnie przetwarzano za pomocą systemu rozpoznawania twarzy Interpolu. Na tej ścieżce — od ponad stu tysięcy surowych obrazów do kilku tysięcy różnych twarzy — automatyzacja zasłużyła na swoje utrzymanie, zamieniając tygodnie ręcznej selekcji w zadanie realizowane w znacznie krótszym czasie.
Ludzie pozostali w pętli
Interpol wyraźnie stwierdził, że sztuczna inteligencja nie działała sama. Agencja stwierdziła, że wszystkie wyniki wygenerowane przez sztuczną inteligencję zostały sprawdzone i zweryfikowane przez przeszkolonych urzędników i analityków zgodnie z przepisami dotyczącymi przetwarzania danych – ramami regulującymi sposób gromadzenia, przechowywania i udostępniania informacji krajów członkowskich.
„Zebrane dane wywiadowcze na temat dotychczas zidentyfikowanych zagranicznych bojowników terrorystycznych zostały dodane do globalnych baz danych INTERPOL-u, aby wzbogacić istniejące profile podejrzanych i zakłócić ruchy terrorystyczne” – podała agencja, według TVC News.
Interpol określił tę operację jako demonstrację tego, jak sztuczna inteligencja może pomóc śledczym w przetwarzaniu dużych ilości materiałów w Internecie, przy jednoczesnym zachowaniu weryfikacji przez człowieka i ustalonych zabezpieczeń przetwarzania danych. Takie ramy mają znaczenie: agencja skutecznie przedstawia szablon działań policji wspomaganych sztuczną inteligencją, w których uczenie maszynowe zawęża stog siana, a ludzie weryfikują działanie.
Szablon sztucznej inteligencji w policji?
Ta operacja daje wgląd w to, dokąd zmierzają działania organów ścigania. Wyniki propagandy grup bojowników od dawna przekraczają możliwości ręcznego przeglądu, a dopasowywanie obrazów na skalę Interpolu to dokładnie ten rodzaj masowego zadania opartego na wzorcach, w którym obecne narzędzia sztucznej inteligencji sprawdzają się najlepiej. Redukcja 108 076 obrazów do 6362 unikalnych twarzy przed jakimkolwiek uruchomieniem rozpoznawania twarzy stanowi problem z filtrowaniem i jest to rodzaj zadania, do którego coraz częściej projektuje się agentów AI.
Godna uwagi jest także struktura obejmująca 11 krajów. Tego typu operacje zależą od tego, czy państwa członkowskie przekazują funkcjonariuszy i dane na podstawie wspólnych zasad, co sprawia, że Interpol jest jednym z niewielu miejsc, w których działania policji wspomagane sztuczną inteligencją są testowane w różnych jurysdykcjach, a nie w ramach jednolitych krajowych ram prawnych.
Pochodzenie obrazów również kształtuje profil ryzyka. Propaganda publikowana przez grupy bojowników ma charakter kontradyktoryjny: wydawcy kontrolują to, co jest pokazywane, kadrują to tak, aby uzyskać efekt psychologiczny, i od dawna wykorzystują filmy wideo jako narzędzia rekrutacji i propagandy. Potok identyfikacji zbudowany na treściach wybranych przez przeciwników dziedziczy te zniekształcenia, co jest kolejnym powodem, dla którego warstwa weryfikacji ręcznej nie jest formalnością, ale nośną częścią procesu.
Szersza debata na temat rozpoznawania twarzy
Ogłoszenie wpisuje się w nierozwiązany spór dotyczący rozpoznawania twarzy w policji. Organizacje zajmujące się wolnościami obywatelskimi wielokrotnie ostrzegały, że technologia ta błędnie identyfikuje ludzi, nieproporcjonalnie wpływa na niektóre społeczności i może zmienić anonimową obecność publiczną w trwały zapis, który można przeszukiwać. Wymóg Interpolu dotyczący weryfikacji przez człowieka stanowi część tej krytyki – żadne aresztowanie ani wpis do bazy danych nie miały miejsca wyłącznie na podstawie danych wyjściowych maszyny – ale nie rozwiewa obaw dotyczących skali, zgody ani pochodzenia obrazów stanowiących podstawę.
Istnieje również kwestia poziomu błędów w środowisku naturalnym. Interpol nie opublikował szczegółowych informacji na temat liczby z 6362 unikalnych obrazów, które dały pewne dopasowania, ile dopasowań zostało odrzuconych podczas weryfikacji ręcznej ani co dzieje się ze zdjęciami, które nie prowadzą do identyfikacji. Liczby te miałyby ogromne znaczenie dla oceny, czy ramy zabezpieczeń działały zgodnie z opisem, a ich brak pozostawia pole do sceptycyzmu ze wszystkich stron.
Co będzie dalej
Interpol twierdzi, że zebrane do tej pory informacje wywiadowcze zostały dodane do jego globalnych baz danych, a dalsza identyfikacja może nastąpić w miarę przetwarzania materiałów przez państwa członkowskie. Agencja nie stwierdziła, czy Operacja Shams stanie się programem cyklicznym, chociaż jej struktura – okresowe, obejmujące wiele krajów i wspomagane sztuczną inteligencją przeszukiwanie ekstremistycznych treści w Internecie – wpisuje się w kierunek rozwoju międzynarodowej współpracy policyjnej.
Dla branży sztucznej inteligencji operacja ta jest wyznacznikiem miejsca, w którym popyt się umacnia: nie w postaci efektownej autonomicznej policji, ale w nieestetycznym filtrowaniu dużej liczby osób z podpisem człowieka. Dla krytyków jest to przypomnienie, że infrastruktura masowej analizy obrazu jest już zbudowana i już używana. Obie rzeczy są jednocześnie prawdziwe, a Operacja Shams jest najjaśniejszym, najnowszym przykładem kompromisu między nimi.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
