Интерпол сообщает, что 126 подозреваемых иностранных боевиков-террористов были идентифицированы в ходе онлайн-операции, в которой искусственный интеллект использовался для обработки огромных объемов материалов, опубликованных джихадистскими сетями.
Об операции под кодовым названием Operation Shams было объявлено Интерполом в пятницу. Согласно сообщению агентства, опубликованному такими СМИ, как TVC News и нигерийский The Whistler, результаты уже были внесены в глобальные базы данных Интерпола. Дополнительную информацию о том, как ИИ меняет безопасность и охрану правопорядка, можно найти в нашем постоянном освещении политики ИИ.
Как работала операция «Шамс»
В операции приняли участие профильные офицеры и эксперты из 11 стран, которые анализировали визуальный контент, публикуемый в Интернете джихадистскими группировками. По данным Интерпола, команда извлекла из этого материала 108 076 изображений лиц.
Дальше была работа с искусственным интеллектом. Интерпол сообщает, что его офицеры использовали агентов искусственного интеллекта и продвинутые сценарии для сбора информации и сжатия набора данных до 6362 уникальных изображений лиц, которые затем обрабатывались через систему распознавания лиц Интерпола. В этой воронке — от более чем ста тысяч необработанных изображений до нескольких тысяч отдельных лиц — автоматизация заслужила свое существование, превратив недели ручной сортировки в задачу, выполняемую за гораздо меньшее время.
Люди остались в курсе
Интерпол ясно дал понять, что ИИ действовал не в одиночку. В агентстве заявили, что все результаты, полученные с помощью ИИ, были проверены и проверены обученными сотрудниками и аналитиками в соответствии с его Правилами обработки данных — структурой, которая регулирует сбор, хранение и обмен информацией стран-членов.
«Информационные данные, собранные об иностранных боевиках-террористах, выявленных на данный момент, были добавлены в глобальные базы данных Интерпола для обогащения существующих профилей подозреваемых и пресечения террористических движений», — заявило агентство, сообщает TVC News.
Интерпол охарактеризовал операцию как демонстрацию того, как искусственный интеллект может помочь следователям обрабатывать большие объемы онлайн-материалов, сохраняя при этом человеческую проверку и установленные меры безопасности при обработке данных. Эта формулировка имеет значение: агентство фактически представляет шаблон для полицейской деятельности с помощью искусственного интеллекта, в котором машинное обучение сужает стог сена, а люди подтверждают иголки.
Шаблон для ИИ в полиции?
Эта операция дает представление о том, в каком направлении движутся рабочие процессы правоохранительных органов. Пропагандистская продукция группировок боевиков уже давно превосходит возможности ручного анализа, а сопоставление изображений в масштабах Интерпола — это именно тот вид крупномасштабной задачи, основанной на шаблонах, где нынешние инструменты искусственного интеллекта работают лучше всего. Сокращение 108 076 изображений до 6362 уникальных лиц перед запуском распознавания лиц — это проблема фильтрации, и именно для этой задачи все чаще создаются агенты ИИ.
Примечательна также структура из 11 стран. Подобные операции зависят от стран-членов, предоставляющих офицеров и данные в соответствии с общими правилами, что делает Интерпол одним из немногих мест, где полицейская деятельность с помощью ИИ тестируется в разных юрисдикциях, а не в рамках единой национальной правовой базы.
То, откуда берутся изображения, также формирует профиль риска. Пропаганда, распространяемая военизированными группировками, носит состязательный характер: издатели контролируют то, что показывают, создают это для психологического эффекта и уже давно используют выпускные видеоролики в качестве инструментов вербовки и пропаганды. Конвейер идентификации, построенный на контенте, курируемом злоумышленниками, наследует эти искажения, что является еще одной причиной того, что уровень проверки человеком является не формальностью, а несущей частью процесса.
Более широкие дебаты по поводу распознавания лиц
Это объявление попало в разгар неразрешенного спора по поводу распознавания лиц в полиции. Группы защиты гражданских свобод неоднократно предупреждали, что эта технология неправильно идентифицирует людей, непропорционально влияет на определенные сообщества и может превратить анонимное публичное присутствие в постоянную запись, доступную для поиска. Требование Интерпола о проверке человеком частично устраняет эту критику — аресты или вход в базу данных не происходили только на основе компьютерных данных — но оно не устраняет опасений по поводу масштаба, согласия или происхождения лежащих в основе изображений.
Существует также вопрос о частоте ошибок в природе. Интерпол не опубликовал подробную информацию о том, сколько из 6362 уникальных изображений дали достоверные совпадения, сколько совпадений было отклонено во время проверки человеком или что происходит с изображениями, которые не позволяют идентифицировать личность. Эти цифры будут иметь огромное значение для оценки того, работает ли система защитных мер так, как описано, и их отсутствие оставляет место для скептицизма со всех сторон.
Что будет дальше
Интерпол сообщает, что собранные на данный момент разведданные были добавлены в его глобальные базы данных, и дальнейшие идентификации могут последовать по мере того, как страны-члены будут обрабатывать материал. Агентство не сообщило, станет ли операция «Шамс» повторяющейся программой, хотя ее структура — периодические, проводимые в нескольких странах, проверки онлайн-экстремистского контента с помощью искусственного интеллекта — соответствует направлению международного полицейского сотрудничества.
Для индустрии искусственного интеллекта эта операция является показателем того, где укрепляется спрос: не на яркую автономную полицейскую деятельность, а на неприглядную фильтрацию больших объемов с одобрением человека. Для критиков это напоминание о том, что инфраструктура анализа массовых изображений уже создана и уже используется. Обе вещи верны одновременно, и операция «Шамс» является самым ярким примером компромисса между ними.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
