Interpol cho biết 126 chiến binh khủng bố nước ngoài bị nghi ngờ đã được xác định thông qua một hoạt động trực tuyến sử dụng trí tuệ nhân tạo để xử lý khối lượng lớn tài liệu do các mạng lưới thánh chiến xuất bản - một trong những ví dụ rõ ràng nhất về việc một cơ quan thực thi pháp luật quốc tế đưa các đặc vụ AI vào hệ thống hoạt động trực tiếp.

Chiến dịch này có mật danh là Chiến dịch Shams, được Interpol công bố hôm thứ Sáu. Theo báo cáo của cơ quan này, được thực hiện bởi các hãng truyền thông bao gồm TVC News và The Whistler của Nigeria, các kết quả đã được đưa vào cơ sở dữ liệu toàn cầu của Interpol. Để biết thêm về cách AI đang định hình lại an ninh và chính sách, hãy xem [thông tin chính sách AI] đang diễn ra của chúng tôi (https://aibuzzwire.news).

Hoạt động của Shams hoạt động như thế nào

Các sĩ quan và chuyên gia chuyên môn từ 11 quốc gia đã tham gia hoạt động này, phân tích nội dung trực quan mà các nhóm thánh chiến đã công bố trên mạng. Theo Interpol, nhóm đã trích xuất 108.076 hình ảnh khuôn mặt từ tài liệu đó.

Tiếp theo là công việc AI. Interpol cho biết các nhân viên của họ đã sử dụng tác nhân AI và các tập lệnh nâng cao để thu thập thông tin và nén tập dữ liệu xuống còn 6.362 hình ảnh khuôn mặt độc đáo, sau đó được xử lý thông qua Hệ thống nhận dạng khuôn mặt của Interpol. Kênh đó — từ hơn một trăm nghìn hình ảnh thô đến vài nghìn khuôn mặt khác nhau — là nơi quá trình tự động hóa phát huy tác dụng, biến việc phân loại thủ công hàng tuần thành một nhiệm vụ được đo lường trong thời gian ngắn hơn nhiều.

Con người vẫn ở trong vòng lặp

Interpol nói rõ rằng AI không hành động một mình. Cơ quan này cho biết tất cả các kết quả do AI tạo ra đều được các quan chức và nhà phân tích được đào tạo xem xét và xác minh, tuân theo Quy tắc xử lý dữ liệu – khuôn khổ chi phối cách thu thập, lưu trữ và chia sẻ thông tin của các quốc gia thành viên.

Theo TVC News, cơ quan này cho biết: “Thông tin tình báo thu thập được về các Chiến binh khủng bố nước ngoài được xác định cho đến nay đã được bổ sung vào cơ sở dữ liệu toàn cầu của INTERPOL để làm phong phú thêm hồ sơ nghi phạm hiện có và ngăn chặn các phong trào khủng bố”.

Interpol coi hoạt động này là một minh chứng cho thấy trí tuệ nhân tạo có thể hỗ trợ các nhà điều tra xử lý khối lượng lớn tài liệu trực tuyến như thế nào trong khi vẫn duy trì xác minh của con người và thiết lập các biện pháp bảo vệ xử lý dữ liệu. Việc đóng khung đó rất quan trọng: cơ quan này đang trình bày một cách hiệu quả một khuôn mẫu cho hoạt động trị an được hỗ trợ bởi AI, trong đó học máy thu hẹp đống cỏ khô và con người xác nhận những điều cần thiết.

Mẫu cho AI trong Cảnh sát?

Hoạt động này cung cấp một cái nhìn thoáng qua về nơi quy trình thực thi pháp luật đang hướng tới. Kết quả tuyên truyền của các nhóm chiến binh từ lâu đã vượt quá khả năng xem xét thủ công và việc đối chiếu hình ảnh ở quy mô của Interpol chính xác là loại nhiệm vụ có khối lượng lớn, theo khuôn mẫu mà công cụ AI hiện tại thực hiện tốt nhất. Việc giảm 108.076 hình ảnh xuống còn 6.362 khuôn mặt duy nhất trước khi chạy nhận dạng khuôn mặt là một vấn đề về lọc và đó là loại công việc mà các tác nhân AI ngày càng được xây dựng để đảm nhiệm.

Cấu trúc 11 quốc gia cũng rất đáng chú ý. Các hoạt động như thế này phụ thuộc vào việc các quốc gia thành viên đóng góp cán bộ và dữ liệu theo các quy tắc chung, điều này khiến Interpol trở thành một trong số ít nơi mà lực lượng cảnh sát được hỗ trợ bởi AI đang được thử nghiệm trên khắp các khu vực pháp lý thay vì trong một khuôn khổ pháp lý quốc gia duy nhất.

Hình ảnh đến từ đâu cũng định hình hồ sơ rủi ro. Tuyên truyền do các nhóm chiến binh phát hành có tính chất đối nghịch về mặt thiết kế: các nhà xuất bản kiểm soát những gì được hiển thị, đóng khung nó để tạo hiệu ứng tâm lý và từ lâu đã sử dụng các video phát hành làm công cụ tuyển dụng và tuyên truyền. Một quy trình nhận dạng được xây dựng trên nội dung do đối thủ quản lý kế thừa những biến dạng đó, đó là một lý do nữa khiến lớp đánh giá của con người không phải là một hình thức mà là một phần chịu tải của quy trình.

Cuộc tranh luận rộng rãi hơn về nhận dạng khuôn mặt

Thông báo đưa ra giữa một cuộc tranh cãi chưa được giải quyết về nhận dạng khuôn mặt trong hoạt động trị an. Các nhóm tự do dân sự đã nhiều lần cảnh báo rằng công nghệ này xác định sai con người, ảnh hưởng không tương xứng đến một số cộng đồng nhất định và có thể biến sự hiện diện ẩn danh ở nơi công cộng thành hồ sơ vĩnh viễn, có thể tìm kiếm được. Yêu cầu xác minh con người của Interpol giải quyết một phần lời phê bình đó - không có vụ bắt giữ hoặc truy cập cơ sở dữ liệu nào xảy ra chỉ trên đầu ra của máy - nhưng nó không giải quyết được mối lo ngại về quy mô, sự đồng ý hoặc nguồn gốc của các hình ảnh cơ bản.

Ngoài ra còn có câu hỏi về tỷ lệ lỗi trong tự nhiên. Interpol chưa công bố thông tin chi tiết về bao nhiêu trong số 6.362 hình ảnh độc đáo cho kết quả trùng khớp đáng tin cậy, bao nhiêu kết quả trùng khớp bị từ chối trong quá trình xem xét con người hoặc điều gì xảy ra với những hình ảnh không dẫn đến nhận dạng. Những con số đó sẽ rất quan trọng trong việc đánh giá liệu khuôn khổ bảo vệ có hoạt động như mô tả hay không và sự vắng mặt của chúng sẽ tạo cơ hội cho sự hoài nghi từ tất cả các bên.

Điều gì xảy ra tiếp theo

Interpol cho biết thông tin tình báo thu thập được cho đến nay đã được bổ sung vào cơ sở dữ liệu toàn cầu của tổ chức này và các thông tin nhận dạng khác có thể được thực hiện khi các nước thành viên xử lý tài liệu. Cơ quan này chưa cho biết liệu Chiến dịch Shams có trở thành một chương trình định kỳ hay không, mặc dù cấu trúc – quét định kỳ, đa quốc gia, có sự hỗ trợ của AI đối với nội dung cực đoan trực tuyến – phù hợp với hướng đi của hợp tác cảnh sát quốc tế.

Đối với ngành công nghiệp AI, hoạt động này là dấu hiệu cho thấy nhu cầu đang tăng lên: không phải ở chính sách tự trị hào nhoáng mà là ở quá trình lọc khối lượng lớn không hào nhoáng với sự xác nhận của con người. Đối với các nhà phê bình, đó là một lời nhắc nhở rằng cơ sở hạ tầng phân tích hình ảnh đại chúng đã được xây dựng và đưa vào sử dụng. Cả hai điều đều đúng và Operation Shams là ví dụ rõ ràng nhất gần đây về sự thỏa hiệp giữa chúng.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →