Một thẩm phán Hoa Kỳ đã đưa ra một trong những phán quyết có hậu quả nhất về việc sử dụng trí tuệ nhân tạo trong thực thi pháp luật, cho rằng Tu chính án thứ tư không cho phép cảnh sát bắt giữ một người chỉ dựa trên một kết luận AI chưa được chứng thực. Quyết định, được đưa ra trong một vụ kiện dân sự do Alain Vizcay Osorio đưa ra và được công bố qua DocumentCloud, bác bỏ nỗ lực của một thám tử nhằm yêu cầu quyền miễn trừ đủ điều kiện sau khi anh ta bắt giữ Osorio vì bị cáo buộc đã vượt qua một cuộc kiểm tra tồi chỉ dựa trên một trận đấu nhận dạng khuôn mặt - một trận đấu mà tòa án cho rằng rõ ràng là sai. Đoạn mở đầu của phán quyết nêu rõ nguyên tắc: “Tu chính án thứ tư của Hiến pháp Hoa Kỳ không cho phép thám tử giao cho AI nhiệm vụ đánh giá nguyên nhân có thể xảy ra”. Để liên tục đưa tin về chính sách và quy định AI, AI Buzz Wire đang theo dõi sự hấp dẫn mà nhiều người mong đợi làm theo.
Séc sai, ảnh chụp màn hình camera quan sát và trận đấu trên Facebook
Vụ án bắt đầu với cáo buộc tội phạm có mức rủi ro thấp và công việc của cảnh sát với nỗ lực thấp. Osorio bị buộc tội đã vượt qua một cuộc kiểm tra tồi tại một ngân hàng địa phương và những hình ảnh duy nhất về nghi phạm đến từ đoạn phim CCTV của ngân hàng. Thám tử Ryan Kilmer của Sở cảnh sát Florence, Kentucky đã chụp ảnh màn hình khuôn mặt của nghi phạm và chạy nó qua chương trình nhận dạng khuôn mặt của sở. Hệ thống đã trả lại kết quả trùng khớp cho một hồ sơ Facebook thuộc về một người nào đó được liệt kê là "Yony Smith Npoles Charon" - và vì cái mà tòa án gọi một cách khô khan là "lý do không xác định", Kilmer kết luận rằng hồ sơ này thuộc về Osorio.
Những bức ảnh đã kể một câu chuyện khác. Theo quyết định, đoạn phim CCTV và ảnh đại diện Facebook "không giống với ảnh đặt chỗ của Osorio". Dựa trên bức ảnh đặt phòng, tòa án nhận xét, điểm chung duy nhất của Osorio với nghi phạm là cả hai đều là đàn ông da đen có lông mặt; những bức ảnh cho thấy một hình dạng đầu khác, kiểu tóc khác, đặc điểm khuôn mặt khác và nước da khác.
Bản khai của Kilmer nói với tòa rằng anh ta đã sử dụng "các công cụ điều tra" để "so khớp" Osorio với nghi phạm. Trên thực tế, thẩm phán nhận thấy, anh ta đã sử dụng một công cụ duy nhất và chấp nhận kết quả đầu ra bị lỗi của nó - mặc dù chính sách của Florence PD nêu rõ rằng chỉ nhận dạng khuôn mặt là không đủ để xác định nguyên nhân có thể xảy ra. Phán quyết nêu rõ rằng thám tử đã bỏ qua cả các quy định bằng văn bản của bộ phận của ông và yêu cầu cơ bản của Hiến pháp rằng nguyên nhân có thể xảy ra phản ánh đánh giá thực tế của con người về bằng chứng.
Những gì Tòa án thực sự nắm giữ
Ngôn ngữ cốt lõi của quyết định vượt xa việc phát hiện ra rằng thám tử này đã sơ suất. Nó nêu rõ một quy tắc phân loại: "Tu chính án thứ tư không cho phép bắt giữ một cá nhân chỉ dựa trên kết luận chưa được chứng thực của AI rằng cá nhân đó đã phạm tội. Và không có thám tử hợp lý nào ở vị trí Bị cáo có thể kết luận khác."
Câu thứ hai đó thực hiện công việc nặng nhọc. Bằng cách tuyên bố rằng không một quan chức hợp lý nào có thể tin rằng một trận đấu AI chưa được chứng thực là đủ, tòa án đã phá hủy nền tảng của biện pháp bảo vệ quyền miễn trừ đủ điều kiện, vốn thường bảo vệ các quan chức khỏi trách nhiệm dân sự trừ khi họ vi phạm các quyền đã được thiết lập rõ ràng. Kilmer, tòa án cho rằng, không thể trốn tránh đằng sau học thuyết - cả vì bản thân Tu chính án thứ tư đã cấm những gì anh ta làm và vì chính sách của chính bộ phận anh ta đã nói với anh ta, bằng văn bản, rằng chỉ riêng nhận dạng khuôn mặt không thể xác định được nguyên nhân có thể xảy ra.
Hậu quả thực tế là thám tử phải đích thân đối mặt với vụ kiện, một tư thế vừa làm tăng áp lực giải quyết vừa khiến cho việc xem xét phúc thẩm dễ xảy ra hơn, vì viên chức hiện có quyền lợi tài chính trực tiếp trong việc phản đối phán quyết.
Ý nghĩa vượt xa một lần kiểm tra sai
Các nhà bình luận pháp lý lưu ý rằng tính logic của quyết định này lan tỏa ra khắp thị trường AI của cảnh sát đang phát triển nhanh chóng. Lý do tương tự - rằng đầu ra của thuật toán không phải là bằng chứng về nguyên nhân có thể xảy ra cho đến khi con người chứng thực nó một cách độc lập - áp dụng với lực tương đương cho:
- Tìm kiếm nhận dạng khuôn mặt, bao gồm các hệ thống đối sánh ảnh tĩnh giám sát với hình ảnh web cóp nhặt, mẫu được đề cập trong trường hợp này.
- Phần mềm kiểm soát dự đoán chỉ đạo tuần tra và tương tác công cộng dựa trên dự báo thuật toán.
- Báo cáo của cảnh sát do AI tạo, hiện đang được các nhà cung cấp như Axon thêm vào camera gắn trên người với lý do các cảnh sát không muốn viết chúng — đặt ra câu hỏi liệu một bản tường thuật do máy soạn thảo về việc dừng xe hoặc sử dụng vũ lực có thể cấu thành hồ sơ chính thức hay không.
Nếu tòa án nói rằng một thuật toán không thể đưa ra quyết định về nguyên nhân có thể xảy ra, thì mọi hệ thống xuôi dòng lặng lẽ giả định thuật toán đã đưa ra quyết định đó sẽ kế thừa vấn đề. Các cơ quan đã coi kết quả đầu ra của AI là lối tắt điều tra có thể cần ghi lại sự chứng thực thực sự của con người trước khi bắt giữ hoặc có nguy cơ loại trừ cả bằng chứng và trách nhiệm cá nhân đối với các sĩ quan liên quan.
Điều gì xảy ra tiếp theo
Câu hỏi ngay lập tức là kháng cáo. Bởi vì quyền miễn trừ đủ điều kiện đã bị từ chối, thám tử có động lực mạnh mẽ để đưa vụ việc lên cao hơn và câu hỏi hiến pháp – liệu và làm thế nào các công cụ AI có thể tham gia vào việc đánh giá nguyên nhân có thể xảy ra – chính xác là loại vấn đề mà các tòa phúc thẩm sẽ cần phải giải quyết cho một quy tắc mở rộng này để trở thành tiền lệ. Các nhóm tự do dân sự có thể sẽ can thiệp để ủng hộ phán quyết; các liên đoàn cảnh sát và các nhà cung cấp AI có thể sẽ phản đối, cho rằng quyết định này liên quan đến một cuộc điều tra cẩu thả với một vấn đề về chính sách công nghệ.
Dù bằng cách nào, phán quyết đặt ra một điểm đánh dấu mà các sở cảnh sát có thể đọc ngày nay mà không cần chờ chu kỳ phúc thẩm: Kết quả đầu ra của AI là dẫn dắt chứ không phải là kết luận. Thám tử trong trường hợp này đã để một thuật toán so khớp khuôn mặt thực hiện việc suy nghĩ, bỏ qua quy tắc riêng của bộ phận anh ta chống lại chính xác điều đó và giờ đây phải đối mặt với hậu quả một cách cá nhân. Như bản thân quyết định đã báo hiệu, những người soạn thảo Hiến pháp đã không lường trước được mạng lưới thần kinh - nhưng yêu cầu con người phải đánh giá nguyên nhân có thể xảy ra trước khi nhà nước bắt giữ một người hóa ra lại được dịch mà không cần bất kỳ sửa đổi nào.
Đối với các bộ phận đang mua công cụ AI, thông điệp cũng trực tiếp không kém: tuyên bố của nhà cung cấp về độ chính xác không phải là chính sách. Các quy định bằng văn bản yêu cầu sự chứng thực của con người - như của Sở cảnh sát Florence mà thám tử đã bỏ qua - giờ đây không chỉ là phương pháp thực hành tốt nhất mà còn là sự khác biệt giữa một bộ phận sống sót sau một vụ kiện và một viên chức tự mình trả tiền cho việc đó.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →