ผู้พิพากษาของสหรัฐอเมริกาได้ส่งคำตัดสินที่เป็นผลสืบเนื่องมากที่สุดเรื่องหนึ่งเกี่ยวกับการใช้ปัญญาประดิษฐ์ในการบังคับใช้กฎหมาย โดยถือว่าการแก้ไขเพิ่มเติมครั้งที่ 4 ไม่อนุญาตให้ตำรวจจับกุมบุคคลโดยอาศัยเพียงข้อสรุปของ AI ที่ไม่ได้รับการยืนยัน คำตัดสินที่ออกในคดีแพ่งที่นำโดย Alain Vizcay Osorio และเผยแพร่ผ่าน DocumentCloud ปฏิเสธความพยายามของนักสืบในการอ้างสิทธิ์การยกเว้นโทษที่มีคุณสมบัติ หลังจากที่เขาจับกุม Osorio เนื่องจากถูกกล่าวหาว่าผ่านการตรวจสอบที่ไม่ดีโดยอิงจากการจับคู่การจดจำใบหน้าเพียงอย่างเดียว ซึ่งเป็นการจับคู่ที่ศาลพบว่าผิดอย่างเห็นได้ชัด ย่อหน้าแรกของคำตัดสินระบุหลักการอย่างตรงไปตรงมาว่า “การแก้ไขรัฐธรรมนูญครั้งที่สี่ของสหรัฐอเมริกาไม่อนุญาตให้นักสืบมอบหมายให้ AI ประเมินสาเหตุที่เป็นไปได้” เพื่อความครอบคลุมอย่างต่อเนื่องของ นโยบายและกฎระเบียบของ AI AI Buzz Wire กำลังติดตามคำอุทธรณ์ที่หลายคนคาดว่าจะปฏิบัติตาม
การตรวจสอบที่ไม่ดี ภาพหน้าจอของ CCTV และการจับคู่บน Facebook
คดีนี้เริ่มต้นด้วยข้อกล่าวหาว่าเป็นอาชญากรรมที่มีเดิมพันต่ำและการทำงานของตำรวจที่ใช้ความพยายามต่ำ Osorio ถูกกล่าวหาว่าส่งเช็คเสียที่ธนาคารท้องถิ่น และภาพของผู้ต้องสงสัยเพียงภาพเดียวเท่านั้นที่มาจากภาพวงจรปิดของธนาคาร นักสืบ Ryan Kilmer จากเมืองฟลอเรนซ์ รัฐเคนตักกี้ จับภาพหน้าจอใบหน้าของผู้ต้องสงสัย และดำเนินการผ่านโปรแกรมจดจำใบหน้าของแผนก ระบบส่งคืนการจับคู่โปรไฟล์ Facebook ของบุคคลที่ระบุว่าเป็น "Yony Smith Npoles Charon" และสำหรับสิ่งที่ศาลเรียกแบบแห้งๆ ว่า "เหตุผลที่ไม่ทราบ" Kilmer สรุปว่าโปรไฟล์ดังกล่าวเป็นของ Osorio
ภาพถ่ายบอกเล่าเรื่องราวที่แตกต่าง จากคำตัดสินดังกล่าว ภาพจากกล้องวงจรปิดและรูปโปรไฟล์เฟซบุ๊ก "ไม่เหมือนกับภาพการจองของโอโซริโอ" จากภาพถ่ายการจอง ศาลตั้งข้อสังเกต สิ่งเดียวที่ Osorio มีเหมือนกันกับผู้ต้องสงสัยคือทั้งคู่เป็นชายผิวดำมีหนวดเครา ภาพถ่ายแสดงให้เห็นรูปร่างศีรษะที่แตกต่างกัน ทรงผมที่แตกต่างกัน ลักษณะใบหน้าที่แตกต่างกัน และสีผิวที่แตกต่างกัน
คำให้การเป็นลายลักษณ์อักษรของคิลเมอร์บอกกับศาลว่าเขาใช้ "เครื่องมือสืบสวน" เพื่อ "จับคู่" Osorio กับผู้ต้องสงสัย ในความเป็นจริง ผู้พิพากษาพบว่าเขาใช้เครื่องมือชิ้นเดียวและยอมรับผลลัพธ์ที่ผิดพลาด แม้ว่านโยบายของ Florence PD จะระบุอย่างชัดเจนว่าการจดจำใบหน้าเพียงอย่างเดียวไม่เพียงพอที่จะระบุสาเหตุที่น่าจะเป็นไปได้ คำตัดสินของนักสืบระบุอย่างชัดเจน โดยเพิกเฉยต่อกฎเกณฑ์ที่เป็นลายลักษณ์อักษรของแผนกของเขาและข้อกำหนดพื้นฐานของรัฐธรรมนูญที่ว่าสาเหตุที่น่าจะเป็นสะท้อนถึงการประเมินหลักฐานที่เกิดขึ้นจริงโดยมนุษย์
สิ่งที่ศาลถือจริง
ภาษาหลักของการตัดสินใจนอกเหนือไปจากการค้นพบว่านักสืบรายนี้ประมาทเลินเล่อ โดยระบุกฎเกณฑ์ที่ชัดเจน: "การแก้ไขเพิ่มเติมครั้งที่ 4 ไม่อนุญาตให้บุคคลถูกจับกุมโดยอิงจากข้อสรุปที่ไม่ได้รับการยืนยันจาก AI ว่าบุคคลดังกล่าวได้ก่ออาชญากรรม และไม่มีนักสืบที่สมเหตุสมผลในตำแหน่งของจำเลยคนใดสามารถสรุปเป็นอย่างอื่นได้"
ประโยคที่สองนั้นช่วยยกของหนัก ด้วยการระบุว่าไม่มีเจ้าหน้าที่ที่สมเหตุสมผลคนใดเชื่อได้ว่าการจับคู่ AI ที่ไม่ได้รับการยืนยันนั้นเพียงพอแล้ว ศาลจึงได้รื้อถอนรากฐานของการป้องกันภูมิคุ้มกันที่มีคุณสมบัติเหมาะสม ซึ่งโดยทั่วไปจะปกป้องเจ้าหน้าที่จากความรับผิดทางแพ่ง เว้นแต่พวกเขาจะละเมิดสิทธิที่กำหนดไว้อย่างชัดเจน คิลเมอร์ซึ่งศาลพิพากษาอยู่ ไม่สามารถซ่อนตัวอยู่เบื้องหลังหลักคำสอนดังกล่าวได้ ทั้งสองกรณีเป็นเพราะการแก้ไขเพิ่มเติมครั้งที่สี่เองห้ามสิ่งที่เขาทำ และเนื่องจากนโยบายของแผนกของเขาเองบอกเขาเป็นลายลักษณ์อักษรว่าการจดจำใบหน้าเพียงอย่างเดียวไม่สามารถระบุสาเหตุที่น่าจะเป็นไปได้
ผลที่ตามมาในทางปฏิบัติก็คือ นักสืบต้องเผชิญกับการฟ้องร้องเป็นการส่วนตัว ซึ่งเป็นท่าทีที่ทั้งเพิ่มแรงกดดันในการยุติคดี และทำให้การพิจารณาอุทธรณ์มีแนวโน้มมากขึ้น เนื่องจากขณะนี้เจ้าหน้าที่มีส่วนได้ส่วนเสียทางการเงินโดยตรงในการท้าทายคำตัดสิน
ผลกระทบที่เกินกว่าการตรวจสอบที่ไม่ดีเพียงครั้งเดียว
นักวิจารณ์ด้านกฎหมายตั้งข้อสังเกตว่าตรรกะของการตัดสินใจแผ่ขยายออกไปสู่ตลาดที่เติบโตอย่างรวดเร็วสำหรับ AI ของตำรวจ เหตุผลเดียวกัน — ว่าผลลัพธ์ของอัลกอริธึมไม่ใช่หลักฐานของสาเหตุที่น่าจะเป็นไปได้จนกว่ามนุษย์จะยืนยันมันอย่างอิสระ — นำไปใช้ด้วยแรงเท่ากันกับ:
- การค้นหาการจดจำใบหน้า รวมถึงระบบที่จับคู่ภาพนิ่งการเฝ้าระวังกับภาพเว็บที่คัดลอกมา ซึ่งเป็นรูปแบบที่เป็นประเด็นในกรณีนี้
- ซอฟต์แวร์การรักษาเชิงคาดการณ์ ที่ควบคุมการลาดตระเวนและการโต้ตอบสาธารณะตามการคาดการณ์แบบอัลกอริทึม
- รายงานของตำรวจที่สร้างโดย AI ซึ่งขณะนี้ผู้ขายอย่าง Axon ได้เพิ่มเข้าไปในกล้องติดตัวโดยอ้างว่าเจ้าหน้าที่ไม่ต้องการเขียนรายงานเหล่านี้ ทำให้เกิดคำถามว่าการบรรยายที่ร่างโดยเครื่องจักรเกี่ยวกับการหยุดหรือใช้กำลังสามารถประกอบเป็นบันทึกอย่างเป็นทางการได้หรือไม่
หากศาลกล่าวว่าอัลกอริทึมไม่สามารถระบุสาเหตุที่เป็นไปได้ได้ ระบบดาวน์สตรีมทุกระบบที่ถือว่าอัลกอริทึมอย่างเงียบๆ ได้ทำการตัดสินนั้นก็จะสืบทอดปัญหาไป หน่วยงานที่ปฏิบัติต่อผลลัพธ์ของ AI เสมือนทางลัดในการสืบสวนอาจจำเป็นต้องบันทึกการยืนยันของมนุษย์อย่างแท้จริงก่อนการจับกุม หรือเสี่ยงต่อการยกเว้นหลักฐานและความรับผิดส่วนบุคคลสำหรับเจ้าหน้าที่ที่เกี่ยวข้อง
อะไรจะเกิดขึ้นต่อไป
คำถามทันทีคือการอุทธรณ์ เนื่องจากภูมิคุ้มกันที่มีคุณสมบัติเหมาะสมถูกปฏิเสธ นักสืบจึงมีแรงจูงใจอย่างมากที่จะดำเนินคดีต่อไป และคำถามเกี่ยวกับรัฐธรรมนูญ — ว่าเครื่องมือ AI สามารถมีส่วนร่วมในการประเมินสาเหตุที่เป็นไปได้หรือไม่ และอย่างไร — นั้นเป็นประเด็นที่ศาลอุทธรณ์จะต้องตัดสินสำหรับกฎกว้าง ๆ นี้เพื่อให้กลายเป็นแบบอย่าง กลุ่มเสรีภาพของพลเมืองมีแนวโน้มที่จะเข้ามาแทรกแซงเพื่อสนับสนุนการพิจารณาคดี สหภาพตำรวจและผู้ขาย AI มีแนวโน้มที่จะตอบโต้ โดยโต้แย้งว่าการตัดสินใจดังกล่าวทำให้การสอบสวนที่เลอะเทอะสับสนกับปัญหานโยบายเทคโนโลยี
ไม่ว่าจะด้วยวิธีใด คำตัดสินได้กำหนดเครื่องหมายว่าหน่วยงานตำรวจสามารถอ่านได้ในวันนี้ โดยไม่ต้องรอรอบการอุทธรณ์: เอาต์พุตของ AI เป็นผู้นำ ไม่ใช่ข้อสรุป ในกรณีนี้ นักสืบปล่อยให้อัลกอริธึมการจับคู่ใบหน้าคิด โดยเพิกเฉยต่อกฎของแผนกที่ต่อต้านสิ่งนั้น และตอนนี้ต้องเผชิญกับผลที่ตามมาเป็นการส่วนตัว เนื่องจากการตัดสินใจส่งสัญญาณ ผู้วางกรอบรัฐธรรมนูญไม่ได้คาดหวังโครงข่ายประสาทเทียม แต่ข้อกำหนดที่ว่ามนุษย์ต้องประเมินสาเหตุที่เป็นไปได้ก่อนที่รัฐจะยึดบุคคลนั้น กลับกลายเป็นว่าต้องแปลโดยไม่ต้องแก้ไขใดๆ
สำหรับแผนกต่างๆ ที่ซื้อเครื่องมือ AI ข้อความก็ตรงไปตรงมาไม่แพ้กัน การกล่าวอ้างของผู้ขายเกี่ยวกับความถูกต้องไม่ใช่นโยบาย กฎเกณฑ์ที่เป็นลายลักษณ์อักษรที่กำหนดให้ต้องมีการยืนยันจากมนุษย์ เช่น Florence PD's ซึ่งนักสืบเพิกเฉย ตอนนี้ไม่ได้เป็นเพียงแนวปฏิบัติที่ดีที่สุด แต่ยังเป็นความแตกต่างระหว่างแผนกที่รอดพ้นจากการฟ้องร้องและเจ้าหน้าที่ที่จ่ายค่าเสียหายเป็นการส่วนตัว
---
ก้าวนำหน้า AIรับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว
อ่านข่าว AI เพิ่มเติม →