미국의 한 판사는 법 집행에서 인공지능을 사용하는 것과 관련하여 가장 중요한 판결 중 하나를 내렸습니다. 이는 수정헌법 제4조가 경찰이 확증되지 않은 AI 결론에 근거하여 사람을 체포하는 것을 허용하지 않는다는 것입니다. Alain Vizcay Osorio가 제기하고 DocumentCloud를 통해 발표된 민사 소송에서 발표된 이 결정은 오소리오가 오로지 안면 인식 일치만을 기반으로 불량 수표를 통과한 혐의로 체포된 후 형사가 적격 면제를 주장하려는 시도를 거부합니다. 법원에서 일치가 명백히 잘못되었다고 판단한 것입니다. 판결의 첫 단락에는 원칙이 단호하게 명시되어 있습니다. "미국 헌법의 제4차 수정안은 형사가 가능한 원인을 평가하는 작업을 AI에 위임하는 것을 허용하지 않습니다." AI 정책 및 규정을 지속적으로 보도하기 위해 AI Buzz Wire는 많은 사람들이 따르기를 기대하는 매력을 추적하고 있습니다.

부도수표, CCTV 스크린샷, 그리고 페이스북 매칭

사건은 저위험 범죄 혐의와 저조한 경찰 업무로 시작되었습니다. 오소리오는 지역 은행에서 불량 수표를 통과한 혐의로 기소됐고, 용의자의 유일한 이미지는 은행 CCTV 영상에서 나온 것이었습니다. 켄터키 주 플로렌스 경찰국의 라이언 킬머 형사는 용의자의 얼굴 스크린샷을 찍어 경찰서의 안면 인식 프로그램에 실행했습니다. 시스템은 "Yony Smith Npoles Charon"으로 등록된 사람의 Facebook 프로필에 일치하는 항목을 반환했으며, 법원이 "알 수 없는 이유"라고 건방지게 말한 이유로 Kilmer는 프로필이 Osorio에 속한다고 결론지었습니다.

사진은 다른 이야기를 들려주었습니다. 판결문에 따르면 CCTV 영상과 페이스북 프로필 이미지는 "오소리오의 예매 사진과 유사하지 않다"고 한다. 법원은 예약 사진을 토대로 오소리오가 용의자와 유일한 공통점은 두 사람 모두 얼굴에 털이 난 흑인 남성이라는 점을 확인했습니다. 사진에는 ​​다른 머리 모양, 다른 머리 모양, 다른 얼굴 특징, 다른 안색이 나와 있습니다.

킬머의 진술서는 그가 오소리오를 용의자와 "맞추기" 위해 "수사 도구"를 사용했다고 법원에 밝혔다. 실제로 판사는 얼굴 인식만으로는 가능한 원인을 입증하기에 충분하지 않다고 플로렌스 PD의 정책이 명시적으로 명시했음에도 불구하고 그가 단일 도구를 사용하고 잘못된 결과를 받아들였다는 사실을 발견했습니다. 판결에 따르면 해당 형사는 해당 부서의 서면 규칙과 가능한 원인이 증거에 대한 실제 인간 평가를 반영한다는 헌법의 기본 요구 사항을 모두 무시했습니다.

법원이 실제로 판단한 내용

결정의 핵심 언어는 이 형사가 과실을 범했다는 사실을 넘어서는 것입니다. 여기에는 다음과 같은 단정적인 규칙이 명시되어 있습니다. "수정헌법 제4조는 문제의 개인이 범죄를 저질렀다는 AI의 확증되지 않은 결론에만 근거하여 개인을 체포하는 것을 허용하지 않습니다. 그리고 피고의 입장에 있는 합리적인 형사는 달리 결론을 내릴 수 없습니다."

두 번째 문장은 무거운 작업을 수행합니다. 어떤 합리적인 경찰관도 확증되지 않은 AI 일치만으로는 충분하다고 믿을 수 없다고 말함으로써 법원은 명확하게 확립된 권리를 침해하지 않는 한 일반적으로 공무원을 민사 책임으로부터 보호하는 자격 있는 면책 방어의 기초를 무너뜨렸습니다. 법원은 킬머가 이 교리 뒤에 숨을 수 없다고 판결했습니다. 이는 수정헌법 제4조 자체가 자신이 한 일을 금지하고 있고 소속 부서의 정책에 따라 안면 인식만으로는 가능한 원인을 입증할 수 없다고 서면으로 밝혔기 때문입니다.

실질적인 결과는 형사가 개인적으로 소송에 직면한다는 것입니다. 이는 이제 경찰관이 판결에 이의를 제기하는 데 직접적인 금전적 이해관계를 가지게 되므로 합의에 대한 압력을 높이고 항소 검토 가능성을 높이는 자세입니다.

불량 수표 한 개 이상의 의미를 지닌다

법률 평론가들은 이번 결정의 논리가 빠르게 성장하는 경찰 AI 시장 전체에 퍼져 있다고 지적합니다. 알고리즘의 출력은 인간이 독립적으로 확증할 때까지 가능한 원인의 증거가 아니라는 동일한 추론이 다음에도 동일하게 적용됩니다.

  • 이 사건에서 문제가 되는 패턴인 긁힌 웹 이미지와 감시 스틸을 일치시키는 시스템을 포함한 얼굴 인식 검색.
  • 알고리즘 예측을 기반으로 순찰 및 대중 상호 작용을 지시하는 예측 치안 소프트웨어입니다.
  • AI가 생성한 경찰 보고서는 경찰관이 작성을 선호하지 않는다는 전제 하에 Axon과 같은 공급업체가 바디 카메라에 추가하고 있습니다. 이는 정지 또는 무력 사용에 대한 기계 초안 서술이 공식 기록을 구성할 수 있는지에 대한 의문을 제기합니다.

법원이 알고리즘이 가능한 원인 결정을 내릴 수 없다고 판단하면 알고리즘이 해당 결정을 내렸다고 조용히 가정하는 모든 다운스트림 시스템이 문제를 상속받습니다. AI 결과를 수사 지름길로 취급한 부서는 체포되기 전에 실제 인간 확증을 문서화해야 할 수도 있습니다. 그렇지 않으면 관련 경찰관에 대한 증거 배제 및 개인적 책임이 발생할 위험이 있습니다.

다음에 나올 내용

즉각적인 질문은 항소입니다. 적격 면제가 거부되었기 때문에 형사는 사건을 상향 조정하려는 강한 동기를 가지고 있으며 AI 도구가 가능한 원인 평가에 참여할 수 있는지 여부와 방법과 같은 헌법적 질문은 항소 법원이 선례로 강화하기 위해 이 광범위한 규칙을 해결해야 하는 문제와 정확히 같습니다. 시민 자유 단체는 판결을 지지하기 위해 개입할 가능성이 높습니다. 경찰 노조와 AI 벤더들은 이번 결정이 부실한 조사와 기술 정책 문제를 혼동시킨다며 반발할 가능성이 높다.

어느 쪽이든, 판결은 경찰서가 항소 주기를 기다리지 않고 오늘날 읽을 수 있는 지표를 설정합니다. AI 출력은 결론이 아니라 리드입니다. 이 사건의 형사는 얼굴 매칭 알고리즘에 사고를 맡기고, 이에 대해 소속 부서의 자체 규칙을 무시했으며, 이제는 개인적으로 그 결과에 직면하게 되었습니다. 결정 자체가 알 수 있듯이 헌법의 입안자들은 신경망을 예상하지 않았습니다. 그러나 국가가 사람을 체포하기 전에 인간이 가능한 원인을 평가해야 한다는 요구 사항은 수정이 필요하지 않은 채 번역되는 것으로 나타났습니다.

AI 도구를 구매하는 부서의 경우 메시지는 똑같이 직접적입니다. 정확성에 대한 공급업체의 주장은 정책이 아닙니다. 형사가 무시한 플로렌스 PD의 규칙과 같이 인간의 확증을 요구하는 서면 규칙은 이제 단순한 모범 사례가 아니라 소송에서 살아남는 부서와 개인적으로 비용을 지불하는 경찰관 간의 차이입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →