미국시민자유연맹(American Civil Liberties Union)의 새로운 경고에 따르면, 미국 전역의 경찰이 운전자가 도로에서 한 일 때문이 아니라 인공 지능 시스템이 운전자의 여행 패턴이 "의심스럽다"고 판단했기 때문에 점점 더 운전자를 체포하고 있습니다.

이번 주 ACLU의 음성, 개인 정보 보호 및 기술 프로젝트의 Jay Stanley가 게시한 게시물에서 시민 자유 단체는 AI 기반 번호판 감시가 특정 범죄 수사를 돕는 것부터 이전에는 존재하지 않았던 의심 제조에 이르기까지 선을 넘었다고 주장합니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

해당 게시물의 부제목에는 "누구나 제지당하거나 수색당하거나 그보다 더 심각한 상황에 처할 수 있습니다"라고 경고되어 있습니다. "AI는 새로운 형태의 학대를 가능하게 합니다."

교통이 아닌 교통정지

ACLU의 게시물은 버지니아 북부 출신의 20대 여성 Grace Knowles의 경험을 중심으로 처음으로 자신의 이야기를 공개적으로 공유합니다.

2025년 9월, 직장 사이에 Knowles는 오레곤, 텍사스, 루이지애나를 거쳐 자동차 여행을 떠났습니다. 그녀가 뉴올리언스를 떠나 플로리다로 향하던 다음 날, 그녀가 정상 속도로 운전했음에도 불구하고 경찰이 그녀를 세웠다고 그녀는 말했습니다.

명시된 이유는 허술했습니다. 그는 그녀가 "왼쪽 차선에 너무 오랫동안 있었다"고 주장했습니다. 그런 다음 질문은 개인적인 것으로 바뀌었습니다. 그녀가 어디서 왔는지, 어디로 가는지. 그녀가 뉴올리언스에서 운전해 왔다고 말하자 그는 증거를 요구했습니다. 그녀는 자신이 방문한 위스키 박물관의 팜플렛을 제공했습니다.

그제서야 경찰은 정지 이유를 밝혔다. 그는 ACLU에 "나는 일반 경찰이 아니고 FBI 소속이기 때문에 확실히 해야 했다"며 "당신의 접시를 스캔해 보니 의심스러운 여행 패턴이 있다는 것을 알 수 있었다"고 말했다.

그는 심지어 그의 시스템이 "거기서 어떤 히트도 보여주지 않았기 때문에" 그녀가 뉴올리언스에 대해 거짓말을 하고 있다고 제안하기도 했습니다. 그녀를 안심시키기 위해 그는 그녀를 순찰차에 초대하고 소프트웨어를 보여주었습니다. 그녀가 있었던 곳마다 원이 점선으로 표시된 미국 열지도였습니다. 원을 클릭하면 그녀의 번호판 사진이 표시됩니다.

경찰관은 자신을 특수 요원이라고 설명했으며 번호판은 운전자가 거의 눈치채지 못하는 고속도로 도로 표지판 뒷면에 장착된 것을 포함하여 "모든 곳"에서 스캔된다고 말했습니다.

ACLU의 계정에 따르면 정지의 실제 원인은 자동 번호판 판독기(ALPR) 데이터에 접근할 수 있는 감시 시스템이 그녀의 국가 횡단 운전 패턴을 의심스러운 것으로 표시했습니다. 범죄도, 영장도, 개별적인 의심도 없습니다. 단지 젊은 여성이 운전한 장소에 대한 알고리즘의 판단일 뿐입니다.

녹음판부터 의혹제기까지

번호판 판독기 자체는 새로운 것이 아닙니다. 변경된 것은 수집한 데이터로 수행되는 작업입니다.

2025년 7월, ACLU는 ALPR 감시의 지배적인 플레이어인 Flock이 핫리스트와 플레이트를 일치시키는 것 이상의 AI 기능을 홍보하고 있음을 처음으로 표시했습니다. 회사는 자신의 시스템이 이동 패턴이 "의심스러운" 운전자에게 경찰에 경고할 수 있고 어떤 차량이 자주 함께 보이는지 분석하여 사람들의 연관성을 지도화할 수도 있다고 자랑했습니다.

Stanley는 이를 큰 도약이라고 불렀습니다. ALPR 데이터를 사용하여 의심스러운 차량을 조사하는 것은 한 가지입니다. 일반적인 운전에서 의심을 불러일으키는 것도 또 다른 일입니다.

1년 후 Wired는 이미 일부 경찰서에서 사용하고 있는 Flock의 차세대 AI 시스템을 설명하는 자세한 파일을 얻었습니다. 해당 파일은 번호판 판독뿐만 아니라 번호판 데이터에 대한 광범위한 개방형 AI 쿼리 기능을 보여주었습니다. 이 시스템은 또한 ACLU가 거의 모든 미국인의 개인 정보로 가득 차 있다고 설명하는 상업 데이터 브로커 업계의 체포 기록, 사건 파일 및 데이터베이스를 활용할 수 있습니다.

즉, 경찰은 이제 귀하가 운전한 곳에서 방대한 제3자 데이터를 융합하는 AI에 개방형 질문을 하고 단서를 얻을 수 있습니다. 팁이나 범죄 신고 또는 사법 절차가 필요하지 않습니다.

'속삭임 중지' 및 '인텔 중지'

Knowles가 경험한 패턴은 법 집행 기관에서 유명합니다. ACLU는 경찰이 정지의 실제 이유를 커버하기 위해 차선을 벗어나거나 신호를 보내지 않는 등 경미한 위반에 대해 운전자를 끌어들이는 "사전 정지"를 실시한다는 이야기가 전국에서 나타나고 있다고 밝혔습니다.

경찰은 이러한 구금에 대해 "속삭임 중지" 또는 "정보 중지"라는 이름을 가지고 있습니다.

문구를 이용한 정지는 본질적으로 새로운 것이 아닙니다. 교통 법규는 방대하며 경찰관은 오랫동안 어떤 위반 사항을 집행할지에 대한 재량권을 갖고 있습니다. AI가 바꾸는 것은 타겟팅이다. 경찰관이 한때 직감, 핫리스트 조회수 또는 마약 금지 휴리스틱에 의존했다면 이제 알고리즘은 수개월 동안 사람의 움직임을 파악하고 정지 후보 목록을 돌려줄 수 있습니다.

시민 자유 단체는 이것이 감시 인프라의 목적을 뒤집는 것이라고 주장합니다. 도난당한 자동차를 되찾거나 실종자를 찾기 위한 도구로 대중에게 판매되는 시스템은 운전 외에는 아무것도 하지 않은 사람들에 대한 의혹을 불러일으키는 데 사용되고 있습니다.

ACLU가 지금 경보를 울리는 이유

Stanley의 게시물은 이러한 추세를 개별 사건의 집합이 아닌 시스템적 위험으로 구성합니다. ALPR 네트워크는 고속도로와 도시 거리를 포괄하고 AI 분석 계층이 새롭고 가볍게 규제되기 때문에 이러한 정류장에 노출되는 사람들의 인구는 사실상 번호판을 가진 모든 사람입니다.

Stanley는 "Flock과 다른 회사의 AI 번호판 감시가 증가한다는 것은 점점 더 많은 무고한 사람들이 이러한 방식으로 중지될 수 있음을 의미합니다."라고 Stanley는 썼습니다. 대부분의 사람들은 Knowles가 받은 즉석 소프트웨어 시연을 받지 못할 것이라고 지적했습니다.

Knowles의 이야기는 만남의 비대칭성을 보여줍니다. 그녀는 심문을 받고 자신의 행방에 대한 증거를 제시하라는 요청을 받았으며 경찰관이 자원했기 때문에 정지 이유를 알게 되었습니다. 인내심이 부족한 여행자나 데이터의 어두운 방은 훨씬 더 나쁠 수 있습니다.

다음에 무슨 일이 일어날까요?

회사 내부 파일에 대한 Wired의 보고에 따르면 Flock의 AI 기반 분석은 이미 운영에 사용되고 있으며 ACLU의 게시물은 사용량이 줄어들기보다는 확산되고 있음을 시사합니다. 법원, 주 의회, 시의회가 자동화된 자동차 번호판 데이터를 어떻게 관리해야 하는지, 여부를 계속해서 평가하고 있기 때문에 이 그룹은 이러한 관행에 대중의 관심을 불러일으키고 있습니다.

현재 ACLU의 경고에 내재된 조언은 단호합니다. 운전 패턴이 기계에 비정상적으로 보일 경우 사소한 교통 체증으로 인해 정지가 시작될 수 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →