Згідно з новим попередженням Американського союзу громадянських свобод, поліція в Сполучених Штатах все частіше зупиняє водіїв не через те, що вони зробили на дорозі, а через те, що система штучного інтелекту вирішила, що їхній спосіб подорожі виглядає «підозрілим».
У публікації, опублікованій цього тижня Джеєм Стенлі з проекту ACLU Speech, Privacy and Technology, група громадянських свобод стверджує, що стеження за номерними знаками за допомогою штучного інтелекту перетнуло межу: від допомоги в розслідуванні конкретних злочинів до створення підозр там, де їх раніше не було. For more context on this story, see our ongoing AI news.
«Будь-хто може бути зупинений, обшуканий або ще гірше», – попереджає підзаголовок допису. «ШІ робить можливими нові форми зловживань».
Зупинка дорожнього руху, яка стосувалася не дорожнього руху
Повідомлення ACLU зосереджено на досвіді Грейс Ноулз, двадцятирічної жінки з північної Вірджинії, яка вперше публічно ділиться своєю історією.
У вересні 2025 року, між роботами, Ноулз вирушила в подорож, яка пройшла через Орегон, Техас і Луїзіану. Наступного дня після того, як вона виїхала з Нового Орлеана, прямуючи до Флориди, поліцейський зупинив її, незважаючи на те, що вона, за її словами, їхала зі звичайною швидкістю.
Заявлена причина була надуманою: він стверджував, що вона «занадто довго була в лівій смузі». Потім питання стали особистими — звідки вона, куди їде. Коли вона сказала, що приїхала з Нового Орлеана, він зажадав доказів. Вона запропонувала брошуру з музею віскі, який відвідала.
Лише тоді офіцер розповів справжню причину зупинки. «Мені просто потрібно було бути впевненим, тому що я не звичайний поліцейський, я співробітник ФБР, і коли я просканував твою табличку, то побачив, що у тебе підозрілі манери подорожей», — сказав він їй, як вона розповіла ACLU.
Він навіть припустив, що вона брехала про Новий Орлеан, оскільки його система «не показала там жодних збігів». Щоб заспокоїти її, він запросив її в свою патрульну машину і показав їй програмне забезпечення: теплова карта Сполучених Штатів, позначена кружками, де вона була. Натиснувши кружечок, витягнули фотографію її номерного знака.
Офіцер назвав себе спеціальним агентом і сказав, що номерні знаки скануються «всюди» — у тому числі, як він стверджував, встановлені на задній частині дорожніх знаків на шосе, де водії їх рідко помічають.
Справжнє джерело зупинки, згідно з обліковим записом ACLU: система спостереження з доступом до даних автоматичного зчитування номерних знаків (ALPR) позначила її поведінку по пересіченій місцевості як підозрілу. Жодного злочину, жодного ордера, жодної індивідуальної підозри — лише судження алгоритму про те, куди їхала молода жінка.
Від планшетів до виклику підозр
Самі зчитувачі номерних знаків не є новими. Що змінилося, це те, що робиться з даними, які вони збирають.
У липні 2025 року ACLU вперше повідомила, що Флок — домінуючий гравець у системі стеження ALPR — рекламує можливості штучного інтелекту, які виходять за рамки зіставлення номерів із гарячими списками. Компанія похвалилася, що її система може сповіщати поліцію про водіїв, чиї моделі подорожей є «підозрілими», і навіть може відображати асоціації людей, аналізуючи, які транспортні засоби часто бачать разом.
Стенлі назвав це значним стрибком: використання даних ALPR для розслідування підозрілого транспортного засобу — це одне; Викликання підозри у звичайному водінні – це інше.
Через рік Wired отримав детальні файли з описом системи штучного інтелекту наступного покоління Flock, яка вже використовується деякими поліцейськими департаментами. Ці файли розкрили можливість широкомасштабних відкритих запитів штучного інтелекту до даних про номерні знаки, а не лише до даних номерних знаків. Система також може спиратися на записи про арешти, файли справ і бази даних індустрії комерційних брокерів даних, яку ACLU описує як наповнену особистою інформацією майже про всіх американців.
Іншими словами, офіцер тепер може задавати відкриті запитання штучному інтелекту, який об’єднує місце, де ви їздили, із великою кількістю сторонніх даних, і отримувати інформацію — не потрібні підказка, звіт про злочин чи судовий процес.
«Whisper Stops» і «Intel Stops»
Схема, з якою зіткнувся Ноулз, має назву в правоохоронних колах. ACLU каже, що з усієї країни з’являються історії про те, як поліція проводить «зупинки напередодні» — зупиняє водіїв за заявлені, часто вигадані, незначні порушення, такі як виїзд за межі смуги руху або відсутність сигналу, як прикриття для справжньої причини зупинки.
Поліція сама має назви для цих затримань: «пошепки» або «розвідки».
Зупинки перед текстом за своєю суттю не є чимось новим — правила дорожнього руху дуже різноманітні, і поліцейські вже давно вирішують, які порушення застосовувати. ШІ змінює націлювання. Там, де офіцер раніше покладався на передчуття, потрапляння в гарячий список або евристику заборони наркотиків, тепер алгоритм може отримувати місяці пересування людини та повертати список кандидатів на зупинку.
Групи громадянських свобод стверджують, що це перевертає мету інфраструктури спостереження. Системи, які продаються громадськості як інструменти для повернення викрадених автомобілів або пошуку зниклих людей, використовуються для того, щоб викликати підозру щодо людей, які не робили нічого, крім як керували автомобілем.
Чому ACLU зараз б'є на сполох
Повідомлення Стенлі розглядає цю тенденцію як системний ризик, а не як сукупність ізольованих інцидентів. Оскільки мережі ALPR покривають шосе та міські вулиці, а рівні аналізу штучного інтелекту є новими та незначно регульованими, популяція людей, які піддаються цим зупинкам, фактично складається з усіх, хто має номерний знак.
«Зростання стеження за номерними знаками штучного інтелекту від Flock та інших компаній означає, що все більше і більше невинних людей можуть бути зупинені таким чином», — написав Стенлі, зазначивши, що більшість із них не побачать імпровізованої демонстрації програмного забезпечення, яку отримав Ноулз.
Історія Ноулза ілюструє асиметрію зустрічі. Її допитали, попросили надати докази її власного місцезнаходження, і дізналися причину зупинки лише тому, що офіцер добровільно це сказав. Мандрівник із меншим терпінням або темнішою кімнатою в даних може стати набагато гіршим.
Що станеться далі
Згідно зі звітом Wired про внутрішні файли компанії, аналіз Flock на основі штучного інтелекту вже використовується, а публікація ACLU свідчить про те, що використання поширюється, а не зменшується. Група привертає увагу громадськості до такої практики, оскільки суди, законодавчі органи штатів і міські ради продовжують зважувати, як — і чи — слід керувати автоматизованими даними про номерні знаки.
На даний момент порада, яка міститься в попередженні ACLU, сувора: якщо ваша схема водіння здається машині незвичною, для початку зупинки може знадобитися лише незначна причина руху.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
