Согласно новому предупреждению Американского союза гражданских свобод, полиция по всей территории Соединенных Штатов все чаще останавливает водителей не из-за того, что они сделали на дороге, а потому, что система искусственного интеллекта решила, что их маршруты поездок выглядят «подозрительно».
В сообщении, опубликованном на этой неделе Джеем Стэнли из проекта ACLU «Речь, конфиденциальность и технологии», группа по защите гражданских свобод утверждает, что наблюдение за номерными знаками с помощью искусственного интеллекта перешло черту: от помощи в расследовании конкретных преступлений до создания подозрений там, где их раньше не было. Подробнее об этой истории — в нашем тенденции ИИ.
«Любой может быть остановлен, обыскан или того хуже», — предупреждает подзаголовок поста. «ИИ делает возможными новые формы злоупотреблений».
Остановка, которая не была связана с пробками
Сообщение ACLU посвящено опыту Грейс Ноулз, двадцатилетней женщины из северной Вирджинии, которая впервые публично делится своей историей.
В сентябре 2025 года, в перерыве между работой, Ноулз отправилась в путешествие по Орегону, Техасу и Луизиане. На следующий день после того, как она покинула Новый Орлеан и направилась во Флориду, ее остановил полицейский, несмотря на то, что, по ее словам, она ехала с нормальной скоростью.
Заявленная причина была неубедительной: он утверждал, что она «слишком долго находилась в левом ряду». Потом вопросы перешли на личный — откуда она, куда идет. Когда она сказала, что приехала из Нового Орлеана, он потребовал доказательств. Она предложила брошюру из музея виски, который она посетила.
Только тогда офицер раскрыл настоящую причину остановки. «Мне просто нужно было быть уверенным, потому что я не обычный полицейский, я сотрудник ФБР, и когда я просканировал вашу анкету, я увидел, что у вас есть подозрительные маршруты поездок», — сказал он ей, рассказала она ACLU.
Он даже предположил, что она лгала о Новом Орлеане, потому что его система «не показывала там никаких попаданий». Чтобы успокоить ее, он пригласил ее в свою патрульную машину и показал ей программное обеспечение: тепловую карту Соединенных Штатов, усеянную кружками, отмечающими все места, где она была. При нажатии на кружок появилась фотография ее номерного знака.
Офицер назвал себя специальным агентом и сказал, что номера сканируются «везде», в том числе, по его словам, установленные на обратной стороне дорожных знаков, где водители редко их замечают.
Фактический источник остановки, согласно отчету ACLU: система наблюдения с доступом к данным автоматического считывания номерных знаков (ALPR) пометила ее стиль вождения по пересеченной местности как подозрительный. Никакого преступления, никакого ордера, никаких индивидуальных подозрений — просто суждение алгоритма о том, куда проехала молодая женщина.
От записывающих пластинок к возникновению подозрений
Сами по себе считыватели номерных знаков не новы. Что изменилось, так это то, что делается с данными, которые они собирают.
В июле 2025 года ACLU впервые отметил, что Флок — доминирующий игрок в слежке ALPR — рекламировал возможности искусственного интеллекта, выходящие за рамки сопоставления номеров с горячими списками. Компания похвасталась, что ее система может предупреждать полицию о водителях, чья манера передвижения была «подозрительной», и даже могла отображать ассоциации людей, анализируя, какие транспортные средства часто видели вместе.
Стэнли назвал это значительным скачком: использование данных ALPR для расследования подозрительного автомобиля — это одно; другое – вызвать подозрения из-за обычного вождения.
Год спустя Wired получил подробные файлы с описанием системы искусственного интеллекта следующего поколения Flock, которая уже используется некоторыми полицейскими управлениями. Эти файлы показали возможность выполнения широкого спектра открытых запросов ИИ к данным номерных знаков, а не только к показаниям номеров. Система также может использовать записи об арестах, материалы дел и базы данных индустрии коммерческих брокеров данных, которые, по мнению ACLU, содержат личную информацию почти обо всех американцах.
Другими словами, теперь полицейский может задавать открытые вопросы ИИ, который объединяет информацию о том, где вы проехали, с обширным массивом сторонних данных, и получить ответную информацию — никаких подсказок, отчета о преступлении или судебного процесса не требуется.
«Шепот останавливается» и «Информация останавливается»
Случай, с которым столкнулся Ноулз, получил известность в кругах правоохранительных органов. ACLU сообщает, что по всей стране появляются истории о том, как полиция проводит «предлогические остановки» — останавливая водителей за заявленные, часто вымышленные, незначительные нарушения, такие как выезд за пределы полосы движения или отсутствие сигнала, в качестве прикрытия реальной причины остановки.
У самой полиции есть названия для этих задержаний: «остановка шепота» или «остановка информации».
Остановки по предлогу не являются чем-то новым — правила дорожного движения обширны, и офицеры уже давно имеют право по своему усмотрению решать, какие нарушения применять. Что меняет ИИ, так это таргетинг. Если раньше полицейский полагался на догадку, попадание в горячий список или эвристику по запрету наркотиков, то теперь алгоритм может анализировать месяцы перемещений человека и возвращать список кандидатов для остановки.
Группы защиты гражданских свобод утверждают, что это меняет цель инфраструктуры наблюдения. Системы, продаваемые населению в качестве инструментов для возвращения украденных автомобилей или поиска пропавших людей, используются для создания подозрений в отношении людей, которые ничего не делали, кроме вождения.
Почему ACLU бьет тревогу сейчас
В сообщении Стэнли эта тенденция представлена как системный риск, а не как совокупность отдельных инцидентов. Поскольку сети ALPR охватывают автомагистрали и городские улицы, а уровни анализа ИИ являются новыми и слабо регулируются, контингент людей, подвергающихся воздействию этих остановок, фактически состоит из всех, у кого есть номерной знак.
«Рост слежки за автомобильными номерами с помощью ИИ со стороны Flock и других компаний означает, что все больше и больше невиновных людей могут быть остановлены таким образом», — написал Стэнли, отметив, что большинство из них не увидят импровизированную демонстрацию программного обеспечения, которую получил Ноулз.
История Ноулза иллюстрирует асимметрию этой встречи. Ее допросили, попросили предоставить доказательства ее собственного местонахождения, и она узнала причину остановки только потому, что это вызвался офицер. Путешественнику с меньшим терпением или более темной комнатой в данных может оказаться гораздо хуже.
Что будет дальше
Согласно отчету Wired о внутренних файлах компании, анализ Flock на основе искусственного интеллекта уже используется, а сообщение ACLU предполагает, что его использование распространяется, а не сокращается. Группа привлекает внимание общественности к этой практике, поскольку суды, законодательные собрания штатов и городские советы продолжают взвешивать, как и следует ли регулировать автоматизированные данные номерных знаков.
На данный момент совет, заложенный в предупреждении ACLU, ясен: если ваша манера вождения кажется машине необычной, для начала остановки может быть достаточно незначительного оправдания дорожного движения.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
