Судья Соединенных Штатов вынес одно из наиболее важных решений по использованию искусственного интеллекта в правоохранительной деятельности, постановив, что Четвертая поправка не позволяет полиции арестовывать человека на основании не более чем неподтвержденного заключения ИИ. Решение, вынесенное по гражданскому иску, поданному Аленом Вискаем Осорио и опубликованное через DocumentCloud, отклоняет попытку детектива потребовать квалифицированного иммунитета после того, как он арестовал Осорио за то, что он якобы прошел неверный чек, основанный исключительно на совпадении по распознаванию лиц — совпадение, которое суд счел явно неправильным. В первом абзаце постановления принцип прямо сформулирован: «Четвертая поправка к Конституции США не позволяет детективу делегировать ИИ задачу оценки вероятной причины». Для постоянного освещения политики и регулирования ИИ AI Buzz Wire отслеживает привлекательность, которой многие ожидают следовать.
Неверный чек, снимок экрана с камеры видеонаблюдения и совпадение в Facebook
Дело началось с предполагаемого преступления с низкими ставками и несложной работы полиции. Осорио обвинили в том, что он продал неверный чек в местном банке, и единственные изображения подозреваемого были взяты из записей с камер видеонаблюдения банка. Детектив Райан Килмер из полицейского управления Флоренции, штат Кентукки, сделал снимок лица подозреваемого и пропустил его через программу распознавания лиц департамента. Система вернула совпадение с профилем Facebook, принадлежащим кому-то, указанному как «Йони Смит Нполес Харон» — и, по тому, что суд сухо назвал «неизвестной причиной», Килмер пришел к выводу, что профиль принадлежал Осорио.
Фотографии рассказали другую историю. Согласно решению, кадры с камер видеонаблюдения и изображение профиля в Facebook «не похожи на фотографию Осорио, сделанную при бронировании». Суд отметил, что, судя по фотографии в бронировании, единственное, что было общего у Осорио с подозреваемым, это то, что оба были чернокожими мужчинами с растительностью на лице; на фотографиях была другая форма головы, другая прическа, другие черты лица и другой цвет лица.
В письменных показаниях Килмера говорилось, что он использовал «инструменты расследования», чтобы «сопоставить» Осорио с подозреваемым. На самом деле, как установил судья, он использовал один инструмент и признал его ошибочные результаты, несмотря на то, что в политике полиции Флоренции прямо указано, что одного лишь распознавания лиц недостаточно для установления вероятной причины. Детектив, как явствует из постановления, проигнорировал как письменные правила своего ведомства, так и базовое требование Конституции о том, что вероятная причина должна отражать реальную человеческую оценку доказательств.
Что на самом деле решил суд
Основная формулировка решения выходит за рамки вывода о том, что этот детектив проявил халатность. В нем сформулировано категорическое правило: «Четвертая поправка не позволяет арестовывать человека на основании не более чем неподтвержденного вывода ИИ о том, что данное лицо совершило преступление. И ни один разумный детектив на месте Ответчика не может прийти к иному выводу».
Второе предложение делает тяжелую работу. Заявив, что ни один разумный офицер не может поверить, что неподтвержденного совпадения ИИ достаточно, суд разрушил основу защиты с квалифицированным иммунитетом, которая обычно защищает должностных лиц от гражданской ответственности, если только они не нарушили четко установленные права. Килмер, как постановил суд, не может скрываться за этой доктриной - как потому, что Четвертая поправка сама по себе запрещает то, что он сделал, так и потому, что политика его собственного ведомства в письменной форме говорила ему, что само по себе распознавание лиц не может установить вероятную причину.
Практическим последствием является то, что детектив лично сталкивается с иском, что одновременно увеличивает давление на урегулирование дела и повышает вероятность апелляционного рассмотрения, поскольку теперь у офицера есть прямая финансовая заинтересованность в оспаривании решения.
Последствия, выходящие далеко за рамки одной неверной проверки
Юристы отмечают, что логика этого решения распространяется на быстрорастущий рынок полицейского искусственного интеллекта. То же рассуждение — что выходные данные алгоритма не являются доказательством вероятной причины, пока человек самостоятельно не подтвердит это — применимо с равной силой к:
- Поиск с использованием распознавания лиц, включая системы, которые сопоставляют кадры с камер наблюдения с изображениями, полученными из Интернета, — именно эта закономерность рассматривается в данном случае.
- Программное обеспечение для полицейской деятельности с прогнозированием, которое направляет патрулирование и взаимодействие с общественностью на основе алгоритмических прогнозов.
- Полицейские отчеты, созданные с помощью искусственного интеллекта, теперь добавляются к нательным камерам такими поставщиками, как Axon, на том основании, что полицейские предпочитают их не писать. Возникает вопрос о том, может ли автоматически составленный рассказ об остановке или применении силы считаться официальным протоколом.
Если суд говорит, что алгоритм не может определить возможную причину, каждая нижестоящая система, которая спокойно предполагает, что алгоритм действительно сделал это определение, наследует проблему. Департаментам, которые рассматривают результаты ИИ как упрощенный метод расследования, возможно, придется документировать подлинные человеческие подтверждения перед арестом, иначе они рискуют как исключить доказательства, так и подвергнуть личной ответственности причастных к этому офицеров.
Что будет дальше
Насущный вопрос – апелляция. Поскольку квалифицированный иммунитет был лишен, у детектива есть сильная мотивация поднять дело на более высокий уровень, а конституционный вопрос — могут ли инструменты ИИ участвовать в оценке вероятных причин и каким образом — это именно тот вопрос, который апелляционным судам придется решать, чтобы такое широкое правило превратилось в прецедент. Группы гражданских свобод, вероятно, вмешаются в поддержку решения; Профсоюзы полиции и поставщики ИИ, скорее всего, будут сопротивляться, утверждая, что это решение объединяет небрежное расследование с проблемой технологической политики.
В любом случае, постановление устанавливает маркер, который полицейские управления могут прочитать сегодня, не дожидаясь апелляционного цикла: результаты ИИ — это подсказка, а не вывод. Детектив в данном случае позволил алгоритму сопоставления лиц думать, проигнорировал собственное правило своего отдела, запрещающее именно это, и теперь лично сталкивается с последствиями. Как следует из самого решения, создатели Конституции не предполагали использование нейронных сетей, но требование о том, чтобы человек оценил вероятную причину, прежде чем государство арестует человека, оказывается, можно перевести без каких-либо поправок.
Для отделов, приобретающих инструменты искусственного интеллекта, сообщение одинаково прямое: заявления поставщиков о точности не являются политикой. Письменные правила, требующие подтверждения людьми (например, правила полиции Флоренции, которые детектив проигнорировал), теперь являются не просто передовой практикой, но и разницей между отделом, пережившим судебный процесс, и офицером, который платит за него лично.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →