Um juiz dos Estados Unidos proferiu uma das decisões mais importantes até agora sobre a utilização de inteligência artificial na aplicação da lei, sustentando que a Quarta Emenda não permite que a polícia prenda uma pessoa com base em nada mais do que uma conclusão não corroborada da IA. A decisão, emitida em uma ação civil movida por Alain Vizcay Osorio e publicada via DocumentCloud, rejeita a tentativa de um detetive de reivindicar imunidade qualificada depois de prender Osorio por supostamente passar um cheque sem fundo baseado apenas em uma correspondência de reconhecimento facial – uma correspondência que o tribunal considerou obviamente errada. O parágrafo inicial da decisão afirma o princípio categoricamente: “A Quarta Emenda da Constituição dos Estados Unidos não permite que um detetive delegue à IA a tarefa de avaliar a causa provável”. Para cobertura contínua da política e regulamentação de IA, a AI Buzz Wire está acompanhando o apelo que muitos esperam seguir.

Um cheque sem fundo, uma captura de tela CCTV e uma correspondência no Facebook

O caso começou com supostos crimes de baixo risco e trabalho policial de baixo esforço. Osorio foi acusado de passar um cheque sem fundo em um banco local, e as únicas imagens do suspeito vieram das imagens de CCTV do banco. O detetive Ryan Kilmer, do Departamento de Polícia de Florence, Kentucky, tirou uma captura de tela do rosto do suspeito e a analisou no programa de reconhecimento facial do departamento. O sistema retornou uma correspondência para um perfil do Facebook pertencente a alguém listado como “Yony Smith Npoles Charon” – e, pelo que o tribunal chamou secamente de “razão desconhecida”, Kilmer concluiu que o perfil pertencia a Osorio.

As fotografias contavam uma história diferente. De acordo com a decisão, as imagens do CCTV e a imagem do perfil do Facebook “não lembram a foto reserva de Osório”. Com base na foto do registro, observou o tribunal, a única coisa que Osorio tinha em comum com o suspeito era que ambos eram homens negros com pelos faciais; as fotos mostravam um formato de cabeça diferente, um corte de cabelo diferente, características faciais diferentes e uma tez diferente.

A declaração de Kilmer dizia ao tribunal que ele havia usado “ferramentas de investigação” para “combinar” Osorio com o suspeito. Na realidade, concluiu o juiz, ele usou uma única ferramenta e aceitou o seu resultado defeituoso – apesar da política da Polícia de Florença afirmar explicitamente que o reconhecimento facial por si só não é suficiente para estabelecer a causa provável. O detetive, a decisão deixa claro, ignorou tanto as regras escritas do seu departamento como o requisito básico da Constituição de que a causa provável reflecte uma avaliação humana real das provas.

O que o tribunal realmente decidiu

A linguagem central da decisão vai além da constatação de que o detetive foi negligente. Articula uma regra categórica: "a Quarta Emenda não permite que um indivíduo seja preso com base em nada mais do que uma conclusão não corroborada pela IA de que o indivíduo em questão cometeu um crime. E nenhum detetive razoável na posição do Réu poderia concluir o contrário."

Essa segunda frase faz o trabalho pesado. Ao afirmar que nenhum oficial razoável poderia acreditar que uma correspondência de IA não corroborada fosse suficiente, o tribunal demoliu a base da defesa de imunidade qualificada, que geralmente protege os funcionários da responsabilidade civil, a menos que violem direitos claramente estabelecidos. Kilmer, considerou o tribunal, não pode esconder-se atrás da doutrina - tanto porque a própria Quarta Emenda proíbe o que ele fez como porque a política do seu próprio departamento lhe disse, por escrito, que o reconhecimento facial por si só não pode estabelecer uma causa provável.

A consequência prática é que o detetive enfrenta o processo pessoalmente, uma postura que aumenta a pressão para chegar a um acordo e torna mais provável a revisão do recurso, uma vez que o agente tem agora um interesse financeiro direto na contestação da decisão.

Implicações que vão muito além de um cheque sem fundo

Os comentadores jurídicos observam que a lógica da decisão irradia-se através do mercado em rápido crescimento da IA policial. O mesmo raciocínio - de que a saída de um algoritmo não é evidência de causa provável até que um ser humano a corrobore de forma independente - aplica-se com igual força a:

  • Pesquisas de reconhecimento facial, incluindo sistemas que comparam imagens estáticas de vigilância com imagens raspadas da web, o padrão em questão neste caso.
  • Software de policiamento preditivo que direciona patrulhas e interações públicas com base em previsões algorítmicas.
  • Relatórios policiais gerados por IA, agora adicionados às câmeras corporais por fornecedores como a Axon, sob a premissa de que os policiais preferem não escrevê-los – levantando a questão de saber se uma narrativa elaborada por máquina sobre uma parada ou uso de força pode constituir o registro oficial.

Se um tribunal disser que um algoritmo não pode determinar a causa provável, todo sistema posterior que assumir discretamente que o algoritmo fez essa determinação herdará o problema. Os departamentos que trataram os resultados da IA ​​como atalhos de investigação poderão necessitar de documentar a corroboração humana genuína antes da detenção, ou correrão o risco de exclusão de provas e de responsabilidade pessoal dos agentes envolvidos.

O que vem a seguir

A questão imediata é o apelo. Como a imunidade qualificada foi negada, o detetive tem uma forte motivação para levar o caso para cima, e a questão constitucional – se e como as ferramentas de IA podem participar nas avaliações de causas prováveis ​​– é exatamente o tipo de questão que os tribunais de recurso precisariam de resolver para uma regra tão ampla para se tornar um precedente. É provável que os grupos de defesa das liberdades civis intervenham em apoio à decisão; os sindicatos da polícia e os fornecedores de IA provavelmente reagirão, argumentando que a decisão confunde uma investigação desleixada com um problema de política tecnológica.

De qualquer forma, a decisão estabelece um marco que os departamentos de polícia podem ler hoje, sem esperar pelo ciclo de recurso: os resultados da IA ​​são uma pista, não uma conclusão. O detetive, neste caso, deixou que um algoritmo de correspondência facial pensasse, ignorou a regra de seu departamento contra exatamente isso e agora enfrenta pessoalmente as consequências. Tal como a própria decisão assinala, os redatores da Constituição não previram as redes neurais – mas a exigência de que um ser humano avalie a causa provável antes de o Estado capturar uma pessoa acaba por se traduzir sem qualquer alteração necessária.

Para os departamentos que compram ferramentas de IA, a mensagem é igualmente direta: as reivindicações dos fornecedores sobre a precisão não são políticas. Regras escritas que exigem corroboração humana – como as da polícia de Florence, que o detetive ignorou – agora não são apenas melhores práticas, mas a diferença entre um departamento que sobrevive a um processo judicial e um policial que paga por ele pessoalmente.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →