Un juez de los Estados Unidos ha emitido uno de los fallos más trascendentales hasta el momento sobre el uso de la inteligencia artificial en la aplicación de la ley, al sostener que la Cuarta Enmienda no permite a la policía arrestar a una persona basándose únicamente en una conclusión no corroborada de la IA. La decisión, emitida en una demanda civil presentada por Alain Vizcay Osorio y publicada a través de DocumentCloud, rechaza el intento de un detective de reclamar inmunidad calificada después de arrestar a Osorio por supuestamente pasar un cheque sin fondos basado únicamente en una coincidencia de reconocimiento facial, una coincidencia que el tribunal consideró obviamente incorrecta. El párrafo inicial del fallo establece claramente el principio: "La Cuarta Enmienda de la Constitución de los Estados Unidos no permite que un detective delegue en AI la tarea de evaluar la causa probable". Para obtener una cobertura continua de la política y la regulación de la IA, AI Buzz Wire está siguiendo el atractivo que muchos esperan seguir.

Un cheque sin fondos, una captura de pantalla de CCTV y una coincidencia en Facebook

El caso comenzó con un presunto delito de bajo riesgo y un trabajo policial de bajo esfuerzo. Osorio fue acusado de pasar un cheque sin fondos en un banco local, y las únicas imágenes del sospechoso provinieron de las imágenes de CCTV del banco. El detective Ryan Kilmer del Departamento de Policía de Florence, Kentucky, tomó una captura de pantalla del rostro del sospechoso y la pasó por el programa de reconocimiento facial del departamento. El sistema devolvió una coincidencia a un perfil de Facebook perteneciente a alguien listado como "Yony Smith Npoles Charon" y, por lo que el tribunal llamó secamente una "razón desconocida", Kilmer concluyó que el perfil pertenecía a Osorio.

Las fotografías contaban una historia diferente. Según la decisión, las imágenes de CCTV y la imagen del perfil de Facebook "no se parecen a la foto de fichaje de Osorio". Según la foto de la ficha de arresto, observó el tribunal, lo único que Osorio tenía en común con el sospechoso era que ambos eran hombres negros con vello facial; las fotos mostraban una forma de cabeza diferente, un corte de pelo diferente, rasgos faciales diferentes y una tez diferente.

La declaración jurada de Kilmer decía al tribunal que había utilizado "herramientas de investigación" para "emparejar" a Osorio con el sospechoso. En realidad, concluyó el juez, utilizó una sola herramienta y aceptó su resultado defectuoso, a pesar de que la política del Departamento de Policía de Florence establece explícitamente que el reconocimiento facial por sí solo no es suficiente para establecer una causa probable. El detective, deja claro el fallo, ignoró tanto las reglas escritas de su departamento como el requisito básico de la Constitución de que la causa probable refleja una evaluación humana real de la evidencia.

Lo que realmente sostuvo el tribunal

El lenguaje central de la decisión va más allá de la conclusión de que este detective fue negligente. Articula una regla categórica: "la Cuarta Enmienda no permite que un individuo sea arrestado basándose únicamente en una conclusión no corroborada por AI de que el individuo en cuestión ha cometido un delito. Y ningún detective razonable en la posición del acusado podría concluir lo contrario".

Esa segunda frase hace el trabajo pesado. Al afirmar que ningún funcionario razonable podría creer que una coincidencia de IA no corroborada sea suficiente, el tribunal demolió los cimientos de la defensa de inmunidad calificada, que generalmente protege a los funcionarios de la responsabilidad civil a menos que hayan violado derechos claramente establecidos. Kilmer, sostuvo el tribunal, no puede esconderse detrás de la doctrina, tanto porque la propia Cuarta Enmienda prohíbe lo que hizo como porque la política de su propio departamento le dijo, por escrito, que el reconocimiento facial por sí solo no puede establecer una causa probable.

La consecuencia práctica es que el detective enfrenta la demanda personalmente, una postura que aumenta la presión para llegar a un acuerdo y hace que la revisión en apelación sea más probable, ya que el oficial ahora tiene un interés financiero directo en impugnar el fallo.

Implicaciones que van mucho más allá de un cheque sin fondos

Los comentaristas legales señalan que la lógica de la decisión se irradia hacia el mercado de rápido crecimiento de la IA policial. El mismo razonamiento (que el resultado de un algoritmo no es evidencia de una causa probable hasta que un ser humano lo corrobore de forma independiente) se aplica con igual fuerza a:

  • Búsquedas de reconocimiento facial, incluidos sistemas que comparan fotografías de vigilancia con imágenes web extraídas, el patrón en cuestión en este caso.
  • Software policial predictivo que dirige patrullas e interacciones públicas basadas en pronósticos algorítmicos.
  • Reportes policiales generados por IA, que ahora proveedores como Axon agregan a las cámaras corporales bajo la premisa de que los oficiales prefieren no escribirlos, lo que plantea la cuestión de si una narrativa redactada por una máquina sobre una parada o el uso de la fuerza puede constituir el registro oficial.

Si un tribunal dice que un algoritmo no puede determinar la causa probable, todos los sistemas posteriores que asumen silenciosamente que el algoritmo sí tomó esa determinación heredan el problema. Los departamentos que han tratado los resultados de la IA como atajos de investigación pueden necesitar documentar una corroboración humana genuina antes del arresto, o corren el riesgo de excluir pruebas y responsabilidad personal de los agentes involucrados.

¿Qué viene después?

La pregunta inmediata es la apelación. Debido a que se le negó la inmunidad calificada, el detective tiene una fuerte motivación para llevar el caso hacia arriba, y la cuestión constitucional (si las herramientas de inteligencia artificial pueden participar en las evaluaciones de causas probables y cómo hacerlo) es exactamente el tipo de cuestión que los tribunales de apelaciones necesitarían resolver para que una norma tan amplia se consolide como precedente. Es probable que los grupos de libertades civiles intervengan en apoyo del fallo; Es probable que los sindicatos de policías y los proveedores de inteligencia artificial se opongan, argumentando que la decisión combina una investigación descuidada con un problema de política tecnológica.

De cualquier manera, el fallo establece un marcador que los departamentos de policía pueden leer hoy, sin esperar al ciclo de apelaciones: los resultados de la IA son una pista, no una conclusión. En este caso, el detective dejó que un algoritmo de coincidencia de rostros pensara, ignoró la regla de su propio departamento en contra de eso exactamente y ahora enfrenta las consecuencias personalmente. Como lo indica la propia decisión, los redactores de la Constitución no anticiparon las redes neuronales, pero el requisito de que un ser humano evalúe la causa probable antes de que el Estado arreste a una persona resulta traducirse sin necesidad de ninguna enmienda.

Para los departamentos que compran herramientas de IA, el mensaje es igualmente directo: las afirmaciones de los proveedores sobre la precisión no son una política. Las reglas escritas que requieren corroboración humana (como las de la policía de Florence, que el detective ignoró) ahora no son solo las mejores prácticas sino la diferencia entre un departamento que sobrevive a una demanda y un oficial que paga por ello personalmente.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →