Ein Richter in den Vereinigten Staaten hat eines der bisher folgenreichsten Urteile zum Einsatz künstlicher Intelligenz in der Strafverfolgung gefällt und festgestellt, dass der Vierte Verfassungszusatz es der Polizei nicht erlaubt, eine Person nur auf der Grundlage einer unbestätigten Schlussfolgerung der KI zu verhaften. Die Entscheidung, die im Rahmen einer Zivilklage von Alain Vizcay Osorio erlassen und über DocumentCloud veröffentlicht wurde, lehnt den Versuch eines Detektivs ab, eine qualifizierte Immunität zu beantragen, nachdem er Osorio verhaftet hatte, weil er angeblich einen ungedeckten Scheck bestanden hatte, der ausschließlich auf einer Übereinstimmung mit der Gesichtserkennung beruhte – eine Übereinstimmung, die das Gericht als offensichtlich falsch ansah. Im ersten Absatz des Urteils wird der Grundsatz klar formuliert: „Der vierte Zusatz zur Verfassung der Vereinigten Staaten erlaubt es einem Detektiv nicht, die Aufgabe der Beurteilung wahrscheinlicher Ursachen an AI zu delegieren.“ Für die fortlaufende Berichterstattung über [KI-Richtlinien und -Vorschriften] (https://aibuzzwire.news) verfolgt AI Buzz Wire den Aufruf, dem viele folgen wollen.
Ein schlechter Scheck, ein CCTV-Screenshot und ein Facebook-Match
Der Fall begann mit einem mutmaßlichen Verbrechen von geringem Einsatz und geringem Polizeieinsatz. Osorio wurde beschuldigt, bei einer örtlichen Bank einen ungültigen Scheck ausgestellt zu haben, und die einzigen Bilder des Verdächtigen stammten aus den CCTV-Aufnahmen der Bank. Detective Ryan Kilmer vom Florence, Kentucky Police Department machte einen Screenshot des Gesichts des Verdächtigen und ließ ihn durch das Gesichtserkennungsprogramm der Abteilung laufen. Das System gab eine Übereinstimmung mit einem Facebook-Profil zurück, das jemandem gehörte, der als „Yony Smith Npoles Charon“ aufgeführt war – und aus einem vom Gericht trocken als „unbekannten Grund“ bezeichneten Grund kam Kilmer zu dem Schluss, dass das Profil Osorio gehörte.
Die Fotos erzählten eine andere Geschichte. Laut der Entscheidung ähneln die CCTV-Aufnahmen und das Facebook-Profilbild „nicht dem Buchungsfoto von Osorio“. Auf der Grundlage des Buchungsfotos stellte das Gericht fest, dass Osorio mit dem Verdächtigen nur gemeinsam hatte, dass es sich bei beiden um schwarze Männer mit Gesichtsbehaarung handelte; Die Fotos zeigten eine andere Kopfform, einen anderen Haarschnitt, andere Gesichtszüge und einen anderen Teint.
Kilmers eidesstattliche Erklärung teilte dem Gericht mit, dass er „Ermittlungsinstrumente“ eingesetzt habe, um Osorio dem Verdächtigen „zuzuordnen“. In Wirklichkeit, so stellte der Richter fest, habe er ein einziges Tool verwendet und dessen fehlerhafte Ausgabe akzeptiert – obwohl in den Richtlinien der Polizei von Florence ausdrücklich festgelegt sei, dass die Gesichtserkennung allein nicht ausreiche, um eine wahrscheinliche Ursache festzustellen. Das Urteil macht deutlich, dass der Detektiv sowohl die schriftlichen Regeln seiner Abteilung als auch die grundlegende Anforderung der Verfassung ignoriert hat, dass der wahrscheinliche Grund eine tatsächliche menschliche Beurteilung der Beweise widerspiegeln muss.
Was das Gericht tatsächlich entschieden hat
Die Kernaussage der Entscheidung geht über die Feststellung hinaus, dass dieser Detektiv fahrlässig gehandelt habe. Darin wird eine kategorische Regel formuliert: „Der Vierte Verfassungszusatz erlaubt nicht, eine Person auf der Grundlage einer unbestätigten Schlussfolgerung der KI zu verhaften, dass die betreffende Person ein Verbrechen begangen hat. Und kein vernünftiger Detektiv in der Position des Angeklagten könnte zu etwas anderem schlussfolgern.“
Dieser zweite Satz erledigt die schwere Arbeit. Mit der Feststellung, dass kein vernünftiger Beamter glauben könne, dass eine unbestätigte KI-Übereinstimmung ausreiche, zerstörte das Gericht die Grundlage der qualifizierten Immunitätsverteidigung, die Beamte im Allgemeinen vor zivilrechtlicher Haftung schützt, es sei denn, sie haben eindeutig festgelegte Rechte verletzt. Kilmer, so entschied das Gericht, kann sich nicht hinter dieser Doktrin verstecken – sowohl weil der vierte Verfassungszusatz selbst verbietet, was er getan hat, als auch weil ihm die Richtlinien seiner eigenen Abteilung schriftlich mitgeteilt haben, dass Gesichtserkennung allein keinen wahrscheinlichen Grund feststellen kann.
Die praktische Konsequenz besteht darin, dass der Detektiv der Klage persönlich gegenübersteht, eine Haltung, die sowohl den Vergleichsdruck erhöht als auch die Wahrscheinlichkeit einer Berufungsprüfung erhöht, da der Beamte nun einen direkten finanziellen Anteil an der Anfechtung des Urteils hat.
Auswirkungen, die weit über einen einzigen fehlerhaften Scheck hinausgehen
Juristische Kommentatoren stellen fest, dass die Logik der Entscheidung auf den schnell wachsenden Markt für polizeiliche KI ausstrahlt. Die gleiche Argumentation – dass die Ausgabe eines Algorithmus kein Beweis für eine wahrscheinliche Ursache ist, bis ein Mensch sie unabhängig bestätigt – gilt mit gleicher Kraft für:
- Gesichtserkennungssuchen, einschließlich Systemen, die Überwachungsfotos mit geschabten Webbildern abgleichen, das Muster, um das es in diesem Fall geht.
- Vorausschauende Polizeisoftware, die Patrouillen und öffentliche Interaktionen auf der Grundlage algorithmischer Prognosen steuert.
- KI-generierte Polizeiberichte, die jetzt von Anbietern wie Axon zu Körperkameras hinzugefügt werden, unter der Prämisse, dass Beamte sie lieber nicht schreiben – was die Frage aufwirft, ob eine maschinell erstellte Erzählung über einen Stopp oder die Anwendung von Gewalt die offizielle Aufzeichnung darstellen kann.
Wenn ein Gericht sagt, dass ein Algorithmus die Bestimmung der wahrscheinlichen Ursache nicht durchführen kann, übernimmt jedes nachgeschaltete System, das stillschweigend davon ausgeht, dass der Algorithmus diese Entscheidung getroffen hat, das Problem. Abteilungen, die KI-Ergebnisse als Abkürzungen für Ermittlungen behandelt haben, müssen möglicherweise vor der Festnahme eine echte menschliche Bestätigung dokumentieren, andernfalls riskieren sie sowohl den Ausschluss von Beweismitteln als auch die persönliche Haftung der beteiligten Beamten.
Was als nächstes kommt
Die unmittelbare Frage ist die Berufung. Da die qualifizierte Immunität verweigert wurde, hat der Ermittler eine starke Motivation, den Fall voranzutreiben, und die verfassungsrechtliche Frage – ob und wie KI-Tools an der Beurteilung wahrscheinlicher Ursachen teilnehmen können – ist genau die Art von Frage, mit der sich Berufungsgerichte befassen müssten, damit eine so weit gefasste Regelung zu einem Präzedenzfall wird. Bürgerrechtsgruppen werden wahrscheinlich zur Unterstützung des Urteils intervenieren; Polizeigewerkschaften und KI-Anbieter werden wahrscheinlich zurückschlagen und argumentieren, dass die Entscheidung eine schlampige Untersuchung mit einem technologiepolitischen Problem verwechselt.
In jedem Fall setzt das Urteil ein Zeichen, das Polizeibehörden heute lesen können, ohne auf den Berufungszyklus warten zu müssen: Die KI-Ergebnisse sind ein Hinweis, keine Schlussfolgerung. Der Detektiv überließ in diesem Fall einem Gesichtserkennungsalgorithmus die Arbeit, ignorierte die entsprechende Regel seiner Abteilung und muss nun persönlich mit den Konsequenzen rechnen. Wie aus der Entscheidung selbst hervorgeht, haben die Verfasser der Verfassung nicht mit neuronalen Netzen gerechnet – aber die Anforderung, dass ein Mensch den wahrscheinlichen Grund beurteilen muss, bevor der Staat eine Person festnimmt, lässt sich ohne erforderliche Änderung umsetzen.
Für Abteilungen, die nach KI-Tools suchen, ist die Botschaft ebenso direkt: Angaben von Anbietern zur Genauigkeit sind keine Richtlinien. Schriftliche Regeln, die eine menschliche Bestätigung erfordern – wie die der Polizei von Florence, die der Detektiv ignorierte – sind heute nicht nur bewährte Verfahren, sondern machen den Unterschied zwischen einer Abteilung, die einen Rechtsstreit übersteht, und einem Beamten aus, der persönlich dafür bezahlt.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →