Ένας δικαστής των Ηνωμένων Πολιτειών έχει εκδώσει μια από τις πιο συνεπείς αποφάσεις μέχρι στιγμής σχετικά με τη χρήση τεχνητής νοημοσύνης στην επιβολή του νόμου, υποστηρίζοντας ότι η Τέταρτη Τροποποίηση δεν επιτρέπει στην αστυνομία να συλλαμβάνει ένα άτομο με βάση τίποτα περισσότερο από ένα μη επιβεβαιωμένο συμπέρασμα τεχνητής νοημοσύνης. Η απόφαση, που εκδόθηκε με πολιτική αγωγή που ασκήθηκε από τον Alain Vizcay Osorio και δημοσιεύτηκε μέσω του DocumentCloud, απορρίπτει την προσπάθεια ενός ντετέκτιβ να διεκδικήσει ειδική ασυλία αφού συνέλαβε τον Osorio για φερόμενο ότι πέρασε έναν κακό έλεγχο βασισμένο αποκλειστικά σε αγώνα αναγνώρισης προσώπου - αγώνας που το δικαστήριο διαπίστωσε ότι ήταν προφανώς λάθος. Η εναρκτήρια παράγραφος της απόφασης δηλώνει ξεκάθαρα την αρχή: «Η Τέταρτη Τροποποίηση του Συντάγματος των Ηνωμένων Πολιτειών δεν επιτρέπει σε έναν ντετέκτιβ να αναθέτει στην τεχνητή νοημοσύνη το έργο της εκτίμησης της πιθανής αιτίας». Για τη συνεχή κάλυψη της [πολιτικής και κανονισμού AI] (https://aibuzzwire.news), το AI Buzz Wire παρακολουθεί την έκκληση που πολλοί αναμένουν να ακολουθήσουν.
Ένας κακός έλεγχος, ένα στιγμιότυπο οθόνης CCTV και ένας αγώνας Facebook
Η υπόθεση ξεκίνησε με χαμηλούς κινδύνους υποτιθέμενης εγκληματικότητας και χαμηλής προσπάθειας αστυνομικού έργου. Ο Osorio κατηγορήθηκε ότι πέρασε μια κακή επιταγή σε μια τοπική τράπεζα και οι μόνες εικόνες του υπόπτου προέρχονταν από το βίντεο CCTV της τράπεζας. Ο ντετέκτιβ Ράιαν Κίλμερ από το αστυνομικό τμήμα της Φλωρεντίας του Κεντάκι τράβηξε ένα στιγμιότυπο οθόνης του προσώπου του υπόπτου και το έτρεξε μέσω του προγράμματος αναγνώρισης προσώπου του τμήματος. Το σύστημα επέστρεψε έναν αγώνα σε ένα προφίλ στο Facebook που ανήκε σε κάποιον που αναφέρεται ως "Yony Smith Npoles Charon" — και, για αυτό που το δικαστήριο χαρακτήρισε ξεκάθαρα "άγνωστο λόγο", ο Kilmer κατέληξε στο συμπέρασμα ότι το προφίλ ανήκε στον Osorio.
Οι φωτογραφίες έλεγαν μια διαφορετική ιστορία. Σύμφωνα με την απόφαση, τα πλάνα CCTV και η εικόνα προφίλ στο Facebook «δεν μοιάζουν με τη φωτογραφία κράτησης του Osorio». Με βάση τη φωτογραφία της κράτησης, παρατήρησε το δικαστήριο, το μόνο κοινό πράγμα που είχε ο Osorio με τον ύποπτο ήταν ότι και οι δύο ήταν μαύροι άνδρες με τρίχες στο πρόσωπο. οι φωτογραφίες έδειχναν διαφορετικό σχήμα κεφαλιού, διαφορετικό κούρεμα, διαφορετικά χαρακτηριστικά προσώπου και διαφορετική επιδερμίδα.
Η ένορκη κατάθεση του Κίλμερ ανέφερε στο δικαστήριο ότι είχε χρησιμοποιήσει «ανακριτικά εργαλεία» για να «ταιριάξει» τον Οσόριο με τον ύποπτο. Στην πραγματικότητα, διαπίστωσε ο δικαστής, χρησιμοποίησε ένα μόνο εργαλείο και αποδέχτηκε την ελαττωματική έκδοσή του - παρά την πολιτική του PD της Φλωρεντίας που δηλώνει ρητά ότι η αναγνώριση προσώπου από μόνη της δεν αρκεί για να διαπιστωθεί η πιθανή αιτία. Ο ντετέκτιβ, καθιστά σαφές η απόφαση, αγνόησε τόσο τους γραπτούς κανόνες του τμήματός του όσο και τη βασική απαίτηση του Συντάγματος ότι η πιθανή αιτία αντικατοπτρίζει μια πραγματική ανθρώπινη εκτίμηση των αποδεικτικών στοιχείων.
Τι έκρινε πραγματικά το Δικαστήριο
Η βασική γλώσσα της απόφασης υπερβαίνει τη διαπίστωση ότι αυτός ο ντετέκτιβ ήταν αμελής. Διατυπώνει έναν κατηγορηματικό κανόνα: "η Τέταρτη Τροποποίηση δεν επιτρέπει τη σύλληψη ενός ατόμου με βάση μόνο ένα μη επιβεβαιωμένο συμπέρασμα της AI ότι το εν λόγω άτομο έχει διαπράξει έγκλημα. Και κανένας λογικός ντετέκτιβ στη θέση του κατηγορουμένου δεν θα μπορούσε να συμπεράνει διαφορετικά."
Αυτή η δεύτερη πρόταση κάνει τη βαριά άρση. Δηλώνοντας ότι κανένας λογικός αξιωματικός δεν μπορούσε να πιστέψει ότι ένας μη επιβεβαιωμένος αγώνας τεχνητής νοημοσύνης αρκούσε, το δικαστήριο κατέρριψε τα θεμέλια της ειδικής άμυνας ασυλίας, η οποία γενικά προστατεύει τους αξιωματούχους από την αστική ευθύνη, εκτός εάν παραβίασαν σαφώς καθορισμένα δικαιώματα. Ο Κίλμερ, έκρινε το δικαστήριο, δεν μπορεί να κρυφτεί πίσω από το δόγμα - τόσο επειδή η ίδια η Τέταρτη Τροποποίηση απαγορεύει αυτό που έκανε όσο και επειδή η πολιτική του τμήματός του του είπε γραπτώς ότι η αναγνώριση προσώπου από μόνη της δεν μπορεί να αποδείξει την πιθανή αιτία.
Η πρακτική συνέπεια είναι ότι ο ντετέκτιβ αντιμετωπίζει τη μήνυση προσωπικά, μια στάση που αυξάνει την πίεση για διευθέτηση και κάνει πιο πιθανή την επανεξέταση, καθώς ο αστυνομικός έχει πλέον άμεσο οικονομικό μερίδιο στην αμφισβήτηση της απόφασης.
Συνέπειες που φτάνουν πολύ πέρα από έναν κακό έλεγχο
Οι νομικοί σχολιαστές σημειώνουν ότι η λογική της απόφασης εκπέμπεται προς τα έξω σε όλη την ταχέως αναπτυσσόμενη αγορά αστυνομικής τεχνητής νοημοσύνης. Ο ίδιος συλλογισμός - ότι η έξοδος ενός αλγορίθμου δεν αποτελεί ένδειξη πιθανής αιτίας έως ότου το επιβεβαιώσει ανεξάρτητος ένας άνθρωπος - ισχύει με την ίδια ισχύ για:
- Αναζητήσεις αναγνώρισης προσώπου, συμπεριλαμβανομένων συστημάτων που ταιριάζουν με στιγμιότυπα παρακολούθησης με εικόνες ιστού που έχουν αφαιρεθεί, το επίμαχο μοτίβο σε αυτήν την περίπτωση.
- Λογισμικό πρόβλεψης αστυνόμευσης που κατευθύνει περιπολίες και δημόσιες αλληλεπιδράσεις με βάση αλγοριθμικές προβλέψεις.
- Αστυνομικές αναφορές που δημιουργούνται από την τεχνητή νοημοσύνη, οι οποίες τώρα προστίθενται στις κάμερες σώματος από πωλητές όπως η Axon με την προϋπόθεση ότι οι αξιωματικοί προτιμούν να μην τις γράφουν — εγείροντας το ερώτημα εάν μια αφήγηση που συντάσσεται από μηχανή για στάση ή χρήση βίας μπορεί να αποτελέσει το επίσημο αρχείο.
Εάν ένα δικαστήριο πει ότι ένας αλγόριθμος δεν μπορεί να κάνει τον προσδιορισμό της πιθανής αιτίας, κάθε κατάντη σύστημα που υποθέτει αθόρυβα ότι ο αλγόριθμος έκανε αυτόν τον προσδιορισμό κληρονομεί το πρόβλημα. Τα τμήματα που αντιμετώπισαν τα αποτελέσματα της τεχνητής νοημοσύνης ως συντομεύσεις διερεύνησης μπορεί να χρειαστεί να τεκμηριώσουν γνήσια ανθρώπινη επιβεβαίωση πριν από τη σύλληψη, διαφορετικά διακινδυνεύουν τόσο τον αποκλεισμό αποδεικτικών στοιχείων όσο και την προσωπική ευθύνη των εμπλεκόμενων αξιωματικών.
Τι ακολουθεί
Το άμεσο ερώτημα είναι η έφεση. Επειδή αρνήθηκε η ειδική ασυλία, ο ντετέκτιβ έχει ισχυρά κίνητρα να προωθήσει την υπόθεση και το συνταγματικό ερώτημα - εάν και πώς τα εργαλεία τεχνητής νοημοσύνης μπορούν να συμμετάσχουν σε εκτιμήσεις πιθανών αιτιών - είναι ακριβώς το είδος του ζητήματος που θα χρειαζόταν τα δευτεροβάθμια δικαστήρια να συμβιβαστούν με έναν κανόνα τόσο ευρύ για να σκληρύνει σε προηγούμενο. Ομάδες πολιτικών ελευθεριών είναι πιθανό να παρέμβουν για να υποστηρίξουν την απόφαση. Τα αστυνομικά συνδικάτα και οι πωλητές τεχνητής νοημοσύνης είναι πιθανό να απωθήσουν, υποστηρίζοντας ότι η απόφαση συνδυάζει μια πρόχειρη έρευνα με ένα πρόβλημα τεχνολογικής πολιτικής.
Είτε έτσι είτε αλλιώς, η απόφαση θέτει έναν δείκτη που μπορούν να διαβάσουν τα αστυνομικά τμήματα σήμερα, χωρίς να περιμένουν τον κύκλο της έφεσης: Η έξοδος της τεχνητής νοημοσύνης είναι ένα προβάδισμα, όχι ένα συμπέρασμα. Ο ντετέκτιβ σε αυτή την περίπτωση άφησε έναν αλγόριθμο αντιστοίχισης προσώπου να σκεφτεί, αγνόησε τον κανόνα του τμήματός του εναντίον ακριβώς αυτού και τώρα αντιμετωπίζει τις συνέπειες προσωπικά. Όπως σηματοδοτεί η ίδια η απόφαση, οι διαμορφωτές του Συντάγματος δεν πρόβλεψαν τα νευρωνικά δίκτυα — αλλά η απαίτηση να εκτιμήσει ο άνθρωπος την πιθανή αιτία πριν το κράτος συλλάβει ένα άτομο αποδεικνύεται ότι μεταφράζει χωρίς να απαιτείται καμία τροποποίηση.
Για τα τμήματα που αγοράζουν εργαλεία τεχνητής νοημοσύνης, το μήνυμα είναι εξίσου άμεσο: οι ισχυρισμοί των πωλητών σχετικά με την ακρίβεια δεν αποτελούν πολιτική. Οι γραπτοί κανόνες που απαιτούν ανθρώπινη επιβεβαίωση —όπως αυτοί του Florence PD, τους οποίους αγνόησε ο ντετέκτιβ— δεν είναι απλώς η βέλτιστη πρακτική, αλλά η διαφορά μεταξύ ενός τμήματος που επιζεί από μια δίκη και ενός αξιωματικού που πληρώνει προσωπικά γι' αυτό.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →