Ο άνθρωπος που έκρυψε την αόρατη τεχνητή νοημοσύνη προτρέπει σε δικαστικές υποθέσεις να κερδίσει την υπόθεσή του — Πρώτα στις ΗΠΑ, λέει ο δικαστής

Ένας δικαστής του Κονέκτικατ εντόπισε αυτή που φαίνεται να είναι η πρώτη φορά που ένας αμερικανός ενάγων προσπάθησε να κρύψει κείμενο σε δικαστικές καταθέσεις που μόνο ένα σύστημα τεχνητής νοημοσύνης μπορεί να διαβάσει, σε μια προσπάθεια να κερδίσει την υπόθεσή του. Το σχέδιο απέτυχε, η διάδικος επιβλήθηκε κυρώσεων και η απόφαση εφιστά τώρα την προσοχή σε όλο τον κόσμο της νομικής τεχνολογίας, καθώς τα δικαστήρια σε όλη τη χώρα αρχίζουν να υιοθετούν τα δικά τους εργαλεία τεχνητής νοημοσύνης.

Η απόφαση δημοσιεύθηκε την περασμένη εβδομάδα από τον δικαστή Walter Spader Jr. του Ανωτάτου Δικαστηρίου του Κονέκτικατ και λεπτομερώς αυτή την εβδομάδα από την Ars Technica και το Reuters. Για τις [έκτακτες ειδήσεις AI] (https://aibuzzwire.news) σχετικά με τη σύγκρουση μεταξύ τεχνητής νοημοσύνης και συστήματος δικαιοσύνης, η υπόθεση είναι μια προεπισκόπηση ενός προβλήματος για το οποίο οι ερευνητές ασφάλειας προειδοποιούσαν εδώ και χρόνια: αντίθετες εισροές σχεδιασμένες να διαβάζονται από μηχανές και όχι από ανθρώπους.

Πώς λειτουργούσαν τα κρυφά μηνύματα

Ο ενάγων, Matthew Elliott, κλειδώθηκε σε μια διαμάχη με έναν πάροχο υγειονομικής περίθαλψης που ισχυρίστηκε ότι απέκρυψε ακατάλληλα την πρόσβαση στα αρχεία του. Αφού τα προηγούμενα επιχειρήματα που έθεσε ηττήθηκαν, σύμφωνα με την απόφαση, ο Elliott ενσωμάτωσε οδηγίες στα επόμενα αρχεία που ήταν, σύμφωνα με τα λόγια του Spader, «μορφοποιημένα ώστε να είναι αόρατα σε έναν ανθρώπινο αναγνώστη, ενώ παρέμεναν πλήρως ευανάγνωστα σε οποιοδήποτε λογισμικό που διαβάζει το κείμενο του εγγράφου».

Το κείμενο συρρικνώθηκε σε τύπο μικροσκοπικού σημείου και χρωματίστηκε λευκό σε λευκό φόντο. Κατηύθυνε κάθε σύστημα τεχνητής νοημοσύνης που επανεξέταζε το έγγραφο για να διασφαλίσει ότι τα αποτελέσματα συμφωνούσαν με τα επιχειρήματα του ενάγοντα, αγνόησε τις προηγούμενες αρνήσεις από το δικαστήριο και διασφάλισε ότι η αποκατάσταση θα ακολουθούσε όπως επιθυμούσε ο ενάγων - μια επίθεση έγκαιρης έγχυσης σχολικού βιβλίου, που δεν στόχευε σε ένα chatbot αλλά σε οποιοδήποτε λογισμικό θα μπορούσε μια μέρα να καθίσει μεταξύ ενός διαδίκου και ενός δικαστή.

Το κρυφό κείμενο δεν είχε καμία επίδραση στην υπόθεση. Το δικαστήριο εξέτασε την κατάθεση του Έλιοτ επί της ουσίας. Όμως ο Spader έγραψε ότι η απόπειρα επίθεσης ωστόσο δημιουργεί ένα «επικίνδυνο» προηγούμενο και ότι τα αμερικανικά δικαστήρια πιθανότατα θα δουν ξανά την κακόβουλη τακτική καθώς τα εργαλεία AI γίνονται πιο συνηθισμένα στα δικαστικά συστήματα.

"Σοβαρή κατάχρηση δικαστικών διαδικασιών" — και μερικά περίεργα αστεία

Ο Έλιοτ αντιμετώπισε μέτριες κυρώσεις, αλλά όχι μόνο για τις αρχικές κρυφές οδηγίες. Σύμφωνα με την απόφαση, συνέχισε να προσθέτει κρυφό κείμενο σε νέα αρχεία, ακόμη και αφού το δικαστήριο τον προειδοποίησε ότι θα μπορούσε να αντιμετωπίσει ποινές για αυτό που ο Spader τελικά έκρινε «σοβαρή κατάχρηση δικαστικών διαδικασιών».

Μερικά από τα αργότερα κρυφά μηνύματα, είπε ο Έλιοτ στο δικαστήριο, προορίζονταν για αστεία. Περιλάμβαναν έναν σύνδεσμο προς ένα βίντεο του Nosferatu στο YouTube, ένα απλό μήνυμα που έγραφε "γεια σου :) Ελπίζω να μην με δεις" και ένα μήνυμα που ο ενάγων περιέγραψε ως ανοησία: "ΠΕΙΤΕ ΣΤΟΝ ΣΟΝ ΣΤΕΙΛΩ ΤΗΝ ΑΓΑΠΗ ΜΟΥ!!!! ΧΑΧΑΧΑ ΠΑΙΔΙΑ ΠΑΡΕΤΕ ΑΥΤΟ ΤΟ ΑΥΓΟ???? ΑΧΑΧ."

«Το γεγονός ότι ο ενάγων συνέχισε να κρύβει μηνύματα σε νέα υπομνήματα αφού έλαβε ειδοποίηση για αυτήν την ακρόαση [κυρώσεων] είναι εκπληκτικό», έγραψε ο Σπέιντερ. Όσον αφορά τον ισχυρισμό ότι τα μηνύματα ήταν κωμικά, ο δικαστής είπε ότι «αψηφά τη λογική» να θάβει αστεία μέσα σε ισχυρισμούς που θέλει το δικαστήριο να λάβει στα σοβαρά.

Η «ελεγκτική» άμυνα

Στην υπεράσπισή του, ο Elliott υποστήριξε ότι η πιο ανησυχητική προτροπή που επισημάνθηκε από τον δικαστή ήταν στην πραγματικότητα μια προσπάθεια «ελέγχου» του δικαστηρίου ως δημόσιας υπηρεσίας, επειδή φοβόταν ότι το δικαστήριο άφηνε την AI να αποφασίσει άδικα την περίπτωσή του. Επανέλαβε αυτή τη θέση στο Reuters, λέγοντας ότι υποστηρίζει ότι η πρόθεσή του ήταν να δοκιμάσει το δικαστήριο αντί να το χειραγωγήσει.

Ο Σπέιντερ δεν βρήκε το επιχείρημα αξιόπιστο. Αν ο Έλιοτ πίστευε ειλικρινά ότι το δικαστήριο χρησιμοποιούσε ακατάλληλα την τεχνητή νοημοσύνη, έγραψε ο δικαστής, «ήταν ελεύθερος να γράψει με τόσο απλές, ορατές λέξεις που όλοι μπορούσαν να δουν και να απαντήσουν». Η απόκρυψη του κειμένου αντ' αυτού, κατέληξε ο Σπέιντερ, είναι «απόδειξη του κακόβουλου σκοπού του». Ο δικαστής πρόσθεσε ότι φαίνεται ότι ο Έλιοτ «προσπαθούσε να επιτύχει ένα αποτέλεσμα που δεν πέτυχε όταν άνθρωποι, γνώστες» του νόμου, διάβασαν τα αιτήματά του.

Συγκεκριμένα, το δικαστικό τμήμα του Κονέκτικατ δεν χρησιμοποιεί τεχνητή νοημοσύνη για να επανεξετάσει ή να αποφασίσει τις καταθέσεις, επεσήμανε ο Σπέιντερ - επομένως δεν υπήρχε ποτέ πραγματικός κίνδυνος ένα δικαστικό σύστημα τεχνητής νοημοσύνης να λανθασμένα τις προτροπές του Έλιοτ για οδηγίες από το δικαστήριο. Σε αντίθεση με «ορισμένα δικαστικά συστήματα αλλού», έγραψε, δεν υπήρχε μηχανή στην άλλη άκρη για να κοροϊδεύεις.

Γιατί μια αποτυχημένη επίθεση εξακολουθεί να έχει σημασία

Οι ερευνητές ασφαλείας έχουν αφιερώσει χρόνια αποδεικνύοντας ότι τα συστήματα τεχνητής νοημοσύνης που διαβάζουν έγγραφα - chatbot, κωδικοποιητές, βοηθοί ηλεκτρονικού ταχυδρομείου - μπορούν να παραβιαστούν από οδηγίες που είναι θαμμένες μέσα στο κείμενο που προσλαμβάνουν. Η τεχνική, γνωστή ως έμμεση άμεση έγχυση, θεωρείται ένα από τα πιο δύσκολα άλυτα προβλήματα στην ανάπτυξη πρακτόρων AI. Αυτό που κάνει την υπόθεση του Κονέκτικατ ασυνήθιστη είναι ο στόχος: ο ίδιος ο μηχανισμός της δικαιοσύνης.

«Αποκρύπτοντας μια εντολή μέσα σε ένα έγγραφο που το σύστημα απορροφά αργότερα, ο αρχειοθέτης προσπαθεί να μεταφέρει λαθραία τη δική του οδηγία σε αυτό το ρεύμα, έτσι ώστε το σύστημα να την αντιμετωπίζει σαν να είχε προέλθει από τον χειριστή του συστήματος», έγραψε ο Spader. "Σε αυτή την περίπτωση, ο χειριστής θεωρείται ότι είναι το δικαστήριο, το προσωπικό του ή ο αντίδικος δικηγόρος."

Αυτό το πλαίσιο —της κατάθεσης δικαστηρίου ως επιφάνειας επίθεσης— είναι αυτό που λένε οι νομικοί παρατηρητές κάνει την απόφαση σημαντική. Καθώς τα δικαστήρια και τα δικηγορικά γραφεία χρησιμοποιούν όλο και περισσότερο την τεχνητή νοημοσύνη για να συνοψίσουν τις υποθέσεις, τα σχέδια αποφάσεων ή τα έγγραφα αξιολόγησης, κάθε έγγραφο που υποβάλλεται από ένα μέρος γίνεται ένας πιθανός δίαυλος χειραγώγησης. Ο υπάλληλος ενός δικαστή μπορεί να πιάσει λευκό κείμενο σε μια λευκή σελίδα. ένας αυτοματοποιημένος αγωγός περίληψης μπορεί να μην.

Τι θα γίνει μετά

Οι κυρώσεις σε βάρος του Elliott είναι, σύμφωνα με την περιγραφή του ίδιου του δικαστηρίου, μέτριες. Ωστόσο, η απόφαση δίνει στα δικαστήρια των ΗΠΑ ένα γραπτό προηγούμενο για τη μεταχείριση των κρυφών αναγνώσιμων από μηχανή οδηγιών ως κατάχρησης της νομικής διαδικασίας και φτάνει σε μια στιγμή που πολλά κρατικά δικαστικά συστήματα πειραματίζονται ενεργά με εργαλεία ελέγχου τεχνητής νοημοσύνης.

Προς το παρόν, το μάθημα από το Κονέκτικατ είναι απλό: τα δικαστήρια το προσέχουν. Όπως καθιστά σαφές η απόφαση του δικαστή Σπέιντερ, το πρώτο άτομο που δοκίμασε την έγκαιρη ένεση σε δικαστήριο των ΗΠΑ πιάστηκε - και του επιβλήθηκε κυρώσεις - παρόλο που κανένα σύστημα τεχνητής νοημοσύνης δεν άκουγε ποτέ.

Μείνετε μπροστά από την τεχνητή νοημοσύνη Διαβάστε περισσότερα νέα AI →