Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε κυρώσεις σε έναν δικηγόρο για την υποβολή προσφυγής για φόνο που βασίστηκε σε μάρτυρες που δεν υπήρξαν ποτέ - κατασκευασμένα χονδρικά από την ChatGPT - σε ένα από τα πιο έντονα παραδείγματα «παραισθήσεων» τεχνητής νοημοσύνης που έφτασαν στην καρδιά του αμερικανικού συστήματος δικαιοσύνης.
Σύμφωνα με δημοσίευμα του Reuters, το ανώτατο δικαστήριο της πολιτείας επέβαλε πρόστιμο 5.000 δολαρίων στον δικηγόρο της Σάντα Φε, Στίβεν Άαρονς και τον περιφρόνησε επειδή δεν επαλήθευσε τους πραγματικούς ισχυρισμούς και τη νομική εξουσία στο πρακτικό του που δημιουργήθηκε από την τεχνητή νοημοσύνη. Η δικογραφία, που υποβλήθηκε ως μέρος της προσφυγής κατά της καταδίκης του πελάτη του για φόνο, «περιείχε ψευδείς μαρτυρίες από πλήρως κατασκευασμένους μάρτυρες», μαζί με ψευδείς ισχυρισμούς σχετικά με τα ρούχα και την εμφάνιση του δράστη. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες [ έκτακτες ειδήσεις AI] (https://aibuzzwire.news).
Τι διαπίστωσε το Δικαστήριο
Η κατάθεση του δικαστηρίου δεν περιέγραφε μικρές ανακρίβειες. Περιέγραφε ένα δευτεροβάθμιο έγγραφο που παραπλανούσε τους ανθρώπους από τον αέρα: μαρτυρίες που αποδίδονται σε μάρτυρες που δεν υπάρχουν και εφευρέθηκαν δηλώσεις της αστυνομίας για το τι φορούσε ο δράστης και πώς ήταν ο δράστης — ακριβώς το είδος της πραγματικής λεπτομέρειας που μπορεί να προκαλέσει μια καταδίκη για φόνο.
Σύμφωνα με το The Verge, το οποίο ανέφερε σχετικά με την κατάθεση του δικαστηρίου, η κύρωση επιβλήθηκε επειδή ο Aarons απέτυχε να «επαληθεύσει τους πραγματικούς ισχυρισμούς και τη νομική εξουσία στην έγκλησή του που δημιουργήθηκε από AI» πριν την υποβάλει στο δικαστήριο. Με άλλα λόγια, το πρόβλημα δεν ήταν ότι ένας δικηγόρος χρησιμοποίησε ένα εργαλείο AI για να βοηθήσει στη σύνταξη. Ήταν ότι ο δικηγόρος κατέθεσε το αποτέλεσμα χωρίς να ελέγξει ούτε μια κατασκευασμένη αξίωση έναντι του πραγματικού αρχείου της δίκης.
"Σύμβουλε, παρακολουθείς τις ειδήσεις;"
Ο εξαιρετικός χαρακτήρας της υπόθεσης εμφανίστηκε σε μια ακρόαση τον Αύγουστο, όπου ο Aarons παραδέχτηκε ότι είχε χρησιμοποιήσει το ChatGPT και είπε στο δικαστήριο ότι περίμενε το chatbot να παράγει μια "αλεξίσφαιρη περίληψη" της δίκης. Αυτή η προσδοκία προκάλεσε μια έντονη απάντηση από τον δικαστή του Ανωτάτου Δικαστηρίου του Νέου Μεξικού C. Shannon Bacon.
"Σύμβουλε, βλέπεις ειδήσεις; Ακούς ραδιόφωνο; Διαβάζεις τίποτα για το τι συμβαίνει στον κόσμο;" ρώτησε ο Μπέικον, σύμφωνα με το Reuters. «Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται σε παραισθήσεις τεχνητής νοημοσύνης είναι μια ιστορία πάνω από το θέμα κάθε μέρα».
Η επίπληξη της δικαιοσύνης κατέγραψε τον βαθμό στον οποίο οι παραπομπές και οι μαρτυρίες κατασκευασμένες από τεχνητή νοημοσύνη έχουν μετακινηθεί από ένα εξειδικευμένο τεχνικό πρόβλημα σε μια κύρια επαγγελματική ευθύνη - κάτι που οι δικαστές υποθέτουν τώρα ότι κάθε δικηγόρος πρέπει να γνωρίζει.
Το τελευταίο σε μια σειρά από κυρώσεις AI
Η υπόθεση του Νέου Μεξικού είναι η τελευταία σε έναν ταχέως αναπτυσσόμενο κατάλογο δικαστηρίων που τιμωρούν τους δικηγόρους για ανεξέλεγκτη χρήση τεχνητής νοημοσύνης. Πέρυσι, ένας δικαστής επέκρινε δύο δικηγορικά γραφεία επειδή υπέβαλαν ένα έγγραφο που περιείχε «πολλές ψευδείς, ανακριβείς και παραπλανητικές νομικές αναφορές και αποσπάσματα», ενώ οι δικηγόροι που εκπροσωπούν τον ιδρυτή του MyPillow Μάικ Λίντελ επιβλήθηκαν επίσης πρόστιμο για τη συμπερίληψη εσφαλμένων παραπομπών και ψεύτικων παραπομπών σε δικαστική κατάθεση, σημείωσε το The Verge.
Αυτό που ξεχωρίζει την κύρωση στο Νέο Μεξικό είναι το υλικό που κατασκευάστηκε. Οι περισσότερες προηγούμενες υποθέσεις αφορούσαν επινοήσεις νομικών παραπομπών — πλαστά προηγούμενα, ψεύτικα αποσπάσματα από πραγματικές υποθέσεις. Εδώ, η κατασκευή πήγε στα ίδια τα γεγονότα: μάρτυρες, μαρτυρίες και περιγραφές φυσικών αποδεικτικών στοιχείων σε μια ποινική έφεση. Αυτή η διάκριση έχει σημασία, επειδή η κατασκευή γεγονότων σε μια υπόθεση δολοφονίας πλήττει τον πυρήνα αυτού που υπάρχει για την προστασία του εφετείου.
Η γραμμή τάσης είναι αδιαμφισβήτητη. Όπως παρατήρησε το The Verge, καθώς ο αριθμός των δικηγόρων που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης στην εργασία τους αυξάνεται, αυξάνονται και οι περιπτώσεις στις οποίες ένα δικαστήριο ανακαλύπτει παραπομπές που έχουν κατασκευαστεί - ή παραισθήσεις - από AI. Αυτό που κάποτε αντιμετωπιζόταν ως ενοχλητική παράλειψη τιμωρείται όλο και περισσότερο ως αποτυχία επαγγελματικής ικανότητας, με πρόστιμα, αποφάσεις περιφρόνησης και έλεγχο από τις πειθαρχικές αρχές.
"Είμαι μετανιωμένος"
Ο Άαρονς, από την πλευρά του, είπε στο Ρόιτερς ότι ελπίζει ότι οι συνέπειες θα σταματήσουν από την επαγγελματική πειθαρχία. «Είμαι μετανιωμένος, αλλά ελπίζω ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη ότι ήταν ένα ειλικρινές λάθος», είπε σε δήλωσή του.
Το αν το πειθαρχικό συμβούλιο το αντιμετωπίζει ως ειλικρινές λάθος, μένει να φανεί, αλλά το ανώτατο δικαστήριο της πολιτείας έχει ήδη ξεκαθαρίσει τη δική του άποψη: πρόστιμο 5.000 δολαρίων και περιφρόνηση για μια σύνταξη που δεν επαληθεύτηκε ποτέ σε σχέση με την πραγματικότητα.
Γιατί έχει σημασία
Η υπόθεση εκδικάζεται καθώς τα δικαστήρια σε όλη τη χώρα σκληραίνουν τις θέσεις τους σχετικά με τη χρήση τεχνητής νοημοσύνης σε δικαστικές διαφορές. Οι δικαστές απαιτούν όλο και περισσότερο από τους δικηγόρους να πιστοποιούν ότι τα αρχεία που δημιουργούνται από την τεχνητή νοημοσύνη έχουν επαληθευτεί και οι κυρώσεις έχουν γίνει ο ορατός μηχανισμός επιβολής. Το μήνυμα από το Ανώτατο Δικαστήριο του Νέου Μεξικού είναι πιθανό να ταξιδέψει πολύ πέρα από τα σύνορά του: το καθήκον της επαλήθευσης είναι προσωπικό, μη μεταβιβάσιμο και δεν εξαφανίζεται επειδή ένα chatbot παρήγαγε πεζογραφία με αυτοπεποίθηση.
Για το δικηγορικό επάγγελμα, ο υπολογισμός αλλάζει. Τα εργαλεία σύνταξης τεχνητής νοημοσύνης μπορούν να εξοικονομήσουν ώρες εργασίας, αλλά ένας μόνο κατασκευασμένος μάρτυρας σε μια καταγεγραμμένη σύνταξη μπορεί τώρα να κοστίσει πρόστιμο, απόφαση περιφρόνησης και παραπομπή στις πειθαρχικές αρχές - κάτι που λίγοι επαγγελματίες θα βρουν ελκυστικό. Για όλους τους άλλους, η υπόθεση είναι μια υπενθύμιση ότι οι άνθρωποι που προορίζονται να ελέγχουν τις εξόδους της AI βρίσκονται υπό μεγαλύτερη πίεση από ποτέ για να τις ελέγξουν πραγματικά.
Το διακύβευμα είναι υψηλότερο σε ποινικές υποθέσεις. Οι κυρώσεις για ψεύτικες αναφορές σπαταλούν δικαστικό χρόνο. κατασκευασμένα στοιχεία σε μια έφεση δολοφονίας αγγίζουν τον μηχανισμό που αποφασίζει εάν μια καταδίκη ισχύει. Ένα δευτεροβάθμιο δικαστήριο μπορεί να σταθμίσει μόνο τις αξιώσεις που στηρίζονται στο πραγματικό αρχείο - και μια σύντομη σπορά με μάρτυρες φάντασμα ζητά από τους δικαστές να αποφανθούν για γεγονότα που δεν συνέβησαν ποτέ.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
