Οι νομοθέτες της Καλιφόρνια ενέκριναν το νομοσχέδιο 574 της Γερουσίας, έναν πρώτο στο είδος του πολιτειακό νόμο που θέτει δεσμευτικούς κανόνες για τον τρόπο με τον οποίο οι δικηγόροι μπορούν να χρησιμοποιούν τη γενετική τεχνητή νοημοσύνη στην πρακτική τους - και το μέτρο βρίσκεται τώρα στο γραφείο του κυβερνήτη Gavin Newsom.
Το νομοσχέδιο, γνωστό ως Δικαστήριο A.I. Ο νόμος προστασίας, εγκρίθηκε από το Νομοθετικό Σώμα αυτή την εβδομάδα αφού η Γερουσία συμφώνησε με τις τροπολογίες της Συνέλευσης στις 31 Αυγούστου με ψήφους 39-0. Εισήχθη από τον γερουσιαστή Thomas Umberg, Δημοκρατικό από τη Santa Ana που προεδρεύει της Επιτροπής Δικαιοσύνης της Γερουσίας, το γραφείο της οποίας λέει ότι στόχος είναι η προστασία των ατόμων που λαμβάνουν νομικές υπηρεσίες καθώς τα εργαλεία AI εξαπλώνονται στο επάγγελμα. Το Reuters χαρακτήρισε το μέτρο ως τον πρώτο κρατικό νόμο του είδους του που διέπει τη χρήση γενετικής τεχνητής νοημοσύνης από τους δικηγόρους. Μέχρι να το υπογράψει ο Newsom, ωστόσο, οι απαιτήσεις του δεν είναι νόμοι. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες Τάσεις AI.
Τι απαιτεί το SB 574
Στον πυρήνα του, το νομοσχέδιο χαράσσει μια φωτεινή γραμμή: οι δικηγόροι δεν μπορούν να αναθέσουν τη νομική πρακτική σε ένα γενετικό σύστημα τεχνητής νοημοσύνης. Ένας δικηγόρος που χρησιμοποιεί AI παραμένει πλήρως υπεύθυνος για το νομικό έργο που παράγεται με αυτό.
Τα καθήκοντα επαλήθευσης είναι τα πιο συγκεκριμένα. Οι δικηγόροι που χρησιμοποιούν γενετική τεχνητή νοημοσύνη πρέπει να λάβουν εύλογα μέτρα για να επαληθεύσουν την ακρίβεια του αποτελέσματος — συμπεριλαμβανομένων περιπτώσεων και νόμιμων παραπομπών — και να διορθώσουν λανθασμένο ή κατασκευασμένο υλικό προτού βασιστούν σε αυτό. Περαιτέρω, οποιοσδήποτε δικηγόρος που είναι υπεύθυνος για μια σύντομη, πρόταση, υπόμνημα ή άλλο έγγραφο που κατατέθηκε σε δικαστήριο της Καλιφόρνια θα πρέπει να επαληθεύσει προσωπικά κάθε αναφορά στην κατάθεση, ανεξάρτητα από την πηγή της. Η εξάρτηση από ένα εργαλείο τεχνητής νοημοσύνης δεν θα δικαιολογούσε μια ψευδή αναφορά.
Η αποκάλυψη είναι ο δεύτερος πυλώνας. Οι δικηγόροι θα πρέπει να αποκαλύψουν τη χρήση γενετικής τεχνητής νοημοσύνης σε ένα δικαστήριο για έγγραφα που υποβάλλονται σε αυτό, και όσοι χρησιμοποιούν τεχνητή νοημοσύνη για να δημιουργήσουν υλικό που διανέμεται στο κοινό θα πρέπει να εξετάσουν εάν θα αποκαλύψουν τη χρήση του.
Κανόνες εμπιστευτικότητας για την εποχή ChatGPT
Ο τρίτος πυλώνας του νομοσχεδίου αφορά πού πηγαίνουν τα δεδομένα των δικηγόρων. Το SB 574 θα απαγόρευε στους δικηγόρους να εισάγουν εμπιστευτικές, προσωπικής ταυτοποίησης ή άλλες μη δημόσιες πληροφορίες σε ένα σύστημα τεχνητής νοημοσύνης που δημιουργείται, εκτός εάν η πρόσβαση σε αυτές τις πληροφορίες περιορίζεται στον δικηγόρο και σε άτομα που εξουσιοδοτεί ο πληρεξούσιος και τα οποία είναι τα ίδια υποχρεωμένα να προστατεύουν το απόρρητό του.
Η διάταξη απαριθμεί τις ευαίσθητες κατηγορίες ως προς το πεδίο εφαρμογής: Αριθμούς Κοινωνικής Ασφάλισης, ημερομηνίες γέννησης, ιατρικά και ψυχιατρικά αρχεία, οικονομικές πληροφορίες, αριθμούς λογαριασμών και διευθύνσεις ή τηλέφωνα που ανήκουν σε διαδίκους, μάρτυρες, θύματα και δικαστικό προσωπικό. Σημειωτέον, το νομοσχέδιο δεν απαγορεύει τη χρήση συστημάτων τεχνητής νοημοσύνης με εμπιστευτικό υλικό – η δοκιμή είναι εάν το σύστημα περιορίζει επαρκώς την πρόσβαση σε ό,τι έχει εισαχθεί.
Γιατί ενήργησαν οι νομοθέτες
Η νομοθεσία ανταποκρίνεται στον πιο ορατό τρόπο αποτυχίας της τεχνητής νοημοσύνης στις δικαστικές αίθουσες: την παραισθησιακή εξουσία. Μεγάλα γλωσσικά μοντέλα μπορούν να παράγουν απαντήσεις που φαίνονται έγκυρες, ενώ εφευρίσκουν υποθέσεις, αποσπάσματα και νόμους, και τα δικαστήρια σε όλη τη χώρα έχουν επιβάλει κυρώσεις σε δικηγόρους που υπέβαλαν υποθέσεις επικαλούμενες πλασματικές νομικές αρχές που δημιουργούνται από την τεχνητή νοημοσύνη.
Οι ανησυχίες για το απόρρητο έχουν αυξηθεί παράλληλα. Νωρίτερα αυτό το έτος, ο περιφερειακός δικαστής των ΗΠΑ Jed Rakoff στη Νέα Υόρκη αποφάσισε στην υπόθεση United States κατά Heppner ότι οι αυτοκατευθυνόμενες συνομιλίες ενός κατηγορούμενου με τον Claude του Anthropic δεν προστατεύονταν από το προνόμιο δικηγόρου-πελάτη ή το δόγμα του προϊόντος εργασίας — εν μέρει επειδή ο κατηγορούμενος είχε αποκαλύψει πληροφορίες σε μια πλατφόρμα AI. Αν και αυτή η υπόθεση αφορούσε έναν πελάτη και όχι έναν δικηγόρο, δείχνει την έκθεση που αντιμετωπίζουν ευαίσθητες νομικές πληροφορίες όταν εισάγονται σε συστήματα τεχνητής νοημοσύνης τρίτων.
Η Καλιφόρνια έχει ήδη ασχοληθεί με αυτές τις ερωτήσεις μέσω επαγγελματικής καθοδήγησης. Ο δικηγορικός σύλλογος της Καλιφόρνια ενημέρωσε την Πρακτική του καθοδήγηση για τη χρήση της γενετικής τεχνητής νοημοσύνης στη νομική πρακτική τον Μάιο του 2026, καλύπτοντας την ικανότητα, την εμπιστευτικότητα, την εποπτεία, τις επικοινωνίες πελατών και την ειλικρίνεια στα δικαστήρια. Το Ανώτατο Δικαστήριο της Καλιφόρνια ζήτησε από τον κρατικό δικηγορικό σύλλογο το 2025 να εξετάσει το ενδεχόμενο ενσωμάτωσης αρχών που σχετίζονται με την τεχνητή νοημοσύνη στους Κανόνες Επαγγελματικής Συμπεριφοράς, με προτεινόμενες αλλαγές υπό εξέταση που θα διευκρινίσουν την ευθύνη των δικηγόρων τόσο για το τι ισχύει στα συστήματα τεχνητής νοημοσύνης όσο και για το τι βγαίνει. Το SB 574 μεταφέρει αρκετές από αυτές τις έννοιες από την καθοδήγηση στο καταστατικό.
Πέρα από Δικηγόρους: Διαιτητές και Δικαστές
Το νομοσχέδιο φτάνει πιο πέρα από τους δικηγόρους. Απαγορεύεται στους διαιτητές να αναθέτουν οποιοδήποτε τμήμα των αρμοδιοτήτων τους στη λήψη αποφάσεων σε γενετική τεχνητή νοημοσύνη και δεν θα μπορούσαν να βασίζονται σε πληροφορίες που δημιουργούνται από την τεχνητή νοημοσύνη εκτός του αρχείου αποδεικτικών στοιχείων χωρίς προηγουμένως να αποκαλύψουν τη χρήση τους στα μέρη και, όταν είναι πρακτικό, να τους δοθεί η ευκαιρία να απαντήσουν. Το μέτρο απαιτεί επίσης από το δικαστικό συμβούλιο της Καλιφόρνια να επανεξετάσει τα πρότυπά του που διέπουν τη δικαστική χρήση της γενετικής τεχνητής νοημοσύνης καθώς αναπτύσσεται η τεχνολογία.
Τι θα συμβεί στη συνέχεια
Ο Newsom δεν έχει ακόμη ενεργήσει σχετικά με το νομοσχέδιο και η απόφασή του θα παρακολουθηθεί πολύ πέρα από την Καλιφόρνια. Η ισχύς της πολιτείας στην αγορά το έχει καταστήσει ντε φάκτο ρυθμιστή του κλάδου της τεχνητής νοημοσύνης — ο νόμος διαφάνειας SB 53 για τα μοντέλα συνόρων υπογράφηκε το 2025 — και ένας κυβερνήτης που έχει ισορροπήσει την προώθηση της τεχνητής νοημοσύνης και την προσοχή της τεχνητής νοημοσύνης στο παρελθόν αποφασίζει τώρα εάν η επαγγελματική χρήση τεχνητής νοημοσύνης γίνεται θεσμικό καθήκον για τον μεγαλύτερο δικηγόρο της χώρας.
Εάν υπογραφεί, το SB 574 θα δοκιμάσει μια μέση οδό που είναι πιθανό να μελετήσουν άλλες πολιτείες: αντί να απαγορεύσει την τεχνητή νοημοσύνη στη νομική πρακτική, η Καλιφόρνια θα δέσμευε τη χρήση της με τις υπάρχουσες υποχρεώσεις του επαγγέλματος - επαλήθευση, ειλικρίνεια και εμπιστευτικότητα - με τον δικηγόρο, όχι το εργαλείο, να έχει την ευθύνη.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
