I legislatori della California hanno approvato il Senate Bill 574, una legge statale unica nel suo genere che stabilisce regole vincolanti su come gli avvocati possono utilizzare l'intelligenza artificiale generativa nella loro pratica - e la misura ora è sulla scrivania del governatore Gavin Newsom.
Il disegno di legge, noto come Corte A.I. Protection Act, ha autorizzato la legislatura questa settimana dopo che il Senato ha approvato gli emendamenti dell'Assemblea il 31 agosto con un voto di 39-0. È stato introdotto dal senatore Thomas Umberg, un democratico di Santa Ana che presiede la commissione giudiziaria del Senato, il cui ufficio afferma che l’obiettivo è proteggere le persone che ricevono servizi legali mentre gli strumenti di intelligenza artificiale si diffondono nella professione. Reuters ha definito la misura la prima legge statale di questo tipo che disciplina l’uso dell’intelligenza artificiale generativa da parte degli avvocati. Fino a quando Newsom non lo firmerà, tuttavia, i suoi requisiti non saranno legge. Per ulteriori informazioni su questa storia, consulta le nostre tendenze AI in corso.
Cosa richiede SB 574
Nella sostanza, il disegno di legge traccia una linea chiara: gli avvocati non possono delegare la pratica legale a un sistema di intelligenza artificiale generativa. Un avvocato che utilizza l'intelligenza artificiale rimane pienamente responsabile del lavoro legale prodotto con essa.
I compiti di verifica sono i più concreti. Gli avvocati che utilizzano l’intelligenza artificiale generativa devono adottare misure ragionevoli per verificare l’accuratezza dei risultati – comprese le citazioni di casi e statuti – e correggere materiale errato o inventato prima di fare affidamento su di esso. Andando oltre, qualsiasi avvocato responsabile di una memoria, mozione, memoria o altro documento depositato presso un tribunale della California dovrebbe verificare personalmente ogni citazione nel deposito, qualunque sia la sua fonte. Fare affidamento su uno strumento di intelligenza artificiale non giustificherebbe una falsa citazione.
La divulgazione è il secondo pilastro. Gli avvocati dovrebbero rivelare l’uso dell’intelligenza artificiale generativa a un tribunale per i documenti presentati, e coloro che utilizzano l’intelligenza artificiale per creare materiale distribuito al pubblico dovrebbero valutare se divulgarne l’uso.
Regole di riservatezza per l'era ChatGPT
Il terzo pilastro del disegno di legge riguarda la destinazione dei dati degli avvocati. L’SB 574 proibirebbe agli avvocati di inserire informazioni riservate, di identificazione personale o altre informazioni non pubbliche in un sistema di intelligenza artificiale generativa a meno che l’accesso a tali informazioni non sia limitato all’avvocato e alle persone da lui autorizzate che sono a loro volta obbligate a proteggerne la riservatezza.
La norma enumera le categorie sensibili interessate: numeri di previdenza sociale, date di nascita, cartelle cliniche e psichiatriche, informazioni finanziarie, numeri di conto, indirizzi o numeri di telefono delle parti, dei testimoni, delle vittime e del personale giudiziario. In particolare, il disegno di legge non vieta completamente l’uso di sistemi di intelligenza artificiale con materiale riservato: il test è se il sistema limita adeguatamente l’accesso a ciò che viene inserito.
Perché i legislatori hanno agito
La legislazione risponde alla modalità di fallimento più visibile dell’intelligenza artificiale nelle aule di tribunale: l’autorità allucinata. I modelli linguistici di grandi dimensioni possono produrre risposte che sembrano autorevoli mentre inventano casi, citazioni e statuti, e i tribunali di tutto il paese hanno sanzionato avvocati che hanno presentato memorie citando autorità legali fittizie generate dall’intelligenza artificiale.
Le preoccupazioni sulla privacy sono cresciute di pari passo. All'inizio di quest'anno, il giudice distrettuale degli Stati Uniti Jed Rakoff a New York ha stabilito nel caso Stati Uniti contro Heppner che le conversazioni autodirette di un imputato criminale con Claude di Anthropic non erano protette dal privilegio avvocato-cliente o dalla dottrina del prodotto lavorativo, in parte perché l'imputato aveva divulgato informazioni a una piattaforma di intelligenza artificiale di terze parti. Sebbene quel caso coinvolgesse un cliente piuttosto che un avvocato, illustra l’esposizione a cui vanno incontro le informazioni legali sensibili quando vengono inserite nei sistemi di intelligenza artificiale di terze parti.
La California si è già impegnata con queste domande attraverso una guida professionale. L'Ordine degli avvocati della California ha aggiornato la sua Guida pratica per l'uso dell'intelligenza artificiale generativa nella pratica legale nel maggio 2026, coprendo competenza, riservatezza, supervisione, comunicazioni con i clienti e sincerità nei confronti dei tribunali. Nel 2025, la Corte Suprema della California ha ordinato all'Ordine degli avvocati di prendere in considerazione l'integrazione dei principi relativi all'intelligenza artificiale nelle regole di condotta professionale, con proposte di modifica allo studio che chiarirebbero la responsabilità degli avvocati sia per ciò che entra nei sistemi di intelligenza artificiale sia per ciò che ne viene fuori. L'SB 574 sposta molti di questi concetti dalle linee guida allo statuto.
Oltre gli avvocati: arbitri e giudici
Il disegno di legge va oltre gli avvocati. Agli arbitri sarebbe vietato delegare qualsiasi parte delle loro responsabilità decisionali all’intelligenza artificiale generativa e non potrebbero fare affidamento sulle informazioni generate dall’intelligenza artificiale al di fuori del registro probatorio senza prima rivelarne l’utilizzo alle parti e, quando possibile, dare loro l’opportunità di rispondere. La misura richiede inoltre al Consiglio giudiziario della California di rivedere i suoi standard che regolano l’uso giudiziario dell’intelligenza artificiale generativa man mano che la tecnologia si sviluppa.
Cosa succede dopo
Newsom non ha ancora agito in merito al disegno di legge e la sua decisione sarà osservata ben oltre la California. Il potere di mercato dello Stato lo ha reso il regolatore de facto del settore dell’IA – la sua legge sulla trasparenza SB 53 per i modelli di frontiera è stata firmata nel 2025 – e un governatore che in passato ha bilanciato la promozione dell’IA e la cautela nell’IA ora decide se l’uso professionale dell’IA diventa una questione di obbligo legale per la più grande popolazione di avvocati del paese.
Se firmato, l’SB 574 metterebbe alla prova una via di mezzo che altri stati probabilmente studieranno: invece di vietare l’intelligenza artificiale nella pratica legale, la California ne legherebbe l’uso agli obblighi esistenti della professione – verifica, sincerità e riservatezza – con l’avvocato, non lo strumento, lasciato a detenere la responsabilità.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
