Kaliforniens lagstiftare har godkänt senatens lagförslag 574, en första i sitt slag delstatslag som anger bindande regler för hur advokater får använda generativ artificiell intelligens i sin praktik – och åtgärden sitter nu på guvernör Gavin Newsoms skrivbord.
Lagförslaget, känt som Court A.I. Protection Act, godkände den lagstiftande församlingen denna vecka efter att senaten samtyckte till ändringar i församlingen den 31 augusti med en röst på 39-0. Den introducerades av senator Thomas Umberg, en demokrat från Santa Ana som är ordförande för senatens rättsliga kommitté, vars kontor säger att målet är att skydda människor som får juridiska tjänster eftersom AI-verktyg sprids genom yrket. Reuters karakteriserade åtgärden som den första statliga lagen i sitt slag som reglerar advokaters användning av generativ AI. Tills Newsom undertecknar det, är dess krav dock inte lag. För mer sammanhang om den här historien, se våra pågående AI-trender.
Vad SB 574 kräver
I grunden drar lagförslaget en ljus linje: advokater kan inte delegera utövandet av juridik till ett generativt AI-system. En advokat som använder AI förblir fullt ansvarig för det juridiska arbetet som produceras med den.
Verifieringsuppgifterna är de mest konkreta. Advokater som använder generativ AI måste vidta rimliga åtgärder för att verifiera riktigheten av utdata – inklusive fall och lagstadgade hänvisningar – och korrigera felaktigt eller tillverkat material innan de förlitar sig på det. Om man går längre, skulle varje advokat som är ansvarig för en skrivelse, motion, plädering eller annat papper som lämnats in till en domstol i Kalifornien måste personligen verifiera varje citat i ansökan, oavsett källan. Att lita på ett AI-verktyg skulle inte ursäkta ett falskt citat.
Offentliggörande är den andra pelaren. Advokater skulle behöva avslöja användningen av generativ AI för en domstol för dokument som lämnats till den, och de som använder AI för att skapa material som distribueras till allmänheten måste överväga om de ska avslöja användningen.
Konfidentialitetsregler för ChatGPT-eran
Lagförslagets tredje pelare tar upp var advokaternas data går. SB 574 skulle förbjuda advokater från att skriva in konfidentiell, personligt identifierande eller annan icke-offentlig information i ett generativt AI-system om inte åtkomsten till den informationen är begränsad till advokaten och till personer som advokaten auktoriserar som själva är skyldiga att skydda dess konfidentialitet.
Bestämmelsen räknar upp de känsliga kategorierna i tillämpningsområdet: personnummer, födelsedatum, medicinska och psykiatriska register, ekonomisk information, kontonummer och adresser eller telefonnummer som tillhör parter, vittnen, offer och domstolspersonal. Noterbart är att lagförslaget inte förbjuder användningen av AI-system med konfidentiellt material direkt - testet är om systemet på ett adekvat sätt begränsar åtkomsten till det som skrivs in.
Varför lagstiftare agerade
Lagstiftningen svarar på det mest synliga felläget för AI i rättssalar: hallucinerad auktoritet. Stora språkmodeller kan ge svar som ser auktoritativa ut när de uppfinner fall, citat och stadgar, och domstolar runt om i landet har sanktionerat advokater som lämnat in brief som citerar fiktiva juridiska myndigheter som genererats av AI.
Integritetsproblemen har ökat. Tidigare i år beslutade den amerikanska distriktsdomaren Jed Rakoff i New York i USA mot Heppner att en brottslig åtalads självstyrda samtal med Anthropics Claude inte skyddades av advokat-klient-privilegier eller arbetsproduktdoktrinen – delvis på grund av att den tilltalade hade avslöjat information till en tredje parts AI-plattform. Även om det fallet involverade en klient snarare än en advokat, illustrerar det exponeringen som känslig juridisk information möter när den läggs in i tredjeparts AI-system.
Kalifornien har redan engagerat sig i dessa frågor genom professionell vägledning. State Bar of California uppdaterade sin praktiska vägledning för användningen av generativ artificiell intelligens i utövandet av juridik i maj 2026, som täcker kompetens, konfidentialitet, övervakning, klientkommunikation och uppriktighet inför domstolar. Högsta domstolen i Kalifornien beordrade 2025 State Advokat att överväga att införliva AI-relaterade principer i Rules of Professional Conduct, med föreslagna ändringar under övervägande som skulle klargöra advokaternas ansvar för både vad som ingår i AI-system och vad som kommer ut. SB 574 flyttar flera av dessa begrepp från vägledning till lag.
Beyond Attorneys: Skiljemän och domare
Lagförslaget når längre än advokater. Skiljemän skulle vara förbjudna att delegera någon del av sitt beslutsfattande ansvar till generativ AI och skulle inte kunna förlita sig på AI-genererad information utanför bevismaterialet utan att först avslöja dess användning för parterna och, när det är praktiskt möjligt, ge dem en möjlighet att svara. Åtgärden kräver också att California Judicial Council ser över sina standarder för rättslig användning av generativ AI allt eftersom tekniken utvecklas.
Vad händer härnäst
Newsom har ännu inte agerat på lagförslaget, och hans beslut kommer att ses långt bortom Kalifornien. Statens marknadsmakt har gjort den till de facto-regulatorn av AI-industrin – dess SB 53 öppenhetslag för frontiermodeller undertecknades 2025 – och en guvernör som tidigare har balanserat AI-främjande och AI-försiktighet beslutar nu om professionell AI-användning blir en lagstadgad plikt för landets största advokatpopulation.
Om den undertecknades skulle SB 574 testa en medelväg som andra stater sannolikt kommer att studera: i stället för att förbjuda AI i juridisk praxis, skulle Kalifornien binda dess användning till yrkets befintliga skyldigheter – verifiering, uppriktighet och konfidentialitet – med advokaten, inte verktyget, kvar på ansvaret.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
