Kalifornští zákonodárci schválili Senátní zákon 574, první státní zákon svého druhu, který stanoví závazná pravidla pro to, jak mohou právníci používat generativní umělou inteligenci ve své praxi – a opatření nyní leží na stole guvernéra Gavina Newsoma.

Návrh zákona, známý jako Court A.I. Zákon o ochraně, schválil zákonodárný sbor tento týden poté, co Senát 31. srpna souhlasil s pozměňovacími návrhy shromáždění v poměru 39:0. Představil jej senátor Thomas Umberg, demokrat ze Santa Ana, který předsedá senátnímu soudnímu výboru, jehož kancelář říká, že cílem je chránit lidi, kteří dostávají právní služby jako nástroje umělé inteligence šířené v této profesi. Agentura Reuters opatření charakterizovala jako první státní zákon svého druhu, kterým se řídí používání generativní umělé inteligence právníky. Dokud to Newsom nepodepíše, jeho požadavky však nejsou zákonem. Další kontext k tomuto příběhu naleznete v našich probíhajících Trendech AI.

Co vyžaduje SB 574

Ve svém jádru návrh zákona kreslí jasnou čáru: právníci nemohou delegovat výkon advokacie na generativní systém umělé inteligence. Právník, který používá AI, zůstává plně odpovědný za právní práci s ní.

Ověřovací povinnosti jsou nejkonkrétnější. Právníci používající generativní umělou inteligenci musí podniknout přiměřené kroky k ověření přesnosti výstupu – včetně případových a zákonných citací – a opravit chybný nebo vyrobený materiál, než se na něj spolehnout. A dále, každý právní zástupce odpovědný za stručnou zprávu, návrh, prosbu nebo jiný dokument podaný u kalifornského soudu by musel osobně ověřit každou citaci v podání bez ohledu na jeho zdroj. Spoléhání se na nástroj umělé inteligence neomlouvá falešnou citaci.

Zveřejňování je druhým pilířem. Právníci by museli použití generativní umělé inteligence oznámit soudu pro dokumenty, které mu byly předloženy, a ti, kteří používají AI k vytváření materiálů distribuovaných veřejnosti, by museli zvážit, zda její použití zveřejní.

Pravidla důvěrnosti pro éru ChatGPT

Třetí pilíř zákona řeší, kam jdou data právníků. SB 574 by zakazoval právníkům zadávat důvěrné, osobní identifikační nebo jiné neveřejné informace do generativního systému umělé inteligence, pokud přístup k těmto informacím není omezen na právníka a na osoby, které právní zástupce zmocňuje a kteří jsou sami povinni chránit jejich důvěrnost.

Ustanovení vyjmenovává citlivé kategorie v rozsahu: čísla sociálního pojištění, data narození, lékařské a psychiatrické záznamy, finanční informace, čísla účtů a adresy nebo telefonní čísla stran, svědků, obětí a soudního personálu. Návrh zákona zejména nezakazuje používání systémů umělé inteligence s důvěrným materiálem přímo – testem je, zda systém adekvátně omezuje přístup k tomu, co je zadáno.

Proč zákonodárci jednali

Legislativa reaguje na nejviditelnější způsob selhání AI v soudních síních: halucinovanou autoritu. Velké jazykové modely mohou při vymýšlení případů, citací a zákonů vytvářet odpovědi, které vypadají směrodatně, a soudy po celé zemi schválily právníky, kteří podávali informace s odkazem na fiktivní právní orgány generované AI.

Spolu s tím vzrostly obavy o soukromí. Začátkem tohoto roku americký okresní soudce Jed Rakoff v New Yorku rozhodl ve věci Spojené státy proti Heppnerovi, že samořízené rozhovory obžalovaného s Claudem z Anthropic nebyly chráněny privilegiem právního zástupce a klienta ani doktrínou pracovního produktu – částečně proto, že obžalovaný poskytl informace platformě AI třetí strany. I když se tento případ týkal spíše klienta než právníka, ilustruje to, jak citlivé právní informace čelí, když jsou zadány do systémů umělé inteligence třetích stran.

Kalifornie se již těmito otázkami zabývala prostřednictvím profesionálního vedení. Státní advokátní komora v Kalifornii v květnu 2026 aktualizovala své Praktické pokyny pro používání generativní umělé inteligence v praxi práva, které se týkají kompetence, důvěrnosti, dohledu, komunikace s klienty a otevřenosti vůči soudům. Kalifornský nejvyšší soud nařídil státní advokátní kanceláři v roce 2025, aby zvážila začlenění zásad souvisejících s umělou inteligencí do Pravidel profesionálního chování, přičemž se zvažují navrhované změny, které by objasnily odpovědnost advokátů za to, co jde do systémů umělé inteligence, i za to, co vychází. SB 574 posouvá několik těchto pojmů z vedení do statutu.

Za advokáty: Rozhodci a soudci

Návrh zákona sahá dále než právníci. Rozhodci by měli zakázáno delegovat jakoukoli část svých rozhodovacích pravomocí na generativní AI a nemohli by se spoléhat na informace generované AI mimo důkazní záznamy, aniž by stranám předem sdělili jejich použití a pokud je to praktické, nedali jim příležitost odpovědět. Opatření také vyžaduje, aby Kalifornská soudní rada přehodnotila své standardy upravující soudní použití generativní umělé inteligence, jak se technologie vyvíjí.

Co se stane dál

Newsom ještě nejednal o návrhu zákona a jeho rozhodnutí bude sledováno daleko za hranicemi Kalifornie. Tržní síla státu z něj udělala de facto regulátora odvětví umělé inteligence – jeho zákon o transparentnosti SB 53 pro hraniční modely byl podepsán v roce 2025 – a guvernér, který v minulosti vyvážil propagaci umělé inteligence a opatrnost ohledně umělé inteligence, nyní rozhoduje o tom, zda se profesionální používání umělé inteligence stane pro největší populaci právníků v zemi záležitostí zákonné povinnosti.

Pokud by byl SB 574 podepsán, otestoval by střední cestu, kterou ostatní státy pravděpodobně budou studovat: namísto zákazu umělé inteligence v právní praxi by Kalifornie zavázala její použití ke stávajícím povinnostem profese – ověřování, upřímnost a důvěrnost – s právníkem, nikoli nástrojem, který by ponechal odpovědnost.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →