Kalifornijscy prawodawcy zatwierdzili ustawę Senatu nr 574, pierwsze w swoim rodzaju prawo stanowe, które ustala wiążące zasady dotyczące sposobu, w jaki prawnicy mogą wykorzystywać generatywną sztuczną inteligencję w swojej praktyce – a ustawa leży obecnie na biurku gubernatora Gavina Newsoma.
Projekt ustawy, znany jako Trybunał A.I. Protection Act, zatwierdzona przez legislaturę w tym tygodniu po tym, jak Senat zgodził się z poprawkami Zgromadzenia 31 sierpnia większością 39 do 0. Został wprowadzony przez senatora Thomasa Umberga, demokratę z Santa Ana, który przewodniczy Senackiej Komisji Sądownictwa, której biuro twierdzi, że celem jest ochrona osób korzystających z usług prawnych w miarę rozprzestrzeniania się narzędzi sztucznej inteligencji w zawodzie. Reuters scharakteryzował to rozwiązanie jako pierwsze tego rodzaju prawo stanowe regulujące korzystanie przez prawników z generatywnej sztucznej inteligencji. Jednak dopóki Newsom jej nie podpisze, jej wymagania nie są prawem. Więcej kontekstu tej historii znajdziesz w naszych bieżących trendach związanych ze sztuczną inteligencją.
Czego wymaga SB 574
U podstaw projektu ustawy jest jasna linia: prawnicy nie mogą delegować praktyki prawniczej do generatywnego systemu sztucznej inteligencji. Prawnik korzystający ze sztucznej inteligencji pozostaje w pełni odpowiedzialny za powstałą przy jej pomocy pracę prawną.
Obowiązki weryfikacyjne są najbardziej konkretne. Prawnicy korzystający z generatywnej sztucznej inteligencji muszą podjąć rozsądne kroki w celu sprawdzenia dokładności wyników – w tym cytatów ze spraw i ustaw – oraz skorygowania błędnych lub sfabrykowanych materiałów, zanim będą na nich polegać. Idąc dalej, każdy prawnik odpowiedzialny za brief, wniosek, pismo procesowe lub inny dokument złożony w sądzie w Kalifornii musiałby osobiście zweryfikować każdy cytat w zgłoszeniu, niezależnie od jego źródła. Poleganie na narzędziu AI nie usprawiedliwia fałszywego cytatu.
Ujawnianie informacji to drugi filar. Prawnicy musieliby ujawnić sądowi wykorzystanie generatywnej sztucznej inteligencji w odniesieniu do przedkładanych mu dokumentów, a osoby wykorzystujące sztuczną inteligencję do tworzenia materiałów rozpowszechnianych publicznie musiałyby rozważyć, czy ujawnić jej wykorzystanie.
Zasady poufności w erze ChatGPT
Trzeci filar projektu dotyczy tego, gdzie trafiają dane prawników. SB 574 zabrania prawnikom wprowadzania informacji poufnych, umożliwiających identyfikację lub innych niepublicznych informacji do generatywnego systemu sztucznej inteligencji, chyba że dostęp do tych informacji jest ograniczony do prawnika i osób przez niego upoważnionych, które same są zobowiązane do ochrony ich poufności.
Przepis wymienia w swoim zakresie kategorie wrażliwe: numery PESEL, daty urodzenia, dokumentację medyczną i psychiatryczną, informacje finansowe, numery rachunków oraz adresy lub numery telefonów stron, świadków, ofiar i pracowników sądu. Warto zauważyć, że projekt ustawy nie zabrania wprost korzystania z systemów sztucznej inteligencji w przypadku materiałów poufnych – test polega na tym, czy system odpowiednio ogranicza dostęp do wprowadzanych treści.
Dlaczego prawodawcy podjęli działania
Ustawodawstwo stanowi reakcję na najbardziej widoczną porażkę sztucznej inteligencji na salach sądowych: halucynacyjną władzę. Duże modele językowe mogą generować odpowiedzi, które wyglądają na wiarygodne, podczas wymyślania przypadków, cytatów i statutów, a sądy w całym kraju nałożyły sankcje na prawników, którzy składali pisma, powołując się na fikcyjne autorytety prawne wygenerowane przez sztuczną inteligencję.
Wzrosły obawy dotyczące prywatności. Na początku tego roku amerykański sędzia okręgowy Jed Rakoff w Nowym Jorku orzekł w sprawie Stany Zjednoczone przeciwko Heppnerowi, że samodzielne rozmowy oskarżonego w sprawie karnej z Claude'em z Anthropic nie są chronione tajemnicą adwokacką ani doktryną dotyczącą produktu pracy — po części dlatego, że pozwany ujawnił informacje zewnętrznej platformie sztucznej inteligencji. Chociaż sprawa ta dotyczyła klienta, a nie prawnika, ilustruje ona narażenie, na jakie narażone są wrażliwe informacje prawne po wprowadzeniu do systemów sztucznej inteligencji stron trzecich.
Kalifornia zajęła się już tymi kwestiami, udzielając profesjonalnych porad. Adwokatura stanu Kalifornia zaktualizowała swoje Praktyczne wytyczne dotyczące stosowania generatywnej sztucznej inteligencji w praktyce prawniczej w maju 2026 r., obejmujące kompetencje, poufność, nadzór, komunikację z klientami i szczerość wobec sądów. W 2025 r. Sąd Najwyższy Kalifornii nakazał palestrze stanowej rozważyć włączenie zasad związanych ze sztuczną inteligencją do Zasad postępowania zawodowego, rozważając proponowane zmiany, które wyjaśniłyby odpowiedzialność prawników zarówno za to, co trafia do systemów sztucznej inteligencji, jak i za to, co wychodzi z nich. SB 574 przenosi kilka z tych koncepcji z wytycznych do ustawy.
Poza prawnikami: arbitrzy i sędziowie
Ustawa sięga dalej niż prawnicy. Arbitrom nie wolno byłoby delegować jakiejkolwiek części swoich obowiązków decyzyjnych na generatywną sztuczną inteligencję i nie mogliby opierać się na informacjach generowanych przez sztuczną inteligencję poza materiałem dowodowym bez uprzedniego ujawnienia stronom ich wykorzystania i, jeśli jest to praktyczne, umożliwienia im udzielenia odpowiedzi. Środek ten wymaga również od Kalifornijskiej Rady Sądownictwa ponownego przeglądu swoich standardów regulujących wykorzystanie generatywnej sztucznej inteligencji w sądach w miarę rozwoju technologii.
Co stanie się dalej
Newsom nie podjął jeszcze działań w sprawie ustawy, a jego decyzja będzie obserwowana daleko poza Kalifornią. Siła rynkowa państwa uczyniła z niego de facto regulatora branży sztucznej inteligencji – w 2025 r. podpisano ustawę SB 53 dotyczącą przejrzystości modeli granicznych – a gubernator, który w przeszłości równoważył promowanie sztucznej inteligencji i ostrożność w zakresie sztucznej inteligencji, teraz decyduje, czy profesjonalne wykorzystanie sztucznej inteligencji stanie się przedmiotem ustawowego obowiązku największej populacji prawników w kraju.
Jeśli zostanie podpisana, SB 574 przetestowałaby środkową ścieżkę, którą prawdopodobnie przeanalizują inne stany: zamiast zakazywać sztucznej inteligencji w praktyce prawniczej, Kalifornia powiązałaby jej wykorzystanie z istniejącymi obowiązkami zawodu – weryfikacją, szczerością i poufnością – z prawnikiem, a nie narzędziem, pozostawiającym odpowiedzialność.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
