Wetgevers in Californië hebben Senaatswet 574 goedgekeurd, een unieke staatswet die bindende regels stelt voor de manier waarop advocaten generatieve kunstmatige intelligentie in hun praktijk mogen gebruiken – en de maatregel ligt nu op het bureau van gouverneur Gavin Newsom.

Het wetsvoorstel, bekend als het Hof A.I. Protection Act, die de wetgevende macht deze week heeft goedgekeurd nadat de Senaat op 31 augustus met 39 stemmen tegen 0 had ingestemd met de amendementen van de Assembly. Het werd geïntroduceerd door senator Thomas Umberg, een democraat uit Santa Ana die voorzitter is van de rechterlijke commissie van de Senaat, wiens kantoor zegt dat het doel is om mensen te beschermen die juridische diensten ontvangen terwijl AI-hulpmiddelen zich door het beroep verspreiden. Reuters typeerde de maatregel als de eerste staatswet in zijn soort die het gebruik van generatieve AI door advocaten regelt. Totdat Newsom het ondertekend, zijn de vereisten ervan echter geen wet. Voor meer context over dit verhaal, zie onze voortdurende AI-trends.

Wat SB 574 vereist

In de kern trekt het wetsvoorstel een heldere lijn: advocaten kunnen de rechtspraktijk niet delegeren aan een generatief AI-systeem. Een advocaat die gebruik maakt van AI blijft volledig verantwoordelijk voor het juridische werk dat daarmee wordt verricht.

De verificatietaken zijn het meest concreet. Advocaten die generatieve AI gebruiken, moeten redelijke stappen ondernemen om de juistheid van de output te verifiëren – inclusief casus- en wettelijke citaten – en foutief of verzonnen materiaal corrigeren voordat ze erop vertrouwen. Verdergaand zou elke advocaat die verantwoordelijk is voor een memorie, motie, pleidooi of ander document dat bij een rechtbank in Californië is ingediend, persoonlijk elke citatie in de indiening moeten verifiëren, ongeacht de bron ervan. Het vertrouwen op een AI-tool is geen excuus voor een valse citatie.

Openbaarmaking is de tweede pijler. Advocaten zouden het gebruik van generatieve AI aan de rechtbank moeten bekendmaken voor documenten die aan de rechtbank worden voorgelegd, en advocaten die AI gebruiken om materiaal te creëren dat onder het publiek wordt verspreid, zouden moeten overwegen of ze het gebruik ervan openbaar zullen maken.

Vertrouwelijkheidsregels voor het ChatGPT-tijdperk

De derde pijler van het wetsvoorstel gaat over waar de gegevens van advocaten naartoe gaan. SB 574 zou advocaten verbieden vertrouwelijke, persoonlijk identificeerbare of andere niet-openbare informatie in een generatief AI-systeem in te voeren, tenzij de toegang tot die informatie beperkt is tot de advocaat en tot mensen die de advocaat machtigt en die zelf verplicht zijn de vertrouwelijkheid ervan te beschermen.

De bepaling somt de gevoelige categorieën op die binnen de reikwijdte vallen: burgerservicenummers, geboortedata, medische en psychiatrische dossiers, financiële informatie, rekeningnummers en adressen of telefoonnummers van partijen, getuigen, slachtoffers en gerechtspersoneel. Met name verbiedt het wetsvoorstel het gebruik van AI-systemen met vertrouwelijk materiaal niet ronduit – de test is of het systeem de toegang tot wat wordt ingevoerd voldoende beperkt.

Waarom wetgevers in actie kwamen

De wetgeving speelt in op de meest zichtbare faalwijze van AI in rechtszalen: gehallucineerde autoriteit. Grote taalmodellen kunnen antwoorden produceren die er gezaghebbend uitzien bij het bedenken van zaken, citaten en statuten, en rechtbanken in het hele land hebben advocaten bestraft die briefings hebben ingediend waarin fictieve juridische autoriteiten worden aangehaald die door AI zijn gegenereerd.

De zorgen over privacy zijn meegegroeid. Eerder dit jaar oordeelde de Amerikaanse districtsrechter Jed Rakoff in New York in de Verenigde Staten v. Heppner dat de zelfgestuurde gesprekken van een criminele beklaagde met Claude van Anthropic niet beschermd waren door het privilege van advocaat-cliënt of de werkproductdoctrine – deels omdat de beklaagde informatie had bekendgemaakt aan een AI-platform van derden. Hoewel bij deze zaak een cliënt en niet een advocaat betrokken was, illustreert het de blootstelling waarmee gevoelige juridische informatie wordt geconfronteerd wanneer deze wordt ingevoerd in AI-systemen van derden.

Californië heeft zich al met deze vragen beziggehouden door middel van professionele begeleiding. De State Bar of California heeft in mei 2026 haar Practical Guidance for the Use of Genative Artificial Intelligence in the Practice of Law bijgewerkt, waarin competentie, vertrouwelijkheid, toezicht, communicatie met cliënten en openhartigheid tegenover de rechtbanken aan bod komen. Het Hooggerechtshof van Californië heeft de State Bar in 2025 opdracht gegeven om te overwegen AI-gerelateerde principes op te nemen in de regels voor professioneel gedrag, met voorgestelde wijzigingen die in overweging worden genomen die de verantwoordelijkheid van advocaten zouden verduidelijken voor zowel wat er in AI-systemen gaat als wat eruit komt. SB 574 verplaatst een aantal van deze concepten van richtlijnen naar wetten.

Beyond Advocaten: arbiters en rechters

Het wetsvoorstel reikt verder dan advocaten. Het zou arbiters verboden worden om een ​​deel van hun besluitvormingsverantwoordelijkheden te delegeren aan generatieve AI, en ze zouden niet kunnen vertrouwen op door AI gegenereerde informatie buiten het bewijsmateriaal zonder eerst het gebruik ervan aan de partijen bekend te maken en, indien praktisch mogelijk, hen de kans te geven om te reageren. De maatregel vereist ook dat de California Judicial Council zijn normen voor het gerechtelijk gebruik van generatieve AI herziet naarmate de technologie zich ontwikkelt.

Wat gebeurt er vervolgens

Newsom heeft nog geen gevolg gegeven aan het wetsvoorstel en zijn besluit zal tot ver buiten Californië in de gaten worden gehouden. De marktmacht van de staat heeft ervoor gezorgd dat de staat de facto de toezichthouder van de AI-industrie is geworden – de SB 53-transparantiewet voor grensmodellen werd in 2025 ondertekend – en een gouverneur die in het verleden AI-promotie en AI-voorzichtigheid in evenwicht heeft gehouden, beslist nu of professioneel AI-gebruik een kwestie van wettelijke plicht wordt voor de grootste advocatenpopulatie van het land.

Indien ondertekend, zou SB 574 een middenweg testen die andere staten waarschijnlijk zullen bestuderen: in plaats van AI in de juridische praktijk te verbieden, zou Californië het gebruik ervan binden aan de bestaande verplichtingen van het beroep – verificatie, openhartigheid en vertrouwelijkheid – waarbij de advocaat, en niet het instrument, de verantwoordelijkheid zou blijven dragen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →