Die kalifornischen Gesetzgeber haben dem Senatsgesetz 574 zugestimmt, einem ersten Landesgesetz seiner Art, das verbindliche Regeln dafür festlegt, wie Anwälte generative künstliche Intelligenz in ihrer Praxis nutzen dürfen – und die Maßnahme liegt jetzt auf dem Schreibtisch von Gouverneur Gavin Newsom.
Der Gesetzentwurf, bekannt als Court A.I. Das US-Schutzgesetz wurde diese Woche vom Gesetzgeber genehmigt, nachdem der Senat den Änderungen der Versammlung am 31. August mit 39 zu 0 Stimmen zugestimmt hatte. Eingeführt wurde es von Senator Thomas Umberg, einem Demokraten aus Santa Ana und Vorsitzender des Justizausschusses des Senats, dessen Büro sagt, dass das Ziel darin besteht, Menschen zu schützen, die juristische Dienstleistungen in Anspruch nehmen, während sich KI-Tools in der Branche verbreiten. Reuters bezeichnete die Maßnahme als das erste staatliche Gesetz seiner Art, das den Einsatz generativer KI durch Anwälte regelt. Bis Newsom es jedoch unterzeichnet, sind seine Anforderungen kein Gesetz. Weiteren Kontext zu dieser Geschichte finden Sie in unseren aktuellen KI-Trends.
Was SB 574 erfordert
Im Kern zieht der Gesetzentwurf eine klare Linie: Anwälte können die Ausübung ihrer Tätigkeit als Anwalt nicht an ein generatives KI-System delegieren. Ein Anwalt, der KI nutzt, bleibt für die damit geleistete juristische Arbeit voll verantwortlich.
Am konkretesten sind die Prüfpflichten. Anwälte, die generative KI nutzen, müssen angemessene Schritte unternehmen, um die Richtigkeit der Ergebnisse – einschließlich Fall- und Gesetzeszitaten – zu überprüfen und fehlerhaftes oder erfundenes Material zu korrigieren, bevor sie sich darauf verlassen. Darüber hinaus müsste jeder Anwalt, der für einen bei einem kalifornischen Gericht eingereichten Schriftsatz, Antrag, Schriftsatz oder ein anderes Dokument verantwortlich ist, jedes Zitat in der Einreichung unabhängig von der Quelle persönlich überprüfen. Der Rückgriff auf ein KI-Tool würde eine falsche Zitierung nicht entschuldigen.
Offenlegung ist die zweite Säule. Anwälte müssten einem Gericht die Verwendung generativer KI für die ihm vorgelegten Dokumente offenlegen, und diejenigen, die KI zur Erstellung von an die Öffentlichkeit verteiltem Material verwenden, müssten überlegen, ob sie ihre Verwendung offenlegen.
Vertraulichkeitsregeln für die ChatGPT-Ära
Die dritte Säule des Gesetzentwurfs befasst sich mit der Frage, wohin die Daten von Anwälten gehen. SB 574 würde Anwälten die Eingabe vertraulicher, persönlich identifizierender oder anderer nicht öffentlicher Informationen in ein generatives KI-System verbieten, es sei denn, der Zugriff auf diese Informationen ist auf den Anwalt und auf von ihm autorisierte Personen beschränkt, die selbst verpflichtet sind, ihre Vertraulichkeit zu schützen.
Die Bestimmung listet die sensiblen Kategorien im Geltungsbereich auf: Sozialversicherungsnummern, Geburtsdaten, medizinische und psychiatrische Unterlagen, Finanzinformationen, Kontonummern sowie Adressen oder Telefonnummern von Parteien, Zeugen, Opfern und Gerichtspersonal. Insbesondere verbietet der Gesetzentwurf die Verwendung von KI-Systemen mit vertraulichem Material nicht vollständig – der Test besteht darin, ob das System den Zugriff auf eingegebene Daten angemessen einschränkt.
Warum der Gesetzgeber handelte
Die Gesetzgebung reagiert auf die offensichtlichste Versagensart von KI in Gerichtssälen: halluzinierte Autorität. Große Sprachmodelle können Antworten liefern, die maßgeblich wirken, während sie gleichzeitig Fälle, Zitate und Gesetze erfinden, und Gerichte im ganzen Land haben Anwälte sanktioniert, die Schriftsätze unter Berufung auf fiktive, von KI generierte Rechtsbehörden eingereicht haben.
Gleichzeitig sind die Bedenken hinsichtlich des Datenschutzes gewachsen. Anfang dieses Jahres entschied der US-Bezirksrichter Jed Rakoff in New York im Fall USA gegen Heppner, dass die selbstgesteuerten Gespräche eines Angeklagten mit Claude von Anthropic nicht durch das Anwaltsgeheimnis oder die Arbeitsproduktdoktrin geschützt seien – unter anderem, weil der Angeklagte Informationen an eine KI-Plattform eines Drittanbieters weitergegeben hatte. Obwohl es sich bei diesem Fall um einen Mandanten und nicht um einen Anwalt handelte, verdeutlicht er die Gefährdung sensibler Rechtsinformationen bei der Eingabe in KI-Systeme Dritter.
Kalifornien hat sich durch professionelle Beratung bereits mit diesen Fragen beschäftigt. Die State Bar of California hat im Mai 2026 ihre praktischen Leitlinien für den Einsatz generativer künstlicher Intelligenz in der Rechtspraxis aktualisiert und behandelt Kompetenz, Vertraulichkeit, Aufsicht, Mandantenkommunikation und Offenheit gegenüber Gerichten. Der Oberste Gerichtshof Kaliforniens wies die Staatsanwaltschaft im Jahr 2025 an, die Aufnahme KI-bezogener Grundsätze in die Berufsregeln zu erwägen. Dabei werden Änderungsvorschläge geprüft, die die Verantwortung der Anwälte sowohl für das, was in KI-Systeme einfließt, als auch für das, was herauskommt, klarstellen würden. SB 574 verschiebt mehrere dieser Konzepte von Leitlinien in Gesetze.
##Beyond Attorneys: Schiedsrichter und Richter
Der Gesetzentwurf reicht über die Anwälte hinaus. Den Schiedsrichtern wäre es untersagt, irgendeinen Teil ihrer Entscheidungsverantwortung an generative KI zu delegieren, und sie könnten sich nicht auf KI-generierte Informationen außerhalb des Beweisprotokolls verlassen, ohne zuvor deren Verwendung den Parteien offenzulegen und ihnen, wenn möglich, Gelegenheit zur Stellungnahme zu geben. Die Maßnahme verpflichtet den California Judicial Council außerdem dazu, seine Standards für den gerichtlichen Einsatz generativer KI im Zuge der Weiterentwicklung der Technologie zu überdenken.
Was als nächstes passiert
Newsom hat dem Gesetzentwurf noch nicht Folge geleistet und seine Entscheidung wird weit über Kalifornien hinaus beobachtet werden. Die Marktmacht des Staates hat ihn de facto zur Regulierungsbehörde der KI-Branche gemacht – sein Transparenzgesetz SB 53 für Grenzmodelle wurde 2025 unterzeichnet – und ein Gouverneur, der in der Vergangenheit KI-Förderung und KI-Vorsicht in Einklang gebracht hat, entscheidet nun, ob der professionelle KI-Einsatz für die größte Anwaltsgruppe des Landes zu einer gesetzlichen Pflicht wird.
Im Falle seiner Unterzeichnung würde SB 574 einen Mittelweg testen, den andere Staaten wahrscheinlich prüfen werden: Anstatt KI in der Rechtspraxis zu verbieten, würde Kalifornien ihren Einsatz an die bestehenden Pflichten des Berufsstands – Überprüfung, Offenheit und Vertraulichkeit – binden, wobei die Verantwortung beim Anwalt und nicht beim Werkzeug verbleibt.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
