Les législateurs californiens ont approuvé le projet de loi 574 du Sénat, une loi d'État unique en son genre qui fixe des règles contraignantes sur la manière dont les avocats peuvent utiliser l'intelligence artificielle générative dans leur pratique – et la mesure se trouve désormais sur le bureau du gouverneur Gavin Newsom.
Le projet de loi, connu sous le nom de Court A.I. Protection Act, a autorisé l'Assemblée législative cette semaine après que le Sénat a approuvé les amendements de l'Assemblée le 31 août par un vote de 39 contre 0. Il a été présenté par le sénateur Thomas Umberg, un démocrate de Santa Ana qui préside la commission judiciaire du Sénat, dont le bureau affirme que l'objectif est de protéger les personnes bénéficiant de services juridiques alors que les outils d'IA se répandent dans la profession. Reuters a qualifié cette mesure de première loi nationale de ce type régissant l'utilisation de l'IA générative par les avocats. Cependant, jusqu’à ce que Newsom le signe, ses exigences ne constituent pas une loi. Pour plus de contexte sur cette histoire, consultez nos Tendances IA en cours.
Ce que le SB 574 exige
Fondamentalement, le projet de loi trace une ligne claire : les avocats ne peuvent pas déléguer la pratique du droit à un système d’IA générative. Un avocat qui utilise l’IA reste entièrement responsable du travail juridique réalisé avec celle-ci.
Les tâches de vérification sont les plus concrètes. Les avocats qui utilisent l’IA générative doivent prendre des mesures raisonnables pour vérifier l’exactitude des résultats – y compris les citations de cas et de lois – et corriger les éléments erronés ou fabriqués avant de s’y fier. Pour aller plus loin, tout avocat responsable d'un mémoire, d'une requête, d'un plaidoyer ou de tout autre document déposé auprès d'un tribunal californien devrait vérifier personnellement chaque citation du dossier, quelle que soit sa source. Le recours à un outil d’IA n’excuserait pas une fausse citation.
La divulgation est le deuxième pilier. Les avocats devraient divulguer l’utilisation de l’IA générative à un tribunal pour les documents qui lui sont soumis, et ceux qui utilisent l’IA pour créer du matériel distribué au public devraient réfléchir à l’opportunité de divulguer son utilisation.
Règles de confidentialité pour l'ère ChatGPT
Le troisième pilier du projet de loi concerne la destination des données des avocats. Le SB 574 interdirait aux avocats de saisir des informations confidentielles, d'identification personnelle ou d'autres informations non publiques dans un système d'IA générative, à moins que l'accès à ces informations ne soit limité à l'avocat et aux personnes autorisées par l'avocat qui sont elles-mêmes tenues d'en protéger la confidentialité.
La disposition énumère les catégories sensibles concernées : numéros de sécurité sociale, dates de naissance, dossiers médicaux et psychiatriques, informations financières, numéros de compte et adresses ou numéros de téléphone appartenant aux parties, aux témoins, aux victimes et au personnel judiciaire. Notamment, le projet de loi n’interdit pas purement et simplement l’utilisation de systèmes d’IA avec des éléments confidentiels – le test consiste à savoir si le système restreint de manière adéquate l’accès à ce qui est saisi.
Pourquoi les législateurs ont agi
La législation répond au mode d’échec le plus visible de l’IA dans les salles d’audience : l’autorité hallucinée. Les grands modèles linguistiques peuvent produire des réponses qui semblent faire autorité tout en inventant des cas, des citations et des lois, et les tribunaux de tout le pays ont sanctionné des avocats qui ont déposé des mémoires citant des autorités juridiques fictives générées par l'IA.
Les préoccupations en matière de confidentialité se sont développées parallèlement. Plus tôt cette année, le juge de district américain Jed Rakoff à New York a statué dans l'affaire États-Unis contre Heppner que les conversations autodirigées d'un accusé au pénal avec Claude d'Anthropic n'étaient pas protégées par le secret professionnel de l'avocat ou par la doctrine du produit du travail – en partie parce que l'accusé avait divulgué des informations à une plateforme d'IA tierce. Bien que cette affaire impliquait un client plutôt qu’un avocat, elle illustre l’exposition à laquelle des informations juridiques sensibles sont exposées lorsqu’elles sont saisies dans des systèmes d’IA tiers.
La Californie s’est déjà penchée sur ces questions grâce à des conseils professionnels. Le Barreau de l'État de Californie a mis à jour son Guide pratique pour l'utilisation de l'intelligence artificielle générative dans la pratique du droit en mai 2026, couvrant la compétence, la confidentialité, la supervision, les communications avec les clients et la franchise envers les tribunaux. En 2025, la Cour suprême de Californie a ordonné au barreau de l'État d'envisager d'incorporer les principes liés à l'IA dans les règles de conduite professionnelle, avec des propositions de modifications à l'étude qui clarifieraient la responsabilité des avocats à la fois pour ce qui entre dans les systèmes d'IA et pour ce qui en sort. Le SB 574 transfère plusieurs de ces concepts des lignes directrices vers la loi.
Au-delà des avocats : arbitres et juges
Le projet de loi va plus loin que les avocats. Il serait interdit aux arbitres de déléguer une quelconque partie de leurs responsabilités décisionnelles à l’IA générative et ne pourraient pas s’appuyer sur des informations générées par l’IA en dehors du dossier de preuve sans en divulguer au préalable l’utilisation aux parties et, lorsque cela est possible, leur donner la possibilité de répondre. La mesure oblige également le Conseil judiciaire de Californie à revoir ses normes régissant l'utilisation judiciaire de l'IA générative à mesure que la technologie se développe.
Que se passe-t-il ensuite
Newsom n’a pas encore donné suite au projet de loi et sa décision sera suivie bien au-delà de la Californie. Le pouvoir de marché de l'État en a fait le régulateur de facto de l'industrie de l'IA – sa loi sur la transparence SB 53 pour les modèles frontières a été signée en 2025 – et un gouverneur qui a équilibré la promotion de l'IA et la prudence en matière d'IA dans le passé décide désormais si l'utilisation professionnelle de l'IA devient une question d'obligation légale pour la plus grande population d'avocats du pays.
S’il est signé, le SB 574 testerait une voie médiane que d’autres États sont susceptibles d’étudier : plutôt que d’interdire l’IA dans la pratique juridique, la Californie lierait son utilisation aux obligations existantes de la profession – vérification, franchise et confidentialité – et l’avocat, et non l’outil, en assumerait la responsabilité.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
