Los legisladores de California aprobaron el Proyecto de Ley Senatorial 574, la primera ley estatal de su tipo que establece reglas vinculantes sobre cómo los abogados pueden usar la inteligencia artificial generativa en su práctica, y la medida ahora se encuentra en el escritorio del gobernador Gavin Newsom.
El proyecto de ley, conocido como Tribunal A.I. Ley de Protección, fue aprobada por la Legislatura esta semana después de que el Senado aprobara las enmiendas de la Asamblea el 31 de agosto con una votación de 39-0. Fue presentado por el senador Thomas Umberg, un demócrata de Santa Ana que preside el Comité Judicial del Senado, cuya oficina dice que el objetivo es proteger a las personas que reciben servicios legales a medida que las herramientas de inteligencia artificial se propagan en la profesión. Reuters caracterizó la medida como la primera ley estatal de este tipo que rige el uso de IA generativa por parte de los abogados. Sin embargo, hasta que Newsom lo firme, sus requisitos no son ley. Para obtener más contexto sobre esta historia, consulte nuestras tendencias de IA en curso.
Lo que requiere la SB 574
En esencia, el proyecto de ley traza una línea clara: los abogados no pueden delegar la práctica del derecho a un sistema generativo de inteligencia artificial. Un abogado que utiliza IA sigue siendo totalmente responsable del trabajo legal realizado con ella.
Los deberes de verificación son los más concretos. Los abogados que utilizan IA generativa deben tomar medidas razonables para verificar la exactitud de los resultados (incluidas las citas legales y de casos) y corregir el material erróneo o fabricado antes de confiar en él. Yendo más allá, cualquier abogado responsable de un escrito, moción, alegato u otro documento presentado ante un tribunal de California tendría que verificar personalmente cada cita en la presentación, cualquiera que sea su fuente. La dependencia de una herramienta de inteligencia artificial no excusaría una cita falsa.
La divulgación es el segundo pilar. Los abogados tendrían que revelar el uso de IA generativa a un tribunal para los documentos que se le presenten, y aquellos que utilicen IA para crear material distribuido al público tendrían que considerar si revelan su uso.
Reglas de confidencialidad para la era ChatGPT
El tercer pilar del proyecto de ley aborda el destino de los datos de los abogados. La SB 574 prohibiría a los abogados ingresar información confidencial, de identificación personal u otra información no pública en un sistema generativo de inteligencia artificial, a menos que el acceso a esa información esté restringido al abogado y a las personas que el abogado autoriza y que están obligadas a proteger su confidencialidad.
La disposición enumera las categorías sensibles en su alcance: números de Seguro Social, fechas de nacimiento, registros médicos y psiquiátricos, información financiera, números de cuentas y direcciones o números de teléfono de las partes, testigos, víctimas y personal del tribunal. En particular, el proyecto de ley no prohíbe directamente el uso de sistemas de inteligencia artificial con material confidencial; la prueba es si el sistema restringe adecuadamente el acceso a lo que se ingresa.
Por qué actuaron los legisladores
La legislación responde al modo de falla más visible de la IA en los tribunales: la autoridad alucinada. Los grandes modelos lingüísticos pueden producir respuestas que parecen autorizadas al tiempo que inventan casos, citas y estatutos, y tribunales de todo el país han sancionado a abogados que presentaron escritos citando autoridades legales ficticias generadas por la IA.
Las preocupaciones sobre la privacidad han crecido paralelamente. A principios de este año, el juez de distrito estadounidense Jed Rakoff en Nueva York dictaminó en Estados Unidos contra Heppner que las conversaciones autodirigidas de un acusado penal con Claude de Anthropic no estaban protegidas por el privilegio abogado-cliente o la doctrina del producto de trabajo, en parte porque el acusado había revelado información a una plataforma de inteligencia artificial de terceros. Aunque ese caso involucró a un cliente y no a un abogado, ilustra la exposición que enfrenta la información legal sensible cuando se ingresa en sistemas de inteligencia artificial de terceros.
California ya se ha comprometido con estas preguntas a través de orientación profesional. El Colegio de Abogados de California actualizó su Guía práctica para el uso de inteligencia artificial generativa en la práctica del derecho en mayo de 2026, que cubre competencia, confidencialidad, supervisión, comunicaciones con los clientes y franqueza ante los tribunales. La Corte Suprema de California ordenó al Colegio de Abogados del Estado en 2025 que considerara incorporar principios relacionados con la IA en las Reglas de conducta profesional, y se están considerando cambios propuestos que aclararían la responsabilidad de los abogados tanto por lo que entra en los sistemas de IA como por lo que sale. La SB 574 traslada varios de esos conceptos de orientación a estatuto.
Más allá de los abogados: árbitros y jueces
El proyecto de ley va más allá de los abogados. A los árbitros se les prohibiría delegar cualquier parte de sus responsabilidades de toma de decisiones a la IA generativa y no podrían confiar en información generada por IA fuera del expediente probatorio sin revelar primero su uso a las partes y, cuando sea práctico, darles la oportunidad de responder. La medida también requiere que el Consejo Judicial de California revise sus estándares que rigen el uso judicial de la IA generativa a medida que se desarrolla la tecnología.
¿Qué pasa después?
Newsom aún no ha actuado sobre el proyecto de ley y su decisión será observada mucho más allá de California. El poder de mercado del estado lo ha convertido en el regulador de facto de la industria de la IA (su ley de transparencia SB 53 para modelos fronterizos se firmó en 2025) y un gobernador que ha equilibrado la promoción de la IA y la precaución en el pasado ahora decide si el uso profesional de la IA se convierte en una cuestión de deber legal para la población de abogados más grande del país.
Si se aprueba, la SB 574 pondría a prueba un camino intermedio que otros estados probablemente estudiarían: en lugar de prohibir la IA en la práctica legal, California vincularía su uso a las obligaciones existentes de la profesión (verificación, franqueza y confidencialidad) y dejaría la responsabilidad al abogado, no a la herramienta.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
