Законодатели Калифорнии одобрили сенатский законопроект 574, первый в своем роде закон штата, который устанавливает обязательные правила того, как адвокаты могут использовать генеративный искусственный интеллект в своей практике, и теперь эта мера лежит на столе губернатора Гэвина Ньюсома.
Законопроект, известный как Суд А.И. Закон о защите был одобрен Законодательным собранием на этой неделе после того, как Сенат 31 августа одобрил поправки Ассамблеи 39 голосами против 0. Его представил сенатор Томас Умберг, демократ из Санта-Аны, который возглавляет Юридический комитет Сената, чей офис заявляет, что цель состоит в том, чтобы защитить людей, получающих юридические услуги, по мере распространения инструментов ИИ в профессии. Агентство Reuters охарактеризовало эту меру как первый закон штата, регулирующий использование юристами генеративного ИИ. Однако до тех пор, пока Ньюсом не подпишет его, его требования не являются законом. Дополнительную информацию об этой истории можно найти в наших текущих тенденциях в области искусственного интеллекта.
Что требует SB 574
По своей сути законопроект проводит четкую линию: юристы не могут делегировать юридическую практику генеративной системе искусственного интеллекта. Адвокат, использующий ИИ, несет полную ответственность за юридическую работу, выполняемую с его помощью.
Обязанности по проверке являются наиболее конкретными. Юристы, использующие генеративный искусственный интеллект, должны предпринять разумные шаги для проверки точности результатов, включая ссылки на дела и законодательные акты, и исправить ошибочные или сфабрикованные материалы, прежде чем полагаться на них. Идя дальше, любой адвокат, ответственный за составление заявления, ходатайства, заявления или другого документа, подаваемого в суд Калифорнии, должен будет лично проверять каждую цитату в документе, независимо от его источника. Использование инструмента искусственного интеллекта не оправдывает ложную цитату.
Раскрытие информации – второй столп. Адвокатам придется раскрывать суду информацию об использовании генеративного ИИ для документов, представляемых ему, а тем, кто использует ИИ для создания материалов, распространяемых среди общественности, придется подумать, стоит ли раскрывать информацию о его использовании.
Правила конфиденциальности в эпоху ChatGPT
Третий столп законопроекта касается того, куда направляются данные юристов. SB 574 запретит адвокатам вводить конфиденциальную, идентифицирующую личность или другую закрытую информацию в генеративную систему искусственного интеллекта, если только доступ к этой информации не ограничен адвокатом и людьми, которым адвокат уполномочивает, которые сами обязаны защищать ее конфиденциальность.
В этом положении перечислены деликатные категории: номера социального страхования, даты рождения, медицинские и психиатрические записи, финансовая информация, номера счетов, а также адреса или номера телефонов, принадлежащие сторонам, свидетелям, потерпевшим и судебному персоналу. Примечательно, что законопроект не запрещает напрямую использование систем искусственного интеллекта с конфиденциальными материалами — проверка заключается в том, насколько система адекватно ограничивает доступ к тому, что вводится.
Почему законодатели действовали
Законодательство реагирует на наиболее очевидный недостаток ИИ в залах суда: галлюцинацию власти. Большие языковые модели могут давать ответы, которые выглядят авторитетными, при этом придумывая дела, цитаты и законы, а суды по всей стране налагают санкции на адвокатов, которые подали заявления со ссылкой на фиктивные юридические авторитеты, созданные ИИ.
Вместе с тем росли и проблемы конфиденциальности. Ранее в этом году окружной судья США Джед Ракофф в Нью-Йорке постановил в деле Соединенные Штаты против Хеппнера, что самостоятельные разговоры обвиняемого по уголовному делу с Клодом из Anthropic не были защищены тайной адвоката и клиента или доктриной рабочего продукта — отчасти потому, что ответчик раскрыл информацию сторонней платформе искусственного интеллекта. Хотя в этом деле участвовал клиент, а не юрист, оно иллюстрирует опасность, с которой сталкивается конфиденциальная юридическая информация при ее вводе в сторонние системы искусственного интеллекта.
Калифорния уже занимается решением этих вопросов посредством профессионального консультирования. В мае 2026 года Коллегия адвокатов штата Калифорния обновила свое Практическое руководство по использованию генеративного искусственного интеллекта в юридической практике, охватывающее компетентность, конфиденциальность, надзор, общение с клиентами и откровенность в судах. В 2025 году Верховный суд Калифорнии поручил Коллегии адвокатов штата рассмотреть возможность включения принципов, связанных с ИИ, в Правила профессионального поведения, при этом на рассмотрении находятся предлагаемые изменения, которые разъяснят ответственность адвокатов как за то, что входит в системы ИИ, так и за то, что выходит из них. SB 574 переносит некоторые из этих концепций из руководства в закон.
Помимо адвокатов: арбитры и судьи
Законопроект простирается дальше юристов. Арбитрам будет запрещено делегировать какую-либо часть своих обязанностей по принятию решений генеративному ИИ, и они не смогут полагаться на информацию, сгенерированную ИИ, за пределами доказательной базы, без предварительного раскрытия сторонам ее использования и, если это практически возможно, предоставления им возможности ответить. Эта мера также требует от Судебного совета Калифорнии пересмотреть свои стандарты, регулирующие использование генеративного искусственного интеллекта в судах по мере развития технологии.
Что будет дальше
Ньюсом еще не принял законопроект, и за его решением будут следить далеко за пределами Калифорнии. Рыночная власть штата сделала его де-факто регулятором индустрии искусственного интеллекта — его закон SB 53 о прозрачности для передовых моделей был подписан в 2025 году — и губернатор, который в прошлом балансировал между продвижением искусственного интеллекта и осторожностью в отношении искусственного интеллекта, теперь решает, станет ли профессиональное использование искусственного интеллекта вопросом установленной законом обязанности для крупнейшего штата юристов страны.
В случае подписания SB 574 станет проверкой среднего пути, который, вероятно, изучат другие штаты: вместо того, чтобы запрещать ИИ в юридической практике, Калифорния свяжет его использование с существующими обязательствами профессии — проверкой, откровенностью и конфиденциальностью — при этом ответственность будет возложена на адвоката, а не на инструмент.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
