캘리포니아 국회의원들은 변호사들이 생성 인공 지능을 업무에 어떻게 사용할 수 있는지에 대한 구속력 있는 규칙을 설정하는 최초의 주법인 상원 법안 574를 승인했으며, 이 법안은 현재 Gavin Newsom 주지사의 책상 위에 있습니다.

Court A.I.로 알려진 법안. 보호법(Protection Act)은 상원이 8월 31일 의회 수정안에 39대0으로 동의한 후 이번 주 의회를 통과시켰습니다. 이 법안은 상원 법사위원회 의장이자 산타아나 출신 민주당 의원인 토마스 움베르그(Thomas Umberg) 상원의원이 도입한 것으로 AI 도구가 직업 전반에 확산되면서 법률 서비스를 받는 사람들을 보호하는 것이 목표라고 밝혔다. 로이터는 이 법안을 변호사의 생성 AI 사용을 규제하는 최초의 주법이라고 규정했습니다. 그러나 Newsom이 서명할 때까지 그 요구 사항은 법이 아닙니다. 이 이야기에 대한 자세한 내용은 진행 중인 AI 트렌드를 참조하세요.

SB 574에 필요한 것

이 법안의 핵심에는 밝은 선이 그려져 있습니다. 변호사는 법률 업무를 생성 AI 시스템에 위임할 수 없습니다. AI를 사용하는 변호사는 AI로 생성된 법적 작업에 대해 전적인 책임을 집니다.

검증 의무가 가장 구체적입니다. 생성 AI를 사용하는 변호사는 판례 및 법적 인용을 포함하여 출력의 정확성을 검증하기 위한 합리적인 조치를 취하고, 이에 의존하기 전에 오류가 있거나 조작된 자료를 수정해야 합니다. 더 나아가, 캘리포니아 법원에 제출된 준비서면, 신청, 변론 또는 기타 서류를 담당하는 변호사는 출처가 무엇이든 해당 서류의 모든 인용을 개인적으로 확인해야 합니다. AI 도구에 의존한다고 해서 허위 인용이 변명되는 것은 아닙니다.

공개는 두 번째 기둥입니다. 변호사는 법원에 제출된 문서에 대해 생성 AI 사용 사실을 법원에 공개해야 하며, AI를 사용하여 대중에게 배포되는 자료를 만드는 변호사는 그 사용 공개 여부를 고려해야 합니다.

ChatGPT 시대의 기밀 유지 규칙

법안의 세 번째 기둥은 변호사의 데이터가 어디로 가는지 다룹니다. SB 574는 해당 정보에 대한 접근이 변호사 및 변호사가 승인한 사람들만이 기밀을 보호할 의무가 있는 경우를 제외하고 변호사가 기밀 정보, 개인 식별 정보 또는 기타 비공개 정보를 생성 AI 시스템에 입력하는 것을 금지합니다.

이 조항은 사회 보장 번호, 생년월일, 의료 및 정신과 기록, 금융 정보, 계좌 번호, 당사자, 증인, 피해자 및 법원 직원의 주소 또는 전화번호 등 민감한 범주를 범위 내에서 열거합니다. 특히, 이 법안은 기밀 자료가 포함된 AI 시스템의 사용을 완전히 금지하지 않습니다. 테스트는 시스템이 입력된 내용에 대한 액세스를 적절하게 제한하는지 여부입니다.

국회의원들이 행동한 이유

이 법안은 법정에서 가장 눈에 띄는 AI 실패 모드인 환각된 권위에 대응합니다. 대규모 언어 모델은 판례, 인용문, 법령을 작성하는 동안 권위 있어 보이는 답변을 생성할 수 있으며, 전국 법원은 AI가 생성한 가상의 법적 권위를 인용하여 브리핑을 제출한 변호사를 제재했습니다.

개인 정보 보호에 대한 우려도 함께 커졌습니다. 올해 초 뉴욕의 미국 지방 판사 Jed Rakoff는 미국 대 Heppner 사건에서 형사 피고인이 Anthropic의 Claude와 직접 대화한 내용은 변호사-의뢰인 특권이나 작업 제품 원칙에 의해 보호되지 않는다고 판결했습니다. 부분적으로는 피고가 제3자 AI 플랫폼에 정보를 공개했기 때문입니다. 해당 사건에는 변호사가 아닌 고객이 관련되어 있지만 이는 민감한 법률 정보가 제3자 AI 시스템에 입력될 때 직면하게 되는 노출을 보여줍니다.

캘리포니아는 이미 전문적인 지도를 통해 이러한 질문에 답해 왔습니다. 캘리포니아 주 변호사협회(State Bar of California)는 2026년 5월 법률 실무에서 생성 인공 지능 사용에 대한 실무 지침을 업데이트하여 역량, 기밀 유지, 감독, 고객 커뮤니케이션 및 법원에 대한 솔직함을 다루고 있습니다. 캘리포니아 대법원은 2025년에 State Bar에 AI 관련 원칙을 전문 행위 규칙에 통합하는 것을 고려하도록 지시했으며, AI 시스템에 들어가는 것과 나오는 것 모두에 대한 변호사의 책임을 명확히 하는 변경 사항을 제안했습니다. SB 574는 이러한 개념 중 일부를 지침에서 법령으로 이동합니다.

변호사를 넘어서: 중재인과 판사

이 법안은 변호사보다 더 멀리까지 도달합니다. 중재인은 의사결정 책임의 일부를 생성적 AI에 위임하는 것이 금지되며, 당사자에게 먼저 그 사용을 공개하고 실행 가능한 경우 응답할 기회를 제공하지 않고 증거 기록 외부의 AI 생성 정보에 의존할 수 없습니다. 또한 이 법안은 캘리포니아 사법위원회가 기술이 발전함에 따라 생성 AI의 사법적 사용을 관리하는 표준을 재검토하도록 요구합니다.

다음에 무슨 일이 일어날까요?

Newsom은 아직 이 법안에 대해 조치를 취하지 않았으며 그의 결정은 캘리포니아 밖에서도 지켜볼 것입니다. 주의 시장 지배력으로 인해 주정부는 사실상 AI 산업의 규제 기관이 되었습니다. 주정부는 프런티어 모델에 대한 SB 53 투명성 법률이 2025년에 서명되었습니다. 과거에 AI 홍보와 AI 주의의 균형을 유지했던 주지사가 이제는 전문적인 AI 사용이 국가 최대 변호사 인구의 법적 의무 문제가 될지 여부를 결정합니다.

SB 574가 서명되면 다른 주에서 연구할 가능성이 있는 중간 경로를 테스트하게 됩니다. 즉, 캘리포니아는 법률 실무에서 AI를 금지하는 대신 AI 사용을 도구가 아닌 변호사에게 책임을 맡기고 직업의 기존 의무(검증, 솔직함, 기밀 유지)에 묶을 것입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →