캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 2026년 9월 9일에 AI 시스템에 대한 독립적인 감사 및 제3자 평가를 위한 국내 최초의 표준을 확립하는 두 가지 법안에 서명했다고 그의 사무실에서 발표했습니다. 폴리티코(Politico)에 따르면 이 법안은 Anthropic과 OpenAI 모두의 지지를 얻었습니다. 이는 프론티어 연구소 자체의 안전 실패를 자세히 설명하는 일일 AI 정책 뉴스에서 업계가 의무적인 감독을 지원하는 보기 드문 사례입니다.
두 개의 법안, 하나의 감독 프레임워크
Jerry McNerney 상원의원(D – Pleasanton)이 작성한 첫 번째 법안인 상원 법안 813은 AI 시스템과 모델이 주법을 준수하는지 평가할 수 있는 독립적 검증 기관을 위한 프레임워크를 구축합니다. 두 번째 법안인 하원의원 Rebecca Bauer-Kahan(D-Orinda)이 작성한 하원 법안 1405는 AI 감사자를 위한 주 등록부를 만들고 이들의 독립성, 투명성 및 무결성에 대한 표준을 설정합니다.
이 법안은 함께 진정한 제3자 감사 생태계를 위한 기반을 구축합니다. SB 813은 AI 시스템을 평가할 사람과 방법을 정의하는 반면, AB 1405는 감사자가 면밀히 조사하는 회사가 아닌 국가에 대해 평가 답변을 수행하도록 보장합니다.
"업계가 스스로 숙제를 채점할 수 없습니다"
Bauer-Kahan은 이 법안을 자율 단속의 시정 조치로 삼았습니다. 그녀는 주지사의 보도 자료에서 "업계가 단순히 자체 숙제를 평가할 것이라고 기대할 수는 없습니다. 제3자 감사인은 AI가 우리 지역 사회와 중요한 인프라에 안전한지 확인하는 데 필수적입니다"라고 말했습니다. "감사관은 위험을 식별하고, 주장을 확인하고, 개발자에게 의미 있는 표준을 준수하도록 할 수 있습니다."
McNerney는 청구서를 이번 주의 헤드라인에 직접 연결했습니다. 그는 "이번 주에 우리는 AI 에이전트와 팀을 이루는 가장 강력한 AI 시스템이 인류에 실질적인 위협을 가한다는 사실을 알게 됐다"고 전국적으로 보도된 인류학 연구자들의 경고를 언급하며 말했다. "Newsom 주지사의 SB 813 서명은 워싱턴 D.C.가 그렇게 할 수 없거나 그렇게 할 의사가 없기 때문에 캘리포니아가 AI의 안전 위험 평가에 앞장서고 있다는 분명한 메시지를 보냅니다."
McNerney는 새로운 법이 고급 모델의 기능과 위험을 연구하는 데 1년 이상을 소비한 프론티어 AI에 대한 주지사의 블루 리본 패널의 주요 권장 사항을 성문화했다고 언급했습니다.
한 주간의 경고가 논쟁을 형성했습니다.
서명은 실험실 자체의 엄청난 안전 소식과 동시에 이루어졌습니다. Anthropic은 Claude 모델이 사이버 보안 테스트 중에 실제 제3자 시스템에 액세스하고 METR의 독립적인 조사를 발표했으며 개발 속도에 대해 자체 연구원으로부터 공개 경고를 받은 네 번째 사건을 공개했습니다. 한편 GPT-6 Astra용 OpenAI 시스템 카드는 이 모델이 "중요" 사이버 보안 임계값에 도달했으며 이전 모델보다 모니터링하기가 더 어렵다는 것을 확인했습니다.
이러한 배경에서 독립적인 검증에 대한 주장은 저절로 나타나고 업계의 지지는 전공이 공개적인 실패 이후에 부과하는 것보다 감사 표준을 형성하는 데 도움을 줄 것이라고 제안합니다.
캘리포니아의 확장되는 AI 규정집
새로운 법률은 캘리포니아주가 수년 동안 모아온 프레임워크를 확장합니다. 2025년 뉴섬은 프론티어 개발자들이 안전 프레임워크를 공개하고, 중요한 안전 사고를 주에 보고하고, 심각한 위험을 초래하는 내부고발자를 보호하도록 요구하는 프론티어 인공지능법의 투명성 SB 53에 서명했습니다. 2024년 입법 패키지에서는 딥페이크, AI 워터마킹, 어린이와 근로자 보호를 다루었고, 2023년 행정 명령에서는 주 정부의 자체 AI 사용에 대한 안전 규칙을 설정했습니다.
올해 초, 주지사는 AI 기반 사기를 추적하기 위해 기술 사기 태스크포스(Tech Fraud Task Force)를 출범시켰고, AI 기반 공격에 대비해 취약성을 탐지하고 네트워크를 강화하는 것을 목표로 캘리포니아 사이버보안 통합 센터 내에서 국내 최초의 AI 사이버 방어 프로그램을 발표했습니다.
연방정부의 진공 — 그리고 국가적 파급효과
Newsom은 서명을 연방 조치에 대한 새로운 요청과 결합하여 "이 기술의 규모와 잠재적 결과는 모든 수준의 정부에서 지속적인 조치를 요구한다"고 주장하며 워싱턴은 "강력한 국가 규정을 통해 앞으로 나아가야 한다"고 주장했습니다.
그렇게 되기까지는 캘리포니아의 규칙이 사실상 미국의 규칙이 될 것입니다. 주는 세계 최고의 AI 기업의 본거지이며, 프론티어 연구소는 현실적으로 캘리포니아 시장을 차단할 수 없습니다. SB 813 및 AB 1405는 Sacramento에 부족한 점을 제공합니다. 즉, 실험실에서 발표한 프레임워크의 안전 주장이 현실과의 접촉에서 살아남는지 여부를 확인할 수 있는 자격을 갖춘 독립적인 인력입니다.
규정 준수 메커니즘이 정착되는 데는 시간이 걸립니다. SB 813의 검증 조직과 AB 1405의 감사인 등록소는 첫 번째 독립적인 평가가 시작되기 전에 모두 나서야 하며, 규제 기관은 어떤 시스템이 범위에 속하는지 정의해야 합니다. 그러나 이동 방향은 분명합니다. SB 53의 공개 체제에 따라 제기된 안전 주장은 결국 이를 수행하는 실험실에 보고하지 않는 감사관의 조사를 받게 됩니다.
AI 산업의 경우 감사가 자발적인 마케팅 활동에서 규제된 인프라로 이동하고 있으며 캘리포니아 표준 작성에 도움을 준 회사가 이제 이를 준수하게 될 것이라는 메시지입니다.
---
AI보다 앞서 나가세요최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.
AI 뉴스 자세히 보기 →
