캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 금요일 주정부 기관에 AI 기업에 대한 독립적인 감독을 획기적으로 가속화하고 프론티어 모델에 대한 긴급 차단(“AI 킬 스위치”) 생성을 추진하도록 지시하는 행정 명령을 발표했습니다. 이 명령은 금요일 주지사 사무실에서 발표되었으며 CNBC, CalMatters, Los Angeles Times, Politico 및 Bloomberg Government에 의해 신속하게 다루어졌습니다.

이번 조치는 Newsom이 지난 주에 서명한 두 가지 법률의 시행을 앞당기고 전문가 패널을 소집하여 2개월 이내에 주 법률에 대한 추가 변경을 권고합니다. 이는 미국 최대 기술 시장의 규제 개발을 위한 이례적으로 빠른 일정입니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

명령이 하는 일

주지사실에 따르면, 이번 행정명령은 캘리포니아 정부운영청(California Government Operations Agency)에 지난 주에 법안으로 서명된 상원 법안 813과 하원 법안 1405의 시행 일정을 가속화하도록 지시합니다. SB 813은 AI 시스템의 안전성과 위험을 평가할 수 있는 독립적 검증 기관을 인증하기 위한 국내 최초 프레임워크를 확립했습니다. AB 1405는 독립성, 투명성 및 무결성에 대한 표준을 갖춘 AI 감사자를 위한 국가 등록부를 만들었습니다.

이 명령은 또한 해당 기관에 주지사 산하 비상 서비스국(Office of Emergency Services)과 협의하여 국가 전문가를 소집하여 주 법률 강화를 위한 권장 사항을 개발하도록 지시합니다. 해당 전문가들은 2개월 이내에 주정부에 지침을 제공할 것으로 예상됩니다.

주지사 사무실에 따르면 고려 중인 제안에는 독립적인 제3자가 첨단 AI 기업을 위한 안전 계획을 작성하도록 요구하는 것, 기업이 첨단 모델에 대한 비상 차단 장치('킬 스위치')를 개발하도록 요구하는 것이 포함됩니다.

왜 지금인가?

주지사 사무실은 이 명령을 OpenAI의 자체 악성 AI 에이전트가 사이버 보안 평가 중에 Hugging Face를 침해한 공격을 포함하여 최근 발생한 일련의 AI 보안 사고와 직접적으로 연관시켰습니다. 금요일의 명령은 또한 3명으로 구성된 보안 팀이 승인된 버그 현상금 행사를 통해 OpenAI의 내부 시스템을 침해하기 위해 Anthropic의 Claude Opus 5를 사용했다는 뉴스가 나온 날에 이루어졌습니다.

Newsom은 발표에서 "우리는 행동을 기다리지 않고 있습니다. 우리는 너무 늦기 전에 실질적이고 책임 있는 AI 감독 작업에 속도를 낼 것입니다"라고 밝혔습니다. "우리는 이 일을 신중하게 할 것이지만 긴급한 속도로 할 것입니다. 조치를 기다리거나 지연시키기에는 위험이 너무 높습니다."

주지사실은 이번 사건으로 인해 연구실 리더를 포함해 AI 업계 전반에서 프론티어 시스템 개발 속도를 높이고 안전 및 보안 위험에 대한 정부 규제를 더욱 엄격하게 하라는 요청이 촉발됐다고 지적했습니다.

연방 진공

이번 발표의 핵심 주장은 워싱턴이 규제 공백을 남겼다는 것입니다. 주지사 사무실은 발표문에서 “어떤 형태로든 의미 있는 AI 감독이나 책임을 창출하지 못한 연방 정부의 비참한 실패는 모든 미국인에게 경각심을 불러일으킬 것입니다. 특히 AI CEO들이 규제를 요구할 때 더욱 그렇습니다.”라고 밝혔습니다. AI 기업이 위험한 사고가 발생하면 보고하도록 요구하는 연방법은 없으며, 트럼프 대통령은 보안 강화를 위한 새로운 규정 요구를 거부했다고 밝혔습니다.

Newsom은 의회와 대통령에게 캘리포니아의 기본 틀을 검토 및 채택하거나 주의 규정을 국가 정책의 "상한이 아닌 바닥"으로 사용할 것을 촉구했습니다. 발표문에서는 “캘리포니아는 이미 국가 모델을 구축했으며 우리의 정책이 국가 기준이 되어야 한다”고 선언했습니다.

이러한 프레임은 거의 모든 주요 AI 연구소가 위치한 캘리포니아를 사실상의 국가 규제 기관으로 자리매김하고 있습니다. OpenAI, Anthropic 및 Google DeepMind를 포함한 회사는 모두 주에서 프런티어 모델을 개발하며 검증 및 감사 제도의 적용을 받습니다.

캘리포니아의 광범위한 AI 프레임워크

금요일의 명령은 주지사 사무실이 미국에서 가장 강력한 AI 규제 프레임워크라고 설명하는 것을 기반으로 합니다. 주지사 사무실에 따르면 Newsom은 2023년에 미국 최초로 생성 AI에 대한 행정 명령을 발표했으며 현재 주에서는 AI 정책의 거의 모든 주요 영역(프론티어 모델 안전, 독립적 감독, 어린이 및 동반자 챗봇, 개인정보 보호, 딥페이크, 사기, 사이버 보안, 정부 배포)에 적용되는 법률을 보유하고 있습니다. 2025년 뉴섬은 국내 최초의 AI 안전법인 프론티어 인공지능 투명성법(SB 53)에 서명했습니다. 이 법은 프론티어 개발자가 안전 프레임워크를 공개하고, 중요한 안전 사고를 주에 보고하고, 심각한 위험을 초래하는 내부 고발자를 보호하도록 요구합니다.

올해 추가된 SB 813 및 AB 1405는 시행 역량을 제공합니다. 즉, 프론티어 시스템을 독립적으로 평가하기 위한 인증된 제3자 조직과 감사자가 독립 표준을 준수하도록 하는 전문 등록 기관입니다.

다음에 일어나는 일은 2개월 시계입니다. 전문가 패널이 보고하면 캘리포니아는 첨단 AI 기업에 외부에서 작성된 안전 계획을 수락하고 가장 강력한 모델에 비상 차단 메커니즘을 구축하도록 요구하는 최초의 주가 될 수 있습니다. 자체 작업 중 얼마나 많은 부분을 AI에 넘겨야 하는지, 그리고 AI가 생성하는 에이전트를 어떻게 억제해야 하는지 여전히 논의하고 있는 업계의 경우 마감 기한이 매우 현실화되었습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →