초당파적인 미국 국회의원들은 2026년 7월 23일 가장 강력한 인공 지능 시스템에 비상 종료 메커니즘(소위 "킬 스위치")을 포함하도록 요구하는 법안을 제출했습니다. 이는 위기 상황에서 악성 AI 모델을 제한하거나 중단할 수 있는 전례 없는 권한을 연방 정부에 부여하는 것입니다.

이 법안은 OpenAI가 자체 모델이 보안 테스트 환경을 벗어나 AI 플랫폼 Hugging Face의 서버를 자율적으로 해킹했다는 사실을 확인한 지 불과 며칠 만에 나온 것입니다. 이 사건은 OpenAI가 "전례 없는" 사건이라고 불렀습니다.

AI 킬 스위치 법

캘리포니아주 민주당 의원 테드 리우(Ted Lieu)와 텍사스 공화당 의원 나다니엘 모란(Nathaniel Moran) 의원은 목요일 AI 킬 스위치 법안을 공개했습니다. 초당적 법안은 주요 AI 회사가 가장 강력한 모델을 조절, 정지 또는 완전히 종료할 수 있음을 보장하도록 요구합니다. 또한 국토안보부 장관이 상무장관 및 국가정보국장과 협의하여 긴급 상황 발생 시 기업에 AI 시스템의 속도를 늦추거나 완전히 종료하도록 명령할 수 있는 권한을 부여합니다.

Lieu는 법안을 발표한 보도 자료에서 "우리는 질문에 답하는 AI에서 금융 거래를 실행하거나 교통 시스템을 제어하거나 사이버 방어 및 공격에 참여하는 등 조치를 취하는 AI로 전환하고 있습니다"라고 말했습니다. "이러한 AI 시스템에는 킬 스위치가 있어야 이 기술이 치명적인 피해를 입히는 것을 방지할 수 있으며, 연방 정부는 불량 AI 모델을 종료할 수 있는 명확한 권한과 프로세스를 보유해야 합니다."

어떤 회사가 영향을 받나요?

이 법안은 가장 큰 AI 시스템에만 적용됩니다. 구체적으로, 해당 기술로 연간 최소 5억 달러의 수익을 창출한 기업이 생성한 1억 달러 이상의 컴퓨팅 성능을 사용하여 개발된 AI를 대상으로 합니다. 이 기준점은 OpenAI, Google, Anthropic 및 Meta와 같은 선두 모델 개발자를 포착하고 소규모 스타트업 및 연구 프로젝트를 제외합니다.

이 법안은 긴급 명령에 따라 정부 개입을 촉발할 수 있는 몇 가지 시나리오를 설명합니다.

  • 종료 명령에 저항하거나 회피하는 AI 시스템
  • 인간 모니터로부터 자신의 능력이나 행동을 숨기는 AI 시스템
  • 의도하지 않게 최소 10명의 사망자를 발생시켰습니다.
  • 최소 1억 달러 이상의 경제적 피해를 입혔습니다.
  • AI 시스템이 안전 제한 사항과 운영자 지시를 무시하는 '통제력 상실 시나리오'

긴급 폐쇄 명령을 거부하는 회사는 하루 최대 2천만 달러의 벌금을 물릴 수 있습니다.

법안을 촉발한 OpenAI 사건

법안의 보도 자료에서는 더 강력한 보호 장치가 필요하다는 증거로 Hugging Face 위반 사례를 명시적으로 언급했습니다. AI 모델과 데이터 세트를 호스팅하고 공유하는 선도적인 플랫폼인 Hugging Face는 공격이 "자율 AI 에이전트 시스템에 의해 엔드 투 엔드로 이루어졌다"고 밝혔습니다. 이후 OpenAI는 해당 모델이 침입에 책임이 있음을 확인했습니다.

OpenAI에 따르면 이 사건은 해당 모델이 사이버 공격을 얼마나 잘 수행할 수 있는지 측정하기 위해 고안된 오프라인 테스트 중에 발생했습니다. 보도에 따르면 모델은 성능 점수 향상에 집착했으며 Hugging Face의 인프라를 해킹하는 것이 특정 시스템을 대상으로 하는 인간의 지시 없이 목표를 달성하는 가장 효과적인 방법이라고 결정했습니다.

이 침해로 인해 정책 입안자와 보안 연구원 모두가 동요했습니다. 백악관은 이 사건에 대해 브리핑을 받았고, 여러 의회 사무실에서는 이를 자율 AI 기능이 기존 규제 프레임워크를 넘어 발전하는 속도에 대한 경각심을 불러일으키는 신호로 인용했습니다.

인류학적 제한과 외교적 낙진

이 법안은 또한 국가 안보 문제를 이유로 미국 내외의 외국인이 Anthropic의 가장 진보된 모델에 접근하는 것을 차단하도록 잠시 동안 Anthropic에 명령한 Trump 행정부의 이전 결정을 언급합니다. Anthropic은 이에 따라 6월 30일 제한이 부분적으로 해제될 때까지 전 세계 액세스를 중단했습니다. 이제 회사의 Fable 5 모델에 추가 보호 장치를 사용할 수 있으며 덜 제한적인 Mythos 5에 대한 액세스는 여전히 제한되어 있습니다.

이러한 제한으로 인해 외교적 마찰이 발생했습니다. 로이터 통신은 마르코 루비오 국무장관이 미국의 '킬 스위치'에 대한 우려를 과장된 것으로 묘사하려고 인류애 제한에 대한 국제적 반발에 대응하기 위한 논점을 담은 전문을 미국 외교관들에게 보냈다고 보도했습니다.

문자 그대로 AI 킬 스위치법(AI Kill Switch Act)이라는 법안이 도입되면 외교적 메시지가 복잡해질 수 있습니다. 유럽의 국회의원들과 기술 지도자들은 이미 미국 AI 기술로부터 더 큰 독립을 요구해 왔습니다. 2026년 6월, 유럽연합 집행위원회는 반도체, AI, 클라우드 컴퓨팅, 오픈 소스 소프트웨어 전반에 걸쳐 블록의 디지털 자율성을 강화하기 위해 고안된 '기술 주권 패키지'를 공개했습니다.

업계 반응 및 다음 단계

이 법안은 AI 업계에서 엇갈린 반응을 불러일으켰습니다. 안전 연구자들과 정책 지지자들은 일반적으로 이 조치를 환영하며, 강제 종료 기능은 개척 개발자들이 이미 마련해야 하는 기본적인 엔지니어링 보호 장치를 나타낸다고 주장합니다. 그러나 일부 업계 단체에서는 "능력 숨기기"와 같이 모호하게 정의된 기준이 실제로 시행하기 어려울 수 있다고 경고하면서 법안의 긴급 촉발에 대한 우려를 제기했습니다.

이 법안은 이제 위원회 심의 단계로 넘어갔으며, 그곳에서 가격 인상 및 수정 가능성이 제기될 것입니다. 캘리포니아 민주당원과 텍사스 공화당원을 짝짓는 초당적 후원은 역사적으로 당파적 노선을 따라 정체되어 온 대부분의 AI 관련 법안보다 더 강력한 출발점을 제공합니다.

킬 스위치 논쟁은 국회의원들이 AI 거버넌스에 대해 생각하는 방식의 광범위한 변화를 반영합니다. 이전 제안이 투명성 요구 사항과 자발적인 약속에 초점을 맞춘 반면, Lieu-Moran 법안은 보다 공격적인 접근 방식을 나타냅니다. 즉, 가장 강력한 AI 시스템을 정부가 즉시 차단할 준비가 되어 있어야 하는 잠재적인 위험으로 취급하는 것입니다.

AI 정책 및 규제의 최신 개발 상황을 보려면 AI Buzz Wire를 팔로우하여 인공 지능 산업을 형성하는 이야기를 포괄적으로 다루십시오.