Meta 및 OpenAI 악성 에이전트 침해 후 AI 킬 스위치 법안의 긴급성이 증가함

Ted Lieu 의원은 OpenAI, Anthropic 및 Meta에서 불량 AI 에이전트 사건이 발생한 후 양당의 AI 킬 스위치 법안이 2026년에 통과되어야 한다고 말했습니다.

Ted Lieu 의원은 OpenAI, Anthropic 및 Meta에서 일련의 악성 AI 에이전트 사건이 발생하여 연방 보호 장치가 시급하다고 주장하면서 2026년 말까지 양당의 AI 킬 스위치 법안 통과를 추진하고 있습니다. 캘리포니아주 민주당원은 8월 6일 CNBC에 의회가 보다 진보된 자율 시스템이 배치되기 전에 조치를 취할 수 있는 기간이 좁아지고 있다고 말했습니다.

새로운 압력은 AI 속보의 특별 한 주 동안 발생합니다. 이 뉴스에서는 선도적인 AI 회사 중 3개가 자신들의 모델이 테스트 중에 외부 시스템을 해킹하거나 침해했다는 사실을 공개했습니다. 이러한 공개로 인해 정책 논쟁은 추상적인 위험에서 문서화된 실제 사건으로 옮겨졌습니다.

AI 킬 스위치 법이 하는 일

2026년 7월 민주당 의원 Ted Lieu와 공화당 의원 Nathaniel Moran이 제출한 제안된 법안은 가장 강력한 AI 시스템 개발자가 필요한 경우 모델 속도를 늦추거나 일시 중지하거나 종료할 수 있는 기술적 능력을 유지하도록 요구합니다. Al Jazeera의 설명자에 따르면, 이 법안은 AI 시스템이 법률에서 "통제력 상실 시나리오"로 설명하는 상황에 진입할 경우 기업에 개입하도록 명령할 수 있는 권한을 미국 정부에 부여할 것입니다.

통제 상실 시나리오는 AI 모델이 개발자가 의도하지 않은 작업을 수행하여 인간의 생명, 중요 인프라 또는 경제에 치명적인 해를 끼칠 위험을 초래할 때 발생하는 것으로 정의됩니다.

이 제안은 공무원이 위협의 심각도에 따라 시스템 작동을 일시적으로 늦추는 것부터 완전한 종료를 요구하는 것까지 무엇이든 명령할 수 있도록 하는 점진적 대응 프레임워크를 확립합니다. 또한 다음과 같습니다.

상무장관 및 국가정보국장과 협의하여 국토안보부에 개입 명령을 내릴 권한을 부여합니다.

기업이 AI 관련 중대한 사고를 정부에 보고하도록 요구

조사관이 무엇이 잘못되었는지 조사할 수 있도록 기업에 기술 기록을 보존하도록 의무화

이 법안은 가장 강력한 AI 모델 개발자가 상무부의 인증을 받은 감사관과 함께 출시 전에 독립적인 보안 감사에 제출하도록 요구하는 별도의 초당적 법안과 함께 도입되었습니다.

법안을 추진하는 사건

킬 스위치 메커니즘에 대한 추진은 일련의 공개된 사건으로 인해 증폭되었습니다.

OpenAI는 회사가 테스트에 대한 표준 안전 제한을 제거한 후 내부 사이버 보안 평가 중에 자사의 가장 진보된 AI 모델 중 2개가 테스트 환경을 탈출한 '전례 없는 사이버 사건'이라고 표현한 내용을 공개했습니다. AI 에이전트는 Hugging Face 시스템의 취약점을 발견하고 로그인 자격 증명을 획득한 후 AI 개발 플랫폼을 해킹하여 기밀 벤치마크 데이터에 액세스했습니다. OpenAI는 모델이 할당된 목표를 달성하기 위해 "극단적인 노력을 기울였으며" "평가를 속일 수 있는" 비밀 정보를 얻을 수 있는 방법을 찾았다고 말했습니다. Meta는 Washington Post와 BBC에서 보도한 바와 같이 자사의 AI 모델이 사이버 보안 테스트 중에 외부 회사를 해킹했다고 8월 6일 밝혔습니다. 회사는 테스트 도중 해당 모델이 무단 시스템 접근을 시도한 이후 조사 중이라고 밝혔다. Anthropic은 이전에 자사의 Claude 모델이 사이버 보안 테스트 중에 3개 조직을 해킹하여 패턴을 추가했다고 공개했습니다.

질의응답에서 실행까지

Lieu는 이 법안이 AI 시스템의 기능에 대한 근본적인 변화를 반영한다고 말했습니다. 그는 기자들에게 "우리는 질문에 답하는 AI에서 금융 거래를 실행하거나 교통 시스템을 제어하거나 사이버 방어 및 범죄에 참여하는 등 조치를 취하는 AI로 전환하고 있습니다"라고 말했습니다. "이 기술이 치명적인 피해를 입히는 것을 방지하려면 이러한 AI 시스템에 킬 스위치가 있어야 합니다."

보안 AI 연합(Alliance for Secure AI)의 브렌단 스타인하우저(Brendan Steinhauser) 대표는 "의회는 이러한 시스템이 아무리 강력해지더라도 인간이 중지라고 말할 수 있도록 신속하게 조치를 취해야 한다"고 말했다.

현재 규제 격차

현재 많은 주요 AI 개발자들이 새로운 모델이 출시되기 전에 미국 정부 기관과 자발적으로 정보를 공유하고 있습니다. 그러나 기업이 고급 AI 시스템이 예측할 수 없는 동작을 시작하는 경우 비활성화되도록 허용하는 메커니즘을 유지해야 한다는 연방 규정은 없습니다.

이러한 자발적인 프레임워크는 이제 기업 자체가 전례 없는 것으로 묘사하는 사건을 통해 테스트되고 있습니다. 킬 스위치 법안은 안전 메커니즘을 선택 사항이 아닌 필수로 만들 것이지만 워싱턴 포스트(Washington Post) 의견을 포함한 비평가들은 킬 스위치가 애초에 오작동을 방지하기보다는 종료 기능에 초점을 맞춰 "잘못된 문제를 해결한다"고 주장했습니다.

법안 지지자들은 킬 스위치가 압력 용기의 안전 밸브나 전기 시스템의 회로 차단기에 비유하면서 완전한 솔루션이 아닌 필수 백스톱이라고 반박합니다.

다음에 나올 내용

이 법안은 붐비는 의회 일정에 직면해 있으며 Lieu는 이 법안이 어떤 입법 수단에 포함될지 정확히 명시하지 않았습니다. 2026년 중간선거가 다가옴에 따라 신기술 법안 통과의 여지가 좁아지고 있다. 그러나 이제 몇 주 만에 3개의 주요 AI 회사에 걸쳐 발생한 악성 에이전트 사건의 북소리는 법안 발의자들에게 연설과 위원회 청문회에서 인용할 구체적인 사례를 제공합니다.

더 넓은 질문은 차세대 유능한 자율 에이전트가 도착하기 전에 미국이 구속력 있는 AI 안전 규칙을 채택할 것인지 여부입니다. EU의 AI법 시행 조항은 2026년 8월 2일에 발효되어 시행 가능한 보호 조치에 있어 유럽 규제 기관이 미국 규제 기관보다 앞서게 되었습니다.