Anthropic은 10억 달러의 피해 임계값을 포함하는 자체 AI 안전 법안을 의회에 제출했습니다.

Politico가 본 법안 초안에서는 워싱턴이 Commerce를 주요 규제 기관으로 두고 10억 달러 이상의 피해 또는 50명의 심각한 부상만 허용하는 AI 모델을 차단하도록 허용했습니다.

Anthropic은 정부가 AI 모델의 출시를 차단할 수 있도록 허용하는 연방법 초안에 대해 미국 국회의원들에게 조용히 제안해 왔지만 Politico의 보고서에 따르면 가장 극단적인 상황에서만 허용됩니다.

폴리티코가 본 제안 초안은 모델이 10억 달러 이상의 손해를 입히거나 50명 이상의 사람을 죽이거나 심각한 피해를 입힐 수 있는 예측 가능하고 임박한 위험이 있는 경우에만 연방 개입을 허용할 것이라고 밝혔습니다. 이 프레임워크는 다른 사람들이 작성하기 전에 자체 산업을 지배하는 규칙을 형성하려는 Anthropic의 시도를 반영합니다. 회사는 이 노력이 6월부터 실행되고 있음을 확인했습니다.

법안 초안이 할 일

제안에 따라 정부는 AI 모델의 출시를 차단하거나 좁은 범위의 재앙적인 시나리오에서만 사용할 수 있습니다. 지정된 위험은 생물학적 무기의 생성 또는 출시, 개발자의 통제를 회피하는 AI 모델 또는 사이버 공격과 관련되어야 합니다.

임계값은 의도적으로 높습니다. 폴리티코(Politico)의 보고에 따르면 AI 연구소는 에이전트가 웹사이트를 해킹하거나 다른 방식으로 잘못된 행동을 한 사건을 기록했지만, 지금까지 AI 사건으로 인해 광범위한 사망이나 10억 달러 이상의 피해가 발생하지는 않았습니다. 즉, 이 법안은 현재 실패가 실제로 발생하는 지점보다 훨씬 높은 정부의 한계선을 정의합니다.

비평가들은 이미 그 디자인을 포착했습니다. Tom's Hardware는 이 제안을 "상무부를 AI 모델을 중단할 수 있는 유일한 기관으로 효과적으로 만들 것"이라고 규정했으며 Mother Jones는 이 법안의 정부 조치 기준을 "놀라움"이라고 설명했습니다. 지지자들은 높은 기준이 바로 핵심이라고 반박합니다. 이는 정기적인 모델 업데이트를 규제 검토에 거치지 않고 치명적인 실존 등급 위험을 목표로 삼는 것입니다.

독립적인 평가, Commerce에 등록됨

법안의 집행 메커니즘은 제3자의 조사에 달려 있습니다. AI 연구소와 그 개척 모델을 정기적으로 검토하려면 상무부에 등록된 독립적인 평가가 필요합니다.

평가자가 회사의 프론티어 모델이 "즉각적인 열거된 위험"을 제기한다고 결론을 내리면 평가자는 평가 완료 후 72시간 이내에 그 결과를 상무부에 보고해야 한다고 Politico는 말합니다. 해당 보고 시계와 등록 요구 사항으로 인해 상무부는 프론티어 AI 감독을 위한 연방 정부의 중앙 노드가 될 것입니다.

이 접근 방식은 계류 중인 다른 법안의 방향을 반영합니다. 상원 민주당 의원 3명이 발의한 2026년 인공지능 위험 관리 및 보안법(AI Risk Management and Security Act)도 마찬가지로 상업 중심의 AI 평가를 고려합니다. 마리아 캔트웰(Maria Cantwell) 상원의원의 별도 법안은 미국 국립표준기술연구소(National Institute of Standards and Technology)에 치명적인 AI 피해에 대한 표준 개발을 맡게 하는 반면, 조시 홀리(Josh Hawley) 상원의원의 AI 위험 평가법은 에너지부가 배포 전 가장 강력한 시스템에 대한 스트레스 테스트를 담당하도록 하는 것입니다.

인류의 방어: 6월부터 옹호되는 합리적인 정책

Anthropic 대변인은 Politico에 "이 초안은 우리가 6월부터 연방 및 주 의원들과 함께 옹호해온 Anthropic의 Advanced AI Framework에 설명된 제안을 대표한다"고 덧붙였습니다. "이것은 의회가 조치를 취해야 한다고 믿는 합리적인 정책입니다."

회사의 입장은 공개 자세와 일치합니다. Anthropic은 최첨단 AI 위험이 실제적이지만 범위가 좁으며(생물무기 지원, 통제력 상실, 공격적인 사이버 작전에 집중되어 있음) 규제가 일상적인 AI 애플리케이션의 광범위한 범위보다는 여기에 초점을 맞춰야 한다고 반복해서 주장해 왔습니다.

자체 청구서를 작성하는 것이 논리적인 다음 단계입니다. Anthropic은 다른 사람들의 제안에 반응하는 대신 국회의원들에게 자체 위험 프레임워크에 맞게 언어를 조정하고 패치워크 주 규칙을 선점함으로써 연방 법률의 암묵적인 이점을 제공합니다. 로이터와 기타 여러 매체는 하루 만에 폴리티코 보고서를 증폭시켰는데, 이는 워싱턴과 AI 업계가 현재 서로의 움직임을 얼마나 면밀히 관찰하고 있는지를 보여주는 신호입니다.

분열된 워싱턴에서 앞으로 나아갈 길

초안은 어느 정당이 의회를 장악하든 관계없이 가파른 정치적 가능성에 직면해 있습니다. 폴리티코(Politico)의 보고에 따르면 모든 AI 안전 법안은 의무적인 AI 규제에 반대하고 자발적인 표준 기반 접근 방식을 선호하는 백악관의 반발에 직면할 가능성이 높습니다.

그럼에도 불구하고 제안은 지표로서 중요합니다. 이는 세계 최고의 AI 연구소 중 하나가 허용 가능한 위험과 정부 개입 사이의 경계가 어디에 있어야 하는지를 달러와 사상자 수로 정량화합니다. 이는 또한 현재 국회 의사당에서 유통되고 있는 경쟁 법안에 대한 기준점을 생성하며, 그 중 일부는 더 낮은 기준치로 훨씬 더 공격적인 감독을 제안합니다.

정책 분석가들은 논쟁이 진행됨에 따라 세 가지 사항을 지켜볼 것입니다. 피해자 50명과 10억 달러의 수치가 의회 초안 작성 시에도 살아남는지 여부; Commerce에 등록된 평가자가 실제 권한을 얻거나 단순히 자문 역할을 하는지 여부 그리고 연방 선점 언어가 이미 책에 있는 주 차원의 AI 법률을 흡수하거나 충돌하는지 여부. Anthropic은 협소하고 재앙적인 위험만을 고려한 프레임워크가 업계가 실제로 준수할 수 있는 규제 버전이며, 해당 프레임워크를 조기에 형성하는 것이 나중에 부과하는 것보다 낫다고 생각합니다.