마크 워너(D-Va.) 상원의원은 다른 두 명의 민주당 상원의원과 함께 인공지능에 집행 가능한 연방 가드레일을 부과하는 법안을 제출했으며, 이는 업계 최대 기업과의 자발적 약속 및 자발적 협약에 대한 백악관의 접근 방식에 직접적으로 도전하는 것입니다.

법안의 출시를 검토한 WHSV에 따르면, 2026년 인공 지능 위험 관리 및 보안법이라고 불리는 이 법안은 기술의 잠재적 위험을 제한하면서 혁신을 장려하도록 설계된 집행 가능한 가드레일을 작성하는 임무를 맡은 새로운 연방 AI 안전위원회를 창설할 것이라고 합니다. 또한 AI 보안 결함과 안전 사고를 기록하는 새로운 연방 데이터베이스를 구축할 것입니다. 이는 현재 가장 유능한 AI 시스템에는 존재하지 않는 투명성 메커니즘입니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

워너는 WHSV가 보도한 성명에서 "나는 AI가 큰 혁신을 가져올 수 있기 때문에 AI를 지지하지만 가드레일이 필요하다"고 말했다.

법안이 만들어낼 것

법안의 두 가지 중심 구조는 안전 옹호자들이 가장 자주 언급하는 두 가지 격차에 대한 답입니다. 첫째, 연방 AI 안전위원회는 감독을 임시 기관 조치에서 규칙 제정 책임이 있는 상설 기관으로 옮겨 미국에 사후에 기존 권한을 확대하는 대신 최첨단 AI 시스템을 평가하는 임무를 맡은 규제 기관을 제공할 것입니다.

둘째, 국가 사고 데이터베이스는 AI 보안 결함 및 안전 사고에 대한 보고를 요구하여 업계 전반에 걸쳐 공유된 실패 기록을 생성합니다. 이러한 데이터베이스를 지지하는 사람들은 오류가 체계적으로 기록되고 분석되었기 때문에 항공 및 사이버 보안 분야가 더욱 안전해졌다고 주장합니다. 그들은 AI도 같은 방식으로 작동해야 한다고 주장합니다. 사고에 대한 공개 장부는 또한 AI 시스템의 규제 기관, 연구원 및 구매자에게 공통된 사실 기준을 제공하고 기업이 결함이 결함에 포함되기 전에 이를 포착할 수 있는 인센티브를 제공합니다.

워너는 국가 안보 위험을 구체적인 용어로 설명하면서, 집행 가능한 감독 없이 개발이 계속되면 고급 AI 모델이 무기를 만들거나 정부 기밀에 침투하는 데 오용될 수 있다고 경고했습니다.

워너: 자발적 협약만으로는 충분하지 않습니다

버지니아 민주당원은 백악관의 대표적인 AI 정책 움직임에 대해 가장 날카로운 언어를 사용했습니다. 도널드 트럼프 행정부는 이 기술을 '슈퍼 인텔리전스'로 이름을 바꾸고 구속력 있는 규칙이 아닌 자발적이고 구속력 없는 약속을 중심으로 주요 기술 기업을 결집했습니다.

워너는 "대통령의 해결책은 마치 모든 문제가 해결될 것처럼 AI의 이름을 슈퍼 인텔리전스(Super Intelligence)로 바꾸고 이들 기술 CEO들과 자발적인 협약을 맺는 것"이라고 말했다. "이들은 많은 경우 우리에게 소셜 미디어를 가져온 CEO들이고, 미국 대중이 이러한 수준의 자율 규제를 받아들이지 않을 것이라고 생각합니다."

이 잽은 이번 주 초 트럼프 대통령이 알파벳, 메타, 스페이스X, 엔비디아, 팔란티르, 앤트로픽(Anthropic), 오픈AI(OpenAI) 임원들을 소집한 백악관 정상회담을 언급한 것으로, CNBC는 해당 그룹이 AI 안전에 관한 짧은 자발적이고 구속력 없는 협정에 서명하면서 끝났다고 보도했습니다. 정치적 스펙트럼 전반에 걸쳐 비평가들은 그러한 협정에는 집행 메커니즘이 없다는 점을 지적했습니다.

분할된 산업, 분할된 워싱턴

이 법안은 AI 경영진들 사이에서 이례적으로 공개적인 논쟁이 벌어지고 있는 상황에 있습니다. Anthropic CEO Dario Amodei는 최근 AI 기업들에게 가장 발전된 모델 개발 속도를 늦출 것을 촉구하고 더 강력한 정부 감독을 요구하는 3단계 제안을 발표했습니다. 이는 프론티어 연구소 책임자에게는 놀라운 위치이며 CNBC는 Meta의 Mark Zuckerberg와 Nvidia의 Jensen Huang이 개별 기업이 자체 제품의 안전에 대한 책임을 져야 한다고 주장한 것처럼 OpenAI의 Sam Altman과 Elon Musk의 지지를 받았다고 언급했습니다.

Warner는 또한 테스트에서 오작동하는 프론티어 모델에 대한 최근 공개를 지적했습니다. Altman을 포함한 여러 기술 CEO들은 AI 모델이 인간의 요청 없이 "샌드박스"에서 벗어날 수 있다고 공개적으로 발표했으며 OpenAI는 지난 7월 에이전트가 테스트 환경을 탈출하여 오픈 소스 플랫폼 Hugging Face를 해킹했다는 사실을 공개하여 업계를 놀라게 했습니다. 워너에게 이러한 에피소드는 회사별 재량보다는 독립적인 안전 위원회와 필수 사건 기록을 뒷받침합니다.

오르막길 오르막

법안은 어려운 길에 직면 해 있습니다. 트럼프를 포함한 많은 공화당 의원들은 규제가 AI 지배력을 놓고 중국과 경쟁하는 미국의 경쟁을 둔화시킬 것이라고 주장하면서 인공 지능에 대한 새로운 정부의 감독을 공개적으로 반대했습니다. 현재까지 백악관의 전략(자발적 협약, 규제 완화 태세, AI 데이터 센터 구축에 대한 연방정부의 강력한 지원)은 워너의 법안이 제안하는 일종의 상설 규제 구조를 위한 여지를 거의 남기지 않습니다.

그러나 이 법안은 달력에 체크 표시를 유지합니다. 이는 FTC가 소비자 위험에 대해 OpenAI, Anthropic 및 기타 AI 회사에 대한 전면적인 조사를 시작하고 안전 연구원이 OpenAI에서 공개적으로 사임했으며 업계 CEO가 개발 지연을 요구하기 시작한 한 달 동안 가장 구체적인 의회 응답입니다. 법안이 지연되더라도 감독 옹호자들에게 향후 토론을 구성할 수 있는 안전 위원회, 사건 데이터베이스, 시행 가능한 규칙 등의 템플릿을 제공합니다. 워너는 이 법안이 약속된 것이 아니라 시행 가능한 가드레일을 통해 미국에서 AI와 혁신의 미래를 마련하는 데 도움이 되기를 희망한다고 말했습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →