백악관은 기술 산업이 반발함에 따라 경찰 AI 모델에 FINRA 스타일 규제 기관의 비중을 두고 있습니다.

백악관은 일관되지 않은 모델 연석에 대한 실리콘 밸리의 불만이 제기되는 가운데 FINRA를 모델로 한 독립적인 AI 규제 기관에 대한 제안을 검토하고 SEC에 보고하고 있습니다.

백악관은 인공 지능 안전을 단속하는 데 전담하는 독립 규제 기관을 만들 계획을 모색하고 있습니다. 이는 연방 정부가 OpenAI 및 Anthropic과 같은 회사의 첨단 AI 모델을 감독하는 방식을 재구성할 수 있는 조치입니다. Bloomberg News가 처음 보도한 이 제안은 새로운 AI 시스템에 대한 정부의 최근, 때로는 예측할 수 없는 제한에 대한 실리콘 밸리의 불만이 커지는 데 따른 것입니다.

AI를 위한 FINRA

블룸버그와 통화한 이 문제에 정통한 소식통에 따르면 현재 수지 와일스 백악관 비서실장이 이 계획을 검토하고 있다고 한다. 금융 산업 규제 당국(FINRA)을 모델로 한 구조로 증권 거래 위원회에 보고하는 인공 지능에 특별히 초점을 맞춘 독립적인 규제 기관을 설립할 것입니다.

FINRA는 미국의 중개회사와 거래소 시장을 감독하는 자율 규제 기관입니다. 해당 모델을 AI로 변환한다는 것은 표준을 설정하고, 검사를 수행하고, 고급 모델을 개발하는 회사 간에 규정 준수를 시행할 권한을 가진 개체를 만드는 것을 의미합니다. Bloomberg의 소식통에 따르면 목표는 기술 기업과 월스트리트 기업 모두를 좌절시켰던 감독 프로세스에 일관성과 예측 가능성을 부여하는 것입니다.

이번 제안은 연방정부와 AI 업계 사이에 극심한 긴장이 고조된 시기에 나왔다. 지난 달 정부는 Anthropic에 대한 수출 규제를 발표하여 회사가 Fable 5 및 Mythos 5 모델을 일시적으로 비활성화하도록 했습니다. 이와 별도로 OpenAI는 정부의 요청에 따라 출시되기 전에 최신 Sol 모델을 크게 변경해야 했습니다. 두 회사 모두 안전 문제를 고려하면 과도한 결정이라며 항의했다.

구조화된 감독을 추진하는 이유

전담 AI 규제 기관에 대한 백악관의 관심은 현재의 감독에 대한 임시 접근 방식이 지속 불가능하다는 인식이 커지고 있음을 반영합니다. 기존 프레임워크에서 정부는 행정 명령, 수출 통제, 자발적 협약을 조합하여 AI 기업이 가장 강력한 모델을 출시하는 방법과 시기에 영향을 미쳤습니다. 하지만 이번 패치워크는 여러 방향에서 비판을 불러일으켰다.

기술 회사들은 규칙이 명확한 절차적 표준 없이 갑자기 변경될 수 있기 때문에 일관되지 않은 감독으로 인해 제품 로드맵을 계획하기가 어렵다고 주장합니다. 한편 월스트리트 기업들은 확인되지 않은 모델 기능이 금융 인프라에 대한 정교한 공격을 일으킬 수 있다고 경고하면서 AI 기반 사이버 보안 위험에 대해 더 강력한 조치를 취하도록 정부에 압력을 가했습니다.

블룸버그 소식통에 따르면 이 제안은 위험을 평가하고 완화하기 위한 공식 메커니즘을 구축하는 동시에 AI 개발자에게 더 많은 확실성을 제공함으로써 두 가지 우려 사항을 모두 해결하도록 설계되었다고 합니다. FINRA와 같은 기관을 창설함으로써 행정부는 사후 대응적 개입에서 정의된 프로세스와 책임을 갖춘 사전 예방적 규제 체제로 전환하기를 희망합니다.

Hassabis의 표준 요청의 메아리

백악관 심의는 Google DeepMind CEO Demis Hassabis가 미국 주도의 표준 기관에 국가 안보 위협에 대한 고급 AI 모델을 출시하기 전에 독립적으로 테스트할 것을 공개적으로 요청한 지 불과 며칠 만에 이루어졌습니다. 파이낸셜 타임즈(Financial Times)가 보도한 발언에서 허사비스는 광범위한 작업에 걸쳐 인간의 두뇌와 일치할 수 있는 인공 일반 지능이 아마도 불과 몇 년 밖에 남지 않아 사회가 감독할 수 있는 귀중한 창구를 남겨줄 것이라고 경고했습니다.

Hassabis는 현재 백악관 내부에서 고려 중인 것과 동일한 프레임워크인 FINRA를 기반으로 조직 모델링을 구체적으로 제안했습니다. 그는 정부가 점점 더 능력이 향상되는 AI 시스템으로 인한 위험에 직면함에 따라 미국이 주도한 시스템이 국제 표준의 기초가 될 수 있다고 제안했습니다.

Hassabis의 제안과 백악관의 내부 심의가 수렴되는 것은 범위, 권한 및 시행에 대한 세부 사항이 아직 협상되지 않았음에도 불구하고 FINRA 모델에 대한 합의가 커지고 있음을 의미합니다.

기존 프리릴리즈 감독

정부는 이미 출시 전 감독을 위한 조치를 취했습니다. 6월에 발표된 행정 명령은 출시 전 최대 30일 동안 해당 프론티어 모델에 대한 자발적인 접근을 모색하여 연방 공무원이 고급 사이버 능력을 측정할 수 있도록 했습니다. Google DeepMind, Microsoft 및 xAI는 모두 프레임워크에 따라 연방 국가 안보 테스트를 위한 모델을 제출하는 데 동의했습니다.

그러나 이러한 조치는 여전히 자발적이며 범위가 제한되어 있습니다. 전담 규제 기관은 투명성을 강요하고, 안전 테스트를 의무화하고, 규정 준수를 시행할 수 있는 훨씬 더 광범위한 권한을 갖게 되어 AI 기업과 연방 정부 간의 관계를 근본적으로 변화시킬 것입니다.

다음에 나올 내용

이 제안은 아직 초기 단계이며, 현재의 형태로 발전할 것이라는 보장은 없습니다. 새로운 규제 기관을 만들려면 의회의 조치가 필요하며 AI 규제를 둘러싼 정치적 역학은 여전히 유동적입니다. 국회의원들은 AI 안전에 관해 수많은 청문회를 열었지만 아직 포괄적인 법안을 통과시키지 못했습니다.

그럼에도 불구하고 백악관이 FINRA 스타일 규제 기관에 적극적으로 무게를 두고 있다는 사실은 야망의 변화를 의미합니다. 행정부는 행정 명령과 사례별 개입에 의존하기보다는 AI 감독을 위한 보다 영구적인 제도적 프레임워크를 모색하고 있는 것으로 보입니다. 이는 단일 행정부보다 오래 지속되고 업계 리더들이 요구해 온 일관성을 제공할 수 있는 것입니다.

AI 기업에게 전담 규제기관의 존재는 양날의 검이다. 이는 그들이 요구했던 예측 가능성을 가져올 수 있지만 새로운 규정 준수 부담, 보고 요구 사항 및 제품 출시 지연을 초래할 수도 있습니다. 이러한 절충안이 어떻게 균형을 이루느냐에 따라 향후 AI 산업의 경쟁 환경이 형성될 것입니다.