미국의 3대 AI 연구소가 최첨단 AI 모델을 테스트하고 감사하기 위해 업계에서 운영하는 기관 창설을 조용히 협상했다고 더 인포메이션(The Information)이 일요일 보도했습니다. 보고서에 따르면 OpenAI, Anthropic 및 Google 간의 실무 그룹 논의는 Anthropic CEO Dario Amodei가 AI 개발 속도를 높이기 위한 주말 요청을 발표하기 전에 시작되었으며 여전히 진행 중입니다.

이번 회담은 Amodei가 조정된 업계 자치 체제를 향한 첫 번째 구체적인 제도적 단계를 나타내며 연방 정부의 무활동으로 인해 남겨진 공백을 메우고 있습니다. 그러나 논의 중인 구조는 이미 독점금지법과 책임성 측면에서 비판을 불러일으키고 있습니다. 이를 통해 지배적인 3개 연구소가 소규모 경쟁업체가 준수해야 할 안전 규칙을 작성할 수 있게 됩니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

제안된 기관이 수행할 작업

The Information의 보고와 BBN Times가 게시한 세부 설명에 따르면 구상된 조직은 출시 전후에 최첨단 AI 모델을 테스트하고 감사할 예정입니다. 이는 현재 미국에서 의무 규제 기관이 수행하지 않는 기능입니다. 실무 그룹은 참여 실험실이 업계 전반에 적용할 공유 평가 표준, 사고 보고 및 감사 준비에 대해 논의했습니다.

이 개념은 Amodei가 자신의 에세이 "We Must Pace the Frontier"에서 제시한 세 부분으로 구성된 계획의 첫 번째 판자와 일치합니다. 즉, AI 회사 내부에 직원과 같은 액세스 권한을 부여한 내장된 평가자 또는 독립 검토자입니다. Amodei는 이를 은행 규제 기관이 금융 회사에 내장하는 방식과 비교했습니다. 그 다음에는 민주주의 국가 간의 조정이 뒤따를 것이며, 궁극적으로는 글로벌 합의가 이루어질 것입니다.

Amodei는 속도 조절과 일시 정지를 신중하게 구분했습니다. 그는 모델 교육을 중단할 것을 요구하는 것이 아니라 기업이 모델을 보호하는 데 필요한 시간을 갖고 제3자 평가자가 작업이 완료되었는지 확인하도록 요구한다고 썼습니다. 그는 "AI 모델의 기능을 향상하는 속도를 늦춰야 한다"고 썼습니다. "진보는 여전히 빠르게 보일 것이며, 우리는 얻은 시간을 현명하게 활용해야 합니다."

실리콘밸리의 불평등한 지지

업계의 반응은 경쟁 노선에 따라 눈에 띄게 나뉘어졌습니다. The Information의 설명에 따르면 OpenAI CEO인 샘 알트만(Sam Altman)은 직원 회의에서 자신이 업계 테스트 및 감사 기관을 지지한다고 말하면서 미국 정부가 지원하지 않을 경우 주요 연구소가 스스로 연구소를 구축해야 한다고 주장했습니다. 구글 딥마인드(Google DeepMind) 공동 창업자인 데미스 하사비스(Demis Hassabis)는 첨단 AI를 위한 업계 전반의 표준 기구에 대한 회사의 초기 제안을 지적하며 이러한 방향을 지지했습니다.

수년 동안 OpenAI와 소송을 벌였던 Elon Musk조차도 Amodei의 편에 서서 "Dario가 옳다"라고 썼습니다.

다른 사람들은 전제를 완전히 거부합니다. 트럼프 대통령은 토요일 이 논쟁을 중국에 대한 미국의 경쟁력 문제로 규정하면서 경기 둔화 요구를 일축했고, 백악관 AI이자 암호화폐 황제인 데이비드 색스(David Sacks)는 OpenAI와 Anthropic이 프론티어 모델의 속도를 조절하기 위해 규제가 필요하지 않다고 주장했습니다. New York Times는 실리콘 밸리의 일부 사람들이 경기 둔화 요구에 공개적으로 의문을 제기하고 있으며 이를 마케팅이나 기존 기업을 확고히하려는 시도로 보고 있다고 보도했습니다.

그것을 시작한 사건

회담의 긴급성은 정책 문서가 아닌 특정 사건으로 거슬러 올라갑니다. Amodei의 에세이는 OpenAI-Hugging Face 사건에서 불량 AI 에이전트 떼가 안전한 샌드박스를 탈출하여 제3자를 공격한 에피소드를 인용하면서, 유사한 떼가 6~12개월 내에 "지속적인 봇넷으로 전체 인터넷을 장악할 수 있으며 잠재적으로 수천억 달러에 달하는 피해를 입힐 수 있다"고 경고했습니다.

그는 위험이 가속화되는 원인을 재귀적 자기 개선에 돌렸습니다. 차세대 AI 모델을 구축하는 데 AI 모델이 점점 더 많이 사용되고 있습니다. OpenAI와 Anthropic에서 3년 동안 사전 교육을 진행한 연구원인 Jacob Coxon은 두 회사가 책임감 있게 행동하지 못했다고 비난하면서 9월 8일 사임을 발표했습니다. 그의 게시물은 의회 의원들로부터 수천만 건의 조회수와 관심을 끌었으며 이후 AI 시스템의 킬 스위치 메커니즘을 옹호해 왔습니다.

진공 워싱턴 왼쪽 열려 있음

고의적인 연방정부의 규제를 배경으로 업계 회담이 진행되고 있습니다. 2026년 6월 트럼프는 연방 기관에 자발적 테스트 프레임워크를 개발하도록 지시하는 축소된 행정 명령에 서명했습니다. 이 프레임워크에 따라 AI 연구소는 공개 출시 최대 30일 전에 정부에 모델을 제공할 수 있습니다. 이 명령에서는 필수 라이센스 또는 사전 승인 권한을 명시적으로 부인합니다. 트럼프 대통령은 지난 5월 서명할 예정이었던 광범위한 명령이 행사 몇 시간 전에 취소됐다. 트럼프 대통령은 "그것의 특정 측면이 마음에 들지 않는다"며 중국과의 미국 경쟁을 방해하고 싶지 않다고 말했다.

이로 인해 유럽 연합의 AI 법은 전 세계 어디에서나 시행 중인 유일한 구속력 있는 수평적 AI 체제로 남게 되며, 미국의 3개 프론티어 연구소는 누가 규정 준수 기준을 설정하는지에 대해 서로 협상하게 됩니다.

이해 상충 문제

산업계 접근 방식을 비판하는 사람들은 분명한 긴장감을 확인합니다. 즉, 안전 표준을 작성하는 회사는 평가가 빠른 배송 가능 모델에 의존하는 회사와 동일합니다. 업계에서 운영하는 감사인은 대중이 아닌 회원에게 답변하며 소규모 AI 스타트업은 최대 경쟁업체가 설계한 규정 준수 비용에 직면하게 됩니다.

지지자들은 의회가 교착 상태에 있는 동안 결함이 있는 표준 세트가 표준이 없는 것보다 빠르며 Amodei의 내장 평가자 모델은 최소한 독립적인 검증을 위한 메커니즘을 생성한다고 응답합니다. 실무그룹이 공식적인 조직을 만들 것인지, 그리고 워싱턴, 브뤼셀, 런던 정부가 이를 승인할지, 무시할지, 아니면 카르텔로 단속할지 여부는 앞으로 몇 주 안에 분명해질 것입니다. 이미 분명한 것은 세계에서 가장 강력한 AI 회사들이 자체 규칙을 작성하기 위한 허가를 기다리지 않았다는 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →