Google DeepMind의 Demis Hassabis, 미국 주도의 글로벌 기관에 최첨단 AI 모델 테스트 요청

DeepMind CEO Demis Hassabis는 출시 전에 첨단 AI 모델을 평가하기 위한 독립적인 미국 주도의 표준 기관을 제안하면서 AGI가 몇 년 안에 도착할 수 있다고 경고하고 지금 안전 조치를 촉구했습니다.

구글 딥마인드(Google DeepMind) CEO 데미스 허사비스(Demis Hassabis)는 첨단 AI 모델이 대중에게 공개되기 전에 이를 평가하고 규제할 독립적인 미국 주도 표준 기구의 창설을 촉구하면서 인공 일반 지능(AI)이 불과 몇 년 밖에 남지 않을 수 있다고 경고했습니다. 2026년 7월 14일에 게시된 LinkedIn 게시물과 Axios의 독점 보고서에 자세히 설명된 Hassabis는 가장 진보된 AI 시스템을 개발하는 회사가 출시 전 검토를 위해 제출하도록 요구하는 포괄적인 거버넌스 프레임워크를 제시했습니다. 이 제안은 AI 기능을 관리하기 위해 고안된 규정보다 빠르게 발전하는 AI 기능을 관리하는 방법에 대한 심화되는 글로벌 논쟁에 업계의 목소리를 더해줍니다. 최신 AI 산업 보도에 따르면 이 계획은 현재까지 업계가 지원하는 가장 상세한 거버넌스 청사진 중 하나입니다.

Hassabis는 사이버 보안과 같은 분야에서 최첨단 AI가 제기하는 잠재적인 과제를 고려할 때 긴급한 조치가 필요하다고 썼습니다. 머지않아 사회는 점점 더 주체적이고 반복적으로 자기 개선되는 시스템에 대한 통제를 유지하고 시간이 지나면서 더욱 명확해질 알려지지 않은 문제를 해결하기 위해 강력한 보호 장치가 필요할 것이라고 그는 말했습니다. 그는 다음에 무슨 일이 일어날지 세상 누구도 모른다며, 신중한 낙관은 문제가 구체화되기를 기다리기보다는 지금 가드레일을 쌓는 것을 의미한다고 강조했습니다.

제안된 프레임워크의 작동 방식

Hassabis 제안의 중심에는 연방 정부가 감독하는 공공-민간 파트너십 또는 자율 규제 조직의 형태를 취할 수 있는 표준 기관이 있습니다. 이 기구는 납세자가 아닌 AI 산업 자체에서 자금을 조달하는 독립적인 선도적인 기술 전문가와 오픈 소스 대표로 구성됩니다. 허사비스는 미국이 첨단 AI 개발에 집중하고 있다는 점을 고려할 때 미국이 전 세계적으로 노력을 주도해야 한다고 제안했습니다.

표준 기관은 평가 프로토콜 개발을 담당하며 적절한 연방 기관 및 미국 국립 연구소와 협력하여 국가 안보와 관련된 영역에서 테스트를 수행합니다. 모델이 신체에서 결정한 일련의 벤치마크에서 특정 임계값을 충족하고 진화하는 AI 기능에 보조를 맞추기 위해 정기적으로 업데이트되는 경우 프론티어급 모델의 자격을 갖추게 됩니다. 이 임계값 기반 접근 방식은 모든 AI 개발에 균일한 부담을 부과하는 대신 가장 강력한 모델만 가장 엄격한 감독을 받도록 설계되었습니다.

프론티어급 모델을 개발하는 회사는 프론티어 랩으로 지정되며 특정 의무를 이행해야 합니다. 여기에는 기술 세부 정보가 포함된 모델 카드 게시, 강력한 내부 사이버 보안 관행 유지, 핵심 인력 심사 등이 포함됩니다. 결정적으로, Frontier Labs는 공개 출시 전 최대 30일까지 검토를 위해 표준 기관과 모델을 자발적으로 공유해야 하며 모델이 평가 프로토콜 요구 사항을 충족하는 경우에만 배포가 허가됩니다.

Hassabis는 또한 이 프레임워크가 원산지, 오픈 소스인지 폐쇄 소스인지에 관계없이 프론티어급 모델에 적용될 수 있다고 언급했습니다. 이는 AI 개발의 글로벌 특성을 해결하고 규제 차익거래를 방지하려는 시도입니다.

금융 규제와의 비교

Hassabi가 구상하는 구조는 다른 산업의 기존 자체 규제 프레임워크와 직접 비교됩니다. Quartz 및 기타 매장에서는 증권거래위원회의 감독 하에 운영되는 비정부 기관으로서 미국의 브로커-딜러를 감독하는 금융 산업 규제 기관인 FINRA와 유사하다고 지적했습니다. 아이디어는 금융 부문과 마찬가지로 AI 산업도 자체 참가자가 자금을 지원하지만 연방 감독하에 운영되는 조직에 의해 감시될 수 있다는 것입니다.

TechCrunch는 Hassabis가 이 제안을 검증되지 않은 개발과 가혹한 정부 명령 사이의 실용적인 중간 경로로 구성했다고 보고했습니다. 평가 프로세스의 중심에 기술 전문 지식을 유지하고 업계 기여를 통해 기관에 자금을 지원함으로써 이 모델은 매달 진화하는 기술에 보조를 맞출 수 있을 만큼 신뢰성과 민첩성을 모두 갖추는 것을 목표로 합니다.

지금이 중요한 이유

AGI가 몇 년 안에 도래할 수 있다는 Hassabis의 경고는 세계에서 가장 존경받는 AI 연구자 중 한 사람의 의미가 깊습니다. 노벨상 수상자는 AI 역량과 거버넌스 사이의 격차가 커지고 있다고 거듭 경고했습니다. 그의 제안은 전 세계 정부가 매우 다양한 접근 방식을 통해 AI 감독 프레임워크를 구축하기 위해 분투하고 있는 순간에 나왔습니다. 유럽연합은 AI법을 시행한 반면, 미국은 행정 조치와 업계의 자발적인 약속을 결합하는 보다 단편적인 경로를 택했습니다.

지정학적 차원은 불가피하다. Neowin과 다른 매체가 관찰한 바와 같이, 제안된 기구가 미국이 주도하고 주로 미국 업계 리더로 구성된다면 중국과 같은 국가는 스스로가 그 표준에 구속되지 않는다고 생각할 수 있습니다. 프론티어 AI 개발은 이제 글로벌 경쟁이 되었으며 주요 플레이어를 배제하는 거버넌스 프레임워크는 시행 가능하기보다는 열망적이 될 위험이 있습니다. 출신 국가에 관계없이 프레임워크를 적용해야 한다는 Hassabis의 요구는 이러한 도전을 인정하는 것이지만 국제적으로 규정 준수가 어떻게 보장될 것인지에 대한 의문을 제기합니다.

이 제안은 또한 자율적인 행동을 취할 수 있는 에이전트 AI 시스템의 위험에 대한 우려가 커지는 가운데 나온 것입니다. 반복적으로 자체 개선되는 시스템에 대한 Hassabis의 언급은 AI 안전 연구에서 가장 논란이 많은 시나리오 중 하나를 다루고 있습니다. 여기서 모델은 인간이 모니터링하거나 제어하기 어려울 수 있는 방식으로 반복적으로 스스로를 개선할 수 있게 됩니다.

업계 대응 및 다음 단계

이 제안은 CNBC, The Verge, The Economist, The Indian Express를 포함한 주요 매체에서 폭넓게 보도되었으며, 이는 Hassabis의 지지가 지니는 무게를 반영합니다. 일부 평론가는 이 계획이 업계 내부의 건설적인 기여라고 칭찬한 반면, 다른 평론가는 AI 회사에 제품 출시를 제한할 수 있는 기구에 자금을 지원하고 참여하도록 요청하는 데 내재된 긴장감을 지적했습니다.

미국 정부가 Hassabis 프레임워크의 어떤 버전을 채택할지 여부는 아직 알 수 없습니다. 분명한 것은 AI의 가장 영향력 있는 인물 중 한 사람의 요청으로 개척 모델의 출시 전 평가에 대한 대화가 높아졌고 정책 입안자들이 다음 단계를 고려할 때 고려해야 할 구체적인 업계 지원 제안을 제공했다는 것입니다.