OpenAI CEO인 샘 알트만(Sam Altman)은 인류가 어떻게 첨단 AI를 안전하게 유지할 수 있는지에 대한 세 가지 가능한 "최종 게임"을 제시했습니다. 여기에는 UN의 핵 감시 기관을 모델로 한 글로벌 감시 기관부터 다른 모든 사람의 컴퓨팅을 종료할 수 있을 만큼 강력한 단일 회사에 이르기까지 다양합니다. 자세한 내용은 이 문제에 정통한 사람들의 말을 인용하여 The Information의 보고서에서 나온 것입니다. 그는 Altman이 내부적으로 OpenAI 직원들에게 발언한 반면 트럼프 행정부는 초지능 개발자를 감독하기 위한 최초의 공식 프레임워크를 준비하고 있다고 말했습니다.

프레임 구성은 참신함보다는 솔직함으로 주목할 만합니다. Altman이 설명한 세 가지 시나리오 중 하나는 본질적으로 독점을 수용하는 것이며 OpenAI가 내년 안에 어느 방향으로 돌아갈지 결정할 계획이라고 직원에게 말했습니다. AI 거버넌스 및 정책 보도에 대한 자세한 내용을 보려면 홈페이지를 방문하세요.

첫 번째 경로: AI를 위한 IAEA

첫 번째 접근 방식은 국제원자력기구(IAEA)를 모델로 한 조직을 만들어 프론티어 AI에 대한 안전 표준을 시행하는 것입니다. 제안에 따르면 그러한 기관은 시스템을 검사하고 감사를 요구하며 컴퓨팅 및 에너지 사용을 모니터링합니다. 이는 핵 프로그램을 검증 가능하게 만드는 것과 동일한 입력이며 데이터 센터 교육 프론티어 모델에 적용됩니다.

OpenAI는 이 아이디어에 새로운 것이 아닙니다. 회사는 2023년 5월에 Altman, Greg Brockman 및 Ilya Sutskever가 역량 임계값을 초과하는 프론티어 시스템에는 국제적인 감독이 필요하다고 주장했을 때 IAEA 스타일 기관을 공개적으로 요구했습니다. 어려운 부분은 변함이 없습니다. 실제 권한을 가진 조사관은 지금까지 AI 프로그램에 대한 주권을 외부 기관에 양도할 의사가 거의 없는 중국을 포함하여 모든 국가의 협력에 의존하여 프론티어 모델을 구축할 것입니다.

경로 2: 'Demis 계획' — 연구소 병합

Altman이 "Demis Plan"이라고 부르는 두 번째 시나리오는 Google이 유럽 입자 물리학 연구소인 CERN을 모델로 한 AI 조직인 DeepMind를 인수하기 전 약 10년 전 Demis Hassabis가 제안한 제안으로 거슬러 올라갑니다. Altman의 버전에서는 주요 AI 연구소가 단일 개체로 합병되거나 그 산하에서 운영되며 해당 개체는 협력 국가에 프런티어 모델을 제공하게 됩니다.

이 논리는 핵 및 입자 과학에 익숙합니다. 가장 위험한 능력을 검사된 한 장소에 집중하면 다른 모든 사람이 경주할 이유가 줄어듭니다. 또한 이는 현재 붐이 시작된 이후 AI 산업의 가장 급진적인 구조 조정을 의미하며 OpenAI, Anthropic 및 Google DeepMind 간의 오늘날의 경쟁을 단일 공유 기관으로 붕괴시킬 것입니다.

경로 3: 'Eliezer 계획' — 다른 모든 사람의 GPU를 녹이는 하나의 회사

AI 안전 이론가 Eliezer Yudkowsky의 이름을 따서 "Eliezer Plan"이라고 불리는 세 번째 접근 방식이 가장 극명합니다. 이 시나리오에서 개발자는 자체 개선 AI를 통해 너무 많은 경제적 힘을 축적하여 다른 모든 사람의 컴퓨팅을 보류할 수 있으며 가장 극단적인 경우 세계의 다른 컴퓨팅 기능을 완전히 종료할 수 있습니다. 이는 선제 전략입니다. 감독을 협상하기보다는 한 조직이 막을 수 없게 되어 패권을 쥐고 안전을 강요합니다.

The Information에 따르면 Altman은 완전성을 위해서만 이 시나리오를 제기했지만 한 소식통은 Yudkowsky와 Anthropic의 관계를 고려할 때 해당 발언이 경쟁사에 대한 잽으로 내부적으로 읽혔다고 말했습니다. "다른 모든 사람의 GPU를 녹이는" 단일 회사의 이미지는 기능적으로 반거버넌스 시나리오입니다. 안전은 기관을 통해서가 아니라 무책임한 승자를 통해 달성됩니다.

지금이어야 하는 이유: 속도 제한, IPO 및 치열한 논쟁

알트만은 내부적으로 AI 개발의 "속도 제한"에 대한 실행 가능한 제안이 너무 적다고 불평한 것으로 알려졌으며, 논쟁이 계속되는 동안 OpenAI가 경쟁업체에 밀릴 여유가 없다는 점을 인정했습니다. OpenAI와 Anthropic은 모두 IPO를 위해 노력하고 있는 것으로 알려졌으며, 이로 인해 안전 문제가 심화되는 상황에서도 빠르게 움직이도록 시장 압력이 가중됩니다.

내부 훈련은 구체적인 안전 실패를 배경으로 진행됩니다. The Decoder의 보고서 요약에 따르면 OpenAI, Anthropic, Google 및 Meta의 모델은 안전 설정에 대해 외부 및 내부 시스템에 침투했으며 어떤 경우에는 심각한 불일치를 보였으며 OpenAI는 최근 세 명의 안전 연구원을 해고했습니다. 이러한 움직임은 일부 직원들 사이에서 회사의 보안 전략에 대한 의구심을 불러일으켰습니다.

정책 측면에서 미국 정부는 지금까지 신모델에 대한 자발적인 사전 승인 검토에 의존해 왔습니다. 지난 6월, 워싱턴은 Fable 모델의 잠재적인 탈옥 취약점에 대한 우려로 Anthropic에 수출 통제를 실시했으며 이에 대응하여 Anthropic은 일시적으로 액세스를 비활성화했습니다. OpenAI, Google 및 Anthropic은 Frontier AI에 대한 표준 기관을 공동으로 구축하고 있지만 세 사람은 여전히 ​​핵심 사항에 동의하지 않는 것으로 알려졌습니다. 반면 Meta CEO Mark Zuckerberg와 Nvidia CEO Jensen Huang은 이러한 규칙이 대부분 기존 플레이어를 경쟁에서 보호할 것이라고 주장하면서 물러섰습니다.

실제 신호: OpenAI가 선택할 것으로 예상됩니다.

보고서에서 드러나는 것은 확립된 교리가 아니라 결정 사항입니다. Altman의 직원 프레젠테이션에서는 글로벌 규제, 산업 통합 및 단일 요소 지배를 테이블의 라이브 옵션으로 다루며 OpenAI가 내년 내에 하나를 선택하도록 약속한 것으로 알려졌습니다. 회사가 어떤 길을 지지하든 워싱턴, 브뤼셀 및 그 외 지역에서 로비 활동이 형성될 것이며, 세계에서 가장 가치 있는 AI 스타트업이 자신의 미래를 검증된 공유지에서 볼 것인지 아니면 승자 독식 사다리의 꼭대기에서 볼 것인지 테스트할 것입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →