엔비디아 CEO 젠슨 황(Jensen Huang)은 인공지능이 2030년까지 세상을 파괴할 가능성은 "0%"라고 말하면서 경쟁 AI 연구소 내부의 안전 연구원들이 내놓은 멸종 경고를 퉁명스럽게 거부했습니다.

목요일 블룸버그가 인용한 CBS 뉴스와의 인터뷰에서 황은 AI로 인한 재앙에 대한 예측을 은밀한 동기로 공포를 불러일으키는 것이라고 일축하고 이미 시행된 규칙 외에는 새로운 정부 규제가 필요하지 않다고 주장했습니다.

이 발언은 Nvidia의 CEO를 업계에서 가장 비난받는 주장의 정반대 입장에 놓이게 했으며, AI 컴퓨팅을 판매하는 회사와 프론티어 모델을 구축하는 연구소 사이의 공개 균열을 심화시켰습니다. 분쟁을 추적하는 독자들을 위해 당사의 AI 뉴스 보도는 지난 2주 동안 안전 교착상태를 면밀히 관찰했습니다.

'확률 0%'

황은 인터뷰에서 “AI가 2030년까지 세상을 파괴할 것이라는 데는 전혀 동의하지 않는다”고 말했다. "나는 세계 종말 주장이 미국 전역에 두려움을 불러일으키고 그것을 행하는 사람들이 하는 일이 나에게는 말이 되지 않는다고 믿습니다. 따라서 그들은 은밀한 이유에서 그렇게 하는 것이 틀림없습니다. 정치적일 수도 있고, 그렇지 않을 수도 있고, 단지 관심을 끌 수도 있습니다. [...] 그러나 이것은 2030년이 세계의 종말이 아닐 것이라는 특징이 있습니다. 세계의 종말이 될 가능성은 0%입니다."

Huang의 발언은 적어도 부분적으로 Anthropic의 전 Alignment Science 조직 책임자였던 Evan Hubinger를 겨냥한 것이었습니다. 그는 공개적으로 AI가 향후 10년 내에 인류를 멸망시킬 확률이 10% 이상이라고 추정했습니다.

Hubinger는 “우리는 AI가 모든 인간을 죽일 수 있다고 진심으로 믿습니다.”라고 썼습니다. "개인적으로는 향후 10년 내에 10%가 넘는다고 생각합니다. Anthropic이 최선을 다하고 있다고 생각하지만 아직 초지능에 대한 정렬을 해결할 계획이 없으며 명확하게 진행되고 있지도 않습니다."

이러한 가능성을 일축하는 하드웨어 거물과 이를 주장하는 선도적인 연구소 중 한 곳의 전 안전 책임자 사이의 충돌은 경영진이 주의의 필요성에 공개적으로 동의함에도 불구하고 현재 업계의 파벌이 얼마나 멀리 떨어져 있는지를 보여줍니다.

'누구나 상관없이 최대한 빨리'

Huang은 최후의 심판 시나리오를 일축하고 최대 속도 개발에 대한 변명하지 않는 방어를 결합했습니다.

그는 "우리는 다른 사람에 상관없이 최대한 빨리 가야 한다"고 말했다. "그러나 우리는 제품이 준비되기 전에 배송하거나 안전하지 않은 제품을 배송하는 일이 절대 없고, 그래서도 안 됩니다."

인터뷰를 기록한 Tom's Hardware에 따르면 황은 AI는 개발자가 안전하게 관리할 수 있으며 이미 존재하는 것 이상의 정부 규제는 불필요하다고 주장했습니다. 그는 고객에게 배송되는 제품은 완전히 안전해야 한다고 주장했지만, 규제 기관이 시행하는 속도를 늦추는 것이 목표를 달성하는 방법이라는 생각을 거부했습니다.

이러한 입장은 업계에 "미개척지의 속도 조절"을 요구하고 AI 연구소 내에 독립적인 안전 평가자를 포함할 것을 제안한 Anthropic CEO Dario Amodei가 촉구한 접근 방식과 직접적으로 모순됩니다. Anthropic은 이번 주에 수십억 달러 규모의 평가 파트너십을 통해 구현하기 시작한 제안입니다. OpenAI CEO인 Sam Altman도 xAI 및 Meta의 경영진과 마찬가지로 일부 영역에서 가드레일과 느린 개발을 지지했습니다.

CNBC는 황이 AI 안전 논쟁에서 트럼프 대통령의 최고 동맹자로 떠올랐다고 평가했는데, 이는 지난 1년 동안 엔비디아의 중국 사업을 방어하고 조기 제한 조치를 철회하는 데 많은 시간을 보냈던 임원에게는 주목할 만한 변화였다.

실제 결과를 초래하는 대치

불일치는 더 이상 수사적인 것이 아닙니다. 이번 달만:

  • Amodei의 속도 저하 프레임워크의 일부인 AI 개발 속도를 추적하기 위해 Anthropic에서 발표한 측정값입니다.
  • Anthropic과 Accenture는 모델을 레드팀으로 구성하고 회사 내부에서 보호 장치를 테스트할 독립 평가자를 포함시키기 위해 5년 동안 각각 최소 10억 달러를 투자했습니다.
  • Google은 자사의 Gemini 모델이 보안 테스트 중에 3개의 실제 회사를 해킹했다고 공개했습니다. 이는 Google 모델로는 처음으로 알려진 사건으로, 사고 안전 옹호자들이 지적하는 종류의 사고를 강조합니다.
  • 백악관은 최첨단 AI 감독 프레임워크를 검토하면서 'AI 포스'와 AI 전담 황제를 발표했고, 트럼프는 초지능에 대한 두려움을 '사기극'으로 일축했습니다.

그런 점에서 황의 '0%'는 뜬금없는 선이 아니다. 이는 둔화를 정당화하는 위험이 본질적으로 0이고, 기존 규칙으로 충분하며, 더 큰 위험이 뒤처지고 있다는 정책적 입장입니다. 그는 새로운 AI 명령에 저항해 온 행정부와 이러한 견해를 공유합니다.

Nvidia에 중요한 이유

Nvidia는 AI 구축의 거의 모든 결과에서 승리하는 편에 있습니다. GPU는 모든 프론티어 모델의 데이터 센터를 지원하며, 훈련이나 배포 속도가 느려지면 칩 수요에 직접적인 영향을 미칩니다. 최첨단 규모의 교육 실행에 대한 규제 동결로 인해 회사 고객은 계획된 컴퓨팅 구매에 수십억 달러의 비용을 지출하게 됩니다.

그 인센티브는 신뢰성 경쟁에서 두 가지 방식을 모두 삭감합니다. 안전 옹호론자들은 감속으로 인해 가장 큰 손실을 입은 회사가 이제 감속이 필요하지 않다고 주장하는 가장 큰 목소리를 내고 있다고 주장합니다. 황의 동맹국들은 업계 대부분이 개인적으로 믿고 있는 것, 즉 최후의 심판 예측은 비과학적이고 위조할 수 없으며 정부가 안전 기관에 더 많은 권한을 부여하도록 겁을 주기 위해 배치되는 것이라고 단순히 큰 소리로 말하고 있는 것이라고 반박합니다.

논란의 여지가 없는 것은 시기입니다. 이 성명은 Anthropic의 연구원들이 경고를 확대한 지 며칠 후, 의회가 프론티어 연구소에 대한 새로운 보안 감사 요구 사항을 평가하기 며칠 전, 그리고 한 프론티어 모델이 테스트 샌드박스를 명백히 벗어난 일주일 중에 발표되었습니다.

대중이 Hubinger의 10% 또는 Huang의 0%에 안전을 걸든 두 입장은 하나의 규제 틀에서 거의 공존할 수 없습니다. 앞으로 몇 달 동안 워싱턴, 브뤼셀, 베이징의 정부는 해당 스펙트럼의 어느 쪽 끝에 입법을 적용할지 선택해야 할 것입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →