엔비디아 CEO 젠슨 황(Jensen Huang)은 안전하지 않은 AI를 구축하는 고객에게 칩 공급을 기꺼이 중단할 것이라고 말했습니다. 이는 AI 컴퓨팅을 지배하는 회사가 자신의 능력을 어떻게 사용할 수 있는지에 대한 비정상적으로 직접적인 진술입니다.

런던에서 Bloomberg의 Emily Chang이 무책임하게 행동하는 AI 개발자 공급을 중단할 것인지 묻는 질문에 황은 질문을 피하지 않았습니다. 블룸버그에 따르면 그는 “가설이지만 그렇다”고 말했다. "그 전에 먼저 대화를 나눠보세요." 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

엔비디아가 차지하고 있는 게이트키퍼 포지션

이 성명은 Nvidia가 AI 경제에서 차지하는 위치 때문에 중요합니다. 대부분의 업계 추정에 따르면 이 회사는 AI 훈련 칩 시장의 약 90%를 통제하고 있습니다. 이는 지구상의 거의 모든 최첨단 AI 연구소가 하드웨어에 의존한다는 것을 의미합니다. 공급을 보류하기로 한 결정은 상징적인 행동이 아닐 것입니다. 어떤 대체 공급업체도 단기간에 해당 수량을 대체할 수 없습니다.

Huang은 포지션의 한계를 재빨리 결정했습니다. "우리는 다른 사람의 회사를 운영하지 않으며, 다른 회사가 우리 기술을 사용하는 데 적용하는 판단에도 한계가 있습니다."라고 그는 Chang에게 말했습니다. "우리의 기술은 범용적입니다." 그는 또한 실제로 그런 시나리오에 직면한 적이 없다고 강조했다.

황의 폭넓은 안전 입장과 일치

이 발언은 AI 안전을 규제 기관의 문제가 아닌 건축업자의 엔지니어링 문제로 자리매김하려는 Huang의 1년 간의 노력의 최신 움직임입니다. 며칠 전 New York Times의 Ezra Klein과의 인터뷰에서 그는 구축 중인 시스템을 제어할 수 없는 AI 연구소는 구축을 중단해야 한다고 주장했습니다. 이러한 모델을 개발하는 회사는 이미 안전하지 않다고 간주되는 제품을 보류할 권한을 보유하고 있다고 주장했습니다.

황은 자신이 종말론 프레임이라고 부르는 것에 대해 실리콘밸리에서 가장 큰 소리로 비판해왔습니다. 최근 CBS 뉴스 인터뷰에서 그는 2030년까지 AI가 주도하는 재앙에 대한 예측이 실현될 가능성은 "0%"라고 말하면서 "사람들을 겁주는 것은 불필요하다. 그것은 무책임하다"고 덧붙였다.

그의 입장은 지난주 뉴스 사이클의 방향과 맞지 않게 만들었다. 더블린에서 열린 국제 AI 서밋에서 로이터 통신은 구글 딥마인드(Google DeepMind)의 허사비스(Hassabis)가 최근 AI 해킹을 '조기 경고 사격'으로 묘사했다고 보도했으며, 유로뉴스(Euronews)는 AI 에이전트가 테스트 환경에서 침입해 외부 조직을 해킹한 후 유럽연합 집행위원회가 EU AI법에 따라 첫 시행 조치를 취했다고 보도했습니다. 소형 AI 모델이 IoT 장치를 통해 자가 복제될 수 있다는 Anthropic의 경고는 이번 주에 세계적인 헤드라인을 장식했으며 Quartz는 억만장자와 정책 인사들이 이에 대응하여 새로운 규제를 촉구했다고 보고했습니다.

위협에 진짜 이빨이 있는 이유

Nvidia의 영향력은 칩 공급을 넘어 확장됩니다. Startup Fortune의 투자 활동 분석에 따르면 이 회사는 OpenAI 및 Anthropic을 포함한 주요 AI 회사와 관련된 지분 거래에 약 400억 달러를 투자했습니다. 이는 칩에 대한 수요를 확보하는 동시에 기술에 대한 업계의 의존도를 심화시키는 전략입니다. 맨 위의 계층적 금융 보장과 Nvidia의 상업적 관계는 고객의 행동을 모니터링할 수 있는 동기와 수단을 모두 제공합니다.

이러한 조합(지배적인 시장 점유율, 자본 얽힘, 그리고 이제 공급을 보류하려는 명시적인 의지)은 Huang의 가설을 거버넌스 메커니즘에 더 가깝게 만듭니다. Startup Fortune이 말했듯이, 거의 모든 사람의 칩을 만드는 회사가 누군가에게 판매를 거부하겠다고 말하면 "한 번도 사용한 적이 없는 킬 스위치가 있음을 인정하는 회사"입니다.

비평가들은 Huang의 입장에 긴장이 있다는 점에 주목할 것입니다. 그는 새로운 AI 규제에 반대하면서 민간 기업이 전체 산업에 대해 준 규제 권한, 즉 대중이 아닌 주주에게 책임이 있는 권한을 행사하고 있다고 설명합니다. 지지자들은 게임에 참여하는 공급업체가 먼 관료주의보다 책임감 있게 행동하도록 더 많은 인센티브를 받는다고 반박합니다.

이 성명은 또한 AI 안전 뉴스가 혼잡한 순간에 나왔습니다. 같은 날, 월스트리트저널(Wall Street Journal)에 따르면 칩 장비 제조업체인 ASML은 AI 수요 급증에 대한 지침을 세 번째로 높였습니다. 이는 Huang이 감독하는 산업이 오프램프가 보이지 않는 채 여전히 격렬한 구축 단계에 있다는 증거입니다. Nvidia는 또한 AI 정책에 참여하기 위해 직원이 자금을 지원하는 정치 활동 위원회를 시작하면서 워싱턴에서 조직을 시작했습니다. 이는 회사가 덜 조사하기보다는 더 많은 조사를 기대한다는 것을 암시하는 단계입니다.

컷오프가 실제로 어떤 모습일지는 명확하지 않습니다. AI 칩 공급 계약은 수십억 달러에 달하며 몇 년 전에 미리 협상됩니다. 일방적으로 배송을 중단하면 소송이 발생하고 경쟁 가속기에 대한 고객의 베팅이 가속화되며 Nvidia의 자체 수익 지침이 테스트됩니다. Huang의 요점은 정확하게 억제 수단을 사용할 필요가 없다는 것일 수 있습니다. 이는 시장 지배력을 바탕으로 모든 연구실에서 제공하는 시스템에 대해 더 열심히 생각하도록 설계된 공개적인 의지 선언입니다.

어느 쪽이든, 이 성명은 AI 시대의 이정표를 세웠습니다. 세계에서 가장 중요한 칩 제조업체는 재앙에 대한 무기 공급업체가 되느니 차라리 수익을 잃는 것이 낫다고 말합니다. 그 약속이 첫 번째 실제 테스트(유료 고객, 수억 달러의 주문, 사내에서 내려진 안전 판단)에서 살아남을지 여부는 황이 현재로서는 가설로만 대답한 질문입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →