Google TPU는 이제 Nvidia에 직접 도전하는 Meta의 데이터 센터를 지원합니다.

Google은 처음으로 TPU를 Meta에 판매했으며 칩은 이미 Meta의 데이터 센터에서 실행되고 있습니다. 이는 Nvidia의 하드웨어 지배력에 대한 직접적인 도전입니다.

2026년 10월 22일에 발표된 Tom's Hardware의 보고서에 따르면 Google의 텐서 처리 장치는 이제 Meta의 데이터 센터 내에서 실행되고 있습니다. 이는 Google이 자체 클라우드를 통하지 않고 배포된 하드웨어로 외부 고객에게 맞춤형 AI 칩을 판매한 최초의 사례입니다. 이러한 움직임은 Nvidia의 GPU가 오랫동안 대규모 모델을 훈련하고 제공하기 위한 기본 선택이었던 AI 하드웨어 시장의 역사적인 변화를 의미합니다.

수년 동안 업계에서는 대안이 등장했음에도 불구하고 Nvidia의 CUDA 소프트웨어 생태계가 GPU를 대체할 수 없게 만들었다고 가정해 왔습니다. 이러한 가정은 이제 이를 깨뜨릴 수 있는 가장 좋은 위치에 있는 두 회사에 의해 테스트되고 있습니다. 이번 분기에 지출되는 Meta의 막대한 AI 인프라에 더해 이루어진 이 거래는 하이퍼스케일러가 컴퓨팅 독립성을 얼마나 진지하게 추구하고 있는지를 보여줍니다. 이 이야기는 당사 홈페이지 aibuzzwire.news에서 매일 다루는 최신 AI 개발을 통해 더 깊이 따라갈 수 있습니다.

TorchTPU에서 강철 및 실리콘까지

이 순간을 위한 기반은 불과 이틀 전에 공개적으로 마련되었습니다. 10월 20일, Google과 Meta는 Google TPU용 기본 PyTorch 백엔드인 TorchTPU를 공동으로 오픈소스로 공개했으며 TorchTPU 팀은 공식 PyTorch 블로그를 통해 이를 발표했습니다. 이 프로젝트는 Meta의 PyTorch 팀과 협력하여 2025년 중반에 Google에서 시작되었으며 이전에는 깔끔하게 관리할 수 없었던 일을 수행합니다. 즉, 간단한 코드 변경만으로 기존 PyTorch 워크로드를 TPU에서 실행할 수 있으며 기본적으로 `.to("cuda")`를 `.to("tpu")`로 교체합니다.

2020년에 출시된 Google의 초기 시도인 PyTorch/XLA는 방해가 되는 소스 코드 수정이 필요하고 컴파일 시간이 길고 PyTorch의 기본 즉시 실행 모드에 대한 지원이 부족했기 때문에 중요합니다. TPU를 실험한 많은 팀은 개발자 경험이 너무 고통스러웠기 때문에 결국 Nvidia GPU로 돌아왔습니다. TorchTPU는 런타임에 JAX 종속성이 없고 이전 Lazy Tensor 접근 방식이 아닌 Torch Dynamo를 기반으로 구축된 torch.compile 통합을 사용하여 이 문제를 해결하도록 명시적으로 설계되었습니다.

메타가 거래에서 얻는 것

구글과 메타가 공개한 기술적 성과는 주목할 만하다. Yahoo Tech에서 보고한 세부 정보에 따르면 TorchTPU 스택은 5,000개의 Hugging Face 모델에 대해 검증되었으며 Google의 DeferAndFuse 실행 모드는 엄격한 열성 실행에 비해 50% 이상의 성능 향상을 제공합니다. 공급업체 사례 연구에 따르면 Meta의 Llama 3 405B 모델은 128~1,024개의 Ironwood TPU 클러스터에서 모델 FLOP 활용도가 57%에 달하는 것으로 나타났습니다. 이는 자체 보고된 수치이지만 칩이 최전방 규모의 교육 워크로드를 능숙하게 실행할 수 있음을 나타냅니다.

경제는 더 큰 이야기입니다. TPU는 최고급 Nvidia GPU보다 비용이 훨씬 저렴하다는 소문이 오랫동안 돌았으며, AI 연구 야망과 추천 시스템을 모두 포괄하는 Meta의 컴퓨팅 능력을 갖춘 회사는 단일 공급업체에서 벗어나 다각화하려는 모든 인센티브를 가지고 있습니다. Bloomberg는 2025년 11월까지 Meta와 Google이 Meta의 데이터 센터에 TPU 배포에 대해 논의하고 있다고 보도했으며, TorchTPU에 대한 협력은 2025년 12월 Reuters에 의해 보고되었습니다. 이제 변경된 점은 거래가 논의에서 배포로 옮겨졌으며 Tom's Hardware에서는 칩이 Meta 시설에 물리적으로 설치되어 실행되고 있다고 보고했습니다.

엔비디아 갑옷의 균열

Nvidia는 여전히 AI 가속기 시장의 압도적인 다수를 차지하고 있으며, Nvidia의 데이터 센터 수익은 모든 경쟁업체가 추구하는 벤치마크로 남아 있습니다. 그러나 역학은 변화하고 있습니다. TechCrunch가 TorchTPU 출시에 대해 보도하면서 Google은 개발자를 하드웨어에 묶어두는 소프트웨어 계층에서 Nvidia의 거점을 공격하기 위해 Amazon에 합류했습니다. 한편 Meta는 협상 영향력을 얻습니다. 설치하는 모든 TPU 랙은 Nvidia 가격으로 구매할 필요가 없는 GPU 랙입니다.

압력은 동시에 여러 방향에서 오고 있습니다. Amazon에는 Trainium 칩이 있고, Google에는 TPU가 있으며, 수많은 스타트업이 추론 전용 가속기를 구축하고 있습니다. Meta 배포가 다른 점은 규모와 가시성입니다. Meta는 Nvidia의 가장 큰 고객 중 하나이며, 엔지니어링 팀이 TPU가 교육 및 추론 워크로드 모두에서 의미 있는 몫을 수행할 수 있다고 결론을 내리면 다른 대규모 구매자가 세심한 주의를 기울일 것입니다.

주의사항

이 중 어느 것도 Nvidia의 위치가 하룻밤 사이에 무너진다는 의미는 아닙니다. PyTorch 블로그 자체에서는 모델이 TPU에서 즉시 실행될 수 있지만 모델 모양, 샤딩 전략 및 커널 구현은 일반적으로 GPU 아키텍처에 맞게 조정되기 때문에 최고 성능을 달성하려면 여전히 하드웨어 인식 최적화가 필요하다고 경고합니다. TPU 명령 세트는 Nvidia의 명령 세트와 다르며 도구, 라이브러리 및 숙련된 엔지니어의 생태계는 여전히 GPU 중심입니다.

공급 문제도 있다. Google은 역사적으로 내부 작업 부하와 클라우드 고객을 위해 TPU를 예약해 왔으며 맞춤 가속기의 제조 용량은 무제한이 아닙니다. Google이 Meta의 전체 컴퓨팅 공간에 의미 있는 규모로 TPU를 공급할 수 있는지 또는 공급하기를 원하는지(대부분의 회사보다 훨씬 작은 수준)는 아직 공개된 질문으로 남아 있습니다.

다음에 볼 내용

모니터링해야 할 즉각적인 신호는 다른 하이퍼스케일러가 Meta의 선례를 따르는지 여부, Nvidia가 가격 책정에 어떻게 대응하는지, TorchTPU의 오픈 소스 모멘텀이 PyTorch 워크로드를 TPU 인프라로 실제로 마이그레이션하는지 여부입니다. AI 하드웨어 시장은 최상위 Nvidia에 대한 신뢰할 수 있는 대안을 수년 동안 기다려 왔습니다. 이제 TPU가 두 번째 회사의 데이터 센터에서 실행되면서 마침내 그 기다림이 끝날 수도 있습니다.