Meta는 특이한 변형을 통해 대규모 언어 모델 훈련을 정면으로 목표로 하는 최초의 맞춤형 가속기인 MTIA 400의 막을 열었습니다. 이번 주 연례 Hot Chips 반도체 컨퍼런스에서 자세히 설명된 이 칩은 Meta의 전체 AI 야망에 자금을 지원하는 광고를 제공하는 딥 러닝 추천 워크로드도 수행할 것입니다.

전체 기술 공개를 처음으로 보도한 The Register는 이 디자인을 "분리된 성격"이라고 불렀습니다. 한쪽에는 개척자 훈련용 칩이 있고 다른 한쪽에는 광고 서비스 엔진이 있습니다. 이는 Meta가 자체 실리콘에서 AI의 미래를 운영할 계획이라는 가장 분명한 신호입니다. 칩 산업을 형성하고 있는 최신 AI 개발에 대해 자세히 알아보려면 AI Buzz Wire를 팔로우하세요.

AI를 훈련하고 동일한 칩에서 광고를 제공하는 이유는 무엇입니까?

맞춤형 AI 가속기를 구축하는 대부분의 회사는 추론으로 시작합니다. 클러스터는 더 작고, 칩은 더 간단하며, 작업이 잘 이해됩니다. Meta는 종종 수만 또는 수십만 개의 가속기가 필요한 업계에서 가장 컴퓨팅 집약적인 워크로드인 LLM 교육을 먼저 목표로 삼아 이러한 추세에 맞서고 있습니다.

타협은 두 번째 작업 부하입니다. 사용자가 볼 광고와 게시물을 결정하는 딥 러닝 추천 모델인 DLRM 추론은 주로 컴퓨팅 바인딩이 아닌 메모리 바인딩입니다. 즉, 칩의 교육 능력 중 상당 부분이 광고 제공 중에 유휴 상태로 유지됩니다. 그러나 Meta가 컴퓨팅에 수백억 달러를 소모하는 상황에서 하나의 칩 풀 이중 임무를 갖는 것은 실용적인 헤지입니다. 특히 두 가지 사용 사례 중 하나가 직접 수익을 창출하는 경우에는 더욱 그렇습니다.

MTIA 400 내부: 3nm 칩렛 및 Broadcom IP

The Register와 ServeTheHome이 분석한 Meta의 Hot Chips 프레젠테이션에 따르면:

  • 멀티 다이 아키텍처: 호스트 연결 및 워크로드 조정을 처리하는 컴퓨팅 다이 2개, I/O 다이 2개, SoC 다이 1개
  • 프로세스 노드: 컴퓨팅 칩렛은 TSMC의 3nm 공정 기술을 기반으로 구축되었습니다.
  • 컴퓨팅: 칩렛당 처리 요소의 6x8 그리드로 1.7GHz에서 총 12페타플롭의 MXFP4 컴퓨팅을 제공합니다.
  • 메모리: 36GB HBM3e 스택 8개 — 총 288GB, 대역폭 약 9.2TB/s
  • 상호 연결: RDMA를 통한 1.2TB/s의 칩 간 대역폭, Broadcom의 참여를 고려하면 이더넷일 가능성이 높음

Broadcom의 지문은 어디에나 있습니다. Register에서는 가속기가 칩 설계자의 XPU IP를 사용하여 제작된 것이 거의 확실하다고 지적합니다. 이는 Meta가 가속기 설계의 매력 없는 부분을 아웃소싱하는 동시에 차별화에 집중할 수 있게 해주는 실용적인 선택입니다.

Nvidia 및 AMD와 비교하여 비교하는 방법

공연 사진은 미묘합니다. 훈련에 일반적으로 사용되는 더 높은 정밀도에서 MTIA 400은 Nvidia의 최고 사양 Blackwell 가속기보다 약 20% 빠르면서도 비슷한 전력을 소비합니다. 메모리 대역폭은 Nvidia 및 AMD의 이전 세대 부품보다 약 15% 더 좋습니다.

그러나 최신 세대와 비교하면 격차가 급격히 벌어집니다. MTIA 400은 Nvidia의 Rubin 및 AMD의 Instinct MI455X보다 각각 3배~3.3배 느리며 새로운 GPU의 메모리 대역폭의 절반도 안되는 성능을 제공합니다. 이러한 적자는 바로 Meta가 이 부품을 추론 칩이 아닌 훈련 칩으로 포지셔닝하는 이유입니다. 토큰을 제공하기 위해 훨씬 더 빠른 옵션이 있습니다.

시스템 수준에서는 업계 표준 랙과 매우 유사합니다. 각 컴퓨팅 블레이드는 4개의 MTIA 400 가속기를 PCIe 스위치, x86 CPU 및 스케일 아웃 NIC와 쌍으로 연결합니다. 전체 랙에는 컴퓨팅 블레이드 18개와 스위치 블레이드 8개(단일 통합 도메인에 가속기 72개)가 포함됩니다. 이 구성은 Nvidia의 NVL72 및 AMD의 Helios 랙 설계를 반영합니다. Meta의 슬라이드는 클러스터 한도를 지정하지 않고 "수천 개의 가속기 확장"을 약속합니다.

로드맵: 내년 MTIA 450

MTIA 400은 라인의 끝이 아닙니다. Meta는 지난 3월에 4개의 새로운 MTIA 세대에 걸쳐 6개월 간의 릴리스 주기를 계획하고 있으며 다음 단계는 HBM4를 채택하여 메모리 대역폭을 두 배로 늘릴 것으로 예상되는 추론 최적화 변형인 MTIA 450이라고 밝혔습니다. 이 칩은 내년에 생산될 예정이며 LLM 기반 추천 워크로드를 실행하는 데 매우 적합해야 합니다.

이러한 진전에도 불구하고 The Register의 분석은 무뚝뚝합니다. Meta의 내부 실리콘은 조만간 AMD나 Nvidia GPU를 대체하지 않을 것입니다. Meta Superintelligence Labs는 여전히 기존 GPU에서 최첨단 모델을 훈련하고 있으며, 애플리케이션별 하드웨어는 여전히 잘 이해되고 안정적인 워크로드에 가장 적합합니다.

중요한 이유

MTIA 400은 두 가지 이유로 중요합니다. 첫째, 쉬운 추론에서 승리하기보다는 가장 어려운 워크로드(프론티어 교육)를 기꺼이 공격하려는 하이퍼스케일러를 보여줍니다. 둘째, 디자인의 광고 서비스 측면은 경제성을 상기시켜줍니다. 맞춤형 실리콘에 대한 모든 자본 지출은 역사상 가장 수익성이 높은 광고 사업에 의해 인수됩니다. Meta가 교육 및 추천 워크로드의 일부라도 상용 GPU에서 전환할 수 있다면 규모에 따른 절감액은 수십억 달러에 달할 것입니다.

출처: Meta의 Hot Chips 2026 프레젠테이션, The Register 및 ServeTheHome.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →