NVIDIA와 Cisco는 차세대 AI 공장의 네트워킹 부하를 전달하도록 설계된 USFP(Ultra-Dense Small Form Factor Pluggable)라는 새로운 플러그형 광학 모듈에 대한 공동 사양을 10월 12일 발표했습니다. NVIDIA의 보도 자료에 따르면 USFP는 레인당 400Gb/s 전기 신호를 지원하여 최대 12.8Tb/s의 총 용량을 지원하는 최초의 모듈이 될 예정입니다. 밀도가 높아지면 운영자는 네트워크 계층을 추가하거나 전력 예산을 늘리지 않고도 이더넷 AI 패브릭을 확장할 수 있을 것입니다.
이번 발표는 오랫동안 클라우드 컴퓨팅의 미미한 배관이었던 데이터 센터 네트워킹이 AI 구축의 전략적 전쟁터가 되었다는 최신 신호입니다. 클러스터가 수천 개에서 수십만 개의 가속기로 성장함에 따라 클러스터를 연결하는 광학 장치는 이제 대규모로 AI의 경제성과 물리학을 형성합니다. 인프라 공급업체가 에이전트 시대에 맞게 어떻게 재배치하고 있는지에 대한 더 넓은 맥락을 위해 AI 뉴스 섹션에서 이러한 움직임을 추적합니다.
USFP가 실제로 변화하는 것
오늘날의 고성능 플러그형 모듈은 주로 전기 레인당 200Gb/s로 실행됩니다. USFP는 운영자가 배포 및 서비스 방법을 알고 있는 플러그형 폼 팩터를 유지하면서 이를 레인당 400Gb/s로 두 배로 늘렸습니다. NVIDIA가 공개한 수치에 따르면 USFP는 레인당 200Gb/s 모듈에 비해 4배의 대역폭과 전면 패널 밀도를 제공하며 전력 효율성은 약 1.3배 더 높습니다. 즉, 와트당 더 많은 데이터가 이동된다는 의미입니다.
이 조합은 AI 공장 설계의 복잡한 문제를 해결합니다. 스위치가 포트 용량에 도달하면 더 많은 컴퓨팅을 추가하는 유일한 방법은 스위치와 광 링크의 또 다른 계층을 추가하는 것입니다. 이렇게 하면 모든 계층에서 대기 시간, 자본 비용 및 전력 소비가 늘어납니다. USFP는 레인 수와 레인당 대역폭을 두 배로 늘려 동일한 스위칭 공간을 통해 더 많은 1.6Tb/s 엔드포인트를 연결할 수 있도록 하여 운영자가 더 많은 계층을 통해 혼잡에서 벗어나야 하는 지점을 연기합니다.
엔비디아의 수석 부사장인 길라드 샤이너(Gilad Shainer)는 발표에서 “세계 최대 규모의 AI 공장을 건설하는 것은 가장 작은 연결을 다시 생각하는 것에서 시작됩니다.”라고 밝혔습니다.
OSFP 크기 공간에 16개 레인
처음으로 계획된 USFP 기반 트랜시버는 스위치와 SuperNIC를 모두 지원하는 OSFP 모듈 크기(AI 클러스터 배포에서 이미 일반적인 주력 폼 팩터) 크기에 16개의 전이중 레인을 포함합니다. NVIDIA는 향후 설계가 32레인 이상으로 확장될 수 있으며, 이로 인해 모듈당 용량이 현재의 한도를 훨씬 넘어설 것이라고 밝혔습니다.
기계적으로 더 높은 신호 밀도에는 새로운 커넥터 사고가 필요했습니다. USFP는 2단계 삽입 설계의 2차원 어레이 커넥터를 사용하여 전면 패널 서비스 용이성을 유지하여 납땜형 대안보다 플러그형 광학 장치를 선호합니다. Cisco의 광학 시스템 및 광학 부문 수석 부사장이자 총괄 관리자인 Bill Gartner는 "AI 빌더에게는 더 복잡한 운영 모델에 얽매이지 않고 성능을 확장할 수 있는 상호 연결 아키텍처가 필요합니다."라고 말하면서 이번 협력의 목표는 "플러그형 광학 장치의 서비스 가능성, 배포 유연성 및 운영 단순성"을 유지하는 것임을 강조했습니다.
단순한 모듈이 아닌 생태계 플레이
NVIDIA와 Cisco는 USFP를 개방형 다중 공급업체 노력으로 명시적으로 구성하고 있습니다. TE Connectivity와 Amphen은 이미 두 회사와 협력하여 사양을 중심으로 다중 소스 하드웨어 생태계를 구축하고 있습니다. 플러그형 광학 장치는 표준으로만 성공하기 때문에 이는 중요합니다. 운영자는 이를 수만 개로 구매하며 단일 공급업체만으로는 해당 볼륨을 공급(또는 가격 책정)할 수 없습니다.
다중 소스 접근 방식은 채택을 고려하는 스위치 제조업체와 하이퍼스케일러의 위험도 낮춰줍니다. USFP 트랜시버를 여러 공급업체에서 사용할 수 있는 경우 모듈은 이전 플러그형 세대와 동일한 궤적을 따를 수 있습니다. 즉, 빠른 비용 감소, 광범위한 상호 운용성, 네트워크의 에지 계층에서 독점적이거나 납땜된 상호 연결의 점진적인 대체가 가능합니다.
전력은 새로운 병목 현상입니다
전력 효율성에 대한 주장은 특히 주목할 만합니다. USFP에 대한 NVIDIA의 명시된 목표는 "전체 AI 공장 전력 예산에서 네트워킹의 점유율"을 줄이는 것입니다. 이는 컴퓨팅 밀도가 증가함에 따라 데이터 이동에 드는 에너지 비용이 컴퓨팅의 에너지 비용과 경쟁하고 있다는 사실을 인정한 것입니다. 랙 간에 이동하는 모든 기가비트에는 와트 비용이 들며, AI 공장 규모에서는 이러한 와트가 제한된 그리드 연결 및 운영 비용으로 직접 변환됩니다.
광학 발표는 단독으로 전달되지 않았습니다. 같은 날 NVIDIA는 Open Compute Project 커뮤니티에 Vera Rubin 랙 아키텍처 설계를 공개할 예정이며 SiliconANGLE 및 Wccftech의 취재에서는 Cisco 광학 작업과 함께 케이블, 호스 및 팬을 제거하여 컴퓨팅 트레이를 근본적으로 단순화하는 방법을 설명했습니다. FourWeekMBA는 Meta가 NVIDIA의 Spectrum-6 이더넷 플랫폼을 채택하고 있다고 보고했습니다. 이러한 움직임은 물리적 설계를 개방하고, 광학 장치를 밀도화하며, 하이퍼스케일 AI를 위한 패브릭으로 이더넷을 선택하는 등 조화로운 추진을 계획합니다.
볼만한 동영상
USFP는 하드웨어 배송이 아닌 계획된 제품 사양입니다. NVIDIA의 언어('첫 번째로 계획된 USFP 기반 트랜시버')는 의도적으로 일정을 느슨하게 둡니다. 관찰해야 할 지표는 Cisco 이외의 스위치 공급업체의 채택, 레인당 200G 부품에 따른 트랜시버 가격, 레인당 400Gb/s 전기 신호가 볼륨 측면에서 신뢰성 목표를 충족하는지 여부입니다.
이것이 실현된다면 USFP는 클라우드 데이터 센터에서 연속적인 QSFP 세대가 했던 것처럼 AI 시대 네트워킹을 위해 할 수 있습니다. 즉, 전체 산업이 구축하는 상용 상호 연결 케이던스를 구축할 수 있습니다. 그리고 NVIDIA의 독점적인 NVLink 패브릭이 주요 종속 주장이었던 시장에서 최대 네트워킹 공급업체인 Cisco와 공동으로 작성한 개방형 고밀도 플러그형 표준은 AI 공장 구축 방법에 대한 경쟁력 있는 설명이기도 합니다.
