NVIDIA và Cisco đã công bố thông số kỹ thuật chung cho mô-đun quang học có thể cắm mới vào ngày 12 tháng 10, được gọi là có thể cắm hệ số dạng nhỏ siêu dày đặc (USFP), được thiết kế để mang tải mạng của thế hệ nhà máy AI tiếp theo. Theo thông cáo báo chí của NVIDIA, USFP dự kiến sẽ là mô-đun đầu tiên hỗ trợ tín hiệu điện 400Gb/s mỗi làn, cho phép tổng công suất lên tới 12,8Tb/s – bước nhảy vọt về mật độ mà các công ty cho biết sẽ cho phép các nhà khai thác mở rộng quy mô kết cấu Ethernet AI mà không cần thêm các tầng mạng hoặc tăng ngân sách điện năng của họ.
Thông báo này là dấu hiệu mới nhất cho thấy mạng trung tâm dữ liệu, hệ thống điện toán đám mây lâu đời không mấy hấp dẫn, đã trở thành một chiến trường chiến lược trong việc xây dựng AI. Khi các cụm phát triển từ hàng nghìn đến hàng trăm nghìn máy gia tốc, hệ thống quang học kết nối chúng giờ đây định hình cả tính kinh tế và vật lý của AI trên quy mô lớn. Để có bối cảnh rộng hơn về cách các nhà cung cấp cơ sở hạ tầng đang tái định vị cho kỷ nguyên đại lý, phần tin tức AI của chúng tôi sẽ theo dõi các động thái khi họ cập bến.
USFP thực sự thay đổi những gì
Các mô-đun có thể cắm hiệu suất cao ngày nay phần lớn chạy ở tốc độ 200Gb/s trên mỗi làn điện. USFP tăng gấp đôi tốc độ đó lên 400Gb/s trên mỗi làn trong khi vẫn giữ hệ số dạng có thể cắm được mà các nhà khai thác biết cách triển khai và bảo trì. Theo số liệu được NVIDIA công bố, USFP mang lại băng thông và mật độ bảng mặt trước gấp 4 lần so với các mô-đun 200Gb/s mỗi làn, với hiệu suất năng lượng gấp khoảng 1,3 lần — nghĩa là nhiều dữ liệu được di chuyển hơn trên mỗi watt.
Sự kết hợp đó giải quyết một vấn đề phức tạp trong thiết kế nhà máy AI. Khi một bộ chuyển mạch đạt đến dung lượng cổng, cách duy nhất để tăng thêm khả năng điện toán là thêm một lớp bộ chuyển mạch và liên kết quang khác, điều này làm tăng độ trễ, chi phí vốn và mức tiêu thụ điện năng theo từng bậc. Bằng cách tăng gấp đôi cả số lượng làn đường và băng thông trên mỗi làn, USFP cho phép nhiều điểm cuối 1,6Tb/s hơn kết nối thông qua cùng một phạm vi chuyển mạch, trì hoãn thời điểm mà các nhà khai thác phải tìm cách thoát khỏi tình trạng tắc nghẽn với nhiều bậc hơn.
Gilad Shainer, phó chủ tịch cấp cao của NVIDIA, cho biết trong thông báo: “Xây dựng các nhà máy AI lớn nhất thế giới bắt đầu bằng việc xem xét lại những kết nối nhỏ nhất”.
Mười sáu làn đường trong một dấu chân có kích thước OSFP
Các bộ thu phát dựa trên USFP được lên kế hoạch đầu tiên sẽ đóng gói 16 làn song công hoàn toàn vào một diện tích có kích thước bằng mô-đun OSFP — hệ số dạng đặc biệt đã phổ biến trong triển khai cụm AI — hỗ trợ cả bộ chuyển mạch và SuperNIC. NVIDIA cho biết thiết kế có thể mở rộng lên 32 làn và hơn thế nữa trong tương lai, điều này sẽ đẩy công suất trên mỗi mô-đun vượt xa mức trần hiện nay.
Về mặt cơ học, mật độ tín hiệu cao hơn đòi hỏi phải có suy nghĩ về đầu nối mới: USFP sử dụng đầu nối mảng hai chiều với thiết kế chèn hai bước, duy trì khả năng sử dụng của bảng mặt trước, khiến cho quang học có thể cắm được ưu tiên hơn so với các lựa chọn thay thế được hàn xuống. Bill Gartner, phó chủ tịch cấp cao kiêm tổng giám đốc hệ thống quang học và quang học tại Cisco, cho biết: “Các nhà xây dựng AI cần một kiến trúc kết nối có thể mở rộng hiệu suất mà không cần bó buộc họ vào một mô hình hoạt động phức tạp hơn”.
Trò chơi hệ sinh thái, không chỉ là một mô-đun
NVIDIA và Cisco đang định hình rõ ràng USFP như một nỗ lực mở, có nhiều nhà cung cấp: TE Connectivity và Amphenol đã hợp tác với hai công ty này để xây dựng một hệ sinh thái phần cứng đa nguồn xung quanh thông số kỹ thuật. Điều đó quan trọng vì quang học có thể cắm chỉ thành công khi đạt tiêu chuẩn - các nhà khai thác mua chúng với số lượng hàng chục nghìn và không một nhà cung cấp nào có thể chỉ cung cấp (hoặc định giá) số lượng đó.
Cách tiếp cận đa nguồn cũng làm giảm rủi ro cho các nhà sản xuất chuyển đổi và các nhà sản xuất siêu quy mô đang cân nhắc việc áp dụng. Nếu bộ thu phát USFP có sẵn từ nhiều nhà cung cấp, mô-đun có thể đi theo quỹ đạo tương tự như các thế hệ có thể cắm trước đó: giảm chi phí nhanh chóng, khả năng tương tác rộng và dịch chuyển dần dần các kết nối độc quyền hoặc hàn ở các tầng biên của mạng.
Quyền lực là nút cổ chai mới
Những tuyên bố về hiệu suất năng lượng đáng được quan tâm đặc biệt. Mục tiêu đã nêu của NVIDIA đối với USFP là giảm "thị phần mạng trong tổng ngân sách năng lượng của nhà máy AI" - một sự thừa nhận rằng khi mật độ tính toán tăng lên, chi phí năng lượng để di chuyển dữ liệu đang cạnh tranh với chi phí năng lượng của điện toán. Mỗi gigabit di chuyển giữa các giá đỡ đều tiêu tốn một watt và ở quy mô nhà máy AI, số watt đó chuyển trực tiếp thành các kết nối lưới hạn chế và chi phí vận hành.
Thông báo về quang học không đến một cách biệt lập. Cùng ngày, NVIDIA cho biết họ sẽ mở các thiết kế kiến trúc giá đỡ Vera Rubin cho cộng đồng Dự án Điện toán Mở, đồng thời đưa tin từ SiliconANGLE và Wccftech đã mô tả sự đơn giản hóa triệt để đối với khay máy tính — loại bỏ cáp, ống mềm và quạt — cùng với hoạt động quang học của Cisco. FourWeekMBA báo cáo rằng Meta đang áp dụng nền tảng Ethernet Spectrum-6 của NVIDIA. Cùng với nhau, các động thái này tạo ra một sự thúc đẩy phối hợp: mở các thiết kế vật lý, tăng cường quang học và biến Ethernet trở thành kết cấu được lựa chọn cho AI ở quy mô siêu lớn.
Xem gì
USFP là một thông số kỹ thuật dành cho các sản phẩm đã được lên kế hoạch, không phải phần cứng vận chuyển - ngôn ngữ của NVIDIA ("các bộ thu phát dựa trên USFP được lên kế hoạch đầu tiên") khiến dòng thời gian bị lỏng lẻo một cách có chủ ý. Các số liệu cần theo dõi là sự áp dụng của các nhà cung cấp thiết bị chuyển mạch ngoài Cisco, giá bộ thu phát tương ứng với các bộ phận 200G mỗi làn và liệu tín hiệu điện 400Gb/s mỗi làn có đáp ứng mục tiêu về độ tin cậy ở mức âm lượng hay không.
Nếu nó mang lại hiệu quả, USFP có thể thực hiện những điều mà các thế hệ QSFP kế tiếp đã làm cho mạng thời đại AI cho các trung tâm dữ liệu đám mây: thiết lập nhịp kết nối hàng hóa mà toàn bộ ngành xây dựng dựa trên. Và trong một thị trường mà cấu trúc NVLink độc quyền của NVIDIA đã trở thành một đối số quan trọng, một tiêu chuẩn mở, có thể cắm mật độ cao — được đồng tác giả với Cisco, nhà cung cấp mạng lớn nhất — cũng là một tuyên bố mang tính cạnh tranh về cách xây dựng các nhà máy AI.
