NVIDIA နှင့် Cisco တို့သည် AI စက်ရုံများ၏ မျိုးဆက်သစ် AI စက်ရုံများ၏ ကွန်ရက်ချိတ်ဆက်မှုဝန်ကို သယ်ဆောင်ရန် ဒီဇိုင်းထုတ်ထားသည့် Ultra-Dense Small Form Factor Pluggable (USFP) ဟုခေါ်သော pluggable optics module အသစ်အတွက် ပူးတွဲသတ်မှတ်ချက်ကို အောက်တိုဘာလ 12 ရက်နေ့တွင် ကြေညာခဲ့သည်။ NVIDIA ၏ သတင်းထုတ်ပြန်ချက်အရ USFP သည် 400Gb/s-per-lane လျှပ်စစ်အချက်ပြမှုများကို ပံ့ပိုးပေးသည့် ပထမဆုံး module ဖြစ်လာရန် ရည်ရွယ်ထားပြီး စုစုပေါင်းစွမ်းရည် 12.8Tb/s အထိ ပေးစွမ်းနိုင်သည် — ကုမ္ပဏီများ၏ သိပ်သည်းဆသည် ခုန်တက်သွားကာ အော်ပရေတာများအား ကွန်ရက်အဆင့်များ ထပ်မထည့်ဘဲ သို့မဟုတ် ၎င်းတို့၏ ပါဝါဘတ်ဂျက်များကို မှုတ်ထုတ်ခြင်းမပြုဘဲ Ethernet အထည်များကို အတိုင်းအတာတစ်ခုအထိ ချဲ့ထွင်ခွင့်ပြုမည်ဖြစ်သည်။
ကြေငြာချက်သည် ဒေတာစင်တာကွန်ရက်ချိတ်ဆက်မှု၊ cloud computing ၏ ဆိုးရွားသောရေပိုက်လိုင်းများကို ကာလကြာရှည်စွာ အသုံးချနေခြင်းသည် AI တည်ဆောက်မှုတွင် မဟာဗျူဟာမြောက် တိုက်ပွဲဖြစ်လာသည့် နောက်ဆုံးလက္ခဏာဖြစ်သည်။ အစုအဝေးများသည် ထောင်နှင့်ချီသော အရှိန်မြှင့်စက်များမှ ထောင်ပေါင်းများစွာအထိ ကြီးထွားလာသည်နှင့်အမျှ ၎င်းတို့ကို ချိတ်ဆက်ပေးသော optics များသည် ယခုအခါ စီးပွားရေးနှင့် AI ၏ ရူပဗေဒတို့ကို အတိုင်းအတာတစ်ခုအထိ ပုံသဏ္ဍာန်ပုံဖော်ထားသည်။ အေးဂျင့်ခေတ်အတွက် အခြေခံအဆောက်အအုံရောင်းချသူများသည် မည်ကဲ့သို့နေရာချထားပုံ၏ ပိုမိုကျယ်ပြန့်သောအခြေအနေအတွက်၊ ကျွန်ုပ်တို့၏ AI သတင်းကဏ္ဍသည် ၎င်းတို့ရောက်ရှိချိန်တွင် ရွေ့လျားမှုများကို ခြေရာခံသည်။
USFP အမှန်တကယ် ပြောင်းလဲခြင်းမှာ အဘယ်နည်း
ယနေ့ခေတ် စွမ်းဆောင်ရည်မြင့် pluggable module များသည် လျှပ်စစ်လမ်းကြောင်းတစ်ခုလျှင် 200Gb/s ဖြင့် လည်ပတ်ပါသည်။ USFP သည် အော်ပရေတာများ မည်ကဲ့သို့ ဖြန့်ကျက်ပြီး ဝန်ဆောင်မှုပေးရမည်ကို သိသော ပလပ်ထိုးနိုင်သော ပုံစံအချက်ကို ထိန်းသိမ်းထားစဉ်တွင် USFP သည် ၎င်းကို 400Gb/s သို့ နှစ်ဆတိုးစေသည်။ NVIDIA ၏ထုတ်ပြန်ထားသောကိန်းဂဏန်းများအရ USFP သည် 200Gb/s-per-lane modules များနှင့်နှိုင်းယှဉ်ပါက bandwidth နှင့် front-panel သိပ်သည်းဆ 4x ပေးစွမ်းနိုင်ပြီး ပါဝါထိရောက်မှုမှာ အကြမ်းဖျင်း 1.3x ဖြစ်သည် — အဓိပ္ပါယ်မှာ watt တစ်ခုလျှင် data ပိုများသည်။
ယင်းပေါင်းစပ်မှုသည် AI စက်ရုံဒီဇိုင်းတွင် ပေါင်းစပ်ပြဿနာကို ဖြေရှင်းပေးသည်။ ခလုတ်တစ်ခုသည် ၎င်း၏ port စွမ်းရည်သို့ရောက်ရှိသောအခါ၊ အပိုတွက်ချက်မှုထည့်ရန် တစ်ခုတည်းသောနည်းလမ်းမှာ latency၊ အရင်းအနှီးကုန်ကျစရိတ်နှင့် ပါဝါသုံးစွဲမှုတို့ကို အဆင့်တိုင်းတွင်တိုးမြင့်စေသည့် အခြားခလုတ်များနှင့် optical လင့်ခ်များကို ထပ်ထည့်ခြင်းဖြစ်သည်။ လမ်းသွားအရေအတွက်နှင့် လှိုင်းနှုန်းနှစ်ခုစလုံးကို နှစ်ဆတိုးခြင်းဖြင့် USFP သည် 1.6Tb/s endpoints များကို တူညီသော switching footprint မှတဆင့် ချိတ်ဆက်နိုင်စေပြီး အော်ပရေတာများသည် များပြားသောအတားအဆီးမှ ရုန်းထွက်ရမည့်လမ်းကို ရွှေ့ဆိုင်းလိုက်သည့်အချက်ကို ရွှေ့ဆိုင်းစေသည်။
"ကမ္ဘာ့အကြီးဆုံး AI စက်ရုံများကို တည်ဆောက်ခြင်းသည် အသေးငယ်ဆုံးသော ချိတ်ဆက်မှုများကို ပြန်လည်စဉ်းစားခြင်းမှ စတင်သည်" ဟု NVIDIA မှ အကြီးတန်းဒုတိယဥက္ကဌ Gilad Shainer က ကြေငြာချက်တွင် ပြောကြားခဲ့သည်။
OSFP အရွယ် ခြေရာတစ်ခုရှိ လမ်းဆယ့်ခြောက်လမ်း
ပထမစီစဉ်ထားသော USFP-based transceivers များသည် OSFP module တစ်ခု၏အရွယ်အစားအတိုင်း full-duplex လမ်းသွား 16 ခုကို ထုပ်ပိုးပေးမည် — AI အစုအဝေးဖြန့်ကျက်မှုများတွင် အသုံးများသော workhorse form factor သည် — switches နှင့် SuperNIC နှစ်ခုလုံးကို ပံ့ပိုးပေးသည်။ NVIDIA မှ ဒီဇိုင်းသည် အနာဂတ်တွင် 32 လမ်းသွားနှင့် လမ်းကြောင်းများအထိ ချဲ့ထွင်နိုင်ကာ ယနေ့ခေတ် မျက်နှာကျက်ကို ကျော်လွန်နိုင်စေမည့် မော်ဂျူးတစ်ခုချင်းစီ၏ စွမ်းဆောင်ရည်ကို တွန်းပို့နိုင်မည်ဟု ဆိုသည်။
စက်ပိုင်းဆိုင်ရာအရ၊ ပိုမိုမြင့်မားသောအချက်ပြသိပ်သည်းဆသည် ချိတ်ဆက်ကိရိယာအသစ်အတွက် လိုအပ်သည်- USFP သည် အဆင့်နှစ်ဆင့်ထည့်သွင်းထားသောဒီဇိုင်းဖြင့် နှစ်ဘက်မြင် array connector ကိုအသုံးပြုကာ ရှေ့ panel ၏ဝန်ဆောင်မှုပေးနိုင်စွမ်းကိုထိန်းသိမ်းထားပြီး pluggable optics သည် ဂဟေဆက်ထားသောအခြားရွေးချယ်စရာများကိုပိုကောင်းစေပါသည်။ "AI တည်ဆောက်သူများသည် ၎င်းတို့အား ပိုမိုရှုပ်ထွေးသော လည်ပတ်မှုပုံစံသို့ သော့ခတ်ခြင်းမပြုဘဲ စွမ်းဆောင်ရည်ကို အတိုင်းအတာတစ်ခုအထိ အပြန်အလှန်ချိတ်ဆက်နိုင်သော ဗိသုကာတစ်ခု လိုအပ်သည်" ဟု Cisco မှ အကြီးတန်းဒုဥက္ကဋ္ဌနှင့် optical စနစ်များနှင့် optics အထွေထွေမန်နေဂျာ Bill Gartner က ပြောကြားခဲ့သည်။
ဂေဟစနစ်ကစားခြင်း၊ မော်ဂျူးတစ်ခုမျှသာမဟုတ်ပါ။
NVIDIA နှင့် Cisco တို့သည် USFP ကို ပွင့်လင်းမြင်သာစွာ ရောင်းချပေးသည့် ကြိုးပမ်းမှုတစ်ခုအဖြစ် ပြတ်သားစွာ ပုံဖော်နေကြသည်- TE Connectivity နှင့် Amphenol တို့သည် သတ်မှတ်ချက်ပတ်လည်တွင် အရင်းအမြစ်ပေါင်းစုံ ဟာ့ဒ်ဝဲဂေဟစနစ်ကို တည်ဆောက်ရန်အတွက် ကုမ္ပဏီနှစ်ခုနှင့် လက်တွဲလုပ်ဆောင်နေပြီဖြစ်သည်။ ပလပ်ထိုးနိုင်သော optics များသည် စံချိန်စံညွှန်းများအတိုင်းသာ အောင်မြင်သောကြောင့် အရေးကြီးသည် — အော်ပရေတာများသည် ၎င်းတို့ကို သောင်းနှင့်ချီ၍ ဝယ်ယူကြပြီး၊ ရောင်းချသူ မည်သူမျှ ထိုပမာဏကို (သို့မဟုတ်) ဈေးနှုန်းတစ်ခုတည်းဖြင့် မပံ့ပိုးနိုင်သောကြောင့်ဖြစ်သည်။
အရင်းအမြစ်ပေါင်းစုံချဉ်းကပ်မှုသည် မွေးစားခြင်းကိုထည့်သွင်းစဉ်းစားနေသည့် switch ထုတ်လုပ်သူများနှင့် hyperscalers များအတွက်လည်း ဖြစ်နိုင်ချေကို လျှော့ချပေးပါသည်။ USFP transceivers များကို ပေးသွင်းသူအများအပြားထံမှ ရရှိနိုင်ပါက၊ မော်ဂျူးသည် အစောပိုင်း pluggable မျိုးဆက်များကဲ့သို့ တူညီသောလမ်းကြောင်းအတိုင်း လိုက်ပါနိုင်သည်- ကုန်ကျစရိတ် လျင်မြန်စွာကျဆင်းမှု၊ ကျယ်ပြန့်သော အပြန်အလှန်လုပ်ဆောင်နိုင်မှု၊ နှင့် ကွန်ရက်၏အစွန်းပိုင်းအဆင့်များတွင် တစ်ဦးတည်းပိုင် သို့မဟုတ် ဂဟေဆက်ထားသော အပြန်အလှန်ချိတ်ဆက်မှုများကို ဖြည်းဖြည်းချင်း ရွှေ့ပြောင်းနိုင်သည်။
ပါဝါသည် လည်ချောင်းအသစ်ဖြစ်သည်။
ပါဝါထိရောက်မှု အထူးဂရုပြုထိုက်သည်ဟု ဆိုပါသည်။ USFP အတွက် NVIDIA ၏ဖော်ပြထားသောပန်းတိုင်မှာ "AI စက်ရုံသုံးလျှပ်စစ်ဘတ်ဂျက်၏ ကွန်ရက်ဝေစုဝေစုကို လျှော့ချရန်ဖြစ်သည်" — အသိအမှတ်ပြုမှုတစ်ခုဖြစ်သည့် တွက်ချက်မှုသိပ်သည်းဆများလာသောအခါ၊ ဒေတာရွေ့လျားမှုကုန်ကျစရိတ်သည် ကွန်ပျူတာ၏စွမ်းအင်ကုန်ကျစရိတ်နှင့် ပြိုင်ဆိုင်နေပါသည်။ ဂစ်ဂါဘစ်တိုင်းသည် ဝပ်ခ်များကြားတွင် ကုန်ကျစရိတ်များပြီး AI စက်ရုံမှ အတိုင်းအတာဖြင့် ထိုဝပ်များကို ကန့်သတ်ဂရစ်ချိတ်ဆက်မှုများနှင့် လည်ပတ်မှုစရိတ်အဖြစ် တိုက်ရိုက်ဘာသာပြန်သည်။
optics ကြေညာချက်သည် သီးခြားခွဲထုတ်ခြင်းသို့ မရောက်ခဲ့ပါ။ ထိုနေ့တွင်ပင် NVIDIA သည် ၎င်း၏ Vera Rubin rack ဗိသုကာလက်ရာဒီဇိုင်းများကို Open Compute Project အသိုင်းအဝိုင်းအတွက် ဖွင့်လှစ်ပေးနေပြီး Cisco optics အလုပ်နှင့်အတူ Cisco optics အလုပ်နှင့်အတူ အစွန်းရောက်ရိုးရှင်းသော ရိုးရှင်းမှုကို ဖော်ပြထားကြောင်း သိရသည်။ Meta သည် NVIDIA ၏ Spectrum-6 Ethernet ပလပ်ဖောင်းကို အသုံးပြုနေကြောင်း FourWeekMBA မှ ဖော်ပြခဲ့သည်။ အတူတကွ၊ ရွေ့လျားမှုများသည် ပေါင်းစပ်ထားသော တွန်းအားကို ပုံထုတ်သည်- ရုပ်ပိုင်းဆိုင်ရာ ဒီဇိုင်းများကို ဖွင့်ပါ၊ optics ကို densify လုပ်ကာ Ethernet ကို hyperscale ဖြင့် AI အတွက် ရွေးချယ်စရာ အထည်အဖြစ် ပြုလုပ်ပါ။
ဘာကြည့်ရမလဲ
USFP သည် ဟာ့ဒ်ဝဲကို ပို့ဆောင်ခြင်းမဟုတ်ဘဲ စီစဉ်ထားသည့် ထုတ်ကုန်ပါရှိသော သတ်မှတ်ချက်တစ်ခုဖြစ်သည် — NVIDIA ၏ဘာသာစကား ('ပထမစီစဉ်ထားသော USFP-based transceivers') သည် အချိန်ဇယားကို တမင်တကာ လျော့ရဲသွားစေပါသည်။ စောင့်ကြည့်ရန် မက်ထရစ်များသည် Cisco ထက်ကျော်လွန်သော ခလုတ်ရောင်းချသူများထံမှ လက်ခံရယူခြင်းဖြစ်ပြီး၊ 200G-တစ်လမ်းသွား အစိတ်အပိုင်းများနှင့် သက်ဆိုင်သည့် စျေးနှုန်းနှင့် transceiver စျေးနှုန်းနှင့် 400Gb/s-per-lane လျှပ်စစ်အချက်ပြမှုတို့သည် အသံအတိုးအကျယ်တွင် ၎င်း၏ယုံကြည်စိတ်ချရသော ပစ်မှတ်များနှင့် ကိုက်ညီမှုရှိမရှိကို လက်ခံခြင်းဖြစ်သည်။
အကယ်၍ ၎င်းကို ပေးပို့ပါက USFP သည် cloud ဒေတာစင်တာများအတွက် ဆက်တိုက် QSFP မျိုးဆက်များ လုပ်ဆောင်ခဲ့သည့် AI ခေတ်ကွန်ရက်အတွက် လုပ်ဆောင်နိုင်သည်- လုပ်ငန်းတစ်ခုလုံးတွင် တည်ဆောက်ထားသည့် ကုန်စည်အပြန်အလှန်ချိတ်ဆက်မှုပုံစံတစ်ခုကို ထူထောင်ပါ။ NVIDIA ၏ မူပိုင် NVLink အထည်သည် သော့ခတ်ခြင်းဆိုင်ရာ အငြင်းပွားမှုတစ်ခုဖြစ်သော စျေးကွက်တွင်၊ အကြီးဆုံးသောကွန်ရက်ရောင်းချသူ Cisco နှင့် ပူးပေါင်းရေးသားထားသည့် အဖွင့်၊ သိပ်သည်းဆမြင့်သော ပလပ်ထိုးနိုင်သော စံနှုန်းတစ်ခုဖြစ်သည် — သည် AI စက်ရုံများကို မည်သို့တည်ဆောက်ရမည်အကြောင်း အပြိုင်အဆိုင်ထုတ်ပြန်ချက်တစ်ခုလည်းဖြစ်သည်။
