Qualcomm သည် 128GB Memory နှင့် 870 TOPS ဖြင့် 150W Inference Card ကို Cloud AI 100 Ultra ကို မိတ်ဆက်ခဲ့သည်

Qualcomm သည် 150 watts မျှသာဆွဲနေစဉ်တွင် INT8 စွမ်းဆောင်ရည် 870 TOPS နှင့် FP16 တွက်ချက်မှု 288 TFLOPS အထိပေးစွမ်းနိုင်သော ဒေတာစင်တာအနုမာနအရှိန်မြှင့်စက်ဖြစ်သည့် Cloud AI 100 Ultra ကို မိတ်ဆက်ခဲ့သည်။

Qualcomm ၏တရားဝင်ဒေတာစင်တာထုတ်ကုန်စာမျက်နှာတွင်ဖော်ပြထားသောကတ်ကိုစတင်ရောင်းချသည့်လွှမ်းခြုံမှုတွင်အသေးစိတ်ဖော်ပြထားသောကတ်သည်မျိုးဆက်သစ် AI နှင့်ကြီးမားသောဘာသာစကားမော်ဒယ်အလုပ်များများအတွက်အထူးဒီဇိုင်းပြုလုပ်ထားသည်။ လုပ်ငန်းများသည် AI အေးဂျင့်များ၊ လေယာဉ်မှူးများနှင့် ပြန်လည်ရယူရေးဆိုင်ရာ တိုးမြှင့်ထားသော အပလီကေးရှင်းများကို အတိုင်းအတာတစ်ခုအထိ ဖြန့်ကျက်ချထားခြင်းကြောင့် ဝယ်လိုအားများလာနေသည့် မိုဘိုင်းချစ်ပ်ကုမ္ပဏီကြီးအား အနုမာနစျေးကွက်တွင် တိုက်ရိုက်စိန်ခေါ်သူအဖြစ် နေရာပေးထားသည်။ AI ဟာ့ဒ်ဝဲပြိုင်ပွဲအကြောင်း နောက်ထပ်အကြောင်းအရာအတွက်၊ ကျွန်ုပ်တို့၏ AI သတင်းဖော်ပြမှု ကို ကြည့်ပါ။

Specs များ- SRAM ပထမ၊ DRAM ဒုတိယ

Cloud AI 100 Ultra ၏ဗဟိုတွင် 64 AI cores နှင့် on-die SRAM ၏ 576 MB ရှိသည်။ Qualcomm ၏လောင်းကြေးမှာ မော်ဒယ်အလေးများနှင့် လှုပ်ရှားဆောင်ရွက်မှုများကို ပြင်ပမှတ်ဉာဏ်တွင် တိုကင်များအားလုံးကို ပိတ်ခြင်းထက် — တွက်ချက်မှုယူနစ်များနှင့် နီးကပ်စွာထားရှိခြင်းသည်- memory bandwidth ပေါ်တွင် အသက်ရှင်နေထိုင်ပြီး သေဆုံးနေသည့် transformer-based မော်ဒယ်များအတွက် ပေးချေခြင်းဖြစ်သည်။

ကတ်သည် 128 GB LPDDR4x မမ်မိုရီကို 548 GB/s မြန်နှုန်းဖြင့် သယ်ဆောင်ထားဆဲဖြစ်ပြီး မော်ဒယ်ကြီးများနှင့် ရှည်လျားသောအခြေအနေများအတွက် လမ်းကြောင်း 16 ခုရှိသော PCIe Gen4 နှင့် ချိတ်ဆက်ထားသည်။ ထိုပေါင်းစပ်မှု - ကြီးမားသော on-die SRAM နှင့် အနည်းငယ်မျှသော 150W ပါဝါဆွဲခြင်း - သည် ကတ်၏ကွဲပြားချက်ဖြစ်သည်။ Nvidia ၏ ဒေတာစင်တာ GPU များသည် ပုံမှန်အားဖြင့် 300W မှ 700W အထိ ရှိပြီး တိုကင်နှင့် ဒေတာစင်တာ ပါဝါသည် စက်မှုလုပ်ငန်း၏ အပြိုင်အဆိုင်အများဆုံး အရင်းအမြစ်ဖြစ်သောအခါ watt တိုင်းသည် အရေးကြီးပါသည်။

"Cloud AI 100 Ultra သည် စွမ်းဆောင်ရည်နှင့် ကုန်ကျစရိတ်-အကောင်းဆုံး AI အနုမာနဖြေရှင်းချက်တစ်ခုဖြစ်သည်" ဟု ကုမ္ပဏီက ၎င်း၏ထုတ်ကုန်ပစ္စည်းများတွင် ကွန်ပျူတာအမြင်မှ သဘာဝဘာသာစကားဖြင့် လုပ်ဆောင်ခြင်းအထိ လုပ်ငန်းခွင်များတွင် ပရိုဂရမ်လုပ်ဆောင်နိုင်မှုကို အလေးပေးထားကြောင်း ပြောကြားခဲ့သည်။

ဆော့ဖ်ဝဲလ်- OpenAI-Compatible On-Ramp တစ်ခု

ဟာ့ဒ်ဝဲသည် ဒေတာစင်တာတွင် Qualcomm ၏ ပြဿနာမဟုတ်ခဲ့ပါ။ ဆော့ဖ်ဝဲလ် ရှိသည်။ ကုမ္ပဏီသည် ၎င်း၏ AI Inference Suite၊ chatbots၊ copilots နှင့် AI အေးဂျင့်များတည်ဆောက်ရန်အတွက် OpenAI-သဟဇာတ APIs များကိုဖော်ထုတ်သည့်ဆော့ဖ်ဝဲအလွှာဖြင့်ဖြေရှင်းနေသည်။

အဆိုပါ suite သည် ချတ်လုပ်ခြင်း၊ ရုပ်ပုံထုတ်လုပ်ခြင်း၊ ဘက်စုံမော်ဒယ်များနှင့် retrieval-augmented generation (RAG) လုပ်ငန်းအသွားအလာများကို ပံ့ပိုးပေးပြီး Kubernetes သို့မဟုတ် သတ္တုမပါသော ကွန်တိန်နာများမှတစ်ဆင့် ဖြန့်ကျက်ပေးပါသည်။ Qualcomm သည် အသုံးပြုသူစီမံခန့်ခွဲမှုနှင့် စီမံခန့်ခွဲရေးကိရိယာများကို ပေးပို့သည် — ကုန်ကြမ်း အရှိန်မြှင့်ကိရိယာ ကမ်းလှမ်းမှုများ မကြာခဏမရှိသည့် ဆိုးရွားသောထပ်တိုးမှုတစ်ခု၊ သို့သော် လုပ်ငန်းဆိုင်ရာ အိုင်တီအဖွဲ့များသည် အိမ်တွင်းအလုပ်များကို ရွှေ့သည့်အခါ ကြီးမားသောအလေးချိန်ကို သယ်ဆောင်သည်။

OpenAI-compatible API ၏မျက်နှာပြင်သည် ဗျူဟာမြောက်အရေးကြီးသည်- ၎င်းသည် developer များအား လက်ရှိ OpenAI-bound pipelines များကို Qualcomm hardware တွင် ပြန်လည်ရေးသားခြင်းမဟုတ်ဘဲ configuration change ဖြင့် ထောက်ပြနိုင်စေကာ၊ ဤဈေးကွက်တွင် incumbency ကိုကာကွယ်ထားသည့် switching cost ကို လျှော့ချပေးပါသည်။

ပြတ်သားသောခေါင်းဆောင်တစ်ဦးနှင့်အတူ လူစည်ကားသောကွင်း

Qualcomm သည် AI ဟာ့ဒ်ဝဲစက်ဝန်း၏ စစ်မြေပြင်ဖြစ်လာသည့် စုံစုံဈေးကွက်တစ်ခုသို့ ဝင်ရောက်လာသည်။ Nvidia ၏ L40S နှင့် H100 လွှမ်းမိုးထားသည်။ AMD ၏ MI300X နှင့် Intel ၏ Gaudi 3 တို့သည် တူညီသောအလုပ်တာဝန်များကို ပစ်မှတ်ထားကြသည်။ Groq နှင့် Cerebras တို့မှ အထူးပြု ဆီလီကွန်သည် အကြမ်းစုံ အမြန်နှုန်းဖြင့် နိမိတ်များကို ထွင်းထုထားသည်။

ဝယ်လိုအားဘက်က အလုအယက်ရှင်းပြသည်။ AI အေးဂျင့်များနှင့် RAG ပိုက်လိုင်းများကို ဝန်ဆောင်မှုပေးခြင်းသည် အသုံးပြုသူစက်ရှင်တစ်ခုမှထုတ်ပေးသည့် မော်ဒယ်ခေါ်ဆိုမှုအရေအတွက်ကို များပြားစေပြီး အဆိုပါခေါ်ဆိုမှုတိုင်းသည် တိုကင်တစ်ခုလျှင် ဖြစ်နိုင်သမျှအနည်းဆုံးကုန်ကျစရိတ်ဖြင့် ဖြေရှင်းရမည့် အနုမာနပြဿနာတစ်ခုဖြစ်သည်။ Hyperscalers များသည် ၎င်းကိုကိုင်တွယ်ရန် flagship GPUs များကို ဝယ်ယူကြသည်။ ၎င်းတို့အောက်ရှိ လုပ်ငန်းများသည် ၎င်းတို့၏ လျှပ်စစ်ဓာတ်အား စာချုပ်များကို ပြန်လည်ညှိနှိုင်းခြင်းမပြုဘဲ စံဆာဗာတွင် စံပါဝါဆားကစ်တစ်ခုတွင် အံဝင်ခွင်ကျရှိသော ဟာ့ဒ်ဝဲကို ရှာဖွေနေပါသည်။

Qualcomm ၏ pitch သည် အမြင့်ဆုံးစွမ်းဆောင်ရည်ထက် ပိုင်ဆိုင်မှုစုစုပေါင်းကုန်ကျစရိတ်ဖြစ်သည်။ အတိုင်းအတာဖြင့် ကောက်ချက်ချသည့် လုပ်ငန်းများအတွက်၊ ပါဝါသုံးစွဲမှုသည် လည်ပတ်မှုကုန်ကျစရိတ်သို့ တိုက်ရိုက်စီးဆင်းသွားပြီး 150W တွင် အပြိုင်အဆိုင် ပေးပို့သည့်ကတ်သည် brute-force GPU များ၏ စီးပွားရေးကို လျှော့ကျစေသည်။ လေ့ကျင့်ရေးသည် Nvidia ၏ဒိုမိန်းဖြစ်နေဆဲဖြစ်သည် — Ultra သည် ၎င်းနှင့်ပတ်သက်ပြီး တစ်စုံတစ်ရာတောင်းဆိုခြင်းမရှိပါ — သို့သော် ကောက်ချက်ချမှုသည်စက်မှုလုပ်ငန်း၏ယူနစ်စီးပွားရေးကိုအမှန်တကယ်ဆုံးဖြတ်သည့်နေရာဖြစ်ပြီး ၎င်းသည် လုပ်ငန်းခွင်တွင်းအစုအဝေးတစ်ခု သို့မဟုတ် colocation လှောင်အိမ်တွင်ဖြစ်စေ လုပ်ငန်းအများစုသည် ၎င်းတို့ကိုယ်တိုင်လုပ်ဆောင်ရမည့်အလုပ်တာဝန်ဖြစ်သည်။

ဆော့ဖ်ဝဲလ်ဂေဟစနစ်သည် တောင်တက်တိုက်ပွဲဖြစ်နေဆဲဖြစ်သည်။ Nvidia ၏ CUDA ပလပ်ဖောင်းသည် AI developer အများစုအတွက် ပုံသေရွေးချယ်မှုဖြစ်နေဆဲဖြစ်ပြီး OpenAI-compatible APIs များသည် ဝင်ရောက်ရန်အတားအဆီးကို လျှော့ချနေသော်လည်း စိတ်ကြိုက်ကောက်ချက်ချပိုက်လိုင်းများအတွက် လိုအပ်သော ပြန်လည်လုပ်ဆောင်မှုကို မဖယ်ရှားပါ။

၎င်းသည် Qualcomm ၏စာရင်းတွင် လိုက်ဖက်ပါသည်။

Ultra သည် Qualcomm ၏ အနုမာနအစီအစဥ်ထိပ်တွင် ရှိနေပြီး Cloud AI 80 Ultra (တူညီသော 576 MB SRAM နှင့်အတူ INT8 ၏ 618 TOPS အထိ)၊ Cloud AI 100 Pro နှင့် Cloud AI 100 Standard၊ အနားသတ်များနှင့် သေးငယ်သောဖြန့်ကျက်မှုများကို ပစ်မှတ်ထားနိုင်သည့် 75W ပါဝါ။

ကုမ္ပဏီသည် cloud-scale AI workloads အတွက် တီထွင်နေသော Qualcomm ၏ Dragonfly data center လမ်းပြမြေပုံ၏ လက်ရှိမျိုးဆက်ကို ကိုယ်စားပြုပြီး ယခုအခါ Qualcomm သည် ကုန်ကျစရိတ်၊ latency သို့မဟုတ် data governance အကြောင်းများထက် ကုန်ကျစရိတ်၊ latency သို့မဟုတ် data governance အကြောင်းများထက် generative AI in-premises များကို လုပ်ဆောင်လိုသော လုပ်ငန်းများအတွက် Qualcomm မှ အကြောင်းပြချက်ပေးသည်။

စာကြောင်းတစ်ကြောင်းတွင် လောင်းကြေး

Qualcomm သည် AI သည် hyperscalers လက်တစ်ဆုပ်စာမှ ထောင်ပေါင်းများစွာသော လုပ်ငန်းများသို့ ရွေ့လျားလာသည်နှင့်အမျှ အနိုင်ရသော Inference card သည် အလျင်မြန်ဆုံးမဟုတ်သော်လည်း အထိရောက်ဆုံးဖြစ်သည်။ Cloud AI 100 Ultra သည် ဆီလီကွန်တွင် ယင်းအငြင်းအခုံဖြစ်သည်။ developer များသည် watts ကို လိုက်နာခြင်း ရှိ၊ မရှိ မေးခွန်းထုတ်စရာ ဖြစ်နေသည်။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →