Google သည် AI အေးဂျင့်များနှင့် လုံခြုံသော ကောက်ချက်အတွက် TPU 8i Max နှင့် TPU 8tx ဖြင့် 8th Gen TPU လိုင်းကို တိုးချဲ့သည်

Google သည် ၎င်း၏ ရှစ်ခုမြောက် မျိုးဆက် TPU စီးရီးအား အထူးပြုစနစ်အသစ်နှစ်ခုဖြင့် တိုးချဲ့ခဲ့သည်- TPU 8i Max၊ ရှည်လျားသောဆက်စပ်အေးဂျင့်အလုပ်များများအတွက် တစ်ခုတည်းသောပက်ကေ့ခ်ျတစ်ခုတွင် အနုစိတ်ချစ်ပ်နှစ်ခုနှင့် TPU 8tx တို့ကို လျှို့ဝှက်၊ ဟာ့ဒ်ဝဲ-ခွဲထုတ်ထားသော ကောက်ချက်ချမှုအတွက် တည်ဆောက်ထားသည့် TPU 8tx ကို တိုးချဲ့ခဲ့သည်။ Tom's Hardware သည် ကြာသပတေးနေ့တွင် ထပ်တိုးလာကြောင်း သတင်းပို့ခဲ့သည်။

ကြီးမားသော AI လေ့ကျင့်မှုအတွက် ဒီဇိုင်းထုတ်ထားသည့် TPU 8t ဖြင့် Google မှ ဧပြီလတွင် စတင်ခဲ့သော မိသားစုတစ်စုနှင့် TPU 8i တို့သည် နမူနာယူခြင်း၊ ဝန်ဆောင်မှုပေးခြင်းနှင့် ကျိုးကြောင်းဆင်ခြင်ခြင်းကဲ့သို့သော ယေဘုယျရည်ရွယ်ချက်ဖြင့် တည်ဆောက်ထားသော TPU 8i မိသားစုကို စုစည်းထားသည်။ မျိုးကွဲအသစ်များနှင့်အတူ၊ အဋ္ဌမမြောက်မျိုးဆက်စာရင်းသည် ယခုသင်တန်း၊ စံကောက်ချက်၊ လုံခြုံသောအနုမာနနှင့် အမြင့်ဆုံး-bandwidth အေးဂျင့်အနုမာနကို အကျုံးဝင်သည်—ယခုအခါ လုပ်ငန်းများသည် AI ဟာ့ဒ်ဝဲကို မည်မျှကွာခြားသည်ကို ရောင်ပြန်ဟပ်သည့် ရွေးချယ်စရာများဖြစ်သော matrix တစ်ခုဖြစ်သည်။ ဤချစ်ပ်သတင်းသည် ကျွန်ုပ်တို့၏ [နောက်ဆုံးပေါ် AI ဖွံ့ဖြိုးတိုးတက်မှုများ] (https://aibuzzwire.news) AI ဟာ့ဒ်ဝဲစျေးကွက်တစ်လျှောက် လွှမ်းခြုံမှု၏ တစ်စိတ်တစ်ပိုင်းဖြစ်သည်။

ချစ်ပ်အသစ်က ဘာတွေလဲ။

TPU 8i Max သည် မူလ 8i ၏ 8i ချစ်ပ်ပြားနှစ်ခုကို တွက်ချက်မှု၊ SRAM နှင့် လှိုင်းနှုန်းမြင့်မှတ်ဉာဏ်လှိုင်းနှုန်းတို့ကို နှစ်ဆတိုးစေသည်။ ဒီဇိုင်းသည် ရှည်လျားသောဆက်စပ်အေးဂျင့်လုပ်ဆောင်မှုကို ပစ်မှတ်ထားပါသည် — AI အေးဂျင့်များသည် အဆင့်ပေါင်းများစွာလုပ်ဆောင်စရာများတစ်လျှောက် အလွန်ကြီးမားသောလုပ်ငန်းခွင်အခြေအနေများကိုသယ်ဆောင်ပေးသည့်အခြေအနေများ။

Tom's Hardware သည် Google မှ memory wall ဟုခေါ်သော bandwidth ကို နှစ်ဆတိုးလာစေရန် ဘောင်ခတ်ထားကာ "AI အေးဂျင့် ဒါဇင်ပေါင်းများစွာသည် software codebase တစ်ခုလုံးတွင် အတူတကွအလုပ်လုပ်သောအခါတွင် ပြင်းထန်သော bandwidth ပိတ်ဆို့မှု" ဖြစ်လာသည်။ ပိုကြီးသော ဆက်စပ်ဝင်းဒိုးများ — တိုကင် 1 သန်းဝန်းကျင်ကို ပစ်မှတ်ထားသော မော်ဒယ်ကြီးများဖြင့် — ဆိုသည်မှာ ပိုကြီးသော KV ကက်ရှ်များကို ဆိုလိုပြီး SRAM တွင် တစ်စိတ်တစ်ပိုင်း ထိန်းသိမ်းထားပြီး အသစ်ထုတ်လုပ်လိုက်သော တိုကင်တစ်ခုစီသည် ထိုကက်ရှ်ကို မမ်မိုရီမှ ပြန်ဖတ်ရမည်ဖြစ်သည်။ ပက်ကေ့ခ်ျတစ်ခုတွင် HBM bandwidth ကို နှစ်ဆတိုးခြင်းသည် ထိုပိတ်ဆို့မှုကို အတိအကျ တိုက်ခိုက်ပြီး ၎င်းသည် Nvidia ၏ ဆက်စပ်အကြောင်းအရာအတွက် သိုလှောင်မှုအဆင့်ဖြင့် ကုဒ်ဝှက်ခြင်းအတွက် ဒုတိယချစ်ပ်အမျိုးအစားကို တွဲချိတ်ခြင်း၏ ကွဲပြားခြားနားသောလမ်းကြောင်းဖြစ်ကြောင်း ထုတ်ဝေမှုတွင် မှတ်သားထားသည်။

TPU 8tx ကို ယခင်က ကြေညာထားသည့် လေ့ကျင့်ရေးအသားပေး 8t ကဲ့သို့ တူညီသော ဆီလီကွန်ပေါ်တွင် တည်ဆောက်ထားသော်လည်း လျှို့ဝှက်တွက်ချက်ခြင်းအတွက် ပြင်ဆင်သတ်မှတ်ထားသည်- စီမံဆောင်ရွက်နေသည့် လုပ်ငန်းများနှင့် အစိုးရများအတွက် ၎င်းတို့၏ဒေတာနှင့် မော်ဒယ်များကို သက်သေပြရန် လိုအပ်သော ဟာ့ဒ်ဝဲ-သီးခြား အနုအရင့်ကို လုပ်ဆောင်နေစဉ်အတွင်း ကာကွယ်ထားသည်။ စနစ်သည် 5th Gen AMD EPYC ပရိုဆက်ဆာအတွက် 8t နှင့် 8i မှအသုံးပြုသော Arm-based Axion host CPU များကို လဲလှယ်ပြီး Google ၏ Boardfly ကွန်ရက်ကို လက်ခံသည်။

မှတ်သားဖွယ်ကောင်းသည်မှာ၊ Google သည် စနစ်သစ်တစ်ခုအတွက် အသေးစိတ်သတ်မှတ်ချက်များ၊ စျေးနှုန်းများ သို့မဟုတ် သင်္ဘောရက်စွဲများကို မျှဝေထားခြင်းမရှိသေးသောကြောင့် ဝယ်ယူသူများသည် လက်ရှိတွင်မှာယူနိုင်သောထုတ်ကုန်များထက် တင်ဆက်မှုနှင့် နေရာချထားမှုများရှိသည်။

Google မှထုတ်ဝေသည့် Renderings တွင် ကြေငြာချက်နှင့်အတူ TPU 8tx ဘုတ်လေးခုပါသည့် TPU 8i Max ဘုတ်လေးခုစီပါရှိသည့် TPU 8i Max ဘုတ်တစ်ခုစီသည် ထုပ်ပိုးတစ်ခုတည်းတွင် ချစ်ပ်နှစ်ပြားစီပါသည့် TPU 8tx ဘုတ်တစ်ခုကို ပြသထားသည် — အစောပိုင်းမျိုးဆက်များ၏ အဋ္ဌမမျိုးဆက်မိသားစုသည် one-chip-fits-all accelerator model နှင့် မည်မျှကွာဝေးနေသည်ကို ရုပ်ပိုင်းဆိုင်ရာသရုပ်ဖော်ထားသည်။

TPU Sync- အေးဂျင့်မှတ်ဉာဏ်အတွက် ဆော့ဖ်ဝဲအလွှာ

ဆီလီကွန်အပြင်၊ Google သည် အေးဂျင့်-မှတ်ဉာဏ်ပြဿနာကို ဖြေရှင်းရန် ဆော့ဖ်ဝဲကို မှီခိုနေသည်။ TPU Sync သည် TPU အစုအဝေးများအတွက် မိုဒယ်-ပြည်နယ် အလွှာတစ်ခုဖြစ်ပြီး ကြီးမားသော KV ကက်ရှ်များကို မီလီစက္ကန့်များအတွင်း ချစ်ပ်မှ အလိုအလျောက်အစီအစဥ်ချကာ ၎င်းတို့အား DRAM လက်ခံဆောင်ရွက်ပေးရန်နှင့် စမ်းသပ်မျှဝေထားသော သိုလှောင်ခန်းသို့ ပြောင်းရွှေ့ပေးသည့် ပွင့်လင်းအရင်းအမြစ်ဖြစ်သည်။

Google ၏အဆိုအရ၊ ၎င်းသည် AI စနစ်တစ်ခုမတုံ့ပြန်မီတွင် သက်ဆိုင်သောအကျိုးအမြတ်များနှင့်အတူ KV-cache လွှဲပြောင်းနေချိန်ကို 90% ကျော်ဖြတ်နိုင်သည်။ တစ်ခုစီတွင် တူညီသောစုပြုံနေသောအကြောင်းအရာသို့ဝင်ရောက်ရန်လိုအပ်သည့် ဆက်တိုက်မော်ဒယ်ခေါ်ဆိုမှုများ ဒါဇင်များစွာပါ၀င်နိုင်သည့် agentic workloads အတွက်၊ cache management သည် raw compute ကဲ့သို့ အရေးကြီးလာသည်။

AI ဟာ့ဒ်ဝဲစျေးကွက်အတွက် ဘာကြောင့်အရေးကြီးတာလဲ။

Meta အပါအဝင် ချစ်ပ်များအတွက် ဖောက်သည် 100 နီးပါးကို တောင်းဆိုထားသည့် Google အတွက် TPU များသည် လျင်မြန်စွာ ကြီးထွားလာနေသော လုပ်ငန်းတစ်ခုဖြစ်လာပြီး ၎င်း၏ဒေတာစင်တာများတွင် Google TPU များကို လက်ခံအသုံးပြုခြင်းသည် Nvidia ၏နယ်မြေအတွင်းသို့ အပြိုင်အဆိုင်အကျဆုံးကျူးကျော်ဝင်ရောက်မှုများထဲမှတစ်ခုဖြစ်ကြောင်း အမှတ်အသားပြုပါသည်။ Google သည် အဋ္ဌမမျိုးဆက်မိသားစုနှင့်အတူ မော်ဂျူလာချဉ်းကပ်မှု ပိုများလာလေလေ ကုမ္ပဏီသည် ၎င်းအား သုံးစွဲသူများ တိုးပွားလာစေရန် ကူညီပေးသည့် အထူးပြုစနစ်များကို "နှစ်များထက် လအနည်းငယ်အတွင်း" ပေးအပ်နိုင်စေသည်ဟု ကုမ္ပဏီက ဆိုသည်။

ကြေငြာမည့်အချိန်သည် အံ့မခန်းပင်။ စီအီးအို Jensen Huang သည် CEO Jensen Huang ရာထူးမှ နုတ်ထွက်ကြောင်း Nvidia မှ ကြေညာသည့် နေ့တွင်ပင် Google ၏ ချစ်ပ်ချဲ့ထွင်မှုသည် CFO Colette Kress မှ ယာယီ CEO အဖြစ် ခန့်အပ်လိုက်ခြင်းဖြစ်ပြီး GPU များသည် Google ၏ TPUs စျေးကွက်ကို လွှမ်းမိုးနေသည့် ကုမ္ပဏီတွင် ထူးခြားသော ခေါင်းဆောင်မှုဆိုင်ရာ အနှောင့်အယှက်တစ်ခုဖြစ်သည်။ ဖြစ်ရပ်နှစ်ခုသည် အကြောင်းအရင်းနှင့် မသက်ဆိုင်သော်လည်း ၎င်းတို့သည် မည်မျှ ပြိုင်ဆိုင်မှုနှင့် AI အခြေခံအဆောက်အအုံဈေးကွက် မည်မျှမငြိမ်မသက်ဖြစ်လာသည်ကို တွဲ၍ဖော်ပြထားသည်။

AI အခြေခံအဆောက်အအုံကို အကဲဖြတ်သည့် လုပ်ငန်းများအတွက်၊ ရွေးချယ်မှုအစုံသည် ကျယ်ပြန့်လာနေကြောင်း ထပ်လောင်းအချက်ပြသည်- လေ့ကျင့်ရေး-အကောင်းမွန်ဆုံး ဆီလီကွန်၊ ယေဘုယျ ကောက်ချက်ချမှု၊ ထိန်းညှိထားသော ဒေတာအတွက် လုံခြုံသော အနုမာနနှင့် အေးဂျင့်အဖွဲ့များအတွက် အမြင့်ဆုံး-bandwidth ပက်ကေ့ဂျ်များသည် အရွယ်အစား-ကိုက်ညီ-အားလုံး အရှိန်မြှင့်စက်များထက် ထူးခြားသော ထုတ်ကုန်အမျိုးအစားများ ဖြစ်လာပါသည်။ Google သည် စျေးနှုန်းနှင့်ရရှိနိုင်မှုအသေးစိတ်အချက်အလက်များကို ထုတ်ပြန်သောအခါတွင်၊ 8i Max ၏နှစ်ဆတိုးထားသော bandwidth သည် ပုံမှန် 8i ဖြန့်ကျက်မှုထက် ပရီမီယံတန်ဖိုးကို မျှတစေရန်အတွက် အေးဂျင့်ယာဉ်များအတွက် လုံလောက်သောဖြတ်သန်းမှုအဖြစ်သို့ ဘာသာပြန်ဆိုခြင်းရှိ၊

Modularity တွင် Supply-side Logic လည်းရှိသည်။ ဟာ့ဒ်ဝဲအစုအစည်းကို အပြည့်အ၀ဖြတ်သန်းနိုင်ရန် မျိုးဆက်သစ်ဒီဇိုင်းတစ်ခုအတွက် နှစ်ပေါင်းများစွာ စောင့်ရမည့်အစား၊ Google သည် 8t ဆီလီကွန်ကို မတူညီသော host CPU ဖြင့် လုံခြုံသောအနုမာနပက်ကေ့သို့ ရွှေ့ပြောင်းခြင်းဖြင့် — နယ်ပယ်အားလုံးတွင် တူညီသောအပိုင်းများကို ပိုမိုမြန်ဆန်စွာရောက်ရှိစေရန်၊ အမျိုးအစားအားလုံးတွင် ဘုံဆော့ဖ်ဝဲအစုအဝေးကို ထိန်းသိမ်းထားစဉ်တွင် ရှိပြီးသားဆီလီကွန်ကို ပြန်လည်ပေါင်းစပ်နိုင်သည်။ ထိုမြန်နှုန်းသည် ဖောက်သည်လိုအပ်ချက်များ သုံးလတစ်ကြိမ် ပြောင်းလဲနေသည့် စျေးကွက်တွင် ယှဉ်ပြိုင်နိုင်သော လက်နက်တစ်ခုဖြစ်သည်။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →