Google သည် TPU 8tx နှင့် TPU 8i Max ကို မိတ်ဆက်ပြီး Four-System Eighth-Generation AI Chip Lineup ကို အပြီးသတ်

Google သည် ၎င်း၏ အဋ္ဌမမြောက်မျိုးဆက် TPU အစုစုကို လုံခြုံစိတ်ချရသော၊ လျှို့ဝှက်ကောက်ချက်ချမှုအတွက် စနစ်သစ်နှစ်ခုဖြင့် TPU 8tx နှင့် TPU 8i Max — ကုမ္ပဏီသည် တစ်နှစ်တည်းတွင် TPU စနစ် လေးခုကို ပထမဆုံးအကြိမ် တင်ပို့မှုအဖြစ် အမှတ်အသားပြုခဲ့သည်။

တနင်္လာနေ့က ထုတ်ပြန်သည့် ဘလော့ဂ်ပို့စ်တစ်ခုတွင်၊ Google က အဆိုပါ ထပ်လောင်းနှစ်ခုသည် လွန်ခဲ့သည့်ဆယ်စုနှစ်တစ်ခုက TPU ကို ပထမဆုံးစတင်သည့်အချိန်၌ မရှိသလောက်ဖြစ်ခဲ့သည့် အလုပ်ဝန်ပရိုဖိုင်အတွက် ဒီဇိုင်းထုတ်ထားခြင်းဖြစ်သည်- ကြီးမားသောအကြောင်းအရာပြတင်းပေါက်များကို ကျိုးကြောင်းဆင်ခြင်ကာ ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရအေးဂျင့်များ၏ အစုအဝေးများနှင့် အထိခိုက်မခံသော လုပ်ငန်းဒေတာများကို ကိုင်တွယ်ဖြေရှင်းခြင်းတို့ကို ပြုလုပ်ခဲ့ကြောင်း ပြောကြားခဲ့သည်။ "လူမှအေးဂျင့်စကေးသို့ တွက်ချက်ခြင်းနှင့်အတူ၊ စီးပွားရေးလုပ်ငန်းများသည် AI မော်ဒယ်များ၏ ကြီးမားသောအကြောင်းအရာပြတင်းပေါက်များတစ်လျှောက် အကြောင်းပြချက်ပေးနိုင်သော အရှိန်မြှင့်စက်များကို တောင်းဆိုနေကြသည်" ဟု ကုမ္ပဏီက ရေးသားခဲ့သည်။ "ထို့ပြင်၊ အချို့သော ကန့်သတ်ထိန်းချုပ်ထားသော ဖောက်သည်များသည် ထူးခြားသော အလုပ်တာဝန်များအတွက် အထူးပြု ကုဒ်ဝှက်ခြင်းစွမ်းရည်ကို တောင်းဆိုနေကြသည်။" For more context on this story, see our ongoing AI news.

Agentic Lifecycle ၏ အဆင့်တိုင်းအတွက် စနစ်တစ်ခု

အဋ္ဌမမြောက်မျိုးဆက်ကို ဧပြီလတွင် Google Cloud Next တွင် စတင်ခဲ့ပြီး အကြီးစားလေ့ကျင့်မှုများအတွက် တည်ဆောက်ထားသော TPU 8t နှင့် အချိန်နှင့်တပြေးညီ ကျိုးကြောင်းဆင်ခြင်မှုအတွက် တည်ဆောက်ထားသော TPU 8i ဖြင့် စတင်ခဲ့သည်။ Google သည် 8t အတွက် လေ့ကျင့်ရေးစွမ်းဆောင်ရည် 2.7 ဆအထိ ပိုမိုကောင်းမွန်ပြီး 8i အတွက် ယခင်မျိုးဆက်များနှင့် နှိုင်းယှဉ်ပါက 80% ပိုကောင်းသော အနုမာနစျေးနှုန်းစွမ်းဆောင်ရည်ကို ကိုးကားဖော်ပြခဲ့သည်။

အသစ်ရောက်ရှိလာသူနှစ်ဦးသည် ကျန်နယ်မြေကို ပိုင်းခြားထားသည်။ Google က ယင်းကဲ့သို့ စနစ်လေးခုသည် သုံးစွဲသူများအား "အေးဂျင့်ဘဝစက်ဝန်း၏ အဆင့်တိုင်းအတွက် ရည်ရွယ်ချက်ဖြင့် တည်ဆောက်ထားသော အရှိန်မြှင့်စက်" ဖြစ်သည်- အတိုင်းအတာ-တက်လေ့ကျင့်မှုအတွက် TPU 8t၊ latency နည်းပါးသော အကြောင်းပြချက်အတွက် TPU 8i၊ လျှို့ဝှက်တွက်ချက်မှုအတွက် TPU 8tx နှင့် ကြီးမားသောအကြောင်းအရာပြတင်းပေါက်များအတွက် TPU 8i Max နှင့် rack တစ်ခုလျှင် ကွန်ပျူတာသိပ်သည်းဆ အများဆုံး။

TPU 8tx- လုံခြုံရေး ဟာ့ဒ်ဝဲတွင် တည်ဆောက်ထားသည်။

TPU 8tx ကို လုံခြုံပြီး လျှို့ဝှက် ကောက်ချက်ချရန်အတွက် အကောင်းဆုံးဖြစ်အောင် ပြုလုပ်ထားပြီး၊ Google မှတ်စုများသည် အသေးစားလေ့ကျင့်ရေးများအတွက်လည်း သင့်လျော်ပါသည်။ ပစ်မှတ်ဖောက်သည်သည် ရှင်းလင်းပြတ်သားသည်- နယ်နိမိတ် သို့မဟုတ် မူပိုင်ပုံစံများကို လုပ်ဆောင်နေသည့် အစိုးရများနှင့် ထိန်းချုပ်ထားသော လုပ်ငန်းများနှင့် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ အေးဂျင့်များသည် ၎င်းတို့၏ အထိခိုက်မခံနိုင်ဆုံးဒေတာများနှင့်အတူ။

အင်ဂျင်နီယာပညာရပ်သည် လုံခြုံသောတွက်ချက်မှုတွင် ကာလရှည်ကြာတင်းမာမှုကို ဖြေရှင်းပေးသည်။ ဒေတာများကို ပုံမှန်အားဖြင့် သိမ်းဆည်းထားသည့်အခါ သို့မဟုတ် ပို့လွှတ်သည့်အခါတွင် ကုဒ်ဝှက်ထားသော်လည်း၊ ၎င်းကို ကွန်ပြူတာမှ လုပ်ဆောင်နေစဉ် — ၎င်းကို အများဆုံးထိတွေ့သည့်အချိန်၌ မမ်မိုရီတွင် လော့ခ်ဖွင့်ရမည်ဖြစ်သည်။ TPU 8t ကဲ့သို့တူညီသောဆီလီကွန်ပေါ်တွင်တည်ဆောက်ထားပြီး 5th Generation AMD EPYC CPU hosts များနှင့်တွဲဖက်ထားသောကြောင့် TPU 8tx သည် ဟာ့ဒ်ဝဲအလွှာအတွင်း လုံခြုံရေးကိုတိုက်ရိုက်တည်ဆောက်ပေးကာ အသုံးပြုနေစဉ်အတွင်း ထိလွယ်ရှလွယ်သောဒေတာနှင့် မော်ဒယ်အလေးများကို အကာအကွယ်ပေးပြီး သီးခြားခွဲထားသည်။

စနစ်သည် အချိန်နှင့်တပြေးညီ ကျိုးကြောင်းဆီလျော်မှုအတွက် ဖန်တီးထားသော Google မှ ဖန်တီးထားသည့် latency နည်းပါးသော "Boardfly" ကွန်ရက်ကို အသုံးပြုထားပြီး၊ ဆိုလိုသည်မှာ ၎င်းသည် လေ့ကျင့်ရေးအဆင့်တွက်ချက်မှုနှင့် မြန်ဆန်သော ကောက်ချက်တို့ကို တစ်ပြိုင်နက်တည်း လုပ်ဆောင်နိုင်သည်။ Google က ၎င်းသည် အဖွဲ့အစည်းများအား သီးသန့်ဒေတာဖြင့် မော်ဒယ်များကို ကောင်းစွာချိန်ညှိနိုင်စေကာ၊ ကြီးမားသောမော်ဒယ်များကို အသေးစားများအဖြစ် ပေါင်းထည့်ကာ စနစ်တစ်ခုတည်းတွင် အားဖြည့်သင်ကြားမှုမှတစ်ဆင့် အေးဂျင့်များအား လေ့ကျင့်ပေးစေသည် — သီးခြားအစုအဖွဲ့များကြားတွင် အရေးကြီးသောဒေတာများကို ရွှေ့ပြောင်းခြင်းမပြုဘဲ လုပ်ဆောင်နိုင်စေသည်ဟု Google မှ ပြောကြားခဲ့သည်။

TPU 8i Max- Memory Wall ကို တိုက်ခိုက်ခြင်း။

TPU 8i Max သည် မတူညီသော ကန့်သတ်ချက်များကို လုံးလုံးလျားလျား ဖြေရှင်းသည်။ “AI အေးဂျင့် ဒါဇင်ပေါင်းများစွာဟာ ဆော့ဖ်ဝဲလ်ကုဒ်ဘေ့စ်တစ်ခုလုံး ဒါမှမဟုတ် နာရီပေါင်းများစွာ တစ်ပြိုင်နက်တည်း အလုပ်လုပ်တဲ့အခါ၊ မှတ်ဉာဏ် bandwidth ဟာ လျင်မြန်စွာ ပိတ်ဆို့မှုဖြစ်လာပါတယ်” ဟု Google က ရေးသားခဲ့သည်။ ကုမ္ပဏီ၏အဖြေမှာ ဗိသုကာလက်ရာဖြစ်သည်- latency နည်းသော TPU 8i ချစ်ပ်နှစ်ခုကို ပက်ကေ့ခ်ျတစ်ခုတည်းတွင် ပေါင်းစပ်ထားသည်။

ရလဒ်မှာ lockstep တွင် ကွန်ပြူတာနှင့် မှတ်ဉာဏ်ကို ချိန်ညှိပေးသည့် စနစ်ဖြစ်သည် — တွက်ချက်မှုနှစ်ဆ၊ SRAM နှစ်ဆနှင့် TPU 8i ၏ HBM bandwidth ကို နှစ်ဆပေးသည့် စနစ်တစ်ခုဖြစ်သည်။ TPU 8i Max သည် ရှိပြီးသား rack footprint အတွင်းရှိ ဆီလီကွန်နှစ်ဆနှင့် အံဝင်ခွင်ကျဖြစ်သောကြောင့် ဒေတာစင်တာများသည် တစ်စတုရန်းပေနှင့် watt အလိုက် ကွန်ပြူတာစွမ်းအင်ကို သိသိသာသာ ပိုမိုအသုံးချနိုင်သည်ဟု Google မှ ပြောကြားခဲ့ပါသည်။

ဘာကြောင့် Systems, Chips တွေ မဟုတ်ဘူးလဲ။

တနင်္လာနေ့ ကြေငြာချက်တွင် အရေးကြီးသော ကွဲလွဲချက်မှာ Google သည် ၎င်းတို့ကို ချစ်ပ်အသစ်များထက် စနစ်သစ်များအဖြစ် ထည့်သွင်းနေခြင်း ဖြစ်သည်။ Chip တစ်ခုကို ဒီဇိုင်းဆွဲခြင်းသည် ရူပဗေဒနှင့် ထုတ်လုပ်မှု အချိန်ဇယားများဖြင့် ချည်နှောင်ထားသော ထရန်စစ္စတာ သန်းပေါင်းများစွာကို နှစ်ပေါင်းများစွာ ခင်းကျင်းသည့် နှစ်ပေါင်းများစွာ လုပ်ငန်းစဉ်တစ်ခုဖြစ်ကြောင်း ကုမ္ပဏီက ရှင်းပြသည်။ ချစ်ပ်တစ်ဝိုက်တွင် တွက်ချက်မှု၊ ကွန်ရက်ချိတ်ဆက်မှု၊ သိုလှောင်မှုနှင့် ထုပ်ပိုးမှုတို့ကို မည်ကဲ့သို့စီစဉ်ထားသည်—စနစ်တစ်ခု—ပိုမိုမြန်ဆန်စွာချိန်ညှိနိုင်သည်။

ထို modularity သည် Google ၏ AI Hypercomputer နည်းဗျူဟာ၏ အဓိကအချက်ဖြစ်ပြီး ၎င်းသည် မျိုးဆက်တစ်ခုတည်းအတွင်း အထူးပြုစနစ်လေးခုကို တင်ပို့ခွင့်ပြုထားသည်။ Google သည် ၎င်း၏ကိုယ်ပိုင် AI အခြေခံအဆောက်အအုံသည် ဟာ့ဒ်ဝဲကိုတည်ဆောက်ရာတွင် မည်မျှပြန်လည်ရောက်ရှိနေပြီဖြစ်သည်ကို အလေးပေးဖော်ပြခဲ့သည်- ကုမ္ပဏီသည် DeepMind ၏ AlphaChip အားဖြည့်သင်ယူမှုစနစ်ကိုအသုံးပြုကာ ယခုအခါ Gemini သည် ချစ်ပ်အပြင်အဆင်များကို ရက်သတ္တပတ်များထက် "နာရီပိုင်းအတွင်း" ပို့ဆောင်ပေးကြောင်း ပြောကြားခဲ့သည်။ Google က ၎င်းကို "စစ်မှန်သော တွဲဖက်ဒီဇိုင်း" နှင့် ထူးခြားသောကွဲပြားမှုဟုခေါ်ဆိုသည်။

အပြိုင်အဆိုင် ဆက်စပ်မှု

AI အရှိန်မြှင့်စက်များတွင် ပြိုင်ဆိုင်မှုပြင်းထန်လာချိန်တွင် ချဲ့ထွင်မှုသည် ကျယ်ပြန့်လာသည်။ TPU ဖြန့်ကျက်မှုများသည် Google ၏ကိုယ်ပိုင်နံရံများအပြင်ဘက်ရှိမော်ဒယ်များကိုဝန်ဆောင်မှုပေးရာတွင်၎င်းတို့၏အခန်းကဏ္ဍအတွက်အာရုံစိုက်လာပါသည် — ကုမ္ပဏီသည် TPU များကိုယခုစွမ်းအင်လေ့ကျင့်သင်ကြားမှုနှင့်၎င်း၏ Gemini မော်ဒယ်များအတွက်ဝန်ဆောင်မှုပေးခြင်းများ၊ အေးဂျင့်အလုပ်များများ၊ Google Cloud ဖောက်သည်ဝန်ဆောင်မှုများနှင့် မကြာသေးမီက TPUs များကိုဖောက်သည်များ၏ကိုယ်ပိုင်ဒေတာစင်တာများသို့ တိုက်ရိုက်ဖြန့်ကျက်ချထားမှုများကို မှတ်သားထားသည်။ Google သည် TPU များကို "လျင်မြန်စွာကြီးထွားလာနေသောလုပ်ငန်း" အဖြစ်ဖော်ပြသည်။

TechPowerUp နှင့် Electronics Weekly တို့မှ အပိုင်းအစများ အပါအဝင် ကြေညာချက်၏ အကျုံးဝင်မှုသည် ပြတ်သားစွာ အပြိုင်အဆိုင် စည်းကမ်းချက်များဖြင့် အပြောင်းအလဲကို ဘောင်ခတ်ထားသည် — Google သည် NVIDIA ဟာ့ဒ်ဝဲတွင် လုပ်ဆောင်နိုင်သည့် AI အလုပ်တာဝန်များကို တရားရုံးတင်ထားသောကြောင့် ၎င်း၏ စိတ်ကြိုက်-ဆီလီကွန်လိုင်းကို တိုးချဲ့ထားသည်။ ၎င်း၏တစ်စိတ်တစ်ပိုင်းအနေဖြင့် NVIDIA သည် ၎င်း၏ကိုယ်ပိုင် rack-scale စနစ်များကို မျိုးဆက်အဆက်ဆက် ဆက်လက်ပို့ဆောင်ခဲ့ပြီး AI အခြေခံအဆောက်အအုံဝယ်ယူသူများအား ကုန်သည်နှင့် စိတ်ကြိုက်ဆီလီကွန်ကြားတွင် ပိုမိုယုံကြည်စိတ်ချရသော ရွေးချယ်မှုတစ်ခုအဖြစ် AI အခြေခံအဆောက်အအုံဝယ်ယူသူများကို ထားခဲ့သည်။

Developer တွေအတွက် ဘာကိုဆိုလိုလဲ။

ဆော့ဖ်ဝဲရေးသားသူများအတွက်၊ လက်တွေ့ကျသော အရေးပါမှုသည် မည်သည့်စံနှုန်းတစ်ခုမျှနှင့် အံဝင်ခွင်ကျဖြစ်မှုအကြောင်း ပိုမိုနည်းပါးသည်။ ရှည်လျားသောစာရွက်စာတမ်းများ၊ ကြီးမားသောကုဒ်ဘေ့စ်များ သို့မဟုတ် တိုးချဲ့ဗီဒီယိုအကြောင်းအရာများမှတစ်ဆင့် ကြိတ်ခွဲသည့် အေးဂျင့်ထုတ်ကုန်များကို ဖန်တီးသည့်အဖွဲ့များသည် FLOPS ကုန်ကြမ်းများကို မဖြေရှင်းနိုင်သော မန်မိုရီ-ဘန်းဝဒ်မျက်နှာကျက်များကို ထိမှန်သည် — ပြဿနာကို 8i Max က ဖန်တီးထားသည်။ ငွေရေးကြေးရေး၊ ကျန်းမာရေးစောင့်ရှောက်မှုနှင့် အစိုးရဌာနများမှ အဖွဲ့များသည် အရေးကြီးသောအလုပ်များကို မျှဝေထားသည့် အခြေခံအဆောက်အအုံသို့ ရွှေ့၍မရသောအဖွဲ့များသည် ယခုလုပ်ဆောင်နေစဉ်အတွင်း ဒေတာကို ကုဒ်ဝှက်ထားသော 8tx တွင် ဟာ့ဒ်ဝဲ-ကျောထောက်နောက်ခံပြုထားသော ရွေးစရာတစ်ခုရှိသည်။

Google သည် ၎င်း၏ မကြာသေးမီက PyTorch ကြေငြာချက်များကို ညွှန်ပြပြီး TPU များကို "ယေဘူယျရည်ရွယ်ချက် ဟာ့ဒ်ဝဲများကဲ့သို့ သုံးရလွယ်ကူစေရန်" ဟူသော ရည်ရွယ်ချက်ဖြင့် ဟာ့ဒ်ဝဲသတင်းကို ဆော့ဖ်ဝဲလ်အသုံးပြုနိုင်မှုစာတိုပေးပို့ခြင်းဖြင့် ပေါင်းစပ်ထားသည်။ ကုမ္ပဏီသည် စနစ်သစ်များကို အသေးစိတ်ဖော်ပြရန် တနင်္လာနေ့တွင် ထုတ်လွှင့်ပြသခဲ့ပြီး သုံးစွဲသူများသည် Google Cloud ဝဘ်ဆိုက်တွင် အခြေခံအဆောက်အဦအပြည့်အစုံကို ရှာဖွေနိုင်ကြောင်း ပြောကြားခဲ့သည်။

AI ထက်သာလွန်နေပါစေ။

စိတ်ကြိုက် ဆီလီကွန်သည် AI တည်ဆောက်မှု၏ ဗျူဟာမြောက် တိုက်ပွဲဖြစ်လာသည်။ AI Buzz Wire — AI ဟာ့ဒ်ဝဲ၊ မော်ဒယ်များနှင့် ၎င်းတို့ကို တည်ဆောက်နေသည့် ကုမ္ပဏီများ၏ လွှမ်းခြုံမှုကို ချိုးဖျက်ခြင်းဖြင့် AI ၏ ရှေ့တွင်နေပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →