Google Yazindua TPU 8tx na TPU 8i Max, Kukamilisha Msururu wa Chip wa AI wa Mfumo wa Nne wa Kizazi cha Nane

Google imepanua jalada lake la TPU la kizazi cha nane kwa mifumo miwili mipya - TPU 8tx kwa uelekezaji salama, wa siri na TPU 8i Max kwa madirisha makubwa ya muktadha - kuashiria mara ya kwanza kampuni hiyo kusafirisha mifumo minne ya TPU katika mwaka mmoja.

Katika chapisho la blogu lililochapishwa Jumatatu, Google ilisema nyongeza hizo mbili zimeundwa kwa wasifu wa mzigo ambao haukuwepo wakati TPU ya kwanza ilipozinduliwa muongo mmoja uliopita: makundi ya mawakala wanaojiendesha wakijadili juu ya madirisha makubwa ya muktadha na kushughulikia data nyeti ya biashara. "Pamoja na kompyuta kuhama kutoka kwa kiwango cha mwanadamu hadi cha wakala, biashara zinauliza viongeza kasi ambavyo vinaweza kufikiria kwenye madirisha makubwa ya muktadha wa mifano ya AI," kampuni hiyo iliandika. "Kwa kuongezea, wateja wengine waliodhibitiwa sana wanauliza uwezo maalum wa usimbaji fiche kwa mzigo wa kipekee wa kazi." For more context on this story, see our ongoing breaking AI news.

Mfumo kwa Kila Hatua ya Mzunguko wa Maisha ya Kiajenti

Kizazi cha nane kilianza Google Cloud Next mnamo Aprili na TPU 8t, iliyoundwa kwa mafunzo ya kiwango kikubwa, na TPU 8i, iliyoundwa kwa sababu za wakati halisi. Google ilitaja hadi mara 2.7 utendaji bora wa mafunzo kwa 8t na 80% utendakazi bora wa bei ya 8i ikilinganishwa na kizazi kilichopita.

Waliowasili wawili wapya waligawanya eneo lililobaki. Kama Google ilivyosema, mifumo hiyo minne kwa pamoja inawapa wateja "kiongeza kasi kilichojengwa kwa madhumuni kwa kila hatua ya mzunguko wa maisha ya wakala": TPU 8t kwa mafunzo ya kiwango cha juu, TPU 8i kwa sababu za hali ya chini, TPU 8tx ya kompyuta ya siri, na TPU 8i Max kwa madirisha makubwa ya muktadha na msongamano wa juu zaidi wa hesabu kwa kila safu.

TPU 8tx: Usalama Umejengwa Ndani ya Maunzi

TPU 8tx imeboreshwa kwa ufahamu salama na wa siri na, madokezo ya Google, pia yanafaa kwa mafunzo ya kiwango kidogo. Mteja anayelengwa ni wazi: biashara zinazodhibitiwa na serikali zinazoendesha miundo ya mipakani au wamiliki na mawakala wanaojitegemea pamoja na data zao nyeti zaidi.

Mbinu ya uhandisi inashughulikia mvutano wa muda mrefu katika kompyuta salama. Data kwa kawaida husimbwa kwa njia fiche inapohifadhiwa au kutumwa, lakini lazima ifunguliwe kwenye kumbukumbu wakati kompyuta inapoichakata - wakati inapofichuliwa zaidi. Imeundwa kwa silikoni sawa na TPU 8t na kuoanishwa na wapangishi wa CPU wa Kizazi cha 5 cha AMD EPYC, TPU 8tx huunda usalama moja kwa moja kwenye safu ya maunzi, ikiweka data nyeti na uzani wa modeli kulindwa na kutengwa hata inapotumika.

Mfumo hutumia mtandao ule ule wa "Boardfly" wa hali ya chini wa kusubiri ulioundwa na Google kwa hoja za wakati halisi, ambayo ina maana kwamba unaweza kushughulikia kokotoo la kiwango cha mafunzo na makisio ya haraka kwa wakati mmoja. Google inasema kuwa hii huruhusu mashirika kurekebisha miundo iliyo na data ya faragha, kuweka miundo mikubwa hadi ndogo, na kutoa mafunzo kwa mawakala kupitia mafunzo ya uimarishaji kwenye mfumo mmoja - bila kuhamisha data nyeti kati ya vikundi tofauti.

TPU 8i Max: Kushambulia Ukuta wa Kumbukumbu

TPU 8i Max inakabiliana na kikwazo tofauti kabisa. "Wakati mawakala kadhaa wa AI wanafanya kazi pamoja kwenye msingi mzima wa programu au saa za video mara moja, kipimo data cha kumbukumbu huwa kikwazo haraka," Google iliandika. Jibu la kampuni ni la usanifu: chipsi mbili za TPU 8i za hali ya chini zimeunganishwa kwenye kifurushi kimoja.

Matokeo yake ni mfumo ambao unakadiria hesabu na kumbukumbu katika hatua ya kufunga - kutoa hesabu mara mbili, SRAM mara mbili, na mara mbili kipimo data cha HBM cha TPU 8i. Na kwa sababu TPU 8i Max inafaa mara mbili ya silicon ndani ya eneo la rack iliyopo, Google inasema vituo vya data vinaweza kupeleka nguvu zaidi za kompyuta kwa kila futi ya mraba na kwa wati, maanani ya maana wakati nguvu na nafasi ya sakafu ndio vizuizi vya kisheria kwenye upanuzi wa uwezo wa AI.

Kwanini Mifumo, Sio Chips

Jambo muhimu katika tangazo la Jumatatu ni kwamba Google inaunda hizi kama mifumo mpya badala ya chips mpya. Kubuni chip, kampuni inaelezea, ni mchakato wa miaka mingi wa kuweka mabilioni ya transistors zinazofungwa na fizikia na ratiba za utengenezaji. Mfumo - jinsi hesabu, mtandao, uhifadhi, na ufungashaji unavyopangwa karibu na chip - unaweza kurekebishwa haraka sana.

Utaratibu huo ndio msingi wa mkakati wa Google wa AI Hypercomputer, na ndio uliruhusu mifumo minne maalum kusafirishwa ndani ya kizazi kimoja. Google pia iliangazia ni kiasi gani cha miundombinu yake ya AI sasa inarudi katika ujenzi wa maunzi: kampuni inatumia mfumo wa kujifunza wa uimarishaji wa AlphaChip wa DeepMind, na inasema Gemini sasa inasaidia kutoa mipangilio ya chip "kwa saa badala ya wiki." Google inaita hii "muundo mwenza wa kweli" na kitofautishi cha kipekee.

Muktadha wa Ushindani

Upanuzi unatua huku kukiwa na ushindani unaozidi kuongezeka katika viongeza kasi vya AI. Usambazaji wa TPU umevutia umakini kwa jukumu lao la kuhudumia miundo nje ya kuta za Google yenyewe - kampuni inabainisha kuwa TPU sasa zinafunzwa kwa kutumia nishati na kutoa huduma kwa miundo yake ya Gemini, mzigo wa kazi wa mawakala, huduma za wateja wa Wingu la Google, na utumaji wa moja kwa moja wa TPU hivi majuzi katika vituo vya data vya wateja wenyewe. Google inafafanua TPU kama "biashara inayokua kwa kasi."

Ufunikaji wa tangazo hilo, ikiwa ni pamoja na vipande vya TechPowerUp na Electronics Weekly, vilianzisha hatua hiyo katika masharti ya ushindani wa wazi - Google inapanua safu yake maalum ya silicon huku inashughulikia mzigo wa kazi wa AI ambao unaweza kuendeshwa kwenye maunzi ya NVIDIA. NVIDIA, kwa upande wake, imeendelea kusafirisha vizazi mfululizo vya mifumo yake ya kiwango cha rack, ikiwaacha wanunuzi wa miundombinu ya AI na chaguo linalozidi kuaminika kati ya mfanyabiashara na silicon maalum.

Inamaanisha Nini kwa Watengenezaji

Kwa wasanidi programu, umuhimu wa kiutendaji ni mdogo kuhusu benchmark yoyote na zaidi kuhusu fit. Timu zinazounda bidhaa za mawakala ambazo hupitia hati ndefu, misingi mikubwa ya msimbo, au muktadha wa video uliopanuliwa zimekuwa zikifikia kiwango cha juu cha kipimo data ambacho FLOPS mbichi haisuluhishi - tatizo la 8i Max limeundwa. Timu za fedha, afya na serikali ambazo hazikuweza kuhamisha mzigo nyeti hadi kwenye miundombinu iliyoshirikiwa kwa sababu data ilibidi isimbuwe wakati wa kuchakata sasa zina chaguo linaloungwa mkono na maunzi katika 8tx.

Google iliunganisha habari za maunzi na utumaji ujumbe wa ufikivu wa programu, ikielekeza kwenye matangazo yake ya hivi majuzi ya PyTorch na lengo lake lililobainishwa la kufanya TPU "kuwa rahisi kutumia kama maunzi ya kusudi la jumla." Kampuni hiyo iliandaa matangazo Jumatatu ili kufafanua mifumo hiyo mipya na ilisema wateja wanaweza kuchunguza mpangilio kamili wa miundombinu kwenye tovuti ya Wingu la Google.

Kaa Mbele ya AI

Silicon maalum inakuwa uwanja wa vita wa kimkakati wa ujenzi wa AI. Kaa mbele ya AI ukitumia AI Buzz Wire — huduma bora zaidi ya maunzi ya AI, miundo na kampuni zinazoiunda.

Soma habari zaidi za AI →