Google ពង្រីកត្រកូល TPU ជំនាន់ទី 8 ជាមួយនឹង TPU 8i Max និង TPU 8tx សម្រាប់ភ្នាក់ងារ AI និងការសន្និដ្ឋានប្រកបដោយសុវត្ថិភាព

Google បានពង្រីកត្រកូល TPU ជំនាន់ទីប្រាំបីរបស់ខ្លួនជាមួយនឹងប្រព័ន្ធឯកទេសថ្មីចំនួនពីរ៖ TPU 8i Max ដែលរួមបញ្ចូលគ្នានូវបន្ទះឈីបការសន្និដ្ឋានចំនួនពីរនៅលើកញ្ចប់តែមួយសម្រាប់បន្ទុកការងារភ្នាក់ងារក្នុងបរិបទដ៏វែង និង TPU 8tx ដែលបង្កើតឡើងសម្រាប់ការសន្និដ្ឋានដាច់ដោយឡែកពីផ្នែករឹងដែលមានគោលបំណងសម្រាប់សហគ្រាស និងរដ្ឋាភិបាលដែលមានការគ្រប់គ្រង។ Tom's Hardware បានរាយការណ៍ពីការបន្ថែមកាលពីថ្ងៃព្រហស្បតិ៍។

ការផ្លាស់ប្តូរនេះបង្រួបបង្រួមក្រុមគ្រួសារដែល Google បានចាប់ផ្តើមនៅក្នុងខែមេសាជាមួយនឹង TPU 8t ដែលត្រូវបានរចនាឡើងសម្រាប់ការបណ្តុះបណ្តាល AI ខ្នាតធំ និង TPU 8i ដែលបង្កើតឡើងសម្រាប់ការងារសន្និដ្ឋានគោលបំណងទូទៅដូចជាការយកគំរូ ការបម្រើ និងការវែកញែក។ ជាមួយនឹងវ៉ារ្យ៉ង់ថ្មី ត្រកូលជំនាន់ទីប្រាំបីឥឡូវនេះគ្របដណ្តប់លើការបណ្តុះបណ្តាល ការសន្និដ្ឋានស្តង់ដារ ការសន្និដ្ឋានប្រកបដោយសុវត្ថិភាព និងការសន្និដ្ឋានភ្នាក់ងារកម្រិតបញ្ជូនអតិបរមា ដែលជាម៉ាទ្រីសនៃជម្រើសដែលឆ្លុះបញ្ចាំងពីភាពខុសប្លែកគ្នានៃសហគ្រាសឥឡូវនេះប្រើប្រាស់ផ្នែករឹង AI ។ ព័ត៌មានអំពីបន្ទះឈីបនេះគឺជាផ្នែកមួយនៃ [ការអភិវឌ្ឍន៍ AI ចុងក្រោយបំផុត] (https://aibuzzwire.news) របស់យើងដែលគ្របដណ្តប់លើទីផ្សារផ្នែករឹង AI ។

តើបន្ទះសៀគ្វីថ្មីធ្វើអ្វី

TPU 8i Max ដាក់បន្ទះសៀគ្វី 8i ចំនួនពីរនៅលើកញ្ចប់មួយ ដោយបង្កើនចំនួនកុំព្យូទ័រទ្វេដង SRAM និងកម្រិតបញ្ជូនអង្គចងចាំកម្រិតខ្ពស់នៃ 8i ដើម។ ការរចនាកំណត់គោលដៅការងារភ្នាក់ងារបរិបទវែង — សេណារីយ៉ូដែលភ្នាក់ងារ AI មានបរិបទការងារធំណាស់នៅទូទាំងកិច្ចការច្រើនជំហាន។

Tom's Hardware បានកំណត់កម្រិតបញ្ជូនកើនឡើងទ្វេដងជាវិធីមួយជុំវិញអ្វីដែល Google ហៅថាជញ្ជាំងអង្គចងចាំ ដែលជាការរាំងស្ទះកម្រិតបញ្ជូនដែលក្លាយទៅជាស្រួចស្រាវ "នៅពេលដែលភ្នាក់ងារ AI រាប់សិបនាក់ធ្វើការជាមួយគ្នានៅទូទាំងមូលដ្ឋានកូដកម្មវិធីទាំងមូល" ។ បង្អួចបរិបទធំជាងមុន — ជាមួយនឹងគំរូធំជាងដែលកំណត់គោលដៅប្រហែល 1 លានថូខឹន មានន័យថាឃ្លាំងសម្ងាត់ KV ធំជាង ដែលមួយផ្នែកបានរក្សាទុកនៅក្នុង SRAM ហើយនិមិត្តសញ្ញាថ្មីនីមួយៗដែលបានបង្កើតត្រូវតែអានឃ្លាំងសម្ងាត់នោះមកវិញពីអង្គចងចាំ។ ការបង្កើនកម្រិតបញ្ជូន HBM ទ្វេរដងក្នុងកញ្ចប់តែមួយ វាយប្រហារយ៉ាងជាក់លាក់នូវបញ្ហាជាប់គាំងនោះ ហើយការបោះពុម្ពផ្សាយបានកត់សម្គាល់ថាវាគឺជាផ្លូវខុសគ្នាពីវិធីសាស្រ្តរបស់ Nvidia ក្នុងការផ្គូផ្គងប្រភេទបន្ទះឈីបទីពីរសម្រាប់ការឌិកូដជាមួយនឹងកម្រិតផ្ទុកសម្រាប់បរិបទ។

ទន្ទឹមនឹងនេះ TPU 8tx ត្រូវបានបង្កើតឡើងនៅលើស៊ីលីកូនដូចគ្នានឹង 8t ដែលផ្តោតលើការបណ្តុះបណ្តាលដែលបានប្រកាសពីមុន ប៉ុន្តែត្រូវបានកំណត់រចនាសម្ព័ន្ធសម្រាប់ការគណនាសម្ងាត់៖ ការសន្និដ្ឋានដាច់ដោយឡែកពីផ្នែករឹងសម្រាប់សហគ្រាស និងរដ្ឋាភិបាលដែលមានការគ្រប់គ្រងដែលត្រូវការភស្តុតាងទិន្នន័យ និងម៉ូដែលរបស់ពួកគេត្រូវបានការពារកំឡុងពេលដំណើរការ។ ប្រព័ន្ធនេះប្តូរស៊ីភីយូម៉ាស៊ីន Axion ដែលមានមូលដ្ឋានលើ Arm ដែលប្រើដោយ 8t និង 8i សម្រាប់ខួរក្បាល AMD EPYC ជំនាន់ទី 5 និងទទួលយកបណ្តាញ Boardfly របស់ Google ។

គួរកត់សម្គាល់ថា Google មិនទាន់ចែករំលែកព័ត៌មានលម្អិតលម្អិត តម្លៃ ឬកាលបរិច្ឆេទដឹកជញ្ជូនសម្រាប់ប្រព័ន្ធថ្មីនោះទេ ដូច្នេះអ្នកទិញបច្ចុប្បន្នមានការបង្ហាញ និងទីតាំងជាជាងផលិតផលដែលអាចបញ្ជាទិញបាន។

ការបង្ហាញរបស់ Google ដែលត្រូវបានបោះពុម្ពផ្សាយទន្ទឹមនឹងការប្រកាសនេះបង្ហាញពីបន្ទះ TPU 8tx ដែលផ្ទុកបន្ទះឈីបចំនួនបួន រួមជាមួយនឹងបន្ទះ TPU 8i Max ចំនួនបួន ដែលនីមួយៗមានបន្ទះឈីបពីរនៅលើកញ្ចប់តែមួយ ដែលជាការបង្ហាញពីរូបរាងកាយនៃរបៀបដែលគ្រួសារជំនាន់ទីប្រាំបីបានខុសពីម៉ូដែលមួយ-chip-fits-all accelerator model នៃជំនាន់មុនៗ។

TPU សមកាលកម្ម៖ ស្រទាប់កម្មវិធីសម្រាប់អង្គចងចាំភ្នាក់ងារ

ទន្ទឹមនឹងស៊ីលីកុន Google កំពុងពឹងផ្អែកលើកម្មវិធីដើម្បីដោះស្រាយបញ្ហាភ្នាក់ងារ - អង្គចងចាំ។ TPU សមកាលកម្មគឺជាប្រភពបើកចំហ "ស្រទាប់រដ្ឋគំរូសម្រាប់ចង្កោម TPU" ដែលដាក់ឃ្លាំងសម្ងាត់ KV ដ៏ធំដោយស្វ័យប្រវត្តិចេញពីបន្ទះឈីបគិតជាមិល្លីវិនាទី ដោយផ្លាស់ទីពួកវាចុះក្រោមទៅជាម៉ាស៊ីន DRAM និងដោយពិសោធន៍ កន្លែងផ្ទុកដែលបានចែករំលែក។

យោងតាម ​​Google វាអាចកាត់បន្ថយភាពយឺតយ៉ាវនៃការផ្ទេរ KV-cache ច្រើនជាង 90% ជាមួយនឹងការកើនឡើងដែលត្រូវគ្នានៅក្នុងពេលវេលាទៅសញ្ញាដំបូង - ការពន្យារពេលដែលអ្នកប្រើប្រាស់ជួបប្រទះមុនពេលប្រព័ន្ធ AI ចាប់ផ្តើមឆ្លើយតប។ សម្រាប់បន្ទុកការងារជាភ្នាក់ងារ ដែលវគ្គតែមួយអាចពាក់ព័ន្ធនឹងការហៅទូរសព្ទគំរូតាមលំដាប់លំដោយរាប់សិប ដែលនីមួយៗត្រូវការចូលទៅកាន់បរិបទបង្គរដូចគ្នា ការគ្រប់គ្រងឃ្លាំងសម្ងាត់កំពុងក្លាយជាមានសារៈសំខាន់ដូចការគណនាឆៅ។

ហេតុអ្វីបានជាវាសំខាន់សម្រាប់ទីផ្សារផ្នែករឹង AI

TPUs បានក្លាយជាអាជីវកម្មដែលរីកចម្រើនយ៉ាងឆាប់រហ័សសម្រាប់ Google ដែលទាមទារអតិថិជនជិត 100 នាក់សម្រាប់បន្ទះឈីប — រួមទាំង Meta ដែលការទទួលយក Google TPUs នៅក្នុងមជ្ឈមណ្ឌលទិន្នន័យរបស់ខ្លួនបានសម្គាល់ការប្រកួតប្រជែងដ៏សំខាន់បំផុតមួយចូលទៅក្នុងទឹកដីរបស់ Nvidia ។ វិធីសាស្រ្តម៉ូឌុលកាន់តែច្រើនដែល Google កំពុងទទួលយកជាមួយគ្រួសារជំនាន់ទីប្រាំបី ក្រុមហ៊ុននេះបាននិយាយថា អនុញ្ញាតឱ្យវាផ្តល់នូវប្រព័ន្ធឯកទេស "ក្នុងរយៈពេលជាច្រើនខែជាជាងច្រើនឆ្នាំ" ដែលជួយដល់កំណើនអតិថិជននោះ។

ពេលវេលានៃការប្រកាសគឺគួរឱ្យចាប់អារម្មណ៍។ ការពង្រីកបន្ទះឈីបរបស់ Google បានកើតឡើងនៅថ្ងៃតែមួយ Nvidia បានប្រកាសថា CEO Jensen Huang បានលាលែងពីតំណែង ដោយ CFO Colette Kress ត្រូវបានតែងតាំងជា CEO បណ្តោះអាសន្ន ដែលជាការរំខានដល់ភាពជាអ្នកដឹកនាំដ៏អស្ចារ្យនៅក្នុងក្រុមហ៊ុនដែល GPUs គ្រប់គ្រងទីផ្សារ TPUs របស់ Google កំពុងធ្លាក់ចុះ។ ព្រឹត្តិការណ៍ទាំងពីរនេះមិនទាក់ទងគ្នាក្នុងបុព្វហេតុនោះទេ ប៉ុន្តែពួកគេរួមគ្នាគូសបញ្ជាក់អំពីការប្រកួតប្រជែង និងថាតើទីផ្សារហេដ្ឋារចនាសម្ព័ន្ធ AI មានភាពប្រែប្រួលយ៉ាងណា។

សម្រាប់សហគ្រាសដែលវាយតម្លៃហេដ្ឋារចនាសម្ព័ន្ធ AI សញ្ញាបន្ថែមដែលកំណត់ជម្រើសកំពុងពង្រីក៖ ស៊ីលីកុនដែលបានបង្កើនប្រសិទ្ធភាពការបណ្តុះបណ្តាល ការសន្និដ្ឋានទូទៅ ការសន្និដ្ឋានសុវត្ថិភាពសម្រាប់ទិន្នន័យដែលបានគ្រប់គ្រង និងកញ្ចប់កម្រិតបញ្ជូនអតិបរមាសម្រាប់កងនាវាភ្នាក់ងារកំពុងក្លាយជាប្រភេទផលិតផលដាច់ដោយឡែកជាជាងឧបករណ៍បង្កើនល្បឿនទំហំតែមួយ។ នៅពេលដែល Google បោះពុម្ពផ្សាយព័ត៌មានលម្អិតអំពីតម្លៃ និងភាពអាចរកបាន សំណួរជាក់ស្តែងសម្រាប់អ្នកទិញនឹងមានថាតើកម្រិតបញ្ជូនកើនឡើងទ្វេដងរបស់ 8i Max បកប្រែទៅជាលំហូរគ្រប់គ្រាន់សម្រាប់កងនាវាភ្នាក់ងារដើម្បីបង្ហាញពីបុព្វហេតុបុព្វលាភលើការដាក់ឱ្យប្រើប្រាស់ 8i ស្តង់ដារដែរឬទេ។

ម៉ូឌុលក៏មានតក្កវិជ្ជាផ្នែកផ្គត់ផ្គង់ផងដែរ។ ជាជាងការរង់ចាំជាច្រើនឆ្នាំសម្រាប់ការរចនាជំនាន់ក្រោយដើម្បីឆ្លងកាត់ជង់ផ្នែករឹងពេញលេញ Google អាចរួមបញ្ចូលស៊ីលីកុនដែលមានស្រាប់ឡើងវិញ - ដូចដែលវាបានធ្វើដោយការផ្លាស់ប្តូរស៊ីលីកុន 8t ទៅក្នុងកញ្ចប់ដែលមានសុវត្ថិភាពជាមួយស៊ីភីយូម៉ាស៊ីនផ្សេងគ្នា - ដើម្បីឈានដល់ផ្នែកពិសេសលឿនជាងមុន ខណៈពេលដែលរក្សាបណ្តុំកម្មវិធីទូទៅនៅទូទាំងវ៉ារ្យ៉ង់ទាំងអស់។ ល្បឿននោះគឺជាអាវុធប្រកួតប្រជែងនៅក្នុងទីផ្សារដែលតម្រូវការអតិថិជនកំពុងផ្លាស់ប្តូររៀងរាល់ត្រីមាស។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →