Google Ngluncurake TPU 8tx lan TPU 8i Max, Ngrampungake Jajaran Chip AI Generasi Kawolu Four-System

Google wis nggedhekake portofolio TPU generasi kaping wolu kanthi rong sistem anyar - TPU 8tx kanggo inferensi sing aman, rahasia lan TPU 8i Max kanggo jendhela konteks gedhe - menehi tandha pisanan perusahaan ngirim papat sistem TPU sajrone setaun.

Ing kirim blog sing diterbitake Senin, Google ujar manawa rong tambahan kasebut dirancang kanggo profil beban kerja sing meh ora ana nalika TPU pisanan diluncurake sepuluh taun kepungkur: armada agen otonom sing mikir babagan jendela konteks gedhe lan nangani data perusahaan sing sensitif. "Kanthi komputasi pindah saka skala manungsa menyang agen, bisnis njaluk akselerator sing bisa menehi alesan ing jendela konteks gedhe model AI," tulis perusahaan kasebut. "Kajaba iku, sawetara pelanggan sing diatur banget njaluk kapabilitas enkripsi khusus kanggo beban kerja sing unik." For more context on this story, see our ongoing more AI stories.

Sistem kanggo Saben Tahap Siklus Urip Agen

Generasi kaping wolu diwiwiti ing Google Cloud Next ing April kanthi TPU 8t, dibangun kanggo latihan skala gedhe, lan TPU 8i, dibangun kanggo pertimbangan wektu nyata. Google nyebutake kinerja latihan 2.7 kaping luwih apik kanggo 8t lan 80% kinerja rega inferensi sing luwih apik kanggo 8i dibandhingake karo generasi sadurunge.

Wong loro sing anyar teka misahake wilayah sing isih ana. Kaya sing dicritakake Google, papat sistem kasebut bebarengan menehi pelanggan "akselerator sing dibangun kanthi tujuan kanggo saben tahap siklus urip agen": TPU 8t kanggo latihan skala, TPU 8i kanggo alasan latensi rendah, TPU 8tx kanggo komputasi rahasia, lan TPU 8i Max kanggo jendhela konteks gedhe lan kapadhetan komputasi paling dhuwur saben rak.

TPU 8tx: Keamanan Dibangun ing Hardware

TPU 8tx dioptimalake kanggo inferensi sing aman lan rahasia lan, cathetan Google, uga cocog kanggo latihan skala cilik. Target pelanggan jelas: perusahaan lan pamrentah sing diatur nganggo model perbatasan utawa proprietary lan agen otonom bebarengan karo data sing paling sensitif.

Pendekatan teknik ngatasi ketegangan sing wis suwe ing komputasi aman. Data biasane dienkripsi nalika disimpen utawa dikirim, nanging kudu dikunci ing memori nalika komputer ngolah - nalika paling akeh katon. Dibangun ing silikon sing padha karo TPU 8t lan dipasangake karo host CPU AMD EPYC Generasi 5, TPU 8tx mbangun keamanan langsung menyang lapisan hardware, njaga data sensitif lan bobot model sing dilindhungi lan diisolasi sanajan aktif digunakake.

Sistem kasebut nggunakake jaringan "Boardfly" latensi rendah sing padha digawe Google kanggo pertimbangan wektu nyata, tegese bisa nangani komputasi kelas latihan lan inferensi cepet bebarengan. Google ujar manawa iki ngidini organisasi nyetel model kanthi data pribadi, nyaring model gedhe dadi luwih cilik, lan nglatih agen liwat sinau penguatan ing siji sistem - tanpa migrasi data sensitif antarane klompok sing kapisah.

TPU 8i Max: Nyerang Tembok Memori

TPU 8i Max ngatasi kendala sing beda. "Nalika puluhan agen AI kerja bareng ing kabeh basis kode piranti lunak utawa jam video bebarengan, bandwidth memori kanthi cepet dadi bottleneck," tulis Google. Wangsulan perusahaan yaiku arsitektur: rong chip TPU 8i latensi rendah digabungake dadi siji paket.

Asil punika sistem sing timbangan ngitung lan memori ing lockstep - ngirim pindho komputasi, pindho SRAM, lan pindho HBM bandwidth TPU 8i. Lan amarga TPU 8i Max cocog kaping pindho silikon ing tilas rak sing wis ana, Google ujar manawa pusat data bisa nyebarake daya komputasi sing luwih akeh saben sikil persegi lan saben watt, minangka pertimbangan sing migunani nalika daya lan ruang lantai minangka watesan kanggo ekspansi kapasitas AI.

Kenapa Sistem, Ora Kripik

Nuansa penting ing woro-woro Senin yaiku Google nggawe iki minangka sistem anyar tinimbang chip anyar. Ngrancang chip, perusahaan nerangake, minangka proses multi-taun nglebokake milyaran transistor sing kaiket karo garis wektu fisika lan manufaktur. Sistem - carane ngitung, jaringan, panyimpenan, lan kemasan disusun ing saubengé chip - bisa diatur luwih cepet.

Modularitas kasebut minangka inti saka strategi Hypercomputer AI Google, lan iki ngidini papat sistem khusus dikirim ing generasi siji. Google uga nyorot pira infrastruktur AI dhewe saiki bali menyang mbangun hardware: perusahaan nggunakake sistem pembelajaran penguatan AlphaChip DeepMind, lan ujar Gemini saiki mbantu ngirim tata letak chip "ing jam tinimbang minggu." Google nyebut iki "co-desain sejati" lan pembeda unik.

Konteks Kompetitif

Ekspansi kasebut ndharat ing tengah-tengah persaingan ing akselerator AI. Panyebaran TPU wis narik kawigatosan amarga perane ngladeni model ing njaba tembok Google dhewe - perusahaan kasebut nyathet TPU saiki latihan tenaga lan nglayani model Gemini, beban kerja agen, layanan pelanggan Google Cloud, lan paling anyar nyebarake TPU menyang pusat data pelanggan dhewe. Google nggambarake TPU minangka "bisnis sing berkembang kanthi cepet."

Cakupan woro-woro kasebut, kalebu potongan saka TechPowerUp lan Electronics Weekly, nggawe langkah kasebut kanthi tegas kompetitif - Google nggedhekake barisan silikon khusus amarga ngatasi beban kerja AI sing bisa digunakake ing hardware NVIDIA. NVIDIA, kanggo bagean kasebut, terus ngirim generasi berturut-turut saka sistem skala rak dhewe, ninggalake para panuku infrastruktur AI kanthi pilihan sing luwih dipercaya antarane pedagang lan silikon khusus.

Apa Tegese kanggo Pangembang

Kanggo pangembang, makna praktis kurang babagan pathokan siji lan luwih akeh babagan pas. Tim sing mbangun produk agen sing nggiling dokumen dawa, basis kode gedhe, utawa konteks video lengkap wis nggayuh langit-langit bandwidth memori sing FLOPS mentah ora bisa diatasi - masalah 8i Max dibangun. Tim ing keuangan, kesehatan, lan pamrentah sing ora bisa mindhah beban kerja sing sensitif menyang infrastruktur sing dienggo bareng amarga data kudu didekripsi sajrone proses saiki duwe pilihan sing didhukung hardware ing 8tx.

Google nggabungake warta hardware karo olahpesen aksesibilitas piranti lunak, nuduhake pengumuman PyTorch sing anyar lan tujuane kanggo nggawe TPU "gampang digunakake minangka hardware umum." Perusahaan kasebut dadi tuan rumah siaran dina Senin kanggo rinci babagan sistem anyar lan ujar para pelanggan bisa njelajah jajaran infrastruktur lengkap ing situs web Google Cloud.

Tetep Ahead saka AI

Silikon khusus dadi medan perang strategis saka AI buildout. Tetep ndhisiki AI nganggo AI Buzz Wire — njabut liputan hardware, model, lan perusahaan sing mbangun AI.

Waca liyane AI warta →