Google lansează TPU 8tx și TPU 8i Max, completând gama de cipuri AI de a opta generație cu patru sisteme

Google și-a extins portofoliul de TPU din a opta generație cu două sisteme noi - TPU 8tx pentru inferență sigură și confidențială și TPU 8i Max pentru ferestre de context masive - marcând pentru prima dată când compania a livrat patru sisteme TPU într-un singur an.

Într-o postare pe blog publicată luni, Google a spus că cele două completări sunt concepute pentru un profil de sarcină de lucru care abia exista atunci când a fost lansat primul TPU în urmă cu un deceniu: flote de agenți autonomi care raționează pe ferestre de context enorme și gestionează date sensibile ale întreprinderii. „Odată cu trecerea calculatoarelor de la scară umană la scară de agent, companiile solicită acceleratoare care să poată raționa în ferestrele de context masive ale modelelor AI”, a scris compania. „În plus, unii clienți foarte reglementați solicită capabilități de criptare specializate pentru sarcini de lucru unice”. For more context on this story, see our ongoing AI industry coverage.

Un sistem pentru fiecare etapă a ciclului de viață agentic

A opta generație a început la Google Cloud Next în aprilie cu TPU 8t, creat pentru antrenament la scară largă, și TPU 8i, creat pentru raționament în timp real. Google a citat o performanță de antrenament de până la 2,7 ori mai bună pentru 8t și o performanță preț-performanță de 80% mai bună pentru 8i în comparație cu generația anterioară.

Cei doi noi sosiți au împărțit teritoriul rămas. După cum a spus Google, cele patru sisteme împreună oferă clienților „un accelerator special creat pentru fiecare etapă a ciclului de viață agentic”: TPU 8t pentru antrenament de extindere, TPU 8i pentru raționament cu latență scăzută, TPU 8tx pentru calcul confidențial și TPU 8i Max pentru ferestre de context masiv și cea mai mare densitate de calcul per rack.

TPU 8tx: securitate încorporată în hardware

TPU 8tx este optimizat pentru inferențe sigure și confidențiale și, notează Google, este, de asemenea, potrivit pentru antrenamentul la scară mică. Clientul țintă este explicit: întreprinderile reglementate și guvernele care rulează modele de frontieră sau proprietare și agenți autonomi alături de datele lor cele mai sensibile.

Abordarea de inginerie abordează o tensiune de lungă durată în calculul securizat. În mod normal, datele sunt criptate atunci când sunt stocate sau transmise, dar trebuie deblocate în memorie în timp ce un computer le procesează - în momentul în care sunt cele mai expuse. Construit pe același siliciu ca și TPU 8t și asociat cu gazdele CPU AMD EPYC de a 5-a generație, TPU 8tx construiește securitate direct în stratul hardware, păstrând datele sensibile și greutățile modelului protejate și izolate chiar și în timpul utilizării active.

Sistemul folosește aceeași rețea „Boardfly” cu latență redusă creată de Google pentru raționament în timp real, ceea ce înseamnă că poate gestiona simultan calculul de nivel de antrenament și inferența rapidă. Google spune că acest lucru permite organizațiilor să ajusteze modelele cu date private, să distileze modele mari în altele mai mici și să antreneze agenții prin învățare consolidată pe un singur sistem - fără a migra datele sensibile între clustere separate.

TPU 8i Max: Atacarea peretelui memoriei

TPU 8i Max abordează complet o constrângere diferită. „Atunci când zeci de agenți AI lucrează împreună pe o întreagă bază de cod software sau ore de video simultan, lățimea de bandă a memoriei devine rapid blocajul”, a scris Google. Răspunsul companiei este arhitectural: două cipuri TPU 8i cu latență redusă combinate într-un singur pachet.

Rezultatul este un sistem care scalează calculul și memoria în pas - oferind dublul calculului, dublul SRAM și dublul lățimii de bandă HBM a TPU 8i. Și pentru că TPU 8i Max se potrivește de două ori mai mult decât siliciul din amprenta existentă a rack-ului, Google spune că centrele de date pot implementa mult mai multă putere de calcul per metru pătrat și per watt, o considerație semnificativă atunci când puterea și spațiul de lucru sunt constrângerile obligatorii pentru extinderea capacității AI.

De ce sisteme, nu cipuri

O nuanță importantă în anunțul de luni este că Google le încadrează ca sisteme noi, mai degrabă decât noi cipuri. Proiectarea unui cip, explică compania, este un proces de mai mulți ani de aranjare a miliarde de tranzistori legați de fizică și cronologie de producție. Un sistem - modul în care sunt aranjate calculul, rețeaua, stocarea și ambalarea în jurul unui cip - poate fi ajustat mult mai rapid.

Această modularitate este nucleul strategiei Google AI Hypercomputer și este ceea ce a permis ca patru sisteme specializate să fie livrate într-o singură generație. Google a evidențiat, de asemenea, cât de mult din propria sa infrastructură AI revine acum în construirea hardware-ului: compania folosește sistemul de învățare de întărire AlphaChip de la DeepMind și spune că Gemini ajută acum să furnizeze layout-uri de cip „în ore și nu în săptămâni”. Google numește acest lucru „adevărat co-design” și un factor de diferențiere unic.

Contextul competitiv

The expansion lands amid intensifying competition in AI accelerators. TPU deployments have drawn attention for their role in serving models outside Google's own walls — the company notes TPUs now power training and serving for its Gemini models, agentic workloads, Google Cloud customer services, and most recently direct deployments of TPUs into customers' own data centers. Google describes TPUs as "a rapidly growing business."

Coverage of the announcement, including pieces from TechPowerUp and Electronics Weekly, framed the move in explicitly competitive terms — Google extending its custom-silicon lineup as it courts AI workloads that might otherwise run on NVIDIA hardware. NVIDIA, for its part, has continued shipping successive generations of its own rack-scale systems, leaving AI infrastructure buyers with an increasingly credible choice between merchant and custom silicon.

What It Means for Developers

For developers, the practical significance is less about any single benchmark and more about fit. Teams building agentic products that grind through long documents, large codebases, or extended video context have been hitting memory-bandwidth ceilings that raw FLOPS don't solve — the problem 8i Max is built for. Teams in finance, healthcare, and government that couldn't move sensitive workloads to shared infrastructure because data had to be decrypted during processing now have a hardware-backed option in 8tx.

Google coupled the hardware news with software accessibility messaging, pointing to its recent PyTorch announcements and its stated aim to make TPUs "as easy-to-use as general-purpose hardware." The company hosted a broadcast on Monday to detail the new systems and said customers can explore the full infrastructure lineup on the Google Cloud website.

Stay Ahead of AI

Custom silicon is becoming the strategic battleground of the AI buildout. Stay ahead of AI with AI Buzz Wire — breaking coverage of AI hardware, models, and the companies building them.

Read more AI news →