Η Google λανσάρει τα TPU 8tx και TPU 8i Max, ολοκληρώνοντας τη σειρά τσιπ τεχνητής νοημοσύνης όγδοης γενιάς τεσσάρων συστημάτων

Η Google έχει επεκτείνει το χαρτοφυλάκιο TPU όγδοης γενιάς με δύο νέα συστήματα — TPU 8tx για ασφαλή, εμπιστευτικά συμπεράσματα και TPU 8i Max για μεγάλα παράθυρα περιβάλλοντος — σηματοδοτώντας την πρώτη φορά που η εταιρεία έχει αποστείλει τέσσερα συστήματα TPU σε ένα μόνο έτος.

Σε μια ανάρτηση ιστολογίου που δημοσιεύτηκε τη Δευτέρα, η Google είπε ότι οι δύο προσθήκες έχουν σχεδιαστεί για ένα προφίλ φόρτου εργασίας που μόλις και μετά βίας υπήρχε όταν κυκλοφόρησε το πρώτο TPU πριν από μια δεκαετία: στόλοι αυτόνομων πρακτόρων συλλογίζονται σε τεράστια παράθυρα περιβάλλοντος και χειρίζονται ευαίσθητα εταιρικά δεδομένα. «Καθώς οι υπολογιστές κινούνται από την κλίμακα ανθρώπου σε πράκτορα, οι επιχειρήσεις ζητούν επιταχυντές που να μπορούν να συλλογιστούν στα τεράστια παράθυρα περιβάλλοντος των μοντέλων τεχνητής νοημοσύνης», έγραψε η εταιρεία. "Επιπλέον, ορισμένοι πελάτες με υψηλή ρύθμιση ζητούν εξειδικευμένες δυνατότητες κρυπτογράφησης για μοναδικούς φόρτους εργασίας." For more context on this story, see our ongoing AI news.

Ένα σύστημα για κάθε στάδιο του κύκλου ζωής του πράκτορα

Η όγδοη γενιά ξεκίνησε στο Google Cloud Next τον Απρίλιο με το TPU 8t, κατασκευασμένο για εκπαίδευση μεγάλης κλίμακας, και το TPU 8i, κατασκευασμένο για συλλογισμό σε πραγματικό χρόνο. Η Google ανέφερε έως και 2,7 φορές καλύτερη απόδοση προπόνησης για το 8t και 80% καλύτερη απόδοση συμπερασμάτων για το 8i σε σύγκριση με την προηγούμενη γενιά.

Οι δύο νέες αφίξεις χώρισαν την υπόλοιπη περιοχή. Όπως το έθεσε η Google, τα τέσσερα συστήματα μαζί προσφέρουν στους πελάτες «έναν ειδικά σχεδιασμένο επιταχυντή για κάθε στάδιο του κύκλου ζωής του αντιπροσώπου»: TPU 8t για εκπαίδευση κλιμάκωσης, TPU 8i για συλλογισμό χαμηλής καθυστέρησης, TPU 8tx για εμπιστευτικούς υπολογισμούς και TPU 8i Max για μεγάλα παράθυρα περιβάλλοντος και την υψηλότερη υπολογιστική πυκνότητα ανά .

TPU 8tx: Ενσωματωμένη ασφάλεια στο υλικό

Το TPU 8tx είναι βελτιστοποιημένο για ασφαλή και εμπιστευτικά συμπεράσματα και, σημειώνει η Google, είναι επίσης κατάλληλο για εκπαίδευση μικρής κλίμακας. Ο πελάτης-στόχος είναι ξεκάθαρος: ρυθμιζόμενες επιχειρήσεις και κυβερνήσεις που διαχειρίζονται ασυνοριακά ή ιδιόκτητα μοντέλα και αυτόνομους πράκτορες μαζί με τα πιο ευαίσθητα δεδομένα τους.

Η μηχανική προσέγγιση αντιμετωπίζει μια μακροχρόνια ένταση στον ασφαλή υπολογισμό. Τα δεδομένα συνήθως κρυπτογραφούνται όταν αποθηκεύονται ή μεταδίδονται, αλλά πρέπει να ξεκλειδώνονται στη μνήμη ενώ ο υπολογιστής τα επεξεργάζεται — τη στιγμή που εκτίθενται περισσότερο. Χτισμένο στο ίδιο πυρίτιο με το TPU 8t και σε συνδυασμό με κεντρικούς υπολογιστές CPU AMD EPYC 5ης γενιάς, το TPU 8tx ενσωματώνει ασφάλεια απευθείας στο επίπεδο υλικού, διατηρώντας τα ευαίσθητα δεδομένα και τα βάρη των μοντέλων προστατευμένα και απομονωμένα ακόμη και κατά την ενεργή χρήση.

Το σύστημα χρησιμοποιεί το ίδιο δίκτυο "Boardfly" χαμηλής καθυστέρησης που δημιούργησε η Google για συλλογισμό σε πραγματικό χρόνο, πράγμα που σημαίνει ότι μπορεί να χειριστεί υπολογισμούς επιπέδου εκπαίδευσης και γρήγορη εξαγωγή συμπερασμάτων ταυτόχρονα. Η Google λέει ότι αυτό επιτρέπει στους οργανισμούς να προσαρμόζουν τα μοντέλα με ιδιωτικά δεδομένα, να αποστάζουν μεγάλα μοντέλα σε μικρότερα και να εκπαιδεύουν πράκτορες μέσω ενισχυτικής μάθησης σε ένα ενιαίο σύστημα — χωρίς να μεταφέρουν ευαίσθητα δεδομένα μεταξύ χωριστών συμπλεγμάτων.

TPU 8i Max: Επίθεση στον τοίχο της μνήμης

Το TPU 8i Max αντιμετωπίζει εντελώς έναν διαφορετικό περιορισμό. «Όταν δεκάδες πράκτορες τεχνητής νοημοσύνης συνεργάζονται σε μια ολόκληρη βάση κώδικα λογισμικού ή ώρες βίντεο ταυτόχρονα, το εύρος ζώνης της μνήμης γίνεται γρήγορα το σημείο συμφόρησης», έγραψε η Google. Η απάντηση της εταιρείας είναι αρχιτεκτονική: δύο τσιπ TPU 8i χαμηλής καθυστέρησης συνδυασμένα σε ένα μόνο πακέτο.

Το αποτέλεσμα είναι ένα σύστημα που κλιμακώνει τον υπολογισμό και τη μνήμη σε lockstep — παρέχοντας διπλάσιο υπολογισμό, διπλάσιο SRAM και διπλάσιο εύρος ζώνης HBM του TPU 8i. Και επειδή το TPU 8i Max χωράει διπλάσια ποσότητα πυριτίου στο υπάρχον αποτύπωμα rack, η Google λέει ότι τα κέντρα δεδομένων μπορούν να αναπτύξουν σημαντικά περισσότερη υπολογιστική ισχύ ανά τετραγωνικό πόδι και ανά βατ, κάτι σημαντικό όταν η ισχύς και ο χώρος δαπέδου είναι οι δεσμευτικοί περιορισμοί στην επέκταση της χωρητικότητας AI.

Γιατί συστήματα, όχι τσιπ

Μια σημαντική απόχρωση στην ανακοίνωση της Δευτέρας είναι ότι η Google τα πλαισιώνει ως νέα συστήματα και όχι ως νέα τσιπ. Ο σχεδιασμός ενός τσιπ, εξηγεί η εταιρεία, είναι μια πολυετής διαδικασία τοποθέτησης δισεκατομμυρίων τρανζίστορ που συνδέονται με τη φυσική και τα χρονοδιαγράμματα κατασκευής. Ένα σύστημα — πώς ο υπολογισμός, η δικτύωση, η αποθήκευση και η συσκευασία είναι διατεταγμένα γύρω από ένα τσιπ — μπορεί να προσαρμοστεί πολύ πιο γρήγορα.

Αυτή η αρθρωτή βαθμίδα είναι ο πυρήνας της στρατηγικής AI Υπερυπολογιστή της Google και είναι αυτό που επέτρεψε σε τέσσερα εξειδικευμένα συστήματα να αποσταλούν μέσα σε μία μόνο γενιά. Η Google τόνισε επίσης πόσο μεγάλο μέρος της δικής της υποδομής AI επιστρέφει τώρα στην κατασκευή του υλικού: η εταιρεία χρησιμοποιεί το ενισχυτικό σύστημα εκμάθησης AlphaChip της DeepMind και λέει ότι το Gemini βοηθά τώρα στην παροχή διατάξεων τσιπ «σε ώρες και όχι σε εβδομάδες». Η Google αποκαλεί αυτό το "αληθινό συν-σχεδιασμό" και μοναδικό παράγοντα διαφοροποίησης.

Το ανταγωνιστικό πλαίσιο

Η επέκταση προσγειώνεται εν μέσω εντεινόμενου ανταγωνισμού στους επιταχυντές τεχνητής νοημοσύνης. Οι αναπτύξεις TPU έχουν τραβήξει την προσοχή για το ρόλο τους στην εξυπηρέτηση μοντέλων εκτός των τειχών της Google — η εταιρεία σημειώνει ότι οι TPU υποστηρίζουν πλέον την εκπαίδευση και την υπηρεσία για τα μοντέλα Gemini, τους φόρτους εργασίας, τις υπηρεσίες πελατών του Google Cloud και πιο πρόσφατα την άμεση ανάπτυξη των TPU στα κέντρα δεδομένων των πελατών. Η Google περιγράφει τα TPU ως «μια ταχέως αναπτυσσόμενη επιχείρηση».

Η κάλυψη της ανακοίνωσης, συμπεριλαμβανομένων κομματιών από το TechPowerUp και το Electronics Weekly, πλαισίωσε την κίνηση με ρητά ανταγωνιστικούς όρους - η Google επεκτείνει τη σειρά προσαρμοσμένων πυριτίου της καθώς προσαρμόζει φόρτους εργασίας AI που διαφορετικά θα μπορούσαν να λειτουργούν σε υλικό NVIDIA. Η NVIDIA, από την πλευρά της, συνέχισε να αποστέλλει διαδοχικές γενιές των δικών της συστημάτων σε κλίμακα rack, αφήνοντας στους αγοραστές υποδομής τεχνητής νοημοσύνης μια ολοένα και πιο αξιόπιστη επιλογή μεταξύ εμπόρου και προσαρμοσμένου πυριτίου.

Τι σημαίνει για τους προγραμματιστές

Για τους προγραμματιστές, η πρακτική σημασία αφορά λιγότερο οποιοδήποτε σημείο αναφοράς και περισσότερο την εφαρμογή. Ομάδες που κατασκευάζουν αντιπροσωπευτικά προϊόντα που συνδυάζουν μεγάλα έγγραφα, μεγάλες βάσεις κωδικών ή εκτεταμένο περιβάλλον βίντεο έχουν φτάσει σε ανώτατα όρια εύρους ζώνης μνήμης που δεν λύνουν τα ακατέργαστα FLOPS — το πρόβλημα για το οποίο έχει κατασκευαστεί το 8i Max. Ομάδες στον τομέα των οικονομικών, της υγειονομικής περίθαλψης και της κυβέρνησης που δεν μπορούσαν να μεταφέρουν ευαίσθητους φόρτους εργασίας σε κοινόχρηστη υποδομή επειδή τα δεδομένα έπρεπε να αποκρυπτογραφηθούν κατά την επεξεργασία έχουν τώρα μια επιλογή με υποστήριξη υλικού σε 8tx.

Η Google συνδύασε τις ειδήσεις υλικού με μηνύματα προσβασιμότητας λογισμικού, επισημαίνοντας τις πρόσφατες ανακοινώσεις της στο PyTorch και τον δεδηλωμένο στόχο της να κάνει τα TPU «τόσο εύχρηστα όσο και το υλικό γενικής χρήσης». Η εταιρεία φιλοξένησε μια εκπομπή τη Δευτέρα για να αναφέρει λεπτομερώς τα νέα συστήματα και είπε ότι οι πελάτες μπορούν να εξερευνήσουν την πλήρη σειρά υποδομών στον ιστότοπο Google Cloud.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Το προσαρμοσμένο πυρίτιο γίνεται το στρατηγικό πεδίο μάχης της δημιουργίας AI. Μείνετε μπροστά από την τεχνητή νοημοσύνη με το AI Buzz Wire — ξεπερνώντας την κάλυψη του υλικού AI, των μοντέλων και των εταιρειών που τα κατασκευάζουν.

Διαβάστε περισσότερα νέα AI →