גוגל משיקה את TPU 8tx ו-TPU 8i Max, משלימה מערך שבבי AI דור שמיני של ארבע מערכות

גוגל הרחיבה את פורטפוליו ה-TPU מהדור השמיני שלה עם שתי מערכות חדשות - TPU 8tx להסקת מסקנות מאובטחת וחסויה ו-TPU 8i Max לחלונות הקשר מסיביים - ומציינת את הפעם הראשונה שהחברה שולחת ארבע מערכות TPU בשנה אחת.

בפוסט בבלוג שפורסם ביום שני, גוגל אמרה ששתי התוספות מיועדות לפרופיל עומס עבודה שכמעט ולא היה קיים כשה-TPU הראשון הושק לפני עשור: ציים של סוכנים אוטונומיים מתלבטים על חלונות הקשר עצומים ומטפלים בנתונים ארגוניים רגישים. "עם המחשוב שעובר מקנה מידה אנושי לסוכנים, עסקים מבקשים מאיצים שיכולים להגיב על פני חלונות ההקשר העצומים של מודלים של AI", כתבה החברה. "בנוסף, כמה לקוחות בפיקוח גבוה מבקשים יכולות הצפנה מיוחדות עבור עומסי עבודה ייחודיים." For more context on this story, see our ongoing artificial intelligence updates.

מערכת לכל שלב במחזור החיים הסוכן

הדור השמיני החל ב-Google Cloud Next באפריל עם TPU 8t, שנבנה לאימונים בקנה מידה גדול, ו-TPU 8i, שנבנה להיגיון בזמן אמת. גוגל ציינה עד פי 2.7 ביצועי אימון טובים יותר עבור ה-8t ו-80% מסקנות מחיר-ביצועים טובים יותר עבור ה-8i בהשוואה לדור הקודם.

שני המגיעים החדשים פיצלו את השטח שנותר. כפי שגוגל ניסחה זאת, ארבע המערכות יחד מעניקות ללקוחות "מאיץ בנוי ייעודי לכל שלב במחזור החיים הסוכן": TPU 8t לאימון בקנה מידה, TPU 8i להנמקה עם אחזור נמוך, TPU 8tx למחשוב סודי ו-TPU 8i Max לחלונות הקשר מסיביים וצפיפות המחשוב הגבוהה ביותר לכל מתלה.

TPU 8tx: אבטחה מובנית בחומרה

TPU 8tx מותאם להסקת הסקה מאובטחת וסודית, וגוגל מציינת, מתאים גם לאימון בקנה מידה קטן. לקוח היעד הוא מפורש: ארגונים וממשלות מוסדרים המנהלים מודלים חזיתיים או קנייניים וסוכנים אוטונומיים לצד הנתונים הרגישים ביותר שלהם.

הגישה ההנדסית מתייחסת למתח רב שנים במחשוב מאובטח. נתונים מוצפנים בדרך כלל כאשר הם מאוחסנים או משודרים, אך יש לפתוח אותם בזיכרון בזמן שמחשב מעבד אותם - ברגע שבו הם חשופים ביותר. TPU 8tx נבנה על אותו סיליקון כמו TPU 8t ומזווג עם מארחי מעבד AMD EPYC מהדור החמישי, TPU 8tx בונה אבטחה ישירות לתוך שכבת החומרה, שומר על נתונים רגישים ומשקולות דגמים מוגנים ומבודדים גם בזמן שימוש פעיל.

המערכת משתמשת באותה רשת "Boardfly" עם אחזור נמוך שגוגל יצרה לצורך חשיבה בזמן אמת, מה שאומר שהיא יכולה להתמודד עם חישוב בדרגת אימון והסקת מסקנות מהירה בו-זמנית. גוגל אומרת שזה מאפשר לארגונים לכוונן מודלים עם נתונים פרטיים, לזקק מודלים גדולים לקטנים יותר, ולהכשיר סוכנים באמצעות למידה חיזוקית במערכת אחת - מבלי להעביר נתונים רגישים בין אשכולות נפרדים.

TPU 8i Max: תקיפת קיר הזיכרון

TPU 8i Max מתמודד עם אילוץ אחר לחלוטין. "כאשר עשרות סוכני AI עובדים יחד על פני בסיס קוד תוכנה שלם או שעות של וידאו בו-זמנית, רוחב הפס של הזיכרון הופך במהירות לצוואר הבקבוק", כתבה גוגל. התשובה של החברה היא ארכיטקטונית: שני שבבי TPU 8i עם אחזור נמוך משולבים בחבילה אחת.

התוצאה היא מערכת שמשנה את קנה המידה של המחשוב והזיכרון בשלב נעילה - מספקת חישוב כפול, SRAM כפול וכפול מרוחב הפס HBM של TPU 8i. ומכיוון ש-TPU 8i Max מתאים פי שניים מהסיליקון בתוך טביעת הרגל הקיימת של המדף, גוגל אומרת שמרכזי נתונים יכולים לפרוס משמעותית יותר כוח מחשוב לכל רגל מרובע ולוואט, שיקול משמעותי כאשר הספק ושטח הרצפה הם המגבלות המחייבות להרחבת קיבולת AI.

למה מערכות, לא צ'יפים

ניואנס חשוב בהכרזה ביום שני הוא שגוגל מציגה את אלה כמערכות חדשות ולא כשבבים חדשים. תכנון שבב, מסבירה החברה, הוא תהליך רב-שנתי של פריסת מיליארדי טרנזיסטורים הקשורים לפיזיקה ולוחות זמן ייצור. מערכת - כיצד מסדרים מחשוב, רשת, אחסון ואריזה סביב שבב - ניתנת להתאמה הרבה יותר מהר.

המודולריות הזו היא הליבה של אסטרטגיית AI Hypercomputer של גוגל, והיא שאפשרה לארבע מערכות מיוחדות להישלח בתוך דור אחד. גוגל גם הדגישה כמה מתשתית הבינה המלאכותית שלה חוזרת כעת לבניית החומרה: החברה משתמשת במערכת למידת החיזוק AlphaChip של DeepMind, ואומרת ש-Gemini עוזרת כעת לספק פריסות שבבים "בשעות ולא בשבועות". גוגל קוראת לזה "עיצוב משותף אמיתי" ומבדיל ייחודי.

ההקשר התחרותי

ההרחבה נוחתת על רקע התגברות התחרות במאיצי AI. פריסות TPU משכו את תשומת הלב על תפקידן בשירות מודלים מחוץ לכותלי גוגל - החברה מציינת ש-TPUs כעת הכשרה ושירות עבור דגמי Gemini שלה, עומסי עבודה סוכנים, שירותי לקוחות של Google Cloud, ולאחרונה פריסה ישירה של TPUs לתוך מרכזי הנתונים של הלקוחות עצמם. גוגל מתארת ​​TPUs כ"עסק צומח במהירות".

סיקור ההכרזה, כולל קטעים מ-TechPowerUp ו-Electronic Weekly, מסגר את המהלך במונחים תחרותיים מפורשים - גוגל מרחיבה את מערך הסיליקון המותאם אישית שלה כשהיא מתחרה אחר עומסי עבודה של בינה מלאכותית שאחרת עשויות לפעול על חומרת NVIDIA. NVIDIA, מצידה, המשיכה לשלוח דורות רצופים של מערכות בקנה מידה משלה, מה שמותירה לרוכשי תשתית AI בחירה אמינה יותר ויותר בין סיליקון סוחר וסיליקון מותאם אישית.

מה זה אומר עבור מפתחים

עבור מפתחים, המשמעות המעשית היא פחות על כל אמת מידה בודדת ויותר על התאמה. צוותים שבונים מוצרים סוכנים שחוצצים דרך מסמכים ארוכים, בסיסי קוד גדולים או הקשר וידאו מורחב פגעו בתקרות של רוחב פס זיכרון ש-FLOPS גולמי לא פותרים - הבעיה ש-8i Max בנוי לה. לצוותים בתחום הפיננסים, הבריאות והממשל שלא יכלו להעביר עומסי עבודה רגישים לתשתית משותפת מכיוון שהיה צורך לפענח נתונים במהלך העיבוד, יש כעת אפשרות מגובה חומרה ב-8tx.

גוגל שילבה את חדשות החומרה עם הודעות נגישות לתוכנה, והצביעה על ההכרזות האחרונות של PyTorch ועל מטרתה המוצהרת להפוך את TPUs ל"קלים לשימוש כמו חומרה לשימוש כללי". החברה אירחה ביום שני שידור כדי לפרט את המערכות החדשות ואמרה שלקוחות יכולים לחקור את מערך התשתיות המלא באתר Google Cloud.

הישאר לפני AI

סיליקון מותאם אישית הופך לשדה הקרב האסטרטגי של בניית הבינה המלאכותית. הישאר לפני AI עם AI Buzz Wire - סיקור שובר של חומרת AI, דגמים והחברות שבונות אותם.

קרא עוד חדשות AI →