הכלכלה של תשתית AI התהפכה. בערך שני שלישים מעומסי העבודה העוברים היום בתשתית בינה מלאכותית הם הסקה ולא הכשרה, לדברי מנהל בינה מלאכותית של Positron, קמרון מקסקיל, ששיתף את הנתון בראיון ל-theCUBE Research בכנס מחשוב-העל SC26. לפני שלוש שנים, הפיצול היה כמעט הפוך: כ-85 אחוז אימונים ו-15 אחוז הסקה.

ההיפוך הזה משרטט מחדש בשקט את המפה של המקום שבו חי מחשוב הבינה המלאכותית - והוא מסביר מדוע דור חדש של יצרניות שבבים ראשונות מסקנות זוכה לפתע בעסקאות ענן מחברות גדולות מהן בהרבה.

המספרים מאחורי ה-Flip

"אנחנו נמצאים בנקודה שבה כשני שלישים מעומסי העבודה המופעלים דרך תשתיות הבינה המלאכותית הללו הם מסקנות לעומת שליש הוא הכשרה", אמר McCaskill, ראש מחלקת מכירות ופיתוח עסקי בפוזיטרון, בראיון עם רבקה נייט וג'ון פורייר של theCUBE Research. "בשנת 2023, זה היה כמו 85% הכשרה, 15% מסקנות. אז עכשיו אתה יכול לראות מדוע מסקנות מניעות את ההחלטות הכלכליות של איך הם הולכים לבנות את התשתית שלהם".

השינוי הגיוני אינטואיטיבי. ההכשרה מתרחשת בקומץ מעבדות גבול עם אשכולות של מיליארדי דולרים. מסקנות מתרחשות בכל מקום, בכל פעם שמשתמש מבקש מודל - וככל שהאימוץ של הצרכנים והארגוניים התפוצץ, הדרישה המצרפית לאסימונים גברה על התשתית שנבנתה לעידן ההדרכה. כוח, קירור ואספקת זיכרון מעצבים כעת היכן נוצרים אסימונים באותה מידה שביצועי שבבים גולמיים עושים, וזה משנה איזו חומרה זוכה בעסקאות.

ההימור של Positron על זיכרון סחורות

Positron AI, שגייסה 875 מיליון דולר לפי שווי של 5 מיליארד דולר בספטמבר, בנתה את כל האסטרטגיה שלה סביב עידן המסקנות. בחירת העיצוב המרכזית של החברה: דלג על זיכרון ברוחב פס גבוה (HBM), סוג הזיכרון הדל והיקר שמעגן את רוב מאיצי הבינה המלאכותית, ובנה במקום מכשירי הסקה סביב זיכרון סחורות.

"כל השאר די הרבה בתעשייה משתמשים במה שנקרא HBM או זיכרון רוחב פס גבוה. זה מוגבל מאוד בהיצע, מאוד יקר", אמר מקסקיל. "הלכנו עם זיכרון סחורות".

ההחלפות הן מכוונות. זיכרון סחורות זול יותר והרבה יותר קל למקור, והארכיטקטורה של Positron שומרת על הספק נמוך מספיק עבור חדרים מקוררים באוויר - אין צורך בקירור נוזלי אקזוטי. שרת פוזיטרון בודד שואב כ-4,500 וואט, ומתלה מלאה של שרתי ה-Titan הקרובים של החברה נכנסת ל-40 קילוואט.

מפת הדרכים מתקדמת במהירות. שרת אטלס מהדור הראשון של Positron פעל על שבב ניתן לתכנות, והחברה מתכננת להדביק סיליקון משלה בתחילת השנה הבאה עבור שרת Titan. החברה כבר השיגה פריסות של מרקיזה: אורקל מביאה בערך 340 שרתי Atlas לחיות בענן שלה ברבעון זה, לפי McCaskill, וספק neocloud חתם על Atlas תוך התחייבות לדור הטיטאן הקרוב.

מרכזי נתונים מודולריים הופכים לבית הטבעי להסקת מסקנות

אולי החלק המשמעותי ביותר של הראיון הוא המקום בו מקסקיל אומר שהביקוש מגיע ממנו: לא קמפוסים בקנה מידה גדול, אלא מתקנים קטנים, מהירים ומודולריים.

"אחת מקבוצות החברות שאנחנו רואים עליהן כרגע ומגיעות אלינו למוצרים היא מרכזי הנתונים המודולריים האלה, שבהם יש להם מרכז נתונים מודולרי של חצי מגה-וואט או 1 מגה-וואט או 2.5 מגה-וואט, וניתן לפרוס אותם מהר מאוד", אמר. "המטרה של הרבה משחקני מסקנות אלה היא שאני רוצה להגיע מאדמה וכוח לאסימונים הניתנים להפקה תוך 90 עד 120 יום."

ציר הזמן הזה - בערך רבע מהפריצה להכנסות - הוא בלתי אפשרי עבור קמפוס אימונים בקנה מידה של ג'יגה וואט, שיכול לקחת שנים להתיר, לבנות ולהמריץ. עומסי עבודה קטנים יותר, גמישים יותר מבחינה גיאוגרפית וסובלניים לאתרים שבהם המפעילים יכולים למצוא כמה מגה וואט של חשמל זול ללא מכשולים רגולטוריים כבדים. התוצאה היא שכבה מתפתחת של תשתית הסקת מסקנות מבוזרת שנמצאת באתרי טלקו, מתקני מיקום ויחידות מודולריות הקרובות יותר למקום הביקוש בפועל.

מה זה אומר עבור התעשייה

עבור ספקי שבבים, המסר הוא ששוק החומרה של AI מתפצל. האימונים ממשיכים לתגמל את המאיצים המתקדמים ביותר ואת הכיסים העמוקים ביותר. מסקנות מתגמלות סגולות שונות: יעילות צריכת חשמל, עלות זיכרון, מהירות פריסה ויכולת לרוץ בבניינים רגילים מקוררי אוויר. ספקים המותאמים רק למירוץ האימונים עשויים למצוא את הנפח הגדול ביותר של החלטות פריסה עתידיות - היכן למעשה מייצרים רווחים של אסימונים - מתרחש על חומרה המיועדת לסט שונה של אילוצים.

עבור ארגונים ולקוחות ענן, השינוי הוא לרוב בלתי נראה אך יותר ויותר תוצאתי: קיבולת מסקנות שמגיעה במרווחים של 90 עד 120 יום פירושה תמחור תחרותי יותר ויותר אפשרויות גיאוגרפיות להרצת מודלים ליד משתמשים ונתונים.

ולנרטיב הבנייה של תעשיית הבינה המלאכותית - לעתים קרובות ממוסגר כמרוץ אינסופי לקמפוסים של ג'יגה-וואט - היפוך ההסקה הוא תזכורת לכך שעקומת הביקוש מתרחבת, לא רק מתרחבת. אבן הדרך של שני שלישים שצוטטה ב-SC26 היא אומדן של מנהל אחד, אבל היא תואמת את הכיוון שכל מפעיל ענן גדול דיווח עליו: מרכז הכובד של בניית הבינה המלאכותית עובר מאימון הדגמים לשרת אותם.

הישאר לפני AI

עקוב אחר ההתפתחויות האחרונות בינה מלאכותית בזמן שהם מתרחשים עם AI Buzz Wire, המקור שלך לחדשות חומרה ותשתית בינה מלאכותית.

קרא עוד חדשות AI →