Mistral AI שחררה את Timestral, המשפחה הראשונה שלה של דגמי יסוד מסדרת הזמן, והמהדורה השקטה מקבלת כעת מערכה שנייה רועשת: ההודעה, שפורסמה בבלוג של Mistral ב-15 באוקטובר, הגיעה לעמוד הראשון של האקר ניוז ב-19 באוקטובר, שם היא גררה מאות הצבעות בעד. המגרש יוצא דופן עבור עידן מודל היסודות - חיזוי עדכני מדגמים קטנים כמו 5 מיליון עד 209 מיליון פרמטרים הפועלים על מעבדי שרת רגילים.
ראשון בכל שלושת המדדים העיקריים For more context on this story, see our ongoing artificial intelligence updates.
מיסטרל אומרת שדגם ה-Timestral הגדול ביותר שלה, ב-209 מיליון פרמטרים בלבד, מדורג במקום הראשון בכל שלושת המדדים הציבוריים העיקריים של התחום - GIFT-Eval, TIME ו-fev-bench - מתעלה על המצב הקודם עם בערך שני שלישים מהפרמטרים. התוצאות הוגשו לטבלאות GIFT-Eval ו-TIME, ומיסטראל מציינת שהמספרים מגיעים ממחסום בודד ללא הרכבה.
השוואות המידות הן החלק הבולט. מיסטרל מדווחת שדגם ה-28M מנצח את Chronos-2, דגם גדול פי ארבעה בערך, ב-GIFT-Eval וב-TIME, בעוד שדגם ה-209M מנצח את TimesFM-3 ו-Falcon-2.0 עם פחות פרמטרים. כל גודל במשפחה, אומרת החברה, יושב בחזית הפארטו של דיוק מול גודל דגם - כלומר אף דגם ציבורי לא חוזה טוב יותר באותה ספירת פרמטרים.
נבנה עבור הנתונים הארגוניים שאף אחד לא מצייץ על
סדרות זמן אינן זוהרות אך נפוצות בכל מקום: טלמטריית חיישנים, מדדי צפייה, עומס אנרגיה, זרימות שרשרת האספקה, נפחים פיננסיים. הטענה של מיסטרל היא שכאן בקושי נחתו טכניקות מודל-בסיס. כלים קלאסיים כמו ARIMA מתאימים לסדרה בודדת בבידוד, ומודלים של למידה עמוקה כמו PatchTST מאומנים בדרך כלל מאפס לכל מערך נתונים, כך ששום דבר לא עובר לדומיינים חדשים.
Timestral לוקח את ספר המשחקים שלפני האימון ממודלים של שפה ומיישם אותו על רצפים מספריים. מאומן על קורפוס גדול ומגוון, הוא חוזה אפס זריקה על נתונים שמעולם לא ראה - כולל תחומים שבהם ההיסטוריה המסומנת היא נדירה.
המודלים מייצרים תחזיות הסתברותיות, רב-משתניות על פני 21 קוונטילים ומקבלים שלושה סוגים של מידע צדדי: משתני-משתנים בעבר בלבד, משתנים-משתנים ידועים לעתיד כגון לוחות זמנים של ייצור או תחזיות מזג אוויר, ומשתנים קטגוריים כמו מצב מכונה (פועל, סרק, תחת תחזוקה) שיתעוותו אם יקודדו כמספרים פשוטים.
כלכלת מעבד
אולי הפרט המשמעותי ביותר מבחינה מסחרית: טיימסטרל אינו זקוק ל-GPU בהסקה. במעבד שרת סטנדרטי עם 8 חוטים, אומר מיסטרל, חיזוי יום אחד קדימה משלושה שבועות של היסטוריה של 15 דקות לוקח 10 מילישניות עם דגם ה-5M ו-140 מילישניות עם דגם ה-209M. גרסת ה-123M מגיעה בטווח של 0.2% מהניקוד של ספינת הדגל בשלושה רבעים מהשהייה שלה.
זה הופך חיזוי רציף על פני אלפי חיישנים - כל הצי של מפעל תעשייתי - להצעת חומרה מיינסטרימית ולא לפרויקט אשכול GPU.
מתחת למכסה המנוע: ארבעה הימורים טכניים
מיסטרל מייחסת את התוצאות למספר טכניקות שהיא מתכננת לפרט בדוח טכני קרוב:
- חיזוי אופק מנותק (DHF). בגישות מפענח סיבתי כמו Toto 2.0 ו-TimesFM-3, הערכים שיש לחזות הם מוסווים ואובדים כהקשר. DHF שומר את ההיסטוריה המלאה ברצף בזמן שאסימוני תחזית נלמדים קוראים אותה, כך שכל ערך שנצפה משמש גם כמטרה וגם כקונטקסט, והפערים האמיתיים נשארים מסומנים כחסרים.
- תשומת לב מודעת למשתנים. לכל סדרת קלט מוקצה תפקיד - יעד, משתנה שותף בעבר בלבד או משתנה עתידי ידוע - כאשר מידע זורם רק ממשתנים משותפים ליעדים, כך שלוח שנה של חגים יכול להודיע על תחזית מבלי להדליף את עתידו של היעד עצמו.
- נתונים סינתטיים-ראשונים. רוב נתוני האימון היו סינתטיים: תהליכים חד-משתנים עם מגמות קוהרנטיות, עונתיות ורעש, בשילוב סינתיסייזר רב-משתנים שמציג תלות לא ליניארית ביניהם.
- אימון דו-שלבי. אימון מקדים על נתונים סינתטיים גרידא בהקשר של 8,192, ולאחר מכן אימון על שילוב של נתונים אמיתיים וסינתטיים עם הקשר ארוך פי 4, תוך שימוש באובדן פינבול על פני 21 קוונטילים כקירוב דיסקרטי של CRPS.
משקולות פתוחות, פריסה חסרת אוויר
המשפחה נשלחת בארבעה גדלים - 5M, 28M, 123M ו-209M פרמטרים - עם אורך הקשר של 32,768 שלבי זמן. משקולות מתפרסמות ב-Huging Face תחת רישיון MIT שונה, ומיסטרל פרסמה מאגר GitHub להפעלת הדגמים על נתונים פרטיים. דוח טכני מלא מובטח בהמשך.
עבור ארגונים שזקוקים ליותר, Timestral זמין דרך Mistral Forge, צינור ההדרכה של החברה, התומך בכוונון עדין על נתונים קנייניים, הרחבות ארכיטקטוניות ספציפיות לתחום ושליטה על תמהיל ההדרכה - עם פריסה על חומרת הלקוח, כולל סביבות מרווחות אוויר. מיסטרל אומרת במפורש שהצנרת יכולה להבטיח ששום דבר שנראה במהלך הבדיקות האחוריות לא נמצא בנתוני טרום ההכשרה, טענה בולטת עבור לקוחות פיננסים ותעשייתיים מוסדרים.
החברה גם משרטטת עתיד סוכן עבור הדגמים: Timestral צופה בזרמי חיישן, סימון חריגה במשאבה, ולאחר מכן מסירה לסוכן מודל שפה שמחזיר כשלים היסטוריים דומים, מפעיל ניתוח שורש על רישומי תחזוקה ויומני משמרות, ומנסח אבחנה עבור מנהל המפעל.
למה זה חשוב
המהדורה היא תזכורת לכך שהמירוץ למודל היסודות אינו עוסק רק ב-LLM של טריליון פרמטרים. חיזוי הוא אחד מעומסי העבודה בינה מלאכותית בנפח הגבוה ביותר בתעשייה, ומודל של 209 מיליון פרמטרים המוביל אמות מידה ציבוריות בזמן שהוא פועל על מעבדים יכול לשנות תקציבים אמיתיים. זה גם מגוון את הפורטפוליו של מיסטרל מעבר למודלים של שפות ברגע שבו המעבדה בפריז, טרייה מגיוס של 3 מיליארד אירו לפי שווי של 21 מיליארד אירו, ממצבת את הבינה המלאכותית האירופית סביב ריבונות, יעילות ופריסה מקומית - כל הקופסאות של טיימסטרל בודקות לפי תכנון.
_מאמר זה מבוסס על הודעת הטיימסטר הרשמית של מיסטרל מ-15 באוקטובר 2026._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
