הסטארט-אפ לאופטימיזציה של בינה מלאכותית, Refiant Inc., השיקה את Protea, חבילה של דגמי בינה מלאכותית ארוכת-הקשר בהובלת חלון הקשר של 10 מיליון אסימונים, שלדברי החברה מדורגת בין הגדולים שזמינים אי פעם לציבור. הדגמים עלו לאוויר ב-8 ביולי 2026, באתר refiant.ai ללא רשימת המתנה וללא תהליך אישור.
חלונות ההקשר קובעים כמה מידע יכול מודל להחזיק בזיכרון העבודה בבת אחת. רוב דגמי הבינה המלאכותית המובילה כיום מטפלים בלא יותר מכמה מאות אלפי אסימונים לפני שהביצועים יורדים, מה שמאלץ מפתחים לבצע דרכים לעקיפת הבעיה המפרקת מערכי נתונים גדולים לפרגמנטים. רפיאנט אומר כי פרוטיאה מרימה את התקרה בצורה משמעותית. לסיקור מתמשך של השקות מודלים של AI ומגמות בתעשייה, הקוראים יכולים למצוא את החדשות האחרונות של AI בדף הבית שלנו.
המשמעות של 10 מיליון אסימונים בפועל
חלון הקשר של 10 מיליון אסימונים מגיע לכדי 7.5 מיליון מילים בערך, או כ-15,000 דפי טקסט. רפיאנט ממסגר את ההשלכות המעשיות במונחים חדים: ניתן לטעון בסיס קוד ארגוני שלם בבת אחת, וכך גם ארכיון רגולטורי מלא או שנים של נתוני ניסויים קליניים שקודם לכן היה צריך לחתוך ולהזין לדגם חלק אחר חלק.
החברה מנסחת את זה אפילו יותר קונקרטי. עשרה מיליון אסימונים יכולים להחזיק עד חמש שנים של דוא"ל והודעות Slack של אדם אחד, או עשרות שנים של הדוחות והקבצים שלו. צוות הנדסה יכול לטעון בסיס קוד מלא ולהריץ ניתוח תוך יום. מבטח יכול לסנן שנים של תביעות מבלי לקרוע קודם את הנתונים לגושים.
Protea זמין בשלוש גרסאות המשתרעות על 1 מיליון, 5 מיליון ו-10 מיליון אסימונים, מה שנותן למפתחים גמישות להתאים את גודל ההקשר לעומס העבודה והתקציב שלהם.
התמודדות עם בעיית האבודים באמצע
אחד האתגרים המתמשכים ביותר עם חלונות הקשר גדולים הוא מה שמכונה בעיית "אבוד באמצע", חולשה מתועדת שבה מודלים נשארים מדויקים בתחילת ובסוף של קלט, אך מאבדים מעקב אחר החומר הקבור בין נקודות הקצה הללו. רפיאנט אומר כי פרוטיאה מתייחסת ספציפית לנושא הזה, אם כי החברה עדיין לא פרסמה תוצאות בנצ'מרק מפורטות המדגימות את השיפור.
בעיית האבודים באמצע היוותה מכשול משמעותי לאימוץ מעשי של מודלים עם הקשר ארוך. אפילו כאשר מודל מקבל מבחינה טכנית מיליוני אסימונים, האמינות שלו במידע באמצע ההקשר הזה הייתה לעתים קרובות מוטלת בספק, מה שהגביל את השירות בעולם האמיתי למשימות כמו ניתוח בסיס קוד מלא.
נוסד על אופטימיזציה של נחיל וחיפוש אבולוציוני
Refiant נוסדה בשנת 2025 על ידי Viroshan Naicker, Siddharth Gutta ומתיו הסוול. נאיקר הוא מתמטיקאי קוונטי, בעוד שמייסדיו מגיעים מרקע פיננסי ומסחרי. הצוות טוען כי מודלים מודרניים של AI אינם יעילים ביותר וכי שיטות טובות יותר כבר קיימות בטבע.
גישתו של ריפיאנט שואלת מחיפוש אבולוציוני והתנהגות נחילים, אותם עקרונות אינטליגנציה קולקטיבית שנצפו בלהקות ציפורים, להקות דגים ומושבות נמלים. החברה יישמה לראשונה גישה זו לדחיסת מודלים, וכיווץ בהצלחה את GPT-OSS-120B של OpenAI להפעלה על MacBook Pro עם 12 גיגה-בייט של זיכרון RAM בלבד. תוצאות הדחיסה הללו עזרו להבטיח שותפויות מחקריות עם אימפריאל קולג' לונדון ומרכז סרג'נט להנדסת מערכות תהליכים של אוניברסיטאי קולג' בלונדון.
מימון ותוכניות עתידיות
השקת Protea באה בעקבות סבב סיד של 5 מיליון דולר ש-Refiant סגר בתחילת 2026, בהובלת VoLo Earth Ventures. החברה שנוסדה בדרום אפריקה מבוססת כעת באופן מסחרי בבריטניה.
המנכ"ל Viroshan Naicker ציין כי כבר יותר משנה מדברים על בינה מלאכותית בהקשר ארוך, אך לא באמת הייתה זמינה מסחרית. מייסד שותף ומנהל מוצר ראשי, מתיו הסוול, הוסיף כי לקוחות רוצים מודלים שהם יכולים לבדוק ולבנות איתם במקום יותר רשימות המתנה, ביקורת ישירה על גישת הגישה המגודרת שאומצה על ידי מעבדות בינה מלאכותיות רבות יותר.
רפיאנט אמרה שהיא כבר הפעילה אב טיפוס פנימי ב-100 מיליון אסימונים, אם כי איך למדוד את זה ולהפוך אותו למוצר נותרה שאלה פתוחה. מהדורת Protea היא השלב הראשון מבין שלושה מתוכננים, כשהחברה מבטיחה יותר בתוך שלושה חודשים.
מרוץ הבינה המלאכותית עם הקשר ארוך מתחמם
Refiant נכנסת לשוק AI בעל הקשר ארוך יותר ויותר תחרותי. בעוד שמעבדות גדולות הרחיבו בהדרגה את חלונות ההקשר, רוב הדגמים הזמינים מסחרית עדיין פועלים הרבה מתחת לסף של 10 מיליון אסימונים. ההחלטה של Refiant להשיק ללא רשימת המתנה וגישה מיידית מייצגת ניגוד לגישת ההשקה המשלבת הנפוצה בקרב מתחרים גדולים יותר.
מתודולוגיית אופטימיזציית הנחיל של החברה מבדילה אותה גם מיריבות המסתמכות בעיקר על קנה מידה קונבנציונלי של שנאים. האם אלגוריתמים בהשראת הטבע יכולים לספק יתרונות ביצועים מתמשכים בקנה מידה ייצור נותר לראות, אך רקורד הדחיסה של Refiant ושותפויות האוניברסיטאות מעניקים אמינות לגישה.
הישאר לפני AI
דגמי פרוטיאה זמינים כעת ב- refiant.ai. לסיקור וניתוח נוספים של תעשיית הבינה המלאכותית, בקר ב-AI Buzz Wire.
קרא עוד חדשות AI →
