Cloudflare הכריזה ביום שלישי על התצוגה המקדימה של Clairic, מודל מיצוי שהחברה מתארת כראשון מתוך מחלקה חדשה של מודלים של "System One" שנועדו למשוך ערכים מובנים מתוך נתונים לא מובנים ללא כל אחד מהדור אסימון-אחר-אסימון שמגדיר מודלים של שפות גדולות. הדגם זמין כעת בתצוגה מקדימה בפלטפורמת Workers AI של Cloudflare בשם @cf/cloudflare/clairic, והחברה אומרת שהיא מתכוונת לשחרר את המשקולות של הדגם בגלוי בעתיד הקרוב.
ההשקה ממקמת את Cloudflare בדיוק בתוך אחד הוויכוחים היותר מעניינים המעצבים כעת מחדש את שוק תשתיות הבינה המלאכותית: האם כל משימה שהוקצתה ל-LLM באמת צריכה LLM. For more context on this story, see our ongoing latest AI developments.
מה קלייריק עושה - ומה היא לא עושה בכוונה
Clairic בנויה לעבודה צרה אך נפוצה ביותר: קריאת קלט מבולגן, לא מובנה והחזרת ערכים מוקלדים. על פי ההודעה של Cloudflare, המודל יכול לחלץ, לחשב, להעריך ולחזות ערכים מתשומות לא מובנות, מספרים חוזרים עם טווח של 80%, ערכים מוקלדים כמו שמות, תאריכים, זמנים ורשימות והתפלגויות הסתברות מלאות - כל אחד עם ביטחון מכויל.
מה שזה לא עושה זה ליצור טקסט. שאילתה ל-Clairic מחזירה ערך מהסוג שהמפתח הצהיר, או תוצאת null בשילוב עם ציון p_null שמעריך את ההסתברות שהתשובה פשוט לא קיימת בקלט. כל תשובה מגיעה עם ציון ביטחון כך שמערכות במורד הזרם יכולות להחליט אם לסמוך עליה או לסמן אותה לבדיקה אנושית.
Cloudflare מפורשת לגבי הפשרה. מכיוון ש-Clairic לא מייצרת אסימונים, היא לא יכולה לייצר JSON פגום, לקרוא לא נכון ספרה באמצע הדור, או להזות תשובה באופן שבו LLM יכול. היא עדיין יכולה לעשות טעויות - החברה נזהרת בנקודה זו - אבל הכשלים שלה מוקלדים וניתנים למדידה ולא בצורה חופשית.
תווית 'System One', מוסברת
הטרמינולוגיה מגיעה מסטארט-אפ הבינה המלאכותית TypeSafe, שהכריזה על דגמי System One משלה לפני כחודש והפכה במהרה לאחת ההשקות הנדונות ביותר בקהילת המפתחים. המסגור שואל מספרו של הפסיכולוג דניאל כהנמן "חשיבה, מהירה ואיטית": החשיבה של מערכת אחת היא מהירה, אוטומטית ומדויקת, בעוד שחשיבת מערכת שתיים היא איטית ומכוונת. TypeSafe מיפתה את ההבחנה הזו למודלים של בינה מלאכותית, בטענה שעומסי עבודה רבים של ייצור זקוקים לתשובות מהירות ומוקפדות היטב במקום חשיבה פתוחה.
ה-Jev של TypeSafe, מודל החלטות שנבנה במיוחד עבור תחום ספציפי, לקח הסתברויות כקלט והחזיר הסתברויות על פני רשימה קבועה של תשובות אפשריות. עד עכשיו זו הייתה כל הקטגוריה: כל דגם של System One היה מודל החלטות.
קלריק מרחיבה את הרעיון. כאשר מודל החלטה בוחר בין אפשרויות מוגדרות מראש, מודל מיצוי עונה עם ערכים - מספרים הנשלפים ישירות מהקלט, מחושבים ממנו או תחזית מעבר לו. Cloudflare אומר ששתי משפחות המודלים, לצד ה-LLMs הקונבנציונליים, יוצרות כעת ערימה תלת-שכבתית: מודלים לחילוץ הופכים קלט גולמי לערכים מוקלדים, מודלים של החלטות הופכים ערכים להחלטות, ו-LLM הופכים החלטות למילים.
מדוע מיצוי בשל לחשיבה מחודשת
הטיעון של Cloudflare נשען על כמה מתעבורת ה-LLM של היום מושקעת על עבודה שלא נראית כמו שיחה. החברה מכנה את החילוץ "כנראה העבודה הנפוצה ביותר שניתנת ל-LLMs כיום" - שליפת סך חשבונית, תאריך מסירה או מספר חלק מתוך מסמך.
הבעיה, לדברי Cloudflare, היא ש-LLMs מטפלים בעבודה הזו עם מכונות שנבנו למשהו אחר. ייתכן שהפלט אינו JSON חוקי. ניתן לקרוא לא נכון ספרה כאשר נוצרים אסימונים. לא ניתן לאתר קטע טקסט שהוחזר למיקומו במסמך המקור. צוותים מגיבים על ידי גלישת מודלים בצינורות הגנתיים: מאמת סכימה, לוגיקה של ניסיון חוזר, ניתוח שכבות ובדיקות נקודתיות. ובגלל ש-LLM מחייבות את אסימוני הנמקה ופלט, כל תחום של כל מסמך גובה עלות יצירה שמתרחבת עם מילוליות ולא עם קושי המשימה.
מודל מיצוי של System One הופך את הכלכלה הזו. Cloudflare אומר ש-Clairic מעבדת קלט במעבר אחד קדימה, גובה רק עבור אסימוני קלט, ובדרך כלל מגיבה תוך פחות משנייה - בעוד ש-LLM מנמק שעובד דרך אותם שדות יכול לקחת מספר שניות. לעיבוד מסמכים בנפח גבוה, ההבדל מתהווה במהירות.
איך בקשה פועלת בפועל
מפתחים שולחים לקלאריק מצב - הטקסט לקריאה, בתוספת עד ארבע תמונות אופציונליות - לצד מפה של שדות מוקלדים. לכל שדה יש שם, סוג והוראות אופציונליות בשפה פשוטה. המודל מחזיר תשובה אחת מודפסת לכל שדה, המחושבת במעבר מקביל יחיד. אם רשימת השדות לא מתאימה ליד הקלט במעבר אחד, השרת מפצל את העבודה למעברים מקבילים שכל אחד מהם רואה את הקלט המלא, ואז ממזג את התשובות.
עבור משימות הערכה, התשובות מגיעות כהתפלגות: חציון עם מרווח של 80% המשתרע על האחוזון ה-10 עד ה-90, כאשר כל 99 האחוזונים זמינים לפי בקשה. זה הופך את המודל לשמיש לשאלות בסגנון חיזוי - עלויות תיקון צפויות, לוחות זמנים אספקה, תעבורה ביום שלמחרת - כאשר אומדן נקודתי אחד יפריז בוודאות של המודל.
אות לשוק התשתיות
האם קלייריק עצמה מצליחה זה כמעט לא לעניין. ההשקה היא נקודת מידע נוספת במעבר מהיר בין ספקי התשתית לעבר מודלים בגודל מתאים למשימות: דגמים קטנים, מהירים וזולים לעבודה מובנית צר, עם LLMs גבול שמורים להיגיון פתוח באמת. המיקום של Cloudflare עצמו - לפיו מודלים של חילוץ, החלטות ושפה צריכים לעבוד ביחד - נכתב כתוכנית לאופן שבו היא חושבת שיורכבו ערימות בינה מלאכותית של ייצור.
החברה לא הכריזה על תאריך לשחרור המשקולות הפתוחות המובטחות. לעת עתה, Clairic זמין בתצוגה מקדימה ב-Workers AI, שם מפתחים יכולים לבדוק זאת מול עומסי העבודה של החילוץ שלהם - ולגלות כמה מחשבון ה-LLM שלהם היה נחוץ אי פעם.
_מאמר זה מבוסס על ההכרזה הרשמית של Cloudflare על התצוגה המקדימה של מודל החילוץ של Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
