Patronus AI, סטארט-אפ שבונה סביבות דיגיטליות מדומות כדי להעריך סוכני AI אוטונומיים, גייסה 50 מיליון דולר בסבב סדרה B בעקבות עלייה בביקוש לבדיקת סוכנים אמינים. את הסבב הובילה Greenfield Partners בהשתתפות Notable Capital, Lightspeed, Datadog וסמסונג, כך דיווחה TechCrunch, מה שהביא את סך המימון של החברה ל-70 מיליון דולר.

בעיה חדשה: סוכנים שלוקחים קיצורי דרך For more context on this story, see our ongoing latest AI developments.

ככל שסוכני בינה מלאכותית מתפתחים ממענה על שאלות לביצוע אוטונומי של משימות מורכבות מרובות שלבים, ספקי מודלים והסטארט-אפים הבונים סוכנים כאלה צריכים להבטיח שהמערכות יפעלו באופן אמין במגוון רחב של תרחישים. מעבדות בינה מלאכותית משתמשות לעתים קרובות במדדים כדי להפגין את יכולתה של דוגמנית, אך ציון גבוה במדד מכוון סוכן אינו מוכיח שבינה מלאכותית באמת יכולה לבצע עבודות בעולם האמיתי בצורה נכונה.

הפער הזה הוא המקום שבו מתמקדת Patronus AI. החברה שבסיסה בסן פרנסיסקו, שנוסדה ב-2023 על ידי חוקרי Meta AI לשעבר, אנאנד קנאפאן ורבקה צ'יאן, בונה את מה שהיא מכנה "מודלים של עולם דיגיטלי", העתקים של אתרי אינטרנט ומערכות פנימיות שבהן סוכנים עוברים בדיקות לחץ לאחר הכשרה. הסוכנים מוערכים באמצעות למידת חיזוק, שמתגמלת באופן איטרטיבי השלמת משימה מוצלחת ומענישה שגיאות.

הלוואה מכלי רכב אוטונומיים

החברה משווה את הגישה שלה לאופן שבו Waymo אימן מכוניות בנהיגה עצמית, תחילה בנה עולמות סינתטיים כדי לבחון כלי רכב נגד סכנות נדירות כמו מזג אוויר קשה או ילד שרץ אחרי כדור. ההבדל העיקרי עם סוכני בינה מלאכותית הוא שהם נוטים לעשות קיצורי דרך, מה שאומר שהם לא מצליחים לבצע משימות בצורה נכונה גם כאשר נראה שהם מצליחים.

"Patronus ממש טוב באיתור הפריצות ולוודא שהם מחזיקים את הדוגמניות באחריות", אמר גלן סולומון, מנהל מנכ"ל ב-Notable Capital. סולומון תיאר את הביקוש לסביבות המדומות של החברה ככמעט בלתי יודע שובע. כמעט כל מעבדת בינה מלאכותית חזיתית וחברות סטארט-אפ מתפתחות רבות הן כיום לקוחות, וההכנסות של Patronus גדלו פי 15 בשנה האחרונה.

מתרחב מעבר למשימות הניתנות לאימות

Patronus מספקת כיום את העולמות הדיגיטליים המדומים שלה להנדסת תוכנה ומימון, שני תחומים שבהם קל יחסית לאמת את התוצאות. אבל החברה רואה באלה רק ההתחלה. "היום אנחנו מאוד ממוקדים בבעיות הניתנות לאימות, הבעיות שאתה יכול מיד לבדוק ולאמת, אבל יש עוד המון אזורים שהם מאוד לא ניתנים לאימות או שקשה מאוד לאמת אותם", אמר קנאפן.

השאיפה היא לבנות סביבות משמעותיות מספיק כדי לבדוק סוכנים על פני אופקים ארוכים. "אנחנו רוצים להיות מסוגלים ליצור למעשה את הסביבה שבה אתה יכול להפעיל סוכן שיכול לפעול במשך 10 שעות או 10 ימים או 10 שבועות", אמר קנאפן. זה שתהליכים ניתנים לאימות לא אומר שהם פשוטים, והיכולת לתפוס סוכן שנכשל בחלקו של זרימת עבודה של ימים היא מרכזית בהצעת הערך של החברה.

המימון מגיע גם כאשר תעשיית הבינה המלאכותית הרחבה יותר מתחבטת כיצד למדוד התקדמות. ציוני הבנצ'מרק הפכו למטבע שנוי במחלוקת, כאשר מבקרים טוענים שניתן לבצע אופטימיזציה של מודלים למבחנים ספציפיים למשחק מבלי להשתפר באמת במשימות האמיתיות. הסביבות המדומות של Patronus מציעות אלטרנטיבה, סוכני בדיקה בתרחישים פתוחים שבהם ההוכחה היחידה להצלחה היא עבודה שהושלמה כהלכה ולא מספר על לוח התוצאות.

עבור לקוחות ארגוניים, ההבחנה הזו חשובה. סוכן קידוד שעובר רף אבל מכניס באגים בשקט לתוך בסיס קוד ייצור, או סוכן פיננסי שמעגל נתונים בצורה שגויה, יכול לגרום לנזק הרבה יותר ממה שמציע ציון נמוך במבחן. על ידי תפיסת הכשלים הללו בארגז חול לפני הפריסה, Patronus מציב את ההערכה כתנאי מוקדם לאמון, לא מחשבה שלאחר מכן.

גישה מובחנת בשדה צפוף

באשר ליריבות, פטרונוס מאמין שהיא מתחרה בעיקר מול צוותי ההערכה הפנימיים שמעבדות בינה מלאכותית כבר בנו כדי להעריך את התנהגות הסוכנים. בעוד שחברות מידע אנושיות כמו Mercor ו-Surge עוזרות ליצרני מודלים עם למידת חיזוקים, Patronus פועלת אחרת על ידי הערכת האופן שבו סוכנים מתנהגים ללא כל מעורבות אנושית, תוך אוטומציה של זיהוי כשלים שאחרת היו דורשים סקירה ידנית יקרה.

הסבב מסמן את אמון המשקיעים שהערכת סוכנים תהפוך לשכבת היסוד של ערימת הבינה המלאכותית. ככל שסוכנים נוטלים על עצמם עבודה אוטונומית יותר, מהזמנת נסיעות ועד ביצוע ניתוח פיננסי, הסטארט-אפים המסוגלים להוכיח שהמערכות הללו אמינות, לפני שהן נפרסות, ממצבים את עצמם כשומרי סף חיוניים לעידן ה-AI הסוכן.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →