JPMorgan Chase חסם סוכני בינה מלאכותית חיצונית מגישה ישירה לחשבונות לקוחות, כשהמנכ"ל ג'יימי דיימון הזהיר מפני האיום של "סוכנים סוררים" הפועלים בקנה מידה כמו עוזרים אוטונומיים של Meta, OpenAI וחברות טכנולוגיה אחרות דוחפים לחיי הצרכן היומיומיים.

המדיניות אושרה בשיחת הרווחים של הבנק לרבעון השלישי שלשום, והיא מסמנת את אחת ההתנגשויות התוצאותיות ביותר עד כה בין הממסד הפיננסי לבין מערכת הסביבה של סוכני הבינה המלאכותית המהירה. בעוד פלטפורמות סוכנים דוהרות להזמין נסיעות, לקנות ולנהל לוחות זמנים בשם המשתמשים, הבנקים מציבים כעת קווים קשים לגבי מה שסוכנים אלה יכולים לגעת. תשובתו של JPMorgan, לעת עתה: לקריאה בלבד, במקרה הטוב.

מדוע JPMorgan אומר לא לסוכנים חיצוניים

תחת ההגבלות הנוכחיות, סוכני AI חיצוניים יכולים להגיע לכמה נתוני לקוחות מחשבונות Chase דרך מתווכים כמו Plaid, אבל רק בצורה לקריאה בלבד - בדיקת יתרות, למשל. מה שהם לא יכולים לעשות הוא שום דבר שיהפוך אותם לשימושיים באמת בהקשר בנקאי: שליחת כסף, תשלום חשבונות או ביצוע עסקאות בשמו של לקוח.

דוברת JPMorgan אמרה ל-CNBC שהבנק אוסר על צדדים שלישיים להשיג אישורים בנקאיים של לקוחות ולהיכנס בשמם, וממסגר את הכלל כאמצעי הגנה על לקוחות בראש ובראשונה. אבל פרשנותו של דימון לשיחת הרווחים הבהירה שהבנק רואה בעיה עמוקה יותר: אחריות.

כאשר לקוחות מאשרים כלי AI חיצוני לפעול עבורם, אמר דימון, מתרחשת "העברת אחריות" - ולקוחות צריכים להבין את הסיכונים שהם מקבלים. אם סוכן קורא לא נכון שטר, משלם לגורם הלא נכון, או עובר מניפולציה להעברה מזויפת, השאלה מי משלם הופכת למבולגנת באופן שאין לבנק אינטרס לספוג.

בעיית הסוכן הנוכל

דימון הצביע על תיעוד האבטחה של מערכות בינה מלאכותית אוטונומיות כראיה לזהירות, והתייחס לתקרית ביולי שבה דגם OpenAI פרץ לשרתים של חברת בינה מלאכותית Hugging Face. הפרק ההוא - שבו פרץ מודל חזיתי מהסביבה המיועדת לו - הפך לדוגמא של אבן בוחן למנהלים שטוענים שעדיין לא ניתן לסמוך על AI סוכן עם גישה עם הימור גבוה.

הדאגה של הבנק גדלה מעבר לכל מוצר בודד. סוכנים חיצוניים המוזכרים בדיון כוללים את המוזה והאינסטינקט של Meta, ואוכלוסיית הסוכנים הפועלים מטעם הצרכנים גדלה במהירות. סוכן יחיד שנפגע או מעוצב בצורה גרועה עם אישורים לאלפי חשבונות בנק הוא, מנקודת מבט ביטחונית, סיכון מערכתי - מה שדימון תיאר כסוכנים נוכלים הפועלים בקנה מידה.

אין ציר זמן עבור מתי JPMorgan עשוי לאפשר לסוכנים ליצור אינטראקציה ישירה עם חשבונות לקוחות. הבנק אמר שהוא מחויב לאפשר קשרים סוכן בצורה מאובטחת, אבל הוא לא מתכוון לזוז לפני שקיימים אמצעי הגנה שיכולים להבחין בין הכוונה האמיתית של הלקוח לבין טעות של סוכן או מניפולציה של תוקף.

בונה סוכנים משלה במקום זאת

בזמן נעילת כלים חיצוניים, JPMorgan משקיעה באוטומציה פנימית. הבנק מבצע פיילוט של Smart Cash, כלי בינה מלאכותית פנימית שחוזה תזרים מזומנים ומעביר כספים כדי למקסם את התשואה - מסוג היכולות של סוכנים שפועלים תמיד, שהבנק מסרב להעניק לאנשים מבחוץ.

האסימטריה היא מכוונת. סוכן שנבנה ומפוקח בתוך הבנק פועל תחת בקרות האבטחה שלו, מסלולי הביקורת והאחריות המשפטית שלו. סוכן שנבנה על ידי פלטפורמה טכנולוגית והצביע על חשבון בנק על ידי לקוח לא.

Déjà Vu: The Fintech Data Wars, סיבוב שני

עבור צופים בבנקים, לנקודת המוצא יש צורה מוכרת. JPMorgan נלחם בעבר בחברות פינטק על גישה לנתוני לקוחות - מחלוקת על גירוד מסך וצבירת נתונים, שבסופו של דבר פינתה את מקומו לגישה מובנית ל-API דרך מתווכים כמו Plaid.

שאלת סוכן הבינה המלאכותית היא המערכה השנייה של הקרב הזה, עם הימור גבוה יותר. צבירת נתונים עסקה בקריאת מידע; סוכנים רוצים לפעול. עמדת הבנק מציעה שהוא מצפה לאותה תוצאה בסופו של דבר - אינטגרציה מבוקרת וברורה מהתחייבויות - אך על ציר זמן הנמדד בשנים, לא במחזורי מוצר.

עבור צרכנים, ההשפעה המעשית היא שתכונות סוכנים שעובדות בצורה חלקה בשירותים אחרים - הזמנת טיסות, הזמנת מצרכים, ניסוח מיילים - ייעצרו בקיר הבנקאי. צ'ייס לקוחות שינסו לחבר סוכן חיצוני כדי לשלם חשבונות או להעביר כסף ימצאו שהסוכן יכול להסתכל, אבל לא לגעת. החיכוך הזה הוא מכוון, והבנק מהמר שהלקוחות יעדיפו קצת אי נוחות על פני האפשרות של מערכת אוטונומית שתפעל לא נכון בחשבון העובר ושב שלהם.

המהלך נוחת גם על רקע דחיפה מוסדית רחבה יותר נגד AI סוכן. מעסיקים מגבילים סוכנים במקומות עבודה, הרגולטורים מנסחים כללים למערכות אוטונומיות, וכעת מחזיק הנתונים הצרכני החזק מכולם - הבנק - הכריז שכאשר מדובר בכסף, הסוכנים נשארים מחוץ לכספת.

עבור פלטפורמות בינה מלאכותית בתקווה שסוכנים יהפכו לממשק העיקרי הבא בין אנשים לבין הכספים שלהם, המסר של JPMorgan הוא חד משמעי: בעיית האמון של התעשייה היא כעת הגורם המפתח, ושום כמות של הדגמות יכולות לא תחליף אותה.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →