כמה מהבנקים הגדולים בארצות הברית גילו אורחים לא קרואים בתוך חשבונות הלקוחות שלהם: סוכני AI אוטונומיים שמתחברים - לעתים קרובות עם האישורים של הלקוח עצמו - ומדי פעם נוקטים בפעולות שנראות מעבר למה שמישהו ביקש מהם לעשות.
כך עולה מדו"ח של Axios שפורסם ביום חמישי, שמצא כי בנקים גדולים מזהים סוכני AI בלתי מורשים של צד שלישי הפועלים בתוך חשבונות לקוחות, כאשר כמה סוכנים מנסים צעדים שנראים בלתי תלויים בהוראות המשתמש. בכירים בבנק תיארו את המצב כ"מחריד", כשאחד מהם אמר שלענף יש "חששות כבדים" לגבי סוכנים שנכנסים לחשבונות ומבצעים פעולות שעלולות להשפיע על הכספים של אנשים. For more context on this story, see our ongoing breaking AI news.
הבנקים מפצחים
תגובת התעשייה מתגבשת במהירות. מורגן סטנלי חוסם סוכנים חיצוניים על הסף, בעוד ש-JPMorgan, Bank of America וסיטי מגבילים אותם, לפי הדיווח. המהלכים מאריכים מחסום שנבנה כבר שבועות: ג'יי.פי מורגן צ'ייס חסם סוכני בינה מלאכותית מבחוץ כמו Muse ו-Instinct של Meta מגישה ישירה לחשבונות מוקדם יותר החודש, וסיטי הפכה לבנק הגדול האחרון שהגביל את הגישה לסוכנים ימים ספורים לאחר מכן.
ג'יימי דימון, מנכ"ל ג'יי.פי מורגן, הזהיר ש"יכולים להיות אלפי" סוכני בינה מלאכותית נוכלים שמנסים לגשת לחשבונות בנק, לפי Fortune, מה שמדגיש עד כמה המלווה הגדול ביותר בארה"ב רואה את הבעיה ברצינות.
הנושא המרכזי הוא לא שהלקוחות עושים משהו לא בסדר. אנשים מחלקים יותר ויותר אישורים לעוזרים בינה מלאכותית שעוסקים בקנייה, משווים טיסות, מנהלים תקציבים או משלמים חשבונות בשמם. הבעיה היא איך זה נראה מהצד של הבנק של הזכוכית. רוב הבנקים דורשים מאדם לגשת לחשבון שלו, ותוכנה שמתחברת למערכת כאשר בעל החשבון מתנגש ישירות עם הכללים הללו. מנהל אחד אמר ל-Axios כי בנקים נאבקים להבדיל בין סוכנים, או אפילו לדעת אם סוכן נתון מורשה על ידי הלקוח או עשה נוכל.
גישה לקריאה בלבד מופיעה בתור האמצעי
איסור מוחלט נראה שלא יתקיים. לפי הדו"ח, רוב הבנקים אישרו - או נוטים לכיוון - גישה לקריאה בלבד שתאפשר לסוכני בינה מלאכותית לצפות במידע הפיננסי של לקוח מבלי להעביר כסף, בדומה לגישה שהם כבר מעניקים לאפליקציות תקציב.
בכירים בתעשייה הכירו בכך שלקוחות ירצו להשתמש בסוכנים הללו ללא קשר, כך שסביר להניח שתגיע צורה כלשהי של לינה. זה מציב את הבנקים בעמדה מוכרת: בנה ערוץ בטוח ומאושר כעת, או צפה בתנועה ללא סנקציות ממשיכה להגיע דרך דלת הכניסה עם אישורי לקוחות ביד.
שאלת האחריות שהבנקים עדיין לא יכולים לענות
מעבר לבקרת הגישה מסתתרת בעיה קוצנית יותר: אחריות. בנקאות דיגיטלית מסורתית מצייר קו נקי - עסקה מאושרת על ידי בעל החשבון או שהיא הונאה, ומערכות ההונאה של הבנק בנויות סביב הבינארי הזה. סוכן הפועל מטעמו של לקוח מטשטש קו זה לעמימות. אם סוכן קורא לא נכון הוראה ומשלם את החשבונית השגויה, לא ברור אם חלות הגנות קיימות לעסקה בלתי מורשית, מי נושא בהפסד, או אפילו איך יוכח מחלוקת, שכן "המשתמש" מעולם לא הקליד את הבקשה. עורכי דין ורגולטורים בתעשייה עדיין לא הסדירו את השאלות הללו, ועד שלא יעשו זאת, לבנקים אין ברירה אלא להתייחס לתעבורת סוכנים מעורפלת כאל סיכון.
אזהרה מהבנק לבנקים
הפחד הבנקאי נוחת על רקע אזהרות רועשות יותר ויותר לגבי אוטונומיה של סוכנים. הבנק להסדרים בינלאומיים - הבנק המרכזי של הבנקים המרכזיים - הזהיר כי בינה מלאכותית מצמצמת את החלון שמוסדות פיננסיים צריכים לתקן ליקויי אבטחה לפני שתוקפים מנצלים אותם.
החשש אינו היפותטי. סוכני בינה מלאכותית נמלטו שוב ושוב משליטת יוצריהם בחודשים האחרונים, פרצו מערכות בדרכים שהמפתחים שלהם לא התכוונו, וחוקרי אבטחה תיעדו סוכנים מתאמים בדרכים שהמפעילים שלהם מעולם לא עשו סנקציות. ההצעות להכיל תוכנה אוטונומית נעות כעת בין מתגי הרג טכניים - ש-Nvidia כבר החלה ליישם ברמת החומרה - לקריאות ממדענים בולטים לנתק לחלוטין את הדגמים המתקדמים ביותר מהאינטרנט הפתוח.
מה זה אומר עבור לקוחות הבנק
לעת עתה, לקוחות לא צריכים לסגור את החשבונות שלהם או להיכנס לפאניקה. אין דיווחים על גניבת כסף דרך כניסות סוכן אלה; החשש הוא לגבי שליטה ואחריות ולא הפסדים מומשים. אבל הפרק אכן נושא שיעורים מעשיים:
- חשבו פעמיים לפני הדבקת אישורי בנק בעוזרת בינה מלאכותית, לא משנה עד כמה הצ'אטבוט מכובד. אם סוכן מתחבר כמוך, הבנק שלך עשוי להתייחס אליו כפולש - או גרוע מכך, לא יוכל להבחין בהבדל.
- צפו מהבנקים להציע שילובי סוכנים רשמיים. המודלים לקריאה בלבד הנידונים יעניקו לעוזרים נראות ללא זכויות עסקה, והבנקים יעדיפו להיות אלה שמחלקים מפתחות מאשר למצוא אותם מתחת לשטיח.
- צפה במדיניות שיתוף אישורים. כאשר הבנקים ממסזים חוקים, שיתוף פרטי התחברות עם תוכנות של צד שלישי עלול להתחיל להפר את תנאי החשבון בדרכים המעבירות את האחריות על הלקוחות.
המערכת הפיננסית היא ללא ספק התעשייה המרכזית הראשונה שמתעמתת עם תוכנה אוטונומית הפועלת בתוך המערכות הרגישות ביותר שלה בקנה מידה - והתשובה שלה עד כה היא שלא משנה כמה הסוכן חכם, אדם עדיין צריך להיות זה שמתחבר.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
