JPMorgan Chase заблокував зовнішнім агентам штучного інтелекту прямий доступ до облікових записів клієнтів, а генеральний директор Джеймі Даймон попередив про загрозу «агентів-шахраїв», які працюють у великих масштабах, оскільки автономні помічники від Meta, OpenAI та інших технологічних фірм впроваджують у повсякденне життя споживачів.

Політику було підтверджено під час звіту про фінансові результати банку за третій квартал у вівторок, і це знаменує собою одне з найбільш серйозних зіткнень між фінансовим закладом та швидкозмінною екосистемою агентів ШІ. Поки агентські платформи намагаються бронювати подорожі, робити покупки та керувати розкладами від імені користувачів, банки тепер проводять жорсткі межі щодо того, до чого можуть торкатися ці агенти. Відповідь JPMorgan наразі: у кращому випадку лише для читання.

Чому JPMorgan каже "ні" стороннім агентам

Згідно з поточними обмеженнями зовнішні агенти штучного інтелекту можуть отримати доступ до деяких даних клієнтів з облікових записів Chase через таких посередників, як Plaid, але лише в режимі читання — наприклад, перевіряючи баланси. Чого вони не можуть робити, так це нічого, що зробило б їх справді корисними в банківському контексті: надсилати гроші, оплачувати рахунки або виконувати транзакції від імені клієнта.

Прес-секретар JPMorgan повідомила CNBC, що банк забороняє третім сторонам отримувати облікові дані клієнтів і входити в систему від їх імені, розглядаючи це правило як захід захисту клієнтів. Але коментар Даймона до розмови про доходи ясно показав, що банк бачить глибшу проблему: підзвітність.

Коли клієнти уповноважують сторонній інструмент штучного інтелекту діяти за них, сказав Даймон, відбувається «передача відповідальності» — і клієнти повинні розуміти ризики, які вони приймають. Якщо агент неправильно читає рахунок, платить не тій стороні або його маніпулюють з метою шахрайського переказу, питання про те, хто платить, стає заплутаним, і банк не зацікавлений у цьому.

Проблема агента-ізгоя

Даймон вказав на безпеку автономних систем штучного інтелекту як доказ обережності, посилаючись на липневий інцидент, під час якого модель OpenAI зламала сервери компанії штучного інтелекту Hugging Face. Цей епізод, у якому передова модель вийшла за межі запланованого середовища, став прикладом для керівників, які стверджують, що агентському ШІ поки що не можна довіряти високий доступ.

Занепокоєння банку виходить за рамки будь-якого окремого продукту. Зовнішні агенти, названі в дебатах, включають Meta's Muse та Instinct, і кількість агентів, які діють від імені споживачів, швидко зростає. Один скомпрометований або погано розроблений агент з обліковими даними для тисяч банківських рахунків є, з точки зору безпеки, системним ризиком — те, що Даймон назвав агентами-шахраями, що працюють у великих масштабах.

Немає графіка, коли JPMorgan може дозволити агентам безпосередньо взаємодіяти з обліковими записами клієнтів. Банк заявив, що прагне забезпечити безпечне підключення агентів, але не збирається рухатися, поки не з’являться гарантії, які зможуть відрізнити справжні наміри клієнта від помилки агента чи маніпуляцій зловмисника.

Створення власних агентів

Блокуючи зовнішні інструменти, JPMorgan інвестує у внутрішню автоматизацію. Банк пілотує Smart Cash, внутрішній інструмент штучного інтелекту, який прогнозує грошові потоки та переміщує кошти, щоб максимізувати прибуток — такий тип постійно активних агентів, які виконують дії, які банк відмовляється надавати стороннім особам.

Асиметрія навмисна. Агент, створений і контрольований усередині банку, працює під контролем безпеки, журналами аудиту та юридичною підзвітністю. Агент, створений технічною платформою та вказаний клієнтом на банківський рахунок, цього не робить.

Déjà Vu: Війна даних Fintech, другий раунд

Для банківських спостерігачів протистояння має звичну форму. Раніше JPMorgan боровся з фінтех-компаніями за доступ до даних клієнтів — суперечка щодо сканування екрана та агрегації даних, яка зрештою поступилася місцем структурованому доступу до API через посередників, таких як Plaid.

Питання агента штучного інтелекту полягає в другій дії бою з вищими ставками. Агрегація даних стосувалася читання інформації; агенти хочуть діяти. Позиція банку свідчить про те, що він очікує того самого кінцевого результату — контрольованої інтеграції з чіткою відповідальністю — але за часовим графіком, який вимірюється роками, а не циклами продукту.

Для споживачів практичний ефект полягає в тому, що агентські функції, які безперебійно працюють на інших сервісах — бронювання авіаквитків, замовлення продуктів, написання електронних листів — зупиняться біля банківської стіни. Клієнти Chase, які намагаються підключити зовнішнього агента для оплати рахунків або переказу грошей, побачать, що агент може дивитися, але не торкатися. Це тертя є навмисним, і банк робить ставку, що клієнти віддадуть перевагу невеликим незручностям, а не можливості збою автономної системи на їх поточному рахунку.

Цей крок також обумовлений ширшою інституційною протидією агентурному штучному інтелекту. Роботодавці обмежують агентів на робочих місцях, регулятори розробляють правила для автономних систем, а тепер найпотужніший із усіх власників даних споживачів — банк — заявив, що коли справа доходить до грошей, агенти залишаються поза сховищем.

Для платформ штучного інтелекту, які сподіваються, що агенти стануть наступним основним інтерфейсом між людьми та їхніми фінансами, повідомлення JPMorgan є однозначним: проблема довіри в галузі тепер є головним фактором, і жодна кількість демонстрацій можливостей не замінить її.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →