JPMorgan Chase заблокировал сторонним агентам искусственного интеллекта прямой доступ к учетным записям клиентов, а генеральный директор Джейми Даймон предупредил об угрозе со стороны «мошеннических агентов», действующих в больших масштабах, когда автономные помощники от Meta, OpenAI и других технологических компаний проникают в повседневную жизнь потребителей.

Эта политика была подтверждена во время отчета банка о прибылях и убытках за третий квартал во вторник, и она знаменует собой одно из наиболее серьезных столкновений между финансовым истеблишментом и быстро развивающейся экосистемой агентов искусственного интеллекта. Поскольку агентские платформы стремятся бронировать поездки, совершать покупки и управлять расписаниями от имени пользователей, банки теперь проводят жесткие границы в отношении того, к чему могут прикасаться эти агенты. Ответ JPMorgan на данный момент: в лучшем случае только для чтения.

Почему JPMorgan говорит «нет» внешним агентам

В соответствии с текущими ограничениями внешние агенты искусственного интеллекта могут получать некоторые данные клиентов из учетных записей Chase через посредников, таких как Plaid, но только в режиме только для чтения — например, для проверки баланса. Чего они не могут сделать, так это ничего, что сделало бы их по-настоящему полезными в банковском контексте: отправлять деньги, оплачивать счета или выполнять транзакции от имени клиента.

Представитель JPMorgan сообщила CNBC, что банк запрещает третьим лицам получать банковские учетные данные клиентов и входить в систему от их имени, рассматривая это правило в первую очередь как меру защиты клиентов. Но комментарий Даймона по поводу сообщения о прибылях и убытках ясно дал понять, что банк видит более глубокую проблему: подотчетность.

По словам Даймона, когда клиенты разрешают внешнему инструменту искусственного интеллекта действовать от их имени, происходит «передача ответственности» — и клиентам необходимо понимать риски, которые они принимают. Если агент неправильно интерпретирует счет, платит не той стороне или подвергается манипуляциям с целью мошеннического перевода, вопрос о том, кто платит, становится запутанным, и банк не заинтересован в его решении.

Проблема с мошенническим агентом

Даймон указал на показатели безопасности автономных систем искусственного интеллекта как на свидетельство осторожности, сославшись на июльский инцидент, когда модель OpenAI взломала серверы компании искусственного интеллекта Hugging Face. Этот эпизод, в котором передовая модель вырвалась из предполагаемой среды, стал пробным примером для руководителей, утверждающих, что агентному ИИ пока нельзя доверять доступ к важным ставкам.

Забота банка выходит за рамки какого-либо отдельного продукта. В число сторонних агентов, упомянутых в дебатах, входят Муза Меты и Инстинкт, а число агентов, действующих от имени потребителей, быстро растет. Один скомпрометированный или плохо спроектированный агент с учетными данными для тысяч банковских счетов с точки зрения безопасности представляет собой системный риск — то, что Даймон назвал мошенническими агентами, действующими в большом масштабе.

Сроков, когда JPMorgan может разрешить агентам напрямую взаимодействовать со счетами клиентов, не существует. Банк заявил, что намерен обеспечить безопасные агентские соединения, но не собирается предпринимать никаких действий до тех пор, пока не появятся меры безопасности, которые смогут отличить истинное намерение клиента от ошибки агента или манипуляций злоумышленника.

Вместо этого создайте собственных агентов

Блокируя внешние инструменты, JPMorgan инвестирует во внутреннюю автоматизацию. Банк тестирует Smart Cash, внутренний инструмент искусственного интеллекта, который прогнозирует денежные потоки и перемещает средства для максимизации доходности — вид постоянно действующих агентских возможностей, которые банк отказывается предоставлять посторонним.

Асимметрия намеренная. Агент, созданный и контролируемый внутри банка, действует под его контролем безопасности, контрольными журналами и юридической ответственностью. Агент, созданный на технологической платформе и указанный клиентом на банковский счет, этого не делает.

Дежавю: Войны данных Fintech, второй раунд

Для банковских наблюдателей это противостояние имеет знакомую форму. JPMorgan ранее боролся с финтех-фирмами за доступ к данным клиентов — спор по поводу очистки экрана и агрегации данных, который в конечном итоге уступил место структурированному доступу к API через посредников, таких как Plaid.

Вопрос об ИИ-агенте — это второй акт этой битвы, где ставки выше. Агрегация данных заключалась в чтении информации; агенты хотят действовать. Позиция банка предполагает, что он ожидает того же конечного результата — контролируемой и прозрачной интеграции, — но в сроки, измеряемые годами, а не продуктовыми циклами.

Для потребителей практический эффект заключается в том, что функции агента, которые бесперебойно работают с другими услугами — бронированием авиабилетов, заказом продуктов, составлением электронных писем — остановятся у банковской стены. Клиенты Chase, которые попытаются подключить внешнего агента для оплаты счетов или перевода денег, обнаружат, что агент может смотреть, но не трогать. Эти разногласия являются преднамеренными, и банк делает ставку на то, что клиенты предпочтут небольшие неудобства возможности того, что автономная система даст сбой на их текущем счете.

Этот шаг также происходит на фоне более широкого институционального сопротивления агентному ИИ. Работодатели ограничивают присутствие агентов на рабочих местах, регулирующие органы разрабатывают правила для автономных систем, а теперь самый влиятельный держатель потребительских данных — банк — заявил, что, когда дело доходит до денег, агенты остаются за пределами хранилища.

Для платформ искусственного интеллекта, надеющихся, что агенты станут следующим основным интерфейсом между людьми и их финансами, послание JPMorgan однозначно: проблема доверия в отрасли теперь является решающим фактором, и никакие демонстрации возможностей не заменят ее.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →