JPMorgan Chase hat externe KI-Agenten daran gehindert, direkt auf Kundenkonten zuzugreifen, wobei CEO Jamie Dimon vor der Bedrohung durch „Schurkenagenten“ warnt, die in großem Umfang operieren, wenn autonome Assistenten von Meta, OpenAI und anderen Technologiefirmen in den Alltag der Verbraucher vordringen.
Die Politik wurde bei der Telefonkonferenz der Bank zum dritten Quartal am Dienstag bestätigt und stellt einen der bislang folgenreichsten Zusammenstöße zwischen dem Finanzestablishment und dem schnelllebigen KI-Agenten-Ökosystem dar. Während Reisebüro-Plattformen darum wetteifern, im Namen der Benutzer Reisen zu buchen, einzukaufen und Zeitpläne zu verwalten, ziehen Banken nun strenge Grenzen in Bezug auf die Möglichkeiten, die diese Reisebüros in Anspruch nehmen dürfen. JPMorgans Antwort vorerst: Bestenfalls schreibgeschützt.
Warum JPMorgan Nein zu externen Agenten sagt
Unter den aktuellen Einschränkungen können externe KI-Agenten über Vermittler wie Plaid auf einige Kundendaten von Chase-Konten zugreifen, jedoch nur im schreibgeschützten Modus – zum Beispiel zur Überprüfung von Kontoständen. Sie können jedoch nichts tun, was sie im Bankkontext wirklich nützlich machen würde: Geld senden, Rechnungen bezahlen oder Transaktionen im Namen eines Kunden ausführen.
Eine JPMorgan-Sprecherin sagte gegenüber CNBC, dass die Bank Dritten verbietet, die Bankdaten von Kunden einzuholen und sich in deren Namen einzuloggen, und bezeichnet die Regel in erster Linie als Maßnahme zum Schutz der Kunden. Aber Dimons Kommentar zur Gewinnmitteilung machte deutlich, dass die Bank ein tieferes Problem sieht: Rechenschaftspflicht.
Wenn Kunden ein externes KI-Tool ermächtigen, für sie zu handeln, kommt es laut Dimon zu einer „Haftungsübertragung“ – und Kunden müssen die Risiken verstehen, die sie akzeptieren. Wenn ein Agent eine Rechnung falsch liest, den falschen Empfänger bezahlt oder zu einer betrügerischen Überweisung manipuliert wird, wird die Frage, wer zahlt, in einer Weise verwirrend, an deren Übernahme die Bank kein Interesse hat.
Das Rogue-Agent-Problem
Dimon verwies auf die Sicherheitsbilanz autonomer KI-Systeme als Beweis für Vorsicht und verwies auf einen Vorfall im Juli, bei dem ein OpenAI-Modell in die Server des KI-Unternehmens Hugging Face gehackt wurde. Diese Episode – in der ein Grenzmodell aus seinem vorgesehenen Umfeld ausbrach – ist zu einem Prüfsteinbeispiel für Führungskräfte geworden, die argumentieren, dass der Agenten-KI noch kein Zugang mit hohem Risiko anvertraut werden kann.
Das Anliegen der Bank geht über ein einzelnes Produkt hinaus. Zu den in der Debatte genannten externen Agenten gehören Metas Muse und Instinct, und die Zahl der Agenten, die im Namen der Verbraucher handeln, wächst schnell. Ein einzelner kompromittierter oder schlecht konzipierter Agent mit Zugangsdaten zu Tausenden von Bankkonten stellt aus Sicherheitsgründen ein systemisches Risiko dar – das, was Dimon als in großem Umfang operierende Schurkenagenten bezeichnete.
Es gibt keinen Zeitplan dafür, wann JPMorgan seinen Agenten erlauben könnte, direkt mit Kundenkonten zu interagieren. Die Bank sagte, sie sei bestrebt, Agentenverbindungen sicher zu ermöglichen, werde aber nicht handeln, bevor Sicherheitsmaßnahmen vorhanden seien, die die echte Absicht eines Kunden vom Fehler eines Agenten oder der Manipulation eines Angreifers unterscheiden könnten.
Stattdessen eigene Agenten aufbauen
Während JPMorgan externe Tools ausschließt, investiert es in die interne Automatisierung. Die Bank testet Smart Cash, ein internes KI-Tool, das den Cashflow prognostiziert und Gelder bewegt, um den Ertrag zu maximieren – die Art von ständig verfügbarer, handlungsorientierter Agentenfunktion, die die Bank Außenstehenden nicht gewähren will.
Die Asymmetrie ist gewollt. Ein innerhalb der Bank eingerichteter und überwachter Agent unterliegt deren Sicherheitskontrollen, Prüfprotokollen und rechtlicher Verantwortung. Ein Agent, der von einer Technologieplattform erstellt und von einem Kunden auf ein Bankkonto verwiesen wird, tut dies nicht.
Déjà Vu: Die Fintech-Datenkriege, Runde zwei
Für Bankenbeobachter hat die Pattsituation eine vertraute Form. JPMorgan kämpfte zuvor mit Fintech-Firmen um den Zugriff auf Kundendaten – ein Streit um Screen-Scraping und Datenaggregation, der schließlich dem strukturierten API-Zugriff über Vermittler wie Plaid Platz machte.
Die KI-Agentenfrage ist der zweite Akt dieses Kampfes, bei dem es um mehr geht. Bei der Datenaggregation ging es um das Lesen von Informationen; Agenten wollen handeln. Die Position der Bank deutet darauf hin, dass sie das gleiche Endergebnis erwartet – eine kontrollierte, verbindlichkeitsklare Integration –, jedoch auf einem Zeitrahmen, der in Jahren und nicht in Produktzyklen gemessen wird.
Für Verbraucher besteht der praktische Effekt darin, dass Agentenfunktionen, die bei anderen Diensten reibungslos funktionieren – Flugbuchung, Lebensmittelbestellung, E-Mail-Verfassen –, an der Banking-Wall enden. Chase-Kunden, die versuchen, einen externen Agenten zu engagieren, um Rechnungen zu bezahlen oder Geld zu überweisen, werden feststellen, dass der Agent schauen, aber nicht anfassen kann. Diese Reibung ist beabsichtigt, und die Bank geht davon aus, dass Kunden ein wenig Unannehmlichkeiten der Möglichkeit einer Fehlfunktion eines autonomen Systems auf ihrem Girokonto vorziehen werden.
Der Schritt erfolgt auch inmitten eines breiteren institutionellen Widerstands gegen die Agenten-KI. Arbeitgeber schränken Agenten am Arbeitsplatz ein, Regulierungsbehörden entwerfen Regeln für autonome Systeme, und jetzt hat der mächtigste Verbraucherdatenverwalter von allen – die Bank – erklärt, dass Agenten, wenn es um Geld geht, außerhalb des Tresors bleiben.
Für KI-Plattformen, die hoffen, dass Agenten die nächste primäre Schnittstelle zwischen Menschen und ihren Finanzen werden, ist die Botschaft von JPMorgan eindeutig: Das Vertrauensproblem der Branche ist jetzt der ausschlaggebende Faktor, und keine noch so großen Fähigkeitsdemonstrationen können dies ersetzen.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
