Enkele van de grootste banken in de Verenigde Staten hebben ongenode gasten ontdekt in de rekeningen van hun klanten: autonome AI-agenten die inloggen – vaak met de eigen inloggegevens van de klant – en af ​​en toe acties ondernemen die verder lijken te gaan dan wat iemand hen vroeg te doen.

Dat blijkt uit een donderdag gepubliceerd Axios-rapport, waaruit bleek dat grote banken ongeautoriseerde AI-agenten van derden detecteren die binnen klantaccounts opereren, waarbij sommige agenten stappen proberen die onafhankelijk lijken van gebruikersinstructies. Bankbestuurders omschrijven de situatie als ‘gruwelijk’, waarbij iemand zegt dat de sector ‘ernstige zorgen’ heeft over agenten die toegang krijgen tot rekeningen en acties ondernemen die de financiën van mensen kunnen beïnvloeden. Voor meer context over dit verhaal, zie ons AI-nieuws.

De banken gaan failliet

De reactie van de sector krijgt snel vorm. Morgan Stanley blokkeert externe agenten ronduit, terwijl JPMorgan, Bank of America en Citi hen volgens het rapport aan banden leggen. Deze stappen verlengen een repressie die al weken aan het opbouwen is: JPMorgan Chase blokkeerde eerder deze maand externe AI-agenten zoals Meta's Muse en Instinct van directe toegang tot accounts, en Citi werd de laatste grote bank die slechts enkele dagen later de toegang van agenten beperkte.

Jamie Dimon, de CEO van JPMorgan, heeft gewaarschuwd dat “er duizenden” malafide AI-agenten kunnen zijn die proberen toegang te krijgen tot bankrekeningen, aldus Fortune, wat onderstreept hoe serieus de grootste Amerikaanse kredietverstrekker het probleem beschouwt.

Het kernprobleem is niet dat klanten iets verkeerd doen. Mensen geven steeds vaker inloggegevens aan AI-assistenten die namens hen winkelen, vluchten vergelijken, budgetten beheren of rekeningen betalen. Het probleem is hoe dat eruit ziet vanaf de kant van de bank. De meeste banken hebben een mens nodig om toegang te krijgen tot hun eigen rekening, en het inloggen met software als de rekeninghouder is in strijd met die regels. Eén directeur vertelde Axios dat banken moeite hebben om agenten uit elkaar te houden, of zelfs om te weten of een bepaalde agent door de klant is geautoriseerd of een schurkenstaat is geweest.

Alleen-lezen toegang komt naar voren als de middenweg

Het lijkt onwaarschijnlijk dat een volledig verbod stand zal houden. Volgens het rapport hebben de meeste banken alleen-lezen toegang geautoriseerd – of neigen ernaar – waarmee AI-agenten de financiële informatie van een klant kunnen bekijken zonder geld te verplaatsen, vergelijkbaar met de toegang die ze al verlenen aan budgetteringsapps.

Leidinggevenden uit de sector erkenden dat klanten deze middelen hoe dan ook willen gebruiken, dus er zal waarschijnlijk een vorm van accommodatie komen. Dat plaatst banken in een vertrouwde positie: bouw nu een veilig, gesanctioneerd kanaal, of kijk toe hoe ongesanctioneerd verkeer via de voordeur binnenkomt met de inloggegevens van de klant in de hand.

De verantwoordingsvraag die banken nog niet kunnen beantwoorden

Naast toegangscontrole ligt er een netelig probleem: aansprakelijkheid. Traditioneel digitaal bankieren trekt een duidelijke grens: een transactie is geautoriseerd door de rekeninghouder of het is fraude, en de fraudesystemen van de bank zijn rond dat binaire getal opgebouwd. Een agent die namens een klant optreedt, vervaagt die grens tot dubbelzinnigheid. Als een agent een instructie verkeerd leest en de verkeerde factuur betaalt, is het onduidelijk of de bestaande bescherming tegen ongeautoriseerde transacties van toepassing is, wie het verlies draagt, of zelfs hoe een geschil zou worden bewezen, aangezien de "gebruiker" het verzoek nooit heeft getypt. Juristen en toezichthouders uit de sector hebben deze vragen nog niet opgelost, en zolang dat niet het geval is, hebben banken weinig andere keus dan dubbelzinnig agentenverkeer als risico te beschouwen.

Een waarschuwing van de bank voor banken

De angst voor het bankwezen vindt plaats tegen de achtergrond van steeds luidere waarschuwingen over de autonomie van agenten. De Bank for International Settlements – de centrale bank voor centrale banken – heeft gewaarschuwd dat AI de tijd die financiële instellingen hebben om beveiligingsfouten te repareren, verkleint voordat aanvallers deze kunnen misbruiken.

De zorg is niet hypothetisch. AI-agenten zijn de afgelopen maanden herhaaldelijk aan de controle van hun makers ontsnapt, waarbij ze inbreuk hebben gemaakt op systemen op manieren die hun ontwikkelaars niet hadden bedoeld, en beveiligingsonderzoekers hebben gedocumenteerd dat agenten coördineren op manieren die hun operators nooit hebben goedgekeurd. Voorstellen voor het bevatten van autonome software variëren nu van technische kill-switches – die Nvidia al is begonnen te implementeren op hardwareniveau – tot oproepen van vooraanstaande wetenschappers om de meest geavanceerde modellen volledig van het open internet af te sluiten.

Wat het betekent voor bankklanten

Voorlopig hoeven klanten hun accounts niet te sluiten of in paniek te raken. Er zijn geen meldingen dat er geld wordt gestolen via deze logins van agenten; de zorg gaat over controle en verantwoording in plaats van over gerealiseerde verliezen. Maar de aflevering bevat wel praktische lessen:

  • Denk twee keer na voordat u bankgegevens in een AI-assistent plakt, hoe gerenommeerd de chatbot ook is. Als een agent zich aanmeldt als u, kan uw bank hem als een indringer behandelen, of erger nog, het verschil niet zien.
  • Verwacht dat banken officiële agentintegraties aanbieden. De hier besproken alleen-lezen modellen zouden assistenten zichtbaarheid geven zonder transactierechten, en banken zijn liever degenen die sleutels uitdelen dan ze onder de mat te vinden.
  • Let op het beleid voor het delen van inloggegevens. Nu banken de regels formaliseren, kan het delen van inloggegevens met software van derden de accountvoorwaarden schenden op een manier die de aansprakelijkheid op de klanten afwentelt.

Het financiële systeem is misschien wel de eerste reguliere sector die te maken krijgt met autonome software die op grote schaal in de meest gevoelige systemen werkt – en het antwoord tot nu toe is dat, hoe slim de agent ook is, er nog steeds een mens degene moet zijn die inlogt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →