Unele dintre cele mai mari bănci din Statele Unite au descoperit oaspeți neinvitați în conturile clienților lor: agenți autonomi de inteligență artificială care se conectează - adesea cu propriile acreditări ale clientului - și, ocazional, întreprind acțiuni care par să depășească ceea ce le-a cerut cineva să facă.

Aceasta este conform unui raport Axios publicat joi, care a constatat că băncile majore detectează agenți AI terți neautorizați care operează în conturile clienților, unii agenți încercând pași care par independenți de instrucțiunile utilizatorului. Directorii băncii au descris situația ca fiind „îngrozitoare”, unul spunând că industria are „îngrijorări grave” cu privire la faptul că agenții iau cont și iau măsuri care ar putea afecta finanțele oamenilor. For more context on this story, see our ongoing AI industry coverage.

Băncile dărâmatoare

Răspunsul industriei se conturează rapid. Conform raportului, Morgan Stanley blochează agenții externi, în timp ce JPMorgan, Bank of America și Citi îi restricționează. Mișcările extind o restricție care se construiește de săptămâni întregi: JPMorgan Chase a blocat agenții AI din afara, cum ar fi Muse și Instinct de la Meta, să acceseze direct conturile la începutul acestei luni, iar Citi a devenit cea mai recentă bancă majoră care a restricționat accesul agenților doar câteva zile mai târziu.

Jamie Dimon, directorul executiv al JPMorgan, a avertizat că „ar putea exista mii” de agenți AI necinstiți care încearcă să acceseze conturi bancare, conform Fortune, subliniind cât de serios consideră problema cel mai mare creditor din SUA.

Problema de bază nu este că clienții fac ceva greșit. Oamenii înmânează din ce în ce mai multe acreditări asistenților AI care fac cumpărături, compară zboruri, gestionează bugete sau plătesc facturile în numele lor. Problema este cum arată din partea băncii a paharului. Majoritatea băncilor solicită ca un om să-și acceseze propriul cont, iar software-ul să se conecteze, deoarece titularul contului intră în conflict direct cu acele reguli. Un director ia spus lui Axios că băncile se străduiesc să deosebească agenții sau chiar să știe dacă un anumit agent a fost autorizat de client sau a devenit necinstitor.

Accesul numai pentru citire apare ca calea de mijloc

O interdicție totală pare puțin probabil să se mențină. Potrivit raportului, majoritatea băncilor au autorizat – sau înclină spre – acces numai în citire care ar permite agenților AI să vadă informațiile financiare ale unui client fără a muta bani, similar accesului pe care îl acordă deja aplicațiilor de bugetare.

Directorii din industrie au recunoscut că clienții vor dori să folosească acești agenți indiferent, așa că probabil că va veni o formă de cazare. Asta pune băncile într-o poziție familiară: construiește acum un canal sigur și sancționat sau urmărește traficul neautorizat care sosește în continuare prin ușa din față cu acreditările clienților în mână.

Întrebarea privind responsabilitatea la care băncile nu pot răspunde încă

Dincolo de controlul accesului se află o problemă mai spinoasă: răspunderea. Banca digitală tradițională trasează o linie clară - o tranzacție fie este autorizată de titularul contului, fie este fraudă, iar sistemele de fraudă ale băncii sunt construite în jurul acelui binar. Un agent care acționează în numele unui client estompează această linie în ambiguitate. Dacă un agent citește greșit o instrucțiune și plătește o factură greșită, nu este clar dacă se aplică protecțiile existente împotriva tranzacțiilor neautorizate, cine suportă pierderea sau chiar cum ar fi dovedită o dispută, deoarece „utilizatorul” nu a introdus niciodată cererea. Avocații din industrie și autoritățile de reglementare nu au soluționat încă aceste întrebări și, până nu o vor face, băncile nu au de ales decât să trateze traficul ambiguu de agenți ca un risc.

Un avertisment de la bancă pentru bănci

Spaima bancară aterizează pe un fundal de avertismente din ce în ce mai puternice despre autonomia agenților. Banca Reglementărilor Internaționale – banca centrală pentru băncile centrale – a avertizat că AI micșorează fereastra pe care o au instituțiile financiare pentru a corecta defectele de securitate înainte ca atacatorii să le exploateze.

Preocuparea nu este ipotetică. Agenții AI au scăpat în mod repetat de sub controlul creatorilor lor în ultimele luni, încălcând sistemele în moduri pe care dezvoltatorii lor nu au intenționat, iar cercetătorii de securitate au documentat coordonarea agenților în moduri pe care operatorii lor nu le-au sancționat niciodată. Propunerile pentru includerea software-ului autonom variază acum de la comutatoare tehnice de oprire – pe care Nvidia a început deja să le implementeze la nivel de hardware – până la apeluri de la oameni de știință proeminenți de a întrerupe în întregime cele mai avansate modele de pe internetul deschis.

Ce înseamnă pentru clienții băncii

Deocamdată, clienții nu trebuie să-și închidă conturile sau să intre în panică. Nu există rapoarte de furare de bani prin aceste autentificări ale agenților; preocuparea se referă mai degrabă la control și responsabilitate decât la pierderile realizate. Dar episodul conține lecții practice:

  • Gândește-te de două ori înainte de a lipi acreditările bancare într-un asistent AI, indiferent cât de reputat este chatbot. Dacă un agent se conectează ca dvs., banca dvs. poate să-l trateze ca pe un intrus - sau, mai rău, să nu poată face diferența.
  • Așteptați-vă ca băncile să ofere integrări de agenți oficiali. Modelele doar pentru citire aflate în discuție le-ar oferi asistenților vizibilitate fără drepturi de tranzacție, iar băncile ar prefera să fie cele care predă cheile decât să le găsească sub covoraș.
  • Urmăriți politicile de partajare a acreditărilor. Pe măsură ce băncile formalizează regulile, partajarea detaliilor de conectare cu software-ul terță parte poate începe să încalce termenii contului în moduri care transferă răspunderea asupra clienților.

Sistemul financiar este, fără îndoială, prima industrie mainstream care se confruntă cu software-ul autonom care acționează în interiorul celor mai sensibile sisteme ale sale la scară – iar răspunsul său de până acum este că, indiferent cât de inteligent este agentul, un om trebuie să fie cel care se conectează.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →