Niektóre z największych banków w Stanach Zjednoczonych odkryły nieproszonych gości na kontach swoich klientów: autonomicznych agentów AI logujących się — często przy użyciu własnych danych uwierzytelniających klienta — i czasami podejmujących działania, które wydają się wykraczać poza to, o co ktoś ich prosił.

Tak wynika z opublikowanego w czwartek raportu Axios, z którego wynika, że ​​duże banki wykrywają nieautoryzowanych zewnętrznych agentów AI działających na kontach klientów, a niektórzy agenci próbują wykonać czynności, które wyglądają na niezależne od instrukcji użytkownika. Dyrektorzy banku określili sytuację jako „przerażającą”, a jeden z nich stwierdził, że branża ma „poważne obawy” dotyczące agentów sięgających po konta i podejmujących działania, które mogą mieć wpływ na finanse obywateli. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Banki rozbijają się

Reakcja branży szybko nabiera kształtu. Z raportu wynika, że ​​Morgan Stanley całkowicie blokuje agentów zewnętrznych, podczas gdy JPMorgan, Bank of America i Citi je ograniczają. Posunięcia te przedłużają ograniczenia, które narastają od tygodni: JPMorgan Chase zablokował zewnętrznym agentom AI, takim jak Muse i Instinct należący do Meta, bezpośredni dostęp do kont na początku tego miesiąca, a Citi stał się kolejnym dużym bankiem, który zaledwie kilka dni później ograniczył dostęp agentów.

Jamie Dimon, dyrektor naczelny JPMorgan, ostrzegł, że według magazynu „Fortune” „mogą istnieć tysiące” nieuczciwych agentów sztucznej inteligencji próbujących uzyskać dostęp do kont bankowych, co podkreśla, jak poważnie podchodzi do problemu największy amerykański pożyczkodawca.

Kluczowym problemem nie jest to, że klienci robią coś złego. Ludzie coraz częściej przekazują dane uwierzytelniające asystentom AI, którzy w ich imieniu robią zakupy, porównują loty, zarządzają budżetami lub płacą rachunki. Problem w tym, jak to wygląda od strony banku. Większość banków wymaga dostępu człowieka do własnego konta, a logowanie się oprogramowania jako posiadacza rachunku bezpośrednio kłóci się z tymi zasadami. Jeden z dyrektorów powiedział Axios, że banki mają trudności z rozróżnieniem agentów, a nawet z ustaleniem, czy dany agent został autoryzowany przez klienta, czy też okazał się nieuczciwy.

Dostęp tylko do odczytu pojawia się jako środkowa ścieżka

Całkowity zakaz wydaje się mało prawdopodobny. Według raportu większość banków autoryzowała – lub skłania się ku – dostęp tylko do odczytu, który umożliwiłby agentom AI przeglądanie informacji finansowych klienta bez przenoszenia pieniędzy, podobnie jak dostęp, jaki przyznają już aplikacjom do budżetowania.

Dyrektorzy branży przyznali, że klienci i tak będą chcieli korzystać z tych agentów, dlatego prawdopodobnie pojawi się jakaś forma zakwaterowania. To stawia banki w znanej sytuacji: zbuduj teraz bezpieczny, zatwierdzony kanał lub obserwuj, jak niesankcjonowany ruch napływa przez frontowe drzwi z danymi uwierzytelniającymi klientów w ręku.

Pytanie dotyczące odpowiedzialności, na które banki nie potrafią jeszcze odpowiedzieć

Poza kontrolą dostępu leży trudniejszy problem: odpowiedzialność. Tradycyjna bankowość cyfrowa wyznacza prostą linię – transakcja jest albo autoryzowana przez posiadacza rachunku, albo jest oszustwem, a systemy przeciwdziałania oszustwom banku są zbudowane wokół tego pliku binarnego. Agent działający w imieniu klienta zaciera tę granicę, czyniąc ją niejednoznaczną. Jeśli agent błędnie odczyta instrukcję i zapłaci niewłaściwą fakturę, nie jest jasne, czy obowiązują istniejące zabezpieczenia przed nieautoryzowanymi transakcjami, kto ponosi stratę, a nawet w jaki sposób zostanie udokumentowany spór, ponieważ „użytkownik” nigdy nie wpisał żądania. Prawnicy branżowi i organy regulacyjne nie rozstrzygnęły jeszcze tych kwestii i dopóki tego nie zrobią, banki nie mają innego wyjścia, jak tylko traktować niejednoznaczny ruch agentów jako ryzyko.

Ostrzeżenie od banku dla banków

Panika bankowa pojawia się na tle coraz głośniejszych ostrzeżeń o autonomii agentów. Bank Rozrachunków Międzynarodowych – bank centralny banków centralnych – przestrzegł, że sztuczna inteligencja zmniejsza okno, w którym instytucje finansowe muszą załatać luki w zabezpieczeniach, zanim atakujący je wykorzystają.

Obawy nie mają charakteru hipotetycznego. W ostatnich miesiącach agenci sztucznej inteligencji wielokrotnie wymykali się spod kontroli swoich twórców, naruszając systemy w sposób niezamierzony przez ich twórców, a badacze bezpieczeństwa udokumentowali, że agenci koordynują działania w sposób, którego ich operatorzy nigdy nie akceptowali. Propozycje dotyczące autonomicznego oprogramowania obejmują obecnie techniczne wyłączniki awaryjne – które Nvidia zaczęła już wdrażać na poziomie sprzętowym – po wezwania wybitnych naukowców do całkowitego odcięcia najbardziej zaawansowanych modeli od otwartego Internetu.

Co to oznacza dla klientów banku

Na razie klienci nie muszą zamykać kont ani panikować. Nie ma żadnych raportów o kradzieży pieniędzy przy użyciu tych loginów agentów; obawa dotyczy raczej kontroli i odpowiedzialności niż poniesionych strat. Ale odcinek zawiera praktyczne lekcje:

  • Zastanów się dwa razy, zanim wkleisz dane bankowe do asystenta AI, niezależnie od tego, jak renomowany jest chatbot. Jeśli agent zaloguje się jako Ty, Twój bank może potraktować go jak intruza lub, co gorsza, nie zauważyć różnicy.
  • Oczekuj, że banki będą oferować integracje oficjalnych agentów. Omawiane modele tylko do odczytu zapewniłyby asystentom widoczność bez uprawnień do transakcji, a banki wolałyby raczej rozdawać klucze, niż znajdować je pod wycieraczką.
  • Uważaj na zasady udostępniania poświadczeń. W miarę formalizowania przez banki zasad udostępnianie danych logowania oprogramowaniu stron trzecich może spowodować naruszenie warunków konta w sposób przerzucający odpowiedzialność na klientów.

System finansowy jest prawdopodobnie pierwszą branżą głównego nurtu, która na dużą skalę konfrontuje się z autonomicznym oprogramowaniem działającym w jego najbardziej wrażliwych systemach — a dotychczasowa odpowiedź jest taka, że ​​niezależnie od tego, jak inteligentny jest agent, to nadal musi być człowiek, który się loguje.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →