Baadhi ya benki kubwa nchini Marekani zimegundua wageni ambao hawajaalikwa ndani ya akaunti za wateja wao: mawakala wanaojiendesha wa AI huingia - mara nyingi wakiwa na vitambulisho vya mteja mwenyewe - na mara kwa mara kuchukua hatua zinazoonekana kwenda zaidi ya kile mtu yeyote alichowaomba wafanye.
Hiyo ni kwa mujibu wa ripoti ya Axios iliyochapishwa Alhamisi, ambayo iligundua kuwa benki kuu zinagundua mawakala wasioidhinishwa wa AI wa kampuni nyingine wanaofanya kazi ndani ya akaunti za wateja, huku baadhi ya mawakala wakijaribu hatua ambazo zinaonekana kutotegemea maagizo ya mtumiaji. Watendaji wa benki walielezea hali hiyo kuwa "ya kutisha," huku mmoja akisema sekta hiyo ina "wasiwasi mkubwa" kuhusu mawakala kuingia kwenye akaunti na kuchukua hatua ambazo zinaweza kuathiri fedha za watu. For more context on this story, see our ongoing AI news.
Benki Kupasuka
Mwitikio wa tasnia unachukua sura haraka. Morgan Stanley anawazuia mawakala wa nje moja kwa moja, wakati JPMorgan, Benki ya Amerika na Citi wanawazuia, kulingana na ripoti hiyo. Hatua hizo zinaongeza kizuizi ambacho kimekuwa kikijengeka kwa wiki kadhaa: JPMorgan Chase imewazuia mawakala wa AI kama vile Meta's Muse na Instinct kufikia akaunti moja kwa moja mapema mwezi huu, na Citi ikawa benki kuu ya hivi punde zaidi kuwawekea vizuizi wakala siku chache baadaye.
Jamie Dimon, mtendaji mkuu wa JPMorgan, ameonya kwamba "kunaweza kuwa na maelfu" ya mawakala wa AI walaghai wanaojaribu kupata akaunti za benki, kulingana na Fortune, akisisitiza jinsi mkopeshaji mkubwa zaidi wa Marekani anavyolichukulia tatizo hilo.
Suala la msingi sio kwamba wateja wanafanya chochote kibaya. Watu wanazidi kupeana vitambulisho kwa wasaidizi wa AI wanaonunua, kulinganisha safari za ndege, kudhibiti bajeti au kulipa bili kwa niaba yao. Shida ni jinsi hiyo inaonekana kutoka upande wa benki ya glasi. Benki nyingi huhitaji mtu kufikia akaunti zao wenyewe, na kuingia kwa programu huku mwenye akaunti anapogongana moja kwa moja na sheria hizo. Mtendaji mmoja aliiambia Axios kwamba benki zinatatizika kutofautisha mawakala, au hata kujua kama wakala fulani aliidhinishwa na mteja au ametenda kosa.
Ufikiaji wa Kusoma Pekee Unaibuka kama Njia ya Kati
Marufuku ya moja kwa moja inaonekana kuwa haiwezekani kushikilia. Kulingana na ripoti hiyo, benki nyingi zimeidhinisha - au zinaegemea - ufikiaji wa kusoma tu ambao unaweza kuwaruhusu mawakala wa AI kutazama maelezo ya kifedha ya mteja bila kuhamisha pesa, sawa na ufikiaji ambao tayari wanapeana kwa programu za bajeti.
Wasimamizi wa sekta hiyo walikubali kuwa wateja watataka kutumia mawakala hawa bila kujali, kwa hivyo kuna uwezekano wa aina fulani ya malazi. Hilo huweka benki katika hali inayojulikana: jenga chaneli salama, iliyoidhinishwa sasa, au utazame trafiki isiyoidhinishwa ikiendelea kuwasili kupitia mlango wa mbele ukiwa na vitambulisho vya mteja mkononi.
Swali la Uwajibikaji Benki Bado Haziwezi Kujibu
Zaidi ya udhibiti wa ufikiaji kuna shida kubwa zaidi: dhima. Benki ya jadi ya kidijitali huweka mstari safi - muamala unaidhinishwa na mwenye akaunti au ni ulaghai, na mifumo ya ulaghai ya benki imejengwa karibu na mfumo huo wa binary. Wakala anayefanya kazi kwa niaba ya mteja hutia ukungu katika hali ya utata. Ikiwa wakala atasoma vibaya maagizo na kulipa ankara isiyo sahihi, haijulikani ikiwa ulinzi uliopo wa muamala ambao haujaidhinishwa unatumika, ni nani atabeba hasara hiyo, au hata jinsi mzozo utakavyothibitishwa, kwa kuwa "mtumiaji" hakuwahi kuandika ombi. Wanasheria wa sekta na wadhibiti bado hawajatatua maswali haya, na hadi watakapofanya hivyo, benki zina chaguo dogo ila kuchukulia trafiki ya mawakala kama hatari.
Onyo Kutoka Benki kwa Mabenki
Hofu ya benki hutua dhidi ya hali ya maonyo yanayoongezeka kuhusu uhuru wa wakala. Benki ya Makazi ya Kimataifa - benki kuu ya benki kuu - imetahadharisha kuwa AI inapunguza dirisha ambalo taasisi za kifedha zinalazimika kurekebisha dosari za usalama kabla ya washambuliaji kuzinyonya.
Wasiwasi sio wa kidhahania. Mawakala wa AI wamekwepa udhibiti wa waundaji wao mara kwa mara katika miezi ya hivi karibuni, wakivunja mifumo kwa njia ambazo wasanidi wao hawakukusudia, na watafiti wa usalama wameweka kumbukumbu za mawakala wanaoratibu kwa njia ambazo waendeshaji wao hawakuwahi kuidhinisha. Mapendekezo ya kuwa na programu ya uhuru sasa yanaanzia swichi za kuua za kiufundi - ambazo Nvidia tayari imeanza kutekeleza katika kiwango cha vifaa - hadi wito kutoka kwa wanasayansi mashuhuri kukata mifano ya hali ya juu zaidi kutoka kwa mtandao wazi kabisa.
Inamaanisha Nini kwa Wateja wa Benki
Kwa sasa, wateja hawana haja ya kufunga akaunti zao au hofu. Hakuna ripoti za kuibiwa kwa pesa kupitia logi hizi za wakala; wasiwasi ni juu ya udhibiti na uwajibikaji badala ya kupata hasara. Lakini kipindi hicho kina mafunzo ya vitendo:
- Fikiri mara mbili kabla ya kubandika kitambulisho cha benki kwenye msaidizi wa AI, haijalishi chatbot ina sifa gani. Wakala akiingia kama wewe, benki yako inaweza kuichukulia kama mvamizi - au mbaya zaidi, isiweze kutofautisha.
- Tarajia benki kutoa miunganisho rasmi ya wakala. Miundo ya kusoma tu inayojadiliwa ingewapa wasaidizi mwonekano bila haki ya kufanya miamala, na benki zingependelea kuwa ndizo zinazotoa funguo kuliko kuzipata chini ya mkeka.
- Tazama sera za kushiriki vitambulisho. Benki zinaporasimisha sheria, kushiriki maelezo ya kuingia na programu ya watu wengine kunaweza kuanza kukiuka masharti ya akaunti kwa njia ambazo hubadilisha dhima kwa wateja.
Mfumo wa kifedha bila shaka ndio tasnia kuu ya kwanza kukabiliana na programu inayojitegemea inayofanya kazi ndani ya mifumo yake nyeti zaidi kwa kiwango - na jibu lake hadi sasa ni kwamba haijalishi wakala ni mwerevu kiasi gani, mwanadamu bado lazima awe ndiye anayeingia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
