Chatbots zinazoongoza za AI hutoa majibu yasiyo sahihi kwa maswali ya kifedha mara nyingi zaidi kuliko sio, kulingana na ripoti mpya ya utafiti ya Uingereza fintech Saturn ambayo ilijaribu mifano 18 ya AI maarufu na kupata kiwango cha wastani cha makosa ya 57%, Financial Times iliripoti Jumatatu.

Ripoti hiyo, iliyopewa jina la "Mamlaka Bandia," inakuja huku mamilioni ya watumiaji wanavyozidi kugeukia chatbots ili kupata mwongozo kuhusu pensheni, kodi, deni na akiba - maswali ambapo jibu moja lisilo sahihi linaweza kuleta matokeo halisi ya kifedha. Kadiri wasaidizi wa madhumuni ya jumla wanavyosukumwa katika eneo linalodhibitiwa, tafiti kama hili zinakuwa mtihani wa mara kwa mara wa mkazo wa ahadi za watumiaji wa sekta hii, na tutaendelea kufuatilia maendeleo ya hivi punde ya AI kadri wasimamizi wanavyojibu.

Jinsi Mtihani Ulivyofanya Kazi

Timu ya kikoa cha Saturn iliweka miundo 18 kati ya AI inayotumika sana kupitia maswali 121 yanayohusu pensheni, kodi, deni na akiba - maeneo ya msingi ambapo wateja wa reja reja mara nyingi hutafuta ushauri. Mifano zilizojaribiwa ni pamoja na ChatGPT, Gemini, Claude na Copilot wa Microsoft, kulingana na muhtasari uliochapishwa wa ripoti hiyo.

Kwa wastani, mifano hiyo ilifanya makosa 57% ya wakati huo, alisema Saturn. Kampuni hiyo iliweka matokeo hayo kama "kuhusu makosa ya kutofaulu kwa ulinzi wa watumiaji," na ikatumia hoja kwamba pengo la ushauri la Uingereza - pengo kati ya watu wanaoweza kupata ushauri wa kifedha uliodhibitiwa na wale ambao hawawezi - halitafungwa na chatbots zisizodhibitiwa pekee.

Hata Mwanamitindo Bora Alikosea Mara Kwa Mara

Matokeo hayakuwa sawa, lakini hata mwigizaji hodari alishindwa mara nyingi. Kulingana na ripoti ya FT, mtindo uliofanya vizuri zaidi ulikuwa Claude Opus 5 ya Anthropic inayoendesha katika hali ya kufikiri - na bado ilifanya makosa katika 39% ya majibu.

Maelezo hayo yanaweza kuwa matokeo ya matokeo ya ripoti hiyo. Njia za kusababu, ambazo huruhusu wanamitindo kuhusika kimakusudi kabla ya kujibu, ndio jibu kuu la tasnia kwa uvumbuzi na makosa, na mifano ya mipakani huchapisha matokeo dhabiti kwenye mitihani ya kitaaluma katika fedha na sheria. Asilimia 39 ya kiwango cha makosa kwenye maswali ya matumizi ya fedha kinapendekeza kuwa vigezo vya mtindo wa mitihani na hoja za watumiaji wa ulimwengu halisi hupima mambo tofauti kabisa.

Matokeo hayo pia yalileta msukumo. Waliotoa maoni kwenye Habari za Hacker walitilia shaka mbinu na uteuzi wa kielelezo, wakibaini kuwa makosa kadhaa ya mfano ya ripoti yalitoka kwa miundo midogo isiyolipishwa. Lakini wastani wa 57% na 39% wa takwimu bora zaidi katika darasa husimama kama madai yaliyochapishwa kutoka kwa Saturn na FT, na onyo kuu la ripoti - kwamba watumiaji hawapaswi kuchukua pato la chatbot kama ushauri uliodhibitiwa - halikupingwa.

Tahadhari Wadhibiti Wamesikia Kabla

Ripoti hiyo inatua huku kukiwa na wasiwasi rasmi kuhusu chatbots katika masuala ya pesa. Wateja wa Uingereza walikuwa tayari wameonywa kuhusu chatbots za AI zinazotoa ushauri usio sahihi wa kifedha katika tahadhari iliyofunikwa sana iliyochapishwa na The Guardian mwishoni mwa 2025, na wasimamizi wa kifedha kote Ulaya na Merika tangu wakati huo wameripoti ushauri unaozalishwa na AI kama eneo linaloibuka la hatari kwa watumiaji.

Msimamo wa Saturn mwenyewe unaipa ripoti makali fulani: kampuni inatengeneza zana za AI kwa ushauri wa kifedha, na ilichapisha matokeo sio kama kukataliwa kwa AI katika kifedha lakini kama kesi ya kupata njia za ulinzi. Hoja yake ni kwamba chatbots ambazo hazitawaliwi vizuri tayari zinajaza pengo la ushauri kwa chaguo-msingi, na kwamba chaguo linalowakabili wasimamizi ni kati ya mwongozo wa AI unaosimamiwa na mwongozo wa AI usiosimamiwa - sio kati ya AI na ushauri wa wanadamu.

Mchango wa Saturn katika mjadala huo ni hoja kuhusu muundo wa sera: kampuni inasema kuhama kutoka kwa kile inachokiita udhibiti wa kupindukia kuelekea kuweka ulinzi wa vitendo kwenye miundo ya lugha kubwa kungepunguza pengo la ushauri haraka zaidi huku ikiwalinda watu dhidi ya mwongozo wa AI usiodhibitiwa. Kwa maneno mengine, badala ya kuzuia AI nje ya ushauri wa kifedha kabisa, jenga usambazaji unaosimamiwa, ulio na vikwazo ambao unaweza kuwahudumia kwa usalama wateja ambao washauri wa kibinadamu ni ghali sana kufikia.

Utungaji huo ni muhimu kwa sababu pengo la ushauri ndio sababu kuu ya tasnia kuwa katika nafasi hii hata kidogo. Nchini Uingereza, kaya nyingi haziko nje ya kizingiti ambapo ushauri wa kifedha unaodhibitiwa unachukuliwa kuwa mzuri kiuchumi, ambayo ndiyo hasa idadi ya watu wanaouliza gumzo kuhusu pensheni na madeni.

Nini Watumiaji Wanapaswa Kuondoa

Hadi miundo iboreshwe au wasimamizi waingilie kati, mwongozo wa vitendo kutoka kwa utafiti ni wa moja kwa moja:

  • Chukua majibu ya chatbot kuhusu kodi, pensheni, deni na akiba kama kianzio cha utafiti, na sio kama ushauri.
  • Thibitisha takwimu yoyote maalum - viwango, viwango, posho - dhidi ya chanzo rasmi kabla ya kuishughulikia.
  • Kuwa mwangalifu hasa na miundo ya viwango vya bure, ambayo inaweza kuwa ya zamani au ndogo kuliko matoleo bora ambayo maabara inakuza.
  • Kwa maamuzi ya matokeo, mshauri wa kibinadamu aliyedhibitiwa anasalia kuwa njia pekee iliyo na uwajibikaji wa kisheria.

Swali pana ambalo ripoti inaibua ni moja ambayo sekta ya AI itakabiliana nayo mara kwa mara mwaka wa 2026: uwezo unaovutia katika maonyesho na vigezo bado unaweza kushindwa kufikia upau wa kutegemewa ambao ulidhibiti mahitaji ya vikoa. Ushauri wa kifedha ni uwanja wa kwanza ambapo pengo hilo limebainishwa hivi.

Kaa Mbele ya AI

Kufuatilia jinsi AI inaunda upya fedha, utafiti na udhibiti? Soma habari zaidi za AI kwenye AI Buzz Wire — utangazaji huru wa AI, kila siku.

---

Kaa Mbele ya AI

Pata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.

Soma habari zaidi za AI →