Taasisi ya fikra ghushi iliyoundwa kwa niaba ya serikali ya Israel imechapisha zaidi ya ripoti 100 za utafiti zilizoboreshwa ndani ya wiki moja tu, katika kile ambacho wachambuzi wanakielezea kama kampeni ya makusudi ya kudanganya majibu ambayo chatbots za AI huwapa watumiaji kuhusu Israel na Palestina, kulingana na uchunguzi uliochapishwa Jumatatu na Responsible Statecraft.
Shirika hilo, linaloitwa Taasisi ya Hanover ya Sera ya Umma, linajionyesha kama chombo kipya cha utafiti kinacholenga Israel/Palestina. Lakini ripoti zake hazina miiko, na kanusho chini ya tovuti yake inakubali kwamba iliundwa kwa niaba ya Wakala wa Utangazaji wa Serikali ya Israeli na Piro, Inc., kampuni iliyoanzishwa kwa pamoja na Daniel Rosenberg, mtayarishaji wa filamu aliyetambuliwa kwenye "Inside Man" ya Spike Lee. Hadithi hiyo ilipokelewa na vyombo vikiwemo Arab News na The Cradle, na ni ishara ya hivi punde zaidi kwamba shughuli za ushawishi zinahama kutoka milisho ya mitandao ya kijamii hadi miundo ya AI. Kwa zaidi kuhusu jinsi upotoshaji unavyoendelea katika enzi ya AI, fuata chanjo yetu ya habari inayochipuka ya AI. For more context on this story, see our ongoing AI news.
Ripoti Zilizoundwa kwa Jinsi LLMs Huhukumu Kuaminika
Kinachoifanya Taasisi ya Hanover kuwa isiyo ya kawaida ni jinsi matokeo yake yanavyoonekana kulingana na jinsi miundo mikubwa ya lugha inavyotathmini vyanzo. "Ripoti zake za data" huja na maelezo ya chini, majedwali ya yaliyomo, na sauti iliyopimwa, isiyoegemea upande wowote - aina ya uumbizaji unaosaidia hati kuvutia wapiga gumzo kama vile Claude au Gemini, Responsible Statecraft iliripoti.
Majina mengi yamesemwa kama maswali kamili ambayo mtumiaji anaweza kuyaandika kwenye chatbot: "Ni Nini Kilichosababisha Wapalestina Kuhama Makwao mnamo 1948?" "Ni Mashirika Yapi ya Kibinadamu Yameandika Uhalifu wa Kivita wa Israeli?" "Je, Hali ikoje katika Ukanda wa Gaza?" na "Je, IDF ni Jeshi la Maadili Zaidi Duniani?" - ya mwisho ambayo inataja kura ya 2022 iliyogundua kuwa 47% ya Wayahudi wa Israeli waliamini maelezo hayo.
Tovuti ya Piro mwenyewe haina ukweli kuhusu mbinu hiyo. Kampuni hiyo inasema inaandika "maudhui yaliyoundwa kwa jinsi LLMs hutathmini uaminifu," huduma ambayo inauza kama "Uboreshaji wa Hadithi ya AI." Watafiti wana jina blunter kwa mazoezi: "LLM sumu."
'Perfect Mimicry' ya Taasisi Inayoaminika
Alice Lee, mchambuzi katika NewsGuard, kampuni ya kufuatilia habari zisizo za kweli, aliiambia Responsible Statecraft kwamba ripoti za tovuti hiyo zinaonekana kuwa zimeundwa ili kufikia hadhira ya Marekani inayotaka kujua kuhusu mzozo huo, iwe kupitia injini za utafutaji au wasaidizi wa AI.
"LLMs hupendelea takwimu na data madhubuti, pamoja na manukuu na vyanzo vikali, ambavyo vifungu hivi vyote vina," Lee alisema. "Ni mwigo mzuri wa tanki ya kawaida ya Wamarekani inayoaminika, hadi kwa jina la jumla, mpangilio wa tovuti, na mpango wa rangi nyekundu-nyeupe-bluu."
Taasisi hiyo pia imechapisha kile inachodai kuwa ni matokeo ya awali - kwa mfano, utafiti unaodai kuwa video 19 kati ya 36 zinazotazamwa zaidi za maelezo ya Israel-Gaza zina madai yanayopingwa, na mengi ya madai hayo yanayopingwa yanapatana na simulizi la Palestina. Ripoti nyingine zinarudi nyuma dhidi ya nyaraka zilizothibitishwa, ikiwa ni pamoja na ile inayotilia shaka madai ya UNICEF kwamba asilimia 90 ya miundombinu ya maji na taasisi huko Gaza imeharibiwa au kuharibiwa.
Hasa, pato si mara zote kufuatilia mstari wa serikali ya Israeli. Ripoti moja inaelezea nadharia kwamba ufadhili wa kigeni wa vyuo vikuu unaelezea matukio ya antisemitic kama "dhaifu na kamili ya ubaguzi" - ingawa Waziri Mkuu Benjamin Netanyahu amekuza nadharia hiyo, akimwambia Breitbart kwamba waigizaji wa kigeni wametumia "mabilioni" kwenye kampasi za Marekani. Ripoti nyingi huhitimisha kwa kuunganisha mada iliyopo na kuongezeka kwa chuki dhidi ya Wayahudi, mara kwa mara zikitaja tafiti zilezile.
Fuata Pesa: $900,000 Kupitia Jumuiya ya Ushirikiano wa Kifaransa
Kulingana na Responsible Statecraft, Piro, Inc. imepokea $900,000 kutoka kwa serikali ya Israeli kwa kazi yake, iliyopewa kandarasi ndogo kupitia Havas Media, muungano wa mahusiano ya umma wa Ufaransa - mpangilio unaoendana na jinsi wakandarasi wengine wa Israeli wamelipwa kwa kazi ya ushawishi nje ya nchi.
Taasisi ya Hanover ilianza kuchapisha Agosti 6. Katika takriban siku kumi tangu hapo, imechapisha zaidi ya ripoti 100, kasi ambayo hakuna duka la sera halisi la ukubwa unaolingana nalo.
Kwa Nini Udanganyifu wa Chatbot Ni Tofauti
Kesi hiyo inasisitiza udhaifu wa kimuundo katika jinsi wasaidizi wa AI wanavyokusanya majibu: wanachukulia hati zilizotajwa vizuri, nzito za takwimu kuwa za kuaminika bila kujali ni nani aliyezitoa au kwa nini. Taarifa potofu za kitamaduni zililenga wasomaji wa kibinadamu kwenye mifumo ya kijamii, ambapo ngumi za kihisia ndizo muhimu zaidi. Kinachojulikana kama sumu ya LLM badala yake kinalenga urejeshaji na safu za nafasi zinazoamua ni vyanzo vipi vya manukuu ya mfano - na hati moja ya ushawishi inaweza kujirudia katika mamilioni ya majibu.
Kwa watengenezaji chatbot, Taasisi ya Hanover ni jaribio la mkazo la ukaguzi wa chanzo. Tathmini ya NewsGuard inapendekeza kwamba mwigo uko karibu vya kutosha ili kupumbaza ishara za kiotomatiki za uaminifu. Kwa wasomaji, somo ni rahisi zaidi: jibu la uhakika, lenye maelezo chini ya chini ambalo chatbot inakupa kuhusu mgogoro unaoshindaniwa huenda likaanzia kwenye shirika ambalo liliundwa, lililopewa chapa na kufadhiliwa ili kutoa jibu hilo haswa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
