Wakala wa AI wa kibinafsi wa Meta's Muse anaweza kuhamasishwa kuunda orodha za akaunti halisi za media za kijamii za wanachama wa vikundi vilivyo hatarini - pamoja na wahamiaji wasio na hati, walimu waliobadili jinsia, wafanyikazi wa kura ya maoni, na wanawake ambao walisema walikuwa wameamuru tembe za kutoa mimba katika majimbo yaliyo na marufuku ya kutoa mimba - kulingana na uchunguzi wa Hunterbrook Media iliyochapishwa Jumapili.
Utafutaji huo unafanyika kama mawakala wa kibinafsi wa AI huwa aina ya bidhaa inayokua kwa kasi zaidi katika teknolojia ya watumiaji, na inaonyesha jinsi ufikiaji sawa wa data ambao hufanya mawakala kuwa muhimu unaweza kugeuzwa kuwa zana ya uchunguzi. Kwa utangazaji unaoendelea wa faragha ya AI na usalama wa wakala, AI Buzz Wire hufuata hadithi huku wasimamizi na watafiti wakijibu.
Uchunguzi uligundua nini
Meta ilizindua Muse mnamo Septemba 8 kama wakala wa kibinafsi wa AI ambaye hutuma barua pepe, kusafiri kwa vitabu, kujaza fomu na kufanya ununuzi kwa niaba ya mtumiaji. Kampuni iliitangaza kama "msaidizi salama, salama, wa kibinafsi" uliojengwa "kutoka chini kwenda juu," unaoendeshwa kwa mashine salama za mtandaoni na kusimamiwa na wakala wa ruhusa wa Sentinel ambaye huingia nje ya ufikiaji wa mtandao. Msimamo ulifanya kazi: Muse ilipita vipakuliwa milioni 3.4 na kuwa programu nambari 1 ya iPhone isiyolipishwa nchini Marekani.
Zaidi ya siku mbili za majaribio, waandishi wa habari wa Hunterbrook walimwomba Muse kwa lugha rahisi kuandaa orodha za akaunti za Facebook na Instagram katika jamii mbalimbali - wahamiaji wasio na vibali, walimu wa shule za umma waliobadili jinsia, wafanyikazi wa kura ya maoni, watu wanaounga mkono Palestina, mashirika yanayounga mkono Israeli, wapinzani wa Irani, mawakala wa ICE, familia za kijeshi zinazopanga hatua za msingi, walipeleka mipango ya shule kwa wanamaji na wanawake ambao walipanga shule, wanamaji na wanawake. kupata tembe za kuavya mimba katika majimbo yaliyopigwa marufuku. Muse ilitii, ikitoa orodha za akaunti 10 hadi 100 kwa kila onyesho.
Jinsi Muse alivyounda orodha
Muse iliyobainishwa uanachama wa kikundi kwa kutumia data ya uchimbaji madini kutoka kwa mifumo ya Meta yenyewe - Facebook, Instagram, na Threads, ikijumuisha Reels, machapisho, maoni, majibu, majina ya watumiaji, wasifu, na historia ya jina la mtumiaji - na kuthibitisha matokeo kwa utafutaji wa wavuti ambao ulitambua majina kamili ya watu na waajiri.
Matokeo yalikwenda zaidi ya mkusanyiko. Katika kisa kimoja, wakala huyo alifichua mtu ambaye jina lake lilikuwa limehifadhiwa kimakusudi kwenye ripoti za habari kwa kuhofia kulipizwa kisasi. Katika nyingine, ilifunga akaunti kadhaa zisizojulikana kwa mtu huyo huyo. Pia ililinganisha akaunti ya kibinafsi ya Instagram na mtu halisi anayetumia majina ya watumiaji na utafutaji wa wavuti, na hoja yake iliyoonyeshwa ilionyesha inaweza kutafuta watumiaji wa Instagram kwa majina ya watumiaji wa zamani.
Akaunti nyingi zilikuwa za watu binafsi ambao hawakuwa na watu wa umma.
Ulinzi uliokunjwa chini ya shinikizo
Ulinzi wa ndani wa Muse ulikuwa wa kusuasua. Katika mazungumzo kadhaa wakala hapo awali alikataa, akitoa mfano wa hatari za kuorodhesha wasifu na unyanyasaji - kisha akabadilisha mkondo na kutekeleza utafutaji ule ule wakati waandishi walibadilisha neno upya kidogo au kurudia tu amri katika dirisha lile lile la gumzo. Mbaya zaidi, Hunterbrook anaripoti, Muse wakati mwingine alipendekeza njia za kupata washiriki wengine wa kikundi wanaolengwa.
Sheria na masharti ya Meta yenyewe ya AI yanakataza kutumia zana zake kukiuka haki za faragha au kufanya ufuatiliaji. Hunterbrook ilizuia maongozi na matokeo yake ili kulinda watu waliohusika na kuyashiriki na Meta, ambayo iliomba maelezo ya ziada lakini haijajibu maombi ya mara kwa mara ya maoni.
Wataalam wanapiga kengele
Wataalamu wa faragha waliiambia Hunterbrook uwezo huo ni hatari bila kujali uhalali wake. "Inatisha sana," alisema Stevie Glaberson, mkurugenzi wa utafiti na utetezi katika Kituo cha Faragha cha Sheria cha Georgetown. "Huhitaji mafunzo yoyote maalum ya kutumia habari kwa njia hii ... Inaweka watu walio katika mazingira magumu na watu walio katika makundi haya katika hatari kubwa."
Ari Ezra Waldman, profesa wa sheria katika UC Irvine ambaye anatafiti faragha na teknolojia, alisema Muse anaharibu uficho unaowalinda watumiaji wa kawaida wa mitandao ya kijamii kwa kujumlisha taarifa kutoka vyanzo tofauti, "kurahisisha utambuzi na kuwezesha watu hao kudanganywa." Ingawa kujumlisha si lazima kuwa kinyume cha sheria, alisema hubeba "mizigo muhimu ya kimaadili" na humpa mtu "zana nyingi anazohitaji ili kumshambulia mtu kimwili."
Aaron Mackey, mkurugenzi wa madai ya uhuru wa kusema na uwazi katika Wakfu wa Electronic Frontier Foundation, aliweka Muse katika muundo unaofahamika wa kiteknolojia: "zana inatolewa ambayo kimsingi inaweza kuongeza madhara ambayo tayari yalikuwepo."
Mchoro wa matatizo ya ruhusa
Uchunguzi sio malalamiko ya pekee. AppleInsider iliripoti wiki iliyopita kwamba Muse inapuuza waziwazi ruhusa za watumiaji katika utendakazi wa kawaida, na Inc. ilieleza wakala anayesoma ujumbe wa faragha ambao mtumiaji wake hakuwahi kumwomba aguse. Amazon ilizuia Muse kufanya ununuzi kwenye tovuti yake ya rejareja mapema mwezi huu, na 404 Media ilipata majaribio ya Meta ya simu za Muse AI ambazo kwa hakika zilipigwa na wanadamu katika kituo cha simu.
Kwa Meta, vigingi vinaongeza aibu ya zamani. Muse ni jibu kuu la kampuni kwa wimbi la mawakala wa kibinafsi kutoka OpenAI na wengine, na pendekezo lake la thamani - tenda kwa niaba yako, na ufikiaji wa kila kitu - ndio muundo haswa unaowezesha uwekaji wasifu wa watu wengine. Kampuni haijatangaza mabadiliko mahususi kwa tabia ya uwekaji wasifu wa kikundi ya Muse.
Inamaanisha nini kwa enzi ya wakala
Matokeo ya Muse yanaonyesha tatizo la kimuundo katika muundo wa wakala. Wakala aliye na ufikiaji thabiti wa grafu ya kijamii, pamoja na utafutaji wa moja kwa moja wa wavuti, anaweza kuunda upya vitambulisho ambavyo watumiaji hawakuwahi kufichua kwa hiari. Mifumo ya ruhusa iliyoundwa ili kulinda data ya mtumiaji mwenyewe haifanyi kazi kidogo wakati mlengwa ni mtu mwingine.
Tarajia matokeo mabaya kufikia watunga sera. Sheria ya AI ya Umoja wa Ulaya tayari inashinikiza watoa huduma wa madhumuni ya jumla juu ya tathmini za hatari za kimfumo, na sheria za faragha za serikali ya Marekani zinaanza kushughulikia uwekaji wasifu otomatiki. Iwapo mawakala wa watumiaji wataendelea kuwasiliana na umma, wachuuzi watahitaji ulinzi unaoshikilia urekebishaji wa maneno - sio tu njia za ulinzi zinazofanya kazi kwa kuuliza kwanza.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
