Uchunguzi wa Matangazo ya Meta ya AI Umeshindwa Kusimamisha Mamia ya Matangazo ya Unyanyasaji wa Watoto, Watafiti Wapata

Zaidi ya matangazo 250 ya ziada yaliyo na nyenzo za unyanyasaji wa kijinsia kwa watoto yalionyeshwa kwenye mifumo ya Meta katika wiki chache baada ya kampuni kuzindua zana mpya za AI zilizoundwa kugundua na kuzuia kabisa aina hiyo ya maudhui, kulingana na utafiti kutoka kwa Mradi wa Uwazi wa Tech usio wa faida ulioshirikiwa na WIRED na kuchapishwa Jumanne. Ugunduzi huo unapunguza madai ya kampuni hiyo kwamba uchunguzi wake wa matangazo unaoendeshwa na AI ulikuwa umeziba pengo hilo, na inakuja kama wabunge wanasema wanapanga kuchunguza.

Takwimu mpya huongeza ufichuzi wa mapema. Mwezi uliopita, Meta ilifuta takribani matangazo 50 yaliyotumwa kwenye Facebook, Instagram na Threads ambayo yalijumuisha moja kwa moja nyenzo za unyanyasaji wa kijinsia kwa watoto, kufuatia ripoti ya awali na WIRED. Wakati huo, kampuni hiyo ilisema matangazo mengi ya matusi yalikuwa yamechapishwa kabla ya kusambaza zana mpya za kugundua AI. Badala ya kupungua kwa matarajio, watafiti wanasema walipata mamia zaidi ya matangazo katika wiki za hivi karibuni - pamoja na yale ambayo Meta ilikuwa imeondoa. Kwa habari zinazoendelea za usalama wa jukwaa na habari mpya zaidi za AI, fuata AI Buzz Wire.

Kiwango cha Kushindwa

Kwa jumla, watafiti katika Mradi wa Tech Transparency wameandika zaidi ya 350 ya matangazo ya video matusi yanayoendeshwa kwenye majukwaa ya Meta tangu mwisho wa mwaka jana, ikihusisha Facebook, Instagram, Messenger, Threads na mtandao mpana wa utangazaji wa Meta. Tofauti na seti ya awali ya matangazo 53 ambayo kikundi kilitambua, kundi jipya zaidi lilijumuisha picha za watoto halisi badala ya zile za sintetiki. WIRED ilithibitisha kwamba picha moja ya chanzo ilitoka kwenye tovuti rasmi ya familia ya kifalme ya Ulaya; watafiti wanasema picha iliyotolewa rasmi ya mwanafamilia mdogo ilibadilishwa kuwa video inayoonyesha ngono. Watafiti hawakumtaja mfalme ili kumlinda mwathiriwa na wanasema waliwasiliana na maafisa katika nchi husika.

Katie Paul, mkurugenzi wa kikundi, aliiambia WIRED kuwa tatizo halikomei kwa taswira zinazozalishwa na AI. "Tunachozungumza hapa sio nyenzo za unyanyasaji wa kijinsia kwa watoto zinazozalishwa na AI," alisema, akibainisha kuwa picha nyingi zinaonekana kuchukuliwa kutoka kwa wavuti wazi kabla ya kutumiwa kwenye matangazo. "Kuna madhara mengi ambayo yanaweza kutoka kwa haya yote wakati Meta inakusanya pesa katika mchakato huo." Watafiti walitambua utambulisho wa ulimwengu halisi wa watoto wanne ambao picha zao zilitumika kwenye matangazo.

Funeli Katika Programu za Uchu

Matangazo hufuata muundo thabiti, kulingana na ripoti. Wengi walifungua picha isiyo na hatia ya msichana mwenye umri wa chini ya miaka kumi na tano - watafiti waligundua moja tu iliyo na mvulana - iliyofunikwa na maandishi yanayotangaza kwamba picha hiyo "sio picha tu" na kwamba "hakuna kizuizi" juu ya kile kinachoweza kufanywa nayo. Wakati video fupi inapocheza, uso wa mtoto hubadilishwa kuwa video chafu. Kubofya kunaongoza kwa kubadilishana uso kwa uso na AI na programu za "nudification" zinazopatikana katika maduka ya programu ya Apple na Google, nyingi zikiwa zimeunganishwa na wasanidi wa Kichina. WIRED ilibainisha kando mamia ya matangazo ya uchi yanayohusiana yanayoonyesha watu wazima kwenye mifumo ya Meta.

Uhakiki wa Polepole na Ufumbuzi Unaokosekana

Sera za Meta zinasema kuwa kampuni hukagua matangazo yote yanayoonyeshwa kwenye mifumo yake, na matangazo yalikiuka sheria zake kuhusu unyanyasaji wa watoto, unyanyasaji wa watu wazima na uchi. Kwa mazoezi, watafiti waliripoti, wakati mwingine ilichukua Meta hadi wiki moja kukagua matangazo ya moja kwa moja ambayo yameripotiwa kupitia zana za kampuni yenyewe - wakati ambapo matangazo yalikusanya mamia ya maoni ya ziada, kulingana na picha za skrini zilizokaguliwa na WIRED. Baadhi ya matangazo yalipoondolewa, rekodi zao za uondoaji awali hazikufichua kwamba zilikiuka sera za unyanyasaji wa watoto kingono za kampuni; maelezo hayo yalionekana tu baada ya WIRED kuuliza Meta kuhusu utofauti huo.

Watafiti waliripoti kila tangazo walilopata kwa Kituo cha Kitaifa cha Watoto Waliopotea na Kunyonywa CyberTipline na kupitia zana za kuripoti za Meta. Maktaba ya matangazo ya Meta yenyewe yanaonyesha matangazo yalionyeshwa kwa pamoja kwa zaidi ya akaunti 29,000 katika nchi zote za Umoja wa Ulaya na akaunti karibu 7,000 nchini Uingereza, huku zaidi ya 250 zikitokea Marekani, 120 nchini Australia na 80 nchini India - takwimu ambazo huenda hazifikiwi kabisa, kwa kuwa baadhi ya nchi hazina data ya punjepunje ya utendaji wa tangazo.

Meta Inajibu

Meta ilirudisha nyuma umuhimu wa matokeo. "Hatuvumilii programu za uchi au aina yoyote ya unyanyasaji wa watoto, iwe halisi au unaozalishwa na AI," msemaji wa kampuni Tracy Clayton aliiambia WIRED, na kuongeza kuwa kampuni hiyo hapo awali iliondoa mamia ya maelfu ya matangazo kwa kukiuka sera zake za uchi. Meta ilisema matangazo mengi ambayo watafiti walipata tayari yameondolewa, kwamba mengi yalipata maonyesho chini ya 200, na kwamba ilikusanya chini ya $5,000 katika malipo ya matangazo. Kampuni hiyo pia ilisema video zinazozalishwa na AI ziliangazia watu wazima huku klipu zinazohusisha watoto zikiwa fupi au zilizotiwa ukungu, hivyo kufanya ugunduzi kuwa mgumu zaidi, na kwamba inaripoti maudhui ya unyanyasaji wa watoto kwa NCMEC.

Wabunge na Wadhibiti Hoja

Wabunge na wadhibiti wengi sasa wanasema wanachunguza au kuangalia matangazo kufuatia kuripoti kwa WIRED. Seneta wa Virginia Mark Warner, ambaye alimtumia Mkurugenzi Mtendaji wa Meta Mark Zuckerberg barua baada ya ripoti hiyo ya awali, alisema "inasikitisha kwamba Meta inaendelea kuonyesha matangazo yanayoonyesha nyenzo za unyanyasaji wa kijinsia kwa watoto na picha za karibu zisizo za kibali baada ya kuletwa kwao." Mwanasheria mkuu wa Michigan alisema ofisi hiyo "inachunguza suala hilo kikamilifu," mwanasheria mkuu wa Florida alichapisha kwamba ofisi yake inachunguza, na mdhibiti wa usalama wa Australia alisema "inajali sana" na ameomba taarifa kutoka kwa Meta katika ngazi ya juu.

Uchunguzi huo unaongeza shinikizo kwa kampuni ambayo tayari inalipa hadi dola bilioni 16.7 kutatua kesi zinazodai mitandao yake ya kijamii ilidhuru watoto, na kukata rufaa dhidi ya uamuzi wa mahakama ya New Mexico ambao ungehitaji kuboresha michakato yake ya kuripoti CSAM. Swali pana kwa tasnia ya AI ni ikiwa udhibiti wa kiotomatiki unaweza kuendana na matumizi mabaya ambayo yenyewe yanazidi kusaidiwa na AI - na ushahidi kwamba mfumo wa kugundua umeshindwa kupata mamia ya matangazo yanayokiuka wiki baada ya kutajwa kuwa marekebisho yataingia moja kwa moja kwenye mijadala hiyo.

Kaa Mbele ya AI

Fuata maendeleo ya hivi punde ya AI na uvunjaji wa habari za kijasusi bandia huku vidhibiti na majukwaa yakishindana na madhara yanayoendeshwa na AI.

Soma habari zaidi za AI →