xAI inakabiliwa na hatua ya darasa iliyopendekezwa ambayo kwa mara ya kwanza inashutumu kampuni kwa kutoa mafunzo kwa wanamitindo wake wa Grok kuhusu nyenzo za unyanyasaji wa kijinsia kwa watoto, halisi na zinazozalishwa na AI. Malalamiko hayo, yaliyowasilishwa Jumatano na kuripotiwa na Ars Technica, yanataka uharibifu ulioamriwa na mahakama wa nyenzo yoyote kama hiyo iliyohifadhiwa kwenye seva za kampuni na mabadiliko makubwa ya jinsi Grok anavyoshughulikia maudhui ya ngono.
Madai hayo yanasalia kuwa madai ambayo hayajathibitishwa yaliyotolewa katika kesi za madai. X, ambaye anamiliki xAI, hakujibu ombi la Ars Technica la kutoa maoni juu ya uwasilishaji. For more context on this story, see our ongoing AI news.
Mlalamikaji na Madai
Mlalamishi, aliyetambuliwa kama Jane Doe, anadai katika malalamiko kwamba alikuwa mwathirika wa umri wa shule ya mapema mapema miaka ya 2000 wakati picha za unyanyasaji wake zilipoundwa na kuuzwa mtandaoni. Picha hizo zimeorodheshwa kwa muda mrefu katika orodha za hashi zinazodumishwa na Kituo cha Kitaifa cha Watoto Waliopotea na Kunyanyaswa (NCMEC) na Kituo cha Kanada cha Ulinzi wa Mtoto (CCCP), mashirika ambayo hufuatilia nyenzo zinazojulikana za unyanyasaji ili kuwezesha kutambuliwa na kuondolewa.
Kulingana na malalamiko hayo, CCCP ilimwarifu Doe kwamba imetambua nyenzo za unyanyasaji zinazozalishwa na AI zinazomuonyesha kwenye jukwaa la xAI. Mawakili wake walisema katika taarifa kwa vyombo vya habari kwamba nyenzo zinazolingana na maingizo yake ya orodha ya heshi ya NCMEC "ilikuwa sehemu ya seti ya data ya xAI iliyotumiwa kujenga uwezo wa Grok wa kuzalisha picha na video." Malalamiko hayo yanadai zaidi kwamba jumbe zilizopatikana kwenye mabaraza ya mtandaoni zilionyesha wakosaji wakijadili uundaji wa picha za matumizi mabaya zinazozalishwa na AI za Doe na wahasiriwa wengine wanaojulikana wa nyenzo za unyanyasaji wa urithi.
Nadharia ya Kisheria: Data ya Mafunzo, Sio Matokeo Tu
Kinachotofautisha uwasilishaji huu na kesi ya awali dhidi ya xAI ni kuzingatia kwake muundo wenyewe badala ya kile ambacho watumiaji binafsi walizalisha. Malalamiko yanasema kuwa kwa sababu sheria na masharti ya Grok huchukulia machapisho ya umma kwenye X na matokeo ya Grok mwenyewe kama data ya mafunzo kwa chaguo-msingi, kitu chochote kinachotumwa hulishwa hadharani moja kwa moja kwenye bomba linalotumiwa kufunza na kuboresha muundo.
Jalada hili linakubali kwamba xAI huchuja maudhui ya vurugu kutoka kwa data yake ya mafunzo, lakini inadai kuwa masharti ya kampuni hayabainishi ikiwa nyenzo za unyanyasaji wa kingono kwa watoto, picha za karibu zisizo na ridhaa, au maudhui mengine ya watu wazima yamo katika kategoria zisizojumuishwa. Pia inahoji kuwa hata pale ambapo picha za kuudhi zinaondolewa, ushawishi wa mfano wa mafunzo kwenye kielelezo kilichofunzwa tayari ni vigumu kuondoa kikamilifu - na kwamba xAI haijadai hadharani kuwa imefanya hivyo.
Kesi Inatafuta Nini
Ikiwa darasa lililopendekezwa litathibitishwa, litawakilisha kila mtu ambaye picha zake za utotoni zilidaiwa kutumika kutengeneza nyenzo za unyanyasaji na Grok. Kesi hiyo inaomba sheria za shirikisho za ponografia ya watoto na Sheria ya Masha, ambayo inawapa walionusurika wa nyenzo za unyanyasaji haki ya kushtaki juu ya utengenezaji, umiliki na usambazaji wake.
"Zote tatu ni uhalifu, na xAI ilifanya yote matatu," Margaret E. Mabie, mmoja wa mawakili wa Doe, alisema katika taarifa kwa vyombo vya habari iliyotajwa na Ars Technica.
Zaidi ya uharibifu wa kifedha, Doe anaiomba mahakama iamuru xAI kuharibu nyenzo zote za unyanyasaji zinazozalishwa na Grok ambayo inaweza kuwa inahifadhi na kutumia kwa mafunzo, na kuzuia mtindo huo kutoa matokeo ya ngono ya aina yoyote - matakwa ambayo yanaweza kuzuia sio tu picha za unyanyasaji bali pia picha za karibu zisizo na ridhaa na maudhui ya watu wazima ambayo Elon Musk ametangaza hadharani kama vipengele.
"Doe ameishi kwa takriban miongo miwili akijua kwamba picha za jambo baya zaidi kuwahi kumtokea zinasambaa miongoni mwa wanyama wanaokula wenzao mtandaoni, na kwamba wanaweza kujitokeza tena wakati wowote," Sarah London, mawakili mwingine wa Doe, alisema katika taarifa kwa vyombo vya habari. "xAI lazima iwajibike kwa kuwafunza wanamitindo wake kwa kujua picha za unyanyasaji wa kutisha alioteseka."
Hesabu ya Kisheria Inayopanda
Uwasilishaji ni hatua ya hivi punde zaidi katika mzozo wa kisheria unaoongezeka juu ya uwezo wa picha na video wa Grok. Katika kesi tofauti huko Tennessee, mwanamke aliyetambuliwa kama Jane Doe 4 alijiunga na kesi akidai kwamba picha moja ya utoto ilitumiwa na Grok kutoa maelfu ya picha zake - madai ya AI Buzz Wire yaliyotolewa mapema mwezi huu. Wadhibiti na mahakama wanachunguza jinsi matatizo yanavyoendelea, na baadhi ya watumiaji wa Grok wamekamatwa kutokana na nyenzo walizozalisha.
Wakati huo huo, xAI imekuwa na hatia dhidi ya watumiaji wake. Politico iliripoti wiki hii kwamba kampuni hiyo inawashtaki baadhi ya watumiaji wake hata kesi za waathiriwa zinapokuwa zikiongezeka, mkakati ambao hupima ikiwa majukwaa au watu wanaowachochea wanawajibika kisheria kwa kile ambacho muundo wa AI hutoa.
Malalamiko mapya yanaweka swali la data ya mafunzo katikati ya pambano hilo. Ikiwa mahakama itakubali hoja kwamba seti ya mafunzo ya muundo inaweza kuunda dhima kwa kile inachowawezesha watumiaji kuzalisha, madhara yatafikia mbali zaidi ya xAI - kugusa kila kampuni ya uzalishaji ya picha na video ambayo masharti yake hulisha maudhui ya mtumiaji kwenye mafunzo. Kwa sasa, madai ni hayo tu: madai katika faili xAI bado hayajajibiwa mahakamani.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
