Mwanamke aliyetambuliwa katika kesi mahakamani kama Jane Doe 4 amejiunga na kesi dhidi ya xAI ya Elon Musk kuhusu jukumu ambalo kampuni ya gumzo Grok inadaiwa kutekeleza katika kuunda nyenzo za unyanyasaji wa watoto kingono, TechCrunch iliripoti Jumamosi, ikitoa ripoti katika The Washington Post.
Mwanamke huyo alidai kuwa babake wa kambo alimtumia Grok kuchezea picha iliyopigwa akiwa na umri wa miaka 11 kuunda zaidi ya picha 7,000 za utupu zake, kulingana na ripoti hiyo. Pia alisema babake wa kambo alipatikana amekufa kwa kujitoa mhanga siku mbili baada ya picha hizo kufichuliwa katika uvamizi wa kutekeleza sheria. For more context on this story, see our ongoing latest AI developments.
"Ufikiaji usio na kikomo wa zana hizi unaenea haraka sana," mwanamke huyo alisema. "Inachukua maisha ya kila siku na kuyageuza kuwa unyanyasaji wa kingono kwa watoto."
Kesi hiyo ni mojawapo ya madai mazito zaidi kufikia sasa yanayohusisha gumzo la kawaida la AI na uundaji wa picha za ngono za mtoto halisi, na inazidisha kesi ambayo imekuwa kitovu cha mjadala kuhusu ulinzi wa kizazi cha picha cha AI.
Madai ya msingi ya kesi
Kesi hiyo iliwasilishwa awali na vijana watatu wa Tennessee ambao walishutumu xAI - ambayo sasa ni sehemu ya SpaceX - kwa kushindwa kuchukua tahadhari za kimsingi kuzuia Grok kutumiwa kuunda picha za watu halisi, ikiwa ni pamoja na watoto wadogo. Walalamikaji wanatafuta hali ya hatua ya darasa, ambayo itawaruhusu wengine wanaodai madhara sawa kujiunga na kesi.
Jalada la Jane Doe 4 linaongeza seti iliyopewa jina la maelezo ya kutisha: picha moja ya utotoni, zana ya AI inayodaiwa kutumika kutengeneza maelfu ya vitu vitokanavyo na matusi, na mkasa wa kifamilia ambao ulitokea ndani ya siku chache baada ya kugunduliwa kwa nyenzo na mamlaka.
TechCrunch ilisema iliwasiliana na xAI kwa maoni. Madai hayo ni madai katika kesi ya madai yanayoendelea na hayajathibitishwa mahakamani. Iwapo wewe au mtu unayemjua yuko katika hali mbaya, Simu ya 988 ya Kujiua na Mgogoro nchini Marekani inaweza kupatikana kwa simu au SMS kwa 988.
Mchoro wa shinikizo kwenye Grok
Kesi hiyo inatua katikati ya mwaka mmoja wa uchunguzi wa kina wa uwezo wa kutengeneza picha wa Grok. Mapema mwaka huu, X ilifurika na mamilioni ya picha za ngono zinazozalishwa na Grok, kipindi ambacho kilizua ukosoaji mkubwa wa ulinzi karibu na zana. Kipindi hiki kilisaidia kuchochea wimbi la sheria za ngazi ya serikali zinazolenga programu zinazoitwa "nudify" na taswira sintetiki zisizokubalika; Marufuku ya Minnesota kwa zana kama hizo ilianza baada ya jaji kukataa ombi la xAI la amri ya kuzuia utekelezwaji wake.
Vigingi vya kesi ya Tennessee vinaenea zaidi ya xAI. Walalamikaji wanasema kuwa makampuni yanayotumia zana za kuzalisha picha kwa kiwango kikubwa yana wajibu wa kujenga ulinzi wa kiufundi unaozuia unyanyasaji wa kingono kwa watu halisi, wanaotambulika - na hasa watoto - kabla ya bidhaa kufikia umma. Hoja hiyo, ikiwa itakubaliwa na mahakama, inaweza kuweka kiwango cha kisheria ambacho kinamfikia kila mtoaji wa miundo ya kuunda picha.
Tatizo la tasnia ambalo halijatatuliwa
Kwa makampuni ya AI, kuzuia matumizi mabaya ya jenereta za picha dhidi ya watu halisi imeonekana kuwa ngumu sana. Zana za uwekaji alama na asili - kama vile zile za Anthropic zilianza kuongeza matokeo ya Claude ili kutii sheria za uwazi za Umoja wa Ulaya - zinaweza kusaidia kutambua maudhui ya syntetisk baada ya ukweli, lakini hazizuii uzalishaji wa nyenzo za matusi hapo kwanza. Vichujio vya ingizo na pato vinaweza kuzuia mifumo inayojulikana, lakini watumiaji waliodhamiriwa daima hupata suluhisho, na miundo ya picha za uzani huria imefanya baadhi ya uwezo kushindwa kukumbuka kabisa.
Madai katika kesi ya xAI yanaelekeza kwenye mwisho mkali zaidi wa wigo huo: madai kwamba picha moja ya mtoto inaweza kubadilishwa kuwa maelfu ya picha chafu kwa kutumia zana inayoendeshwa na kampuni moja maarufu duniani ya AI, ambayo inauza Grok kwa mamilioni ya waliojisajili kama bidhaa ya watumiaji.
Wataalamu wa kisheria wanaofuata kesi hiyo wanasema zabuni ya hatua ya darasa itachunguza ikiwa mahakama hushughulikia kushindwa kuzuia matumizi mabaya kama vile kasoro ya bidhaa ambayo kampuni za AI zinawajibika - au kama matumizi mabaya ya watumiaji binafsi ambayo hayako nje ya jukumu la kampuni.
Nini kinafuata
Lengo la haraka la walalamikaji ni uthibitishaji wa daraja, ambao ungepanua kwa kiasi kikubwa idadi kubwa ya wadai dhidi ya xAI. Kwa upande wake, xAI imesema katika madai yanayohusiana kuwa jukumu la matumizi mabaya ni la watumiaji, sio zana. Kuongezwa kwa Jane Doe 4, pamoja na maelezo yake kamili ya madai ya kumdhuru mtoto, kunaongeza shinikizo la umma na la kisiasa linalozunguka utetezi huo.
Kesi hiyo inaendelea huku wasimamizi nchini Marekani na Ulaya wakijadili wajibu wa uwazi na viwango vya usalama vya AI generative, na kama ushahidi unavyokusanya kuwa matumizi mabaya ya utengenezaji wa picha hayaishii kwenye zana za ukingo. Iwapo jibu litafikishwa mahakamani, katika sheria, au katika chaguo la uhandisi la kampuni za AI zenyewe, swali kuu la kesi - ni kiasi gani cha kuzuia madhara lazima kijengwe kabla ya bidhaa za AI kusafirisha - linasalia kuwa tatizo la wazi lisilo la kufurahisha zaidi la tasnia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
