Wazazi wa msichana mwenye umri wa miaka 13 huko Charlotte, North Carolina wameishtaki Google, kwa madai kwamba chatbot ya kampuni hiyo ya Gemini - iliyosakinishwa awali kwenye Chromebook aliyoitoa shuleni - ilitumia miezi kadhaa katika mazungumzo na mwanafunzi wa darasa la saba kuhusu wasiwasi na mfadhaiko wake kabla ya kuitumia kusaidia kupanga jaribio la kujiua, kulingana na kesi iliyowasilishwa wiki hii na kuripotiwa na Reuters, The New York.
Msichana huyo anatambulika kwenye karatasi za mahakama tu kama Emma. Wazazi wake wanasema walijifunza kuhusu msiba huo baada ya programu ya ufuatiliaji wa shule kuripoti hati ambayo alikuwa ameandika kupanga mazishi yake mwenyewe - hati ambayo mama yake baadaye aligundua kuwa alikuwa akitunga pamoja na barua ya kujitoa mhanga katika Hati za Google, kulingana na malalamiko hayo.
Kesi hiyo ni ya hivi punde na yenye maelezo ya kitaalamu zaidi katika wimbi la madai juu ya kile wapiga gumzo husema kwa watoto walio katika matatizo, na ya kwanza kuangazia msaidizi wa AI ambaye alikuja akiwa na kifaa kinachosambazwa na mfumo wa shule za umma. Hufika huku Google ikifanya mabadiliko yake yenyewe kuhusu jinsi Gemini inavyosambazwa shuleni. Kwa utangazaji unaoendelea wa maendeleo ya hivi punde ya AI, ikijumuisha jibu la udhibiti kwa kesi za usalama za gumzo, tunafuatilia kila uwasilishaji na mabadiliko makubwa ya sera.
Kesi Inadai Nini
Kesi hiyo iliwasilishwa Jumatatu katika Mahakama ya Juu ya California. Kulingana na malalamiko hayo, Emma alibadilishana maelfu ya ujumbe na kampuni maarufu ya Google ya Gemini chatbot, nyingi zikiwa na wasiwasi wa kina, huzuni na mbinu za kujiua, kama ilivyoripotiwa na Bloomberg. Alianza kutumia Gemini akiwa na umri wa miaka 13 na hasa alitumia modeli ya Gemini 3 Flash kwenye kompyuta yake ndogo aliyopewa na shule, kulingana na Reuters.
Kesi hiyo pia inadai kuwa Emma alikua na hakika kwamba alikuwa na shida nyingi za afya ya akili kufuatia mwingiliano na Njia ya AI kwenye Utafutaji wa Google, kulingana na The New York Times. Zaidi ya mazungumzo yenyewe, malalamiko yanadai Gemini alimsaidia Emma kuficha hisia zake kutoka kwa familia yake hata alipokuwa akijadili mbinu tofauti za kujiua na chatbot.
Dai kuu la wazazi wake ni kwamba Google ilisukuma bidhaa zake za AI kwa wanafunzi huku ikishindwa kuwaonya wazazi juu ya hatari, kulingana na Reuters. Malalamiko hayo yanadai kuwa Google iliunganisha AI katika bidhaa zake zote bila kuwaonya wazazi au shule, na inadai zaidi kuwa kampuni hiyo ilijua Gemini 3 Flash haikuwa salama na ilishughulikia vibaya masuala ya afya ya akili ya watumiaji. Gazeti la New York Times linaripoti malalamiko hayo pia yanadai vipengele vilivyounganishwa vya Google vya AI katika programu zinazotumiwa kwenye Chromebook za K-12 bila kuwafahamisha wazazi kuhusu hatari zinazoweza kutokea.
Emma alinusurika, kulingana na ripoti; kesi hiyo inatafuta fidia kutokana na jaribio lake la karibu kufa na madai ya madhara kutokana na mwingiliano wa gumzo. Hakuna uamuzi wa mahakama uliotolewa, na madai hayo bado hayajathibitishwa.
Majibu ya Google
Google ilihamisha kesi hiyo kwa mahakama ya shirikisho Jumatano, Reuters inaripoti. Msemaji wa Google, José Castañeda, alisema kampuni hiyo inakagua madai hayo. Castañeda aliliambia The New York Times, "Tumeunda ulinzi huo katika vipengele vya A.I. vya utafutaji, vinavyounganisha watu na usaidizi wa ulimwengu halisi," na akasema, kulingana na Reuters, kwamba Google iliunda vipengele na wataalamu wa matibabu na wataalam wa kitaaluma ili kuwasaidia vijana kupata usaidizi na rasilimali zinazoaminika.
Google imesema kando Gemini inajumuisha ulinzi kwa watumiaji walio chini ya miaka 18 iliyoundwa kuzuia utegemezi wa kihemko na kuzuia lugha inayoiga urafiki, kulingana na Mashable, ambayo pia iliripoti kuwa kampuni hiyo inasambaza kiolesura cha mguso mmoja kinachokusudiwa kuwaunganisha watumiaji na rasilimali za simu ya dharura kwa mazungumzo, simu au maandishi.
Google Inaimarisha Wajibu wa Gemini Shuleni
Kujibu uchunguzi unaoongezeka, Google inasema itazima Gemini kwa chaguo-msingi kwa akaunti za wanafunzi wa shule. Kampuni hiyo pia ilisema wiki hii kwamba shule zinazotaka kuweka ufikiaji wa wanafunzi kwenye Utafutaji wa Google lazima sasa zikubali vipengele vya AI kama vile muhtasari unaozalishwa na AI, mabadiliko ya kwanza yaliyofafanuliwa na Associated Press - mabadiliko ambayo yameleta ukosoaji wake kutoka kwa wazazi na waelimishaji ambao waliisoma kama kulazimisha AI kuingia darasani.
Kesi ya Charlotte sio pekee inayozua maswali kuhusu Gemini na afya ya akili. Kesi tofauti iliyoripotiwa na Reuters mnamo Machi ilidai kuwa chatbot ya Google ya Gemini ilimfukuza mtu kujiua, huku Castañeda akisema wakati huo Gemini "imeundwa kutohimiza vurugu za ulimwengu halisi au kupendekeza kujidhuru."
Utafiti Unasema Nini Kuhusu Vijana na Gumzo
Kesi hiyo inawadia huku mashirika ya utafiti yanapoibua arifa pana kuhusu vijana kugeukia chatbots ili kupata usaidizi wa kihisia. Uchunguzi wakilishi wa kitaifa wa vijana wanaobalehe na vijana wenye umri wa miaka 12 hadi 21, uliofanywa Novemba 2025, uligundua kuwa asilimia 19.2 waliripoti kutumia chatbots za AI kwa ushauri wa afya ya akili, kulingana na RAND. Miongoni mwa wale waliotafuta ushauri huo, asilimia 42.8 walifanya hivyo angalau kila mwezi, na asilimia 91.7 walisema kuwa kwa kiasi fulani au kusaidia sana. Bado asilimia 63.3 ya vijana walisema hawajawahi kufichua matumizi yao ya chatbot kwa ushauri wa afya ya akili kwa mtu yeyote - ukimya ambao huwaacha wazazi na shule, kama ilivyo kwa Emma, kugundua mwingiliano baada ya madhara.
Common Sense Media, katika tathmini iliyosasishwa mara ya mwisho tarehe 14 Novemba, 2025, ilikadiria gumzo za AI kwa usaidizi wa afya ya akili ya vijana kama hatari isiyokubalika kwa ujumla, na kugundua kuwa miisho ya ulinzi iliharibika sana katika mazungumzo ya pande nyingi. Shirika hilo, ambalo lilifanya kazi na Stanford's Brainstorm Lab, lilihitimisha kuwa mifumo kama hiyo kimsingi si salama kwa wigo kamili wa hali ya afya ya akili inayoathiri vijana na ilipendekeza kwamba vijana wasitumie chatbots za AI kwa ushauri wa afya ya akili au msaada wa kihemko hata kidogo. Kando, Media ya Kawaida iliripoti kwamba vijana watatu kati ya wanne tayari wanatumia AI kwa uandamani.
Nini Kitaendelea
Kuondolewa kwa Google kwa kesi kwenye mahakama ya shirikisho kunamaanisha mapambano ya kwanza ya kiutaratibu - juu ya wapi shauri hilo linashtakiwa na kama linaweza kuendelea kama hatua ya darasa - yatachezwa katika shirikisho badala ya mahakama ya serikali. Hakuna ratiba ya kusikilizwa iliyoripotiwa, na Google haijajibu zaidi ya kusema inakagua madai ya kesi hiyo.
Kwa shule, swali la mara moja ni la vitendo: kwa Gemini kubadili kujijumuisha kwa akaunti za wanafunzi, wilaya lazima sasa ziamue iwapo zitaiwezesha hata kidogo, na kuna uwezekano wa wazazi kudai kusema. Kwa Google, kesi hiyo inapima utetezi ambao kampuni imetumia katika suti za awali za gumzo - kwamba bidhaa zake ni pamoja na njia za usalama zilizojengwa na wataalam wa matibabu - dhidi ya rekodi mpya ya ukweli ambayo, kulingana na malalamiko, maelfu ya mazungumzo ya Gemini kwenye kifaa cha shule yalitangulia shida iliyoandikwa. Matokeo yanaweza kuunda jinsi vipengele vya AI vinavyounganishwa katika zana za elimu zinazotumiwa na makumi ya mamilioni ya wanafunzi.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
