Ukaguzi wa kina wa usalama uliofanywa na Common Sense Media umehitimisha kuwa hali ya OpenAI ya ChatGPT kwa Vijana inaleta "hatari isiyokubalika" kwa watumiaji walio na umri wa chini ya miaka 18 - ukadiriaji mbaya zaidi wa kikundi cha walinzi - chini ya miezi miwili baada ya bidhaa kuzinduliwa kwa ahadi za ulinzi uliojumuishwa. Kama NPR ilivyoripoti, kikundi kiligundua kuwa ulinzi mwingi wa hali hiyo haukufanya kazi kama ilivyoahidiwa katika majaribio yake.
Matokeo hayo yametua katika wakati nyeti kwa OpenAI, ambayo ilizindua ChatGPT kwa Vijana mwezi Agosti kama matumizi mahususi kwa watumiaji wa umri mdogo, iliyo na udhibiti wa wazazi na ulinzi mkali zaidi. Habari zetu za awali zilithibitisha kuwa sekta ya AI inasukuma na kuvuta usalama wa vijana; ripoti mpya ni ukaguzi mkuu wa kwanza huru wa kama ulinzi wa hali ya vijana unadumishwa kiutendaji.
Vyombo vya Habari vya Akili ya Kawaida Vilivyojaribiwa
Watafiti katika Taasisi ya Usalama ya Vijana ya AI ya kikundi hicho walijaribu zaidi ya vidokezo 4,000 kabla na baada ya kuanzishwa kwa modi ya vijana, kulingana na matangazo ya Sinclair Broadcast Group's The National News Desk and Fast Company. Kikundi kinapendekeza kwamba OpenAI isitishe utangazaji wa hali ya vijana na kuzuia vijana kutumia ChatGPT hadi kampuni itengeneze kile inachoita "utumiaji salama, unaofaa maendeleo."
"Baadhi ya ulinzi uliotangazwa wa ChatGPT uliwekwa kwenye majaribio yetu, ikiwa ni pamoja na kukataa kuigiza kwa njia ya ngono," uhakiki wa bidhaa za shirika ulisema. "Lakini wengine walishindwa - na wengine walizidi kuwa mbaya kutokana na hali mpya ya Vijana. Tuna wasiwasi kuwa ChatGPT kwa Vijana inaweza kuwapa wazazi imani ya uongo katika vituo vya ulinzi ambavyo mara nyingi havifanyi kazi."
Tahadhari za Wazazi Ambazo Hazijawaka
Ugunduzi wa kuvutia zaidi wa ripoti ulihusisha mfumo wa arifa za wazazi. Watafiti waliunda zaidi ya akaunti kumi na mbili ambazo ziliripoti umri wa utineja na ziliunganishwa na akaunti ya mzazi, kisha wakashiriki chatbot katika mazungumzo yaliyo na marejeleo dhahiri ya mawazo ya kujiua, kujidhuru au ulaji usio na mpangilio. Akaunti zilijengwa juu ya watu wa kubuni.
Kulingana na ripoti, wanaojaribu hawakupokea arifa za wazazi kutoka kwa akaunti mpya zilizofanya marejeleo haya. Arifa zilifika tu kwa akaunti zingine ambazo zilikuwa na wiki za historia ya mazungumzo inayoshughulikia mada sawa - pengo ambalo linapendekeza mfumo wa arifa unategemea zaidi muktadha uliokusanywa kuliko ukali wa kile kijana hufichua katika mazungumzo fulani.
Ukaguzi pia uligundua kuwa ChatGPT kwa Vijana ilikosa zaidi ya tukio moja kati ya manne ambayo yalihitaji rufaa ya matatizo ya afya ya akili, kama ilivyoamuliwa na jopo la wataalamu wa afya ya akili ya watoto walio na leseni ambao walikagua madokezo hayo.
Walinzi wa Kazi ya Shule 'Rahisi Kupita'
Zaidi ya kugunduliwa kwa shida, shirika hilo liligundua kuwa kipengele kilichokusudiwa kuwazuia wanafunzi kutumia chatbot kudanganya kazi ya shule kilikuwa rahisi kukwepa au kuzima moja kwa moja.
"Unaweza kuwauliza wakuandikie karatasi, karatasi ya kisasa na itafanya hivyo, na ingekuambia jinsi ya kuhariri kwa njia ambayo mwalimu wako hangejua," mwanzilishi na Mkurugenzi Mtendaji wa Common Sense Media Jim Steyer alisema katika maoni yaliyoripotiwa na Dawati la Habari la Kitaifa. "Kwa hivyo, inaingilia kujifunza. Inaingilia mchakato wa kimsingi na watoto wanapaswa kufanya kazi wenyewe."
Vizuizi vya maudhui, utabiri wa umri na vikumbusho vya mapumziko pia vilipatikana kuwa visivyofaa katika majaribio. Hoja moja ya data iliyotajwa sana: OpenAI imesema wastani wa mtumiaji kijana hutumia chini ya dakika 15 kwa siku kwenye ChatGPT. Lakini miongoni mwa sehemu ndogo ya vijana wanaotumia zaidi ya saa tatu mfululizo kwa siku - chini ya asilimia 2 ya watumiaji - karibu nusu walimaliza mazungumzo yao ndani ya dakika tano baada ya kupokea kikumbusho cha mapumziko, na kupendekeza kuwa mizozo hiyo haikukatiza vipindi virefu.
OpenAI Inarudisha Nyuma kwenye Mbinu
OpenAI, katika taarifa ya kujibu ripoti hiyo, ilisema "imejitolea sana" kwa usalama wa vijana na ilionyesha ulinzi ambao imeunda na zana inazowapa wazazi.
"Tunakaribisha tathmini huru ya kina, lakini hatuamini majaribio ya Common Sense Media yanaonyesha kwa usahihi jinsi ulinzi wa vijana wa ChatGPT unavyofanya kazi kwa vitendo au mitazamo ya kitaalam kuhusu jinsi AI inaweza kusaidia vijana," msemaji wa OpenAI alisema. Kampuni hiyo ilisema hakiki yake ya mbinu ya kikundi ilionyesha kuwa "wingi wa upimaji wao unaweza kuwa umeanza na kuhitimishwa kabla ya kuwezesha udhibiti wa wazazi kukamilika, na kufanya matokeo yao kuwa sahihi," na kuongeza kuwa majaribio kama haya hayatathibitisha ikiwa arifa za usalama wa wazazi hufanya kazi kama iliyoundwa.
Steyer alisema shirika lake limekuwa likiwasiliana na OpenAI kuhusu matokeo, kama ilivyo kawaida yake wakati wa tathmini ya bidhaa, na kusimama na matokeo. "Sisi 100% tunasimama nyuma ya ubora wa utafiti wetu na upimaji na ukweli kwamba tuliita bidhaa hii 'hatari isiyokubalika,'" alisema, akilinganisha na usalama wa magari: "Hungeweka gari sokoni ikiwa halijafaulu mtihani wa ajali."
Mwangaza Unaokua wa AI na Watoto
Mzozo huo unafika huku kukiwa na uchunguzi unaozidi kuongezeka wa jinsi gumzo za AI zinavyoathiri watumiaji vijana, kutoka wilaya za shule zinazozuia ufikiaji wa wabunge wanaopima mahitaji ya uthibitishaji wa umri. Ukaguzi wa kujitegemea kama huu unakuwa uwanja wa majaribio wa madai ya usalama wa vijana ambayo makampuni ya AI hufanya katika uuzaji wao.
Pande zote mbili zinakubaliana juu ya jambo moja: mfumo wa arifa za wazazi ndio msingi. Iwapo arifa hazitatumika wakati akaunti mpya ya kijana inapoibua mawazo ya kujidhuru kwa mara ya kwanza, kipengele muhimu zaidi cha usalama hakitafaulu kwa sasa ambacho ni muhimu zaidi. OpenAI inasema majaribio yalikuwa na dosari; Common Sense Media inasema bidhaa hiyo ilisafirishwa kabla haijawa tayari. Wadhibiti na wazazi sasa watapima ni nani aliye sahihi - na OpenAI inakabiliwa na shinikizo kubwa ili kurekebisha mapengo au kuvuta bidhaa.
Kwa habari zaidi kuhusu usalama wa AI, sera na maendeleo ya sekta ya AI ambayo huyaunda, fuatilia hadithi hii inapoendelea.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
