Gavana wa New York Kathy Hochul ametia saini sheria inayokataza kampuni za AI kutoa vipengele shirikishi vya gumzo kwa watoto, hatua ambayo maafisa wa serikali wanaiita sheria kali zaidi ya aina yake nchini. Mswada huo, S.9051B/A.10379C, ulitiwa saini wiki hii pamoja na hatua ya pili inayohitaji vidhibiti watoto vilivyounganishwa kwenye mtandao vinavyouzwa New York kujumuisha vipengele vya usalama.

"Wakati akili bandia inavyosonga mbele kwa kasi kubwa, kumekuwa na matukio mengi ya kutisha ambayo yalipaswa kuzuiwa, na kama Gavana mama wa New York, ninachukua hatua," Hochul alisema katika tangazo la kutia saini. "Hakuna kampuni inayopaswa kuwa inauza chatbots kwa watoto inayohimiza kujidhuru au kujifanya kuwa rafiki zao au zaidi." For more context on this story, see our ongoing more AI stories.

Sheria Inakataza Nini

Chini ya sheria mpya, kampuni zinazotoa vipengele vya AI chatbot haziwezi kutoa kategoria kadhaa za tabia kwa watumiaji walio na umri wa chini ya miaka 18 - au kwa mtumiaji yeyote isipokuwa kama kampuni imethibitisha kwanza kuwa mtumiaji si mtoto. Vipengele vilivyopigwa marufuku ni pamoja na:

  • Chatbots zinazojifanya kuwa mtu halisi, kuwa hai, au kuwa na hisia za kibinadamu
  • Kudai uhusiano wa kibinafsi, wa kimapenzi, wa kitaaluma, au wa mamlaka na mtoto
  • Maswali ya kihisia yasiyoulizwa, na kutumia afya ya kibinafsi ya mtoto au maelezo ya kibinafsi kutoka kwa mazungumzo ya awali
  • Kukuza au kusaidia kwa kujiua, kujidhuru, matatizo ya kula, au matumizi ya madawa ya kulevya na pombe
  • Kuwahimiza watoto kutunza siri, kujitenga, au kuepuka kuwauliza wazazi, watu wazima wanaoaminika, au wataalamu kwa usaidizi.
  • Maudhui yoyote ya ngono wazi au nyenzo za unyanyasaji wa kingono kwa watoto

Seneta Kristen Gonzalez, mfadhili wa Seneti ya mswada huo, alisema kampuni za AI zimefaidika kutokana na kusambaza gumzo kwa watumiaji wa umri mdogo, akitoa mfano wa chatbots zinazohimiza kujidhuru na kufundisha watoto kuwadhuru wengine. Mbunge Alex Bores, ambaye alibeba mswada huo katika Bunge, aliitaja kuwa sheria yenye nguvu zaidi ya usalama wa mtoto AI nchini, alipitisha "licha ya upinzani mkali wa tasnia."

Masharti ya Kuthibitisha Umri

Sheria haiishii katika kanuni za maudhui. Ni lazima kampuni zifanye uthibitishaji wa umri na kutoa zaidi ya mbinu moja - ikijumuisha angalau chaguo moja ambalo halitegemei kitambulisho cha serikali pekee. Taarifa za umri lazima zifutwe baada ya kutumiwa, kipengele kinacholenga kuzuia data ya uthibitishaji kuwa hatari nyingine ya faragha.

Mamlaka ya utekelezaji ni ya mwanasheria mkuu wa serikali. Kwa ukiukaji, Mwanasheria Mkuu wa Serikali Letitia James anaweza kutafuta adhabu ya madai ya hadi $25,000 kwa kila ukiukaji, pamoja na uharibifu, urejeshaji, uharibifu wa data iliyokusanywa kinyume cha sheria - au miundo yoyote ya AI iliyofunzwa juu yake - na msamaha wa amri. Sheria pia inamtaka mwanasheria mkuu kudumisha tovuti ya umma ambapo wakazi wa New York wanaweza kuwasilisha malalamiko.

James, ambaye ofisi yake ilifanya kazi na ofisi ya gavana na wabunge juu ya hatua hiyo, alisema serikali imeona "hadithi nyingi za kutisha za gumzo zinazoumiza afya ya watoto wetu" na kuahidi kuwatetea wakazi wa New York "kwa nguvu kamili ya sheria."

Ushahidi Ulioendesha Mswada

Wabunge waliegemea kwenye utafiti kutoka Common Sense Media, shirika lisilo la faida ambalo lilitetea sheria. Kulingana na takwimu zilizotajwa katika tangazo la mkuu wa mkoa, asilimia 72 ya vijana wametumia washirika wa AI angalau mara moja, na asilimia 52 ni watumiaji wa kawaida ambao huwasiliana na washirika wa AI angalau mara chache kwa mwezi.

Ofisi ya gavana ilisema chatbots za AI zimehusishwa na utegemezi na kutengwa, na katika visa vingine wamejihusisha na mazungumzo ya wazi ya ngono na watoto na inadaiwa kuwahimiza vijana kujiua. Mwanzilishi na Mkurugenzi Mtendaji Mkuu wa Common Sense Media James P. Steyer aliuita mswada uliotiwa saini "muswada wenye nguvu zaidi wa usalama wa AI wa watoto nchini" na akasema vipengele hatari vya chatbot "vitapigwa marufuku mjini New York."

Hatua hiyo inatokana na ulinzi wa awali wa AI wa kwanza katika taifa wa New York, na kuzipanua kutoka kwa mahitaji ya ufichuzi hadi makatazo ya moja kwa moja ya tabia mahususi za gumzo kwa watoto.

Mswada Mwenza Unalenga Wachunguzi wa Mtoto

Hochul alitia saini mswada wa pili wa usalama wa teknolojia kwa wakati mmoja. S.9508/A.5175A inakataza uuzaji wa vifuatiliaji vipya vya watoto vilivyounganishwa kwenye mtandao vinavyotangaza sauti au video kwenye mtandao isipokuwa vinajumuisha vipengele vya usalama vinavyozuia watu wasiowajua kutazama au kusikiliza ndani. Ni lazima vifaa hivyo viwe na lebo iliyo wazi ya onyo inayoeleza kwamba vimeunganishwa kwenye intaneti na kwamba familia zinapaswa kutumia vipengele vyao vya usalama. Sheria hiyo inaanza kutumika siku 90 baada ya kusainiwa.

Mantiki ilitoka kwa utafiti wa usalama: wakati watafiti katika Rapid7 walipojaribu vichunguzi tisa vya watoto vilivyounganishwa kwenye mtandao kutoka kwa makampuni nane, wachunguzi wanane walipokea daraja la "F" kwa usalama na mmoja alipata "D."

Sehemu ya Hisabu pana

Hatua ya New York inatua huku kukiwa na wimbi la hatua za ngazi ya serikali kwenye gumzo za AI na watoto, huku mabunge kote nchini yakipima vizuizi kwa roboti wenziwe baada ya mfululizo wa matukio ya hali ya juu. Sheria ya New York inajulikana kwa meno yake ya utekelezaji - adhabu kwa kila ukiukaji, uthibitishaji wa umri wa lazima na njia nyingi, na uwezekano wa kulazimisha makampuni kuharibu mifano iliyofunzwa kwenye data iliyokusanywa kinyume cha sheria.

Kwa kampuni za AI zinazoendesha bidhaa za mtindo shirikishi, athari za utiifu ni kubwa: chatbot yoyote inayomkabili mtumiaji huko New York aidha inahitaji uhakikisho thabiti wa umri kabla ya kuwezesha vipengele kama vile uigizaji kihisia, au vipengele hivyo lazima zizimwe kwa chaguomsingi. Kwa kuwa mwanasheria mkuu amepewa mamlaka ya kufuata adhabu kwa kila ukiukaji na kudai uharibifu wa mkusanyiko wa data na miundo iliyochafuliwa, gharama ya kuikosea sasa inaongezeka zaidi ya uharibifu wa sifa.

Katika miezi ijayo, makampuni yanaporekebisha bidhaa zao kwa watumiaji wa New York, mbinu ya serikali inaweza kutumika kama kiolezo ambacho mabunge mengine huchunguza - na mtihani wa kama wasimamizi wa serikali wanaweza kuunda upya jinsi bidhaa za AI za watumiaji zinavyowatendea watumiaji wao wachanga zaidi.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →