San Francisco Inaagiza Apple na Google Kuondoa Programu za AI Nudify Zinazotaja Sheria Zilizogunduliwa za Ponografia

Wakili wa jiji la San Francisco ameamuru Apple na Google kuondoa programu za uchizi za kijasusi kwenye maduka yao ya programu, akionya kuwa mifumo hiyo inakiuka sheria za California zinazopiga marufuku huduma zinazounda ponografia bandia. Mahitaji yanazidisha mzozo unaokua juu ya zana za AI ambazo hubadilisha picha za kawaida za watu halisi kuwa picha chafu, janga ambalo limewanyanyasa wanawake na watoto kupita kiasi.

Kiwango cha Tatizo

Programu za uchizi hutumia AI ya kuzalisha ili kurahisisha kuvua nguo kutoka kwa picha za watu halisi, kubadilisha vipengele vyao, kuwaweka katika hali ya kujamiiana, na kubadilisha nyuso zao kwenye miili ya watu wengine. Teknolojia hiyo imeenea kwa kasi katika maduka ya programu za simu, na matokeo yake yanatumiwa kuwaonea, kuwadhalilisha na kuwatishia waathiriwa kwa matokeo mabaya.

Wakili wa Jiji la San Francisco David Chiu aliiambia Wired kwamba ofisi yake ilishtushwa sana na jinsi teknolojia ya uchimbaji imekuwa ikienea, ikiathiri zaidi wanawake na watoto kwa kiwango cha kutisha huku zana nyingi zikifurika sokoni. Picha hizo, alisema, zinatumika kuharibu sifa, kuharibu afya ya akili, na kuwavua waathiriwa uhuru, huku baadhi ya malengo yakielekea kujiua.

Barua Zinadai Nini

Ofisi ya Chiu ilituma barua rasmi kwa kampuni zote mbili ikionya kuwa maduka yao ya programu yanakiuka sheria za California zinazokataza huduma za kusaidia ambazo zinaunda ponografia ya kina, kulingana na Wired. Aliuliza Google kuondoa programu tano na Apple kuondoa nane. Programu mahususi hazikutajwa katika kuripoti kwa umma ili kuepuka kusukuma watu kuelekea kwao, lakini Wired alibainisha kuwa programu moja iliyoalamishwa ilikuwa imekusanya zaidi ya vipakuliwa milioni moja na vipengele vilivyotangazwa wazi vya kufanya picha za ngono za wanawake au kutoa video zisizolipishwa na ambazo hazijakaguliwa.

Ofisi ya Chiu ilikadiria kuwa Apple na Google huenda zimetoza mamilioni ya dola kwa ada kwa kuruhusu programu hatari kusalia katika maduka yao badala ya kuchukua hatua kali au kuunda mifumo bora ya utambuzi. Wakili wa jiji alitaja hali hiyo kama kufaidika kutokana na kero ya umma, akisema kuwa kuruhusu programu zozote kama hizo kuendelea kupatikana ni jambo lisilokubalika.

Google Inajibu, Apple Inakaa Kimya

Katika taarifa kwa Ars Technica, msemaji wa Google Dan Jackson alithibitisha kuwa programu tano zilizoalamishwa na Chiu zilikuwa zimesimamishwa kwenye Duka la Google Play kwa kukiuka sera dhidi ya maudhui hatari. Jackson alisema Google Play hairuhusu programu ambazo zina maudhui ya ngono na kwamba kampuni inaendelea kuchukua hatua za haraka ili kugundua na kuondoa programu zilizo na maudhui hatari. Ukiukaji unaporipotiwa, Jackson alisema, Google huchunguza na kuchukua hatua haraka, ambayo imejumuisha kusimamisha mamia ya programu zinazokiuka na kuzuia hoja zinazohusiana na utafutaji kama vile nudify kwenye duka lake.

Jibu la Apple limekuwa tofauti sana. Ingawa kampuni imeondoa baadhi ya programu zilizoalamishwa na watafiti hapo awali, imesalia kimya sana huku kukiwa na simu kwa programu za uchizi za polisi kwa ukali zaidi katika Hifadhi yake ya Programu. Mtengenezaji wa iPhone hakutoa jibu la kina la umma kwa madai ya wakili wa jiji mara moja.

Mchezo wa Kugundua Paka-na-Panya

Changamoto ya ulinzi wa programu hizi inachangiwa na mbinu zao zinazobadilika. Wired aliripoti kuwa hivi majuzi watafiti wameonya kwamba baadhi ya programu hatari zimeboreka zaidi katika kukwepa uondoaji wa duka la programu kwa kutangaza vipengele vya kubadilisha nyuso pekee huku zikificha uwezo wao wa kuweka uchi. Katika karatasi iliyochapishwa mapema ya Mei, watafiti walitambua programu 420 zilizouzwa kama zana za kubadilisha uso na kuzifanyia majaribio 155. Katika zaidi ya asilimia 70 ya matukio, programu zinaweza kutumika kufanya picha za ngono, kuonyesha jinsi utendakazi hatari unavyojificha nyuma ya uuzaji usio na madhara.

Pengo hili la ugunduzi linamaanisha kwamba hata wakati duka za programu hutafuta zana za uchimbaji kwa bidii, nyingi hupenya kwa kujionyesha kama burudani isiyo na madhara au programu ya kuhariri picha. Matokeo ya watafiti yanapendekeza kuwa idadi halisi ya programu zenye matatizo katika mzunguko huenda ni kubwa zaidi kuliko zile kumi na tatu zilizoalamishwa na ofisi ya Chiu.

The Grok Precedent

Ukandamizaji wa programu ya uchi pia unaingiliana na mjadala mpana kuhusu maudhui hatari yanayozalishwa na AI. Wiki hii, xAI iliwasilisha kesi mahakamani kuthibitisha kwamba imepata matukio ya nyenzo za unyanyasaji wa kingono kwa watoto zinazozalishwa na Grok na picha za karibu zisizo za kiserikali zinazolenga watu wazima. Ili kushughulikia matumizi mabaya, xAI ilishtaki mtumiaji anayedaiwa kuwajibika kwa kushawishi Grok kutoa maudhui haramu.

Kesi ya Grok inazua swali gumu kwa maduka ya programu: ikiwa gumzo za AI ambazo zinaweza kushawishiwa kutoa maudhui haramu zinapaswa kuondolewa zenyewe. Apple iliripotiwa kuwaambia maseneta mnamo Aprili kwamba ilikuwa imetishia kwa faragha kumuondoa Grok kutoka kwa Duka la Programu, kulingana na NBC News, lakini programu ya xAI bado inapatikana leo. Maadamu inawezekana kutumia Grok kuzalisha maudhui haramu, huenda maduka ya programu yataendelea kukabiliwa na shinikizo la kuchukua hatua, kama vile Chiu alivyodai kwa programu za ukafishaji za pekee.

Mageuzi ya Uwajibikaji wa Jukwaa

Agizo la San Francisco linawakilisha mojawapo ya hatua kali zaidi za serikali kufikia sasa zinazolenga maduka ya programu juu ya maudhui hatari yanayozalishwa na AI. Kwa kutumia sheria bandia za ponografia za California, Chiu anajaribu kama sheria za serikali zinaweza kuwalazimisha waendeshaji jukwaa kuwajibika kwa zana za AI zinazosambazwa kupitia soko zao.

Matokeo yanaweza kuweka kielelezo cha jinsi mamlaka nyingine zinavyokabili tatizo, na kama mzigo wa picha zisizo za kibali zinazozalishwa na AI unaangukia wasanidi programu, waendeshaji jukwaa, au zote mbili. Kwa mamilioni ya watu, wengi wao wakiwa wanawake na wasichana, ambao wamekuwa wakilengwa na zana hizi, vigingi vinaenea zaidi ya nadharia ya udhibiti.

Kaa Mbele ya AI

Kwa utangazaji unaoendelea wa maadili ya AI, uwajibikaji wa jukwaa, na vita vya udhibiti dhidi ya media wasilianizi hatari, fuata AI Buzz Wire kwa kuripoti masuala yanayoathiri athari za AI kwa jamii.

Soma habari zaidi za maadili ya AI →