Mdhibiti wa Uholanzi Ametoza Faini ya Uber ya Euro Milioni 825 Juu ya Kuzimwa kwa Dereva Zinazoendeshwa na AI katika Kesi Adhimu ya GDPR

Mamlaka ya Kulinda Data ya Uholanzi (AP) imeitoza Uber faini ya Euro milioni 825 - takriban dola milioni 966 - kwa kutumia mifumo ya kiotomatiki kuzima akaunti za madereva bila kuwaarifu vya kutosha, katika kile kinachoaminika kuwa adhabu ya pili kwa ukubwa kuwahi kutolewa chini ya Kanuni ya Jumla ya Ulinzi wa Data ya Ulaya.

Uamuzi huo, ulioripotiwa Ijumaa na Reuters baada ya shirika la habari kukagua matokeo ya mdhibiti, unafika kwenye makutano ya mwelekeo mbili muhimu zaidi katika teknolojia: kuenea kwa usimamizi wa algorithmic katika uchumi wa gig, na Uropa unazidi kusisitiza utekelezaji wa sheria zinazosimamia maamuzi ya kiotomatiki. Kwa utangazaji unaoendelea wa jinsi serikali zinavyolinda mifumo ya AI, fuata Ripoti ya udhibiti ya AI Buzz Wire.

Kile Mdhibiti Amepata

Kulingana na AP, mifumo ya kiotomatiki ya Uber ilisimamisha kwa muda akaunti za madereva wengi barani Ulaya ambao walishukiwa kwa ulaghai kati ya 2020 na 2022. Katika baadhi ya matukio, madereva waliokuwa na ukadiriaji wa chini wa wateja walisimamishwa kazi kabisa.

Mdhibiti alihitimisha kuwa kitendo hicho kilikiuka haki za madereva chini ya GDPR, ambayo inazuia kampuni kuruhusu kanuni za kompyuta kufanya maamuzi ambayo yana athari kubwa kwa maisha ya watu. Kutengwa na jukwaa ambalo madereva mmoja mmoja hutegemea kwa riziki yao inachukuliwa kuwa tokeo kubwa.

"AP imeamua kuwa Uber ilikiuka haki za madereva, haswa haki ya kutokuwa chini ya maamuzi ya kiotomatiki ambayo yana matokeo makubwa," mdhibiti alisema katika uamuzi wake, kama ilivyonukuliwa na Reuters. "Uber pia imekiuka haki yao ya kufahamishwa."

Kwa nini Mdhibiti wa Uholanzi Alichukua Kesi

Uchunguzi huo ulitokana na malalamiko yaliyowasilishwa na madereva wa Uber nchini Ufaransa. AP ilishughulikia kesi hiyo kwa sababu makao makuu ya Uber ya Ulaya yako Uholanzi, na kuifanya mamlaka ya Uholanzi kuwa msimamizi mkuu wa faragha kwa shughuli za kampuni ya kuendesha gari kwenye Umoja wa Ulaya.

Kiwango cha adhabu ndicho kinachofanya kesi kuwa ya kipekee. Faini ya Euro milioni 825 inaaminika kuwa ya pili kwa juu zaidi kuwahi kutolewa chini ya GDPR, ikizidiwa tu na adhabu ya Euro bilioni 1.2 iliyowekwa kwenye Meta mnamo 2023 na mdhibiti wa ulinzi wa data wa Ireland kwa uhamishaji haramu wa data ya watumiaji wa Uropa kwenda Merika. Meta, kama Uber, ilikata rufaa dhidi ya faini hiyo, na kesi bado haijasuluhishwa.

Majibu ya Uber

Uber ilisema itakata rufaa dhidi ya uamuzi huo, ikisema kwamba haikuzima akaunti kabisa bila ukaguzi wa kibinadamu. Kampuni hiyo iliiambia Reuters kwamba haifanyi tena maamuzi ya kudumu juu ya kuzima kupitia mifumo ya kiotomatiki.

"Hatukubaliani vikali na uamuzi huu na faini isiyo na uwiano," msemaji wa Uber alisema katika taarifa, akiongeza kuwa kampuni hiyo inazingatia haki za madereva na kwamba sera zake za sasa ni pamoja na mapitio ya kibinadamu na fursa kwa madereva kupinga maamuzi ya akaunti.

Kwa Nini Kesi Ni Muhimu Zaidi ya Uber

Kwa msingi wake, uamuzi huo ni onyo kwa kila kampuni inayoruhusu programu kufanya maamuzi yanayofaa kuhusu watu - kuzima akaunti, kukata malipo, kuzuia ufikiaji wa jukwaa - bila uangalizi wa kibinadamu au uwazi.

Masharti ya kufanya maamuzi ya kiotomatiki ya GDPR yaliandikwa miaka mingi kabla ya wimbi la sasa la mawakala wa AI na zana za usimamizi wa algoriti, lakini wadhibiti wa Uropa wanazidi kuzitumia kwenye mifumo ya kisasa ya kujifunza kwa mashine. Faini ya Uber inaonyesha kuwa sheria hubeba meno: adhabu sasa zinaweza kufikia mpangilio sawa na hatua kuu za kuzuia uaminifu, na zinatumika kwa maamuzi yanayotolewa na mifumo inayofanya kazi kwa kiwango cha mamilioni ya watumiaji.

Kwa majukwaa ya uchumi wa gig, kesi hiyo ina uwezekano wa kusababisha uchunguzi mpana upya wa ugunduzi wa ulaghai, kuzima kwa msingi wa ukadiriaji, na mifumo ya uthibitishaji wa utambulisho - haswa aina ya utiririshaji wa kiotomatiki ambao kihistoria umekuwa wa bei nafuu na ni ngumu kwa wafanyikazi walioathiriwa kupinga. Madereva barani Ulaya wamelalamika kwa muda mrefu kwamba kusimamishwa kwa akaunti kunakuja bila maelezo kidogo na hakuna njia ya vitendo ya kukata rufaa, na uamuzi wa AP unathibitisha moja kwa moja kiini cha malalamiko hayo.

Uamuzi huo pia unakuja huku Brussels inapoweka majukumu ya ziada kwenye mifumo ya AI kupitia Sheria ya AI ya EU, ambayo inaweka mahitaji ya uwazi na udhibiti wa hatari kwa mifumo inayoathiri watu binafsi. Kampuni ambazo tayari hazijapanga ni ipi kati ya michakato yao ya kiotomatiki inayoangukia chini ya sheria hizi sasa zinakabiliwa na udhihirisho mkubwa wa kisheria na kifedha - ishara iliyoimarishwa na Financial Times, ambayo ilibainisha kuwa adhabu ya Uber ni miongoni mwa vikwazo vikubwa zaidi vya GDPR vilivyorekodiwa.

Nini Kitaendelea

Rufaa ya Uber itaendeshwa katika mahakama za Uholanzi, mchakato ambao katika kesi za awali kama vile Meta tayari umechukua miaka mingi. Wakati huo huo, faini inasimama kama hatua muhimu zaidi ya utekelezaji wa Uropa hadi sasa dhidi ya usimamizi wa akaunti ya algoriti, na wadhibiti wa faragha katika kambi nzima wanatarajiwa kusoma hoja za AP kwa karibu.

Kwa madereva, mabadiliko ya moja kwa moja ya vitendo yanaweza kuwa na kikomo - Uber hudumisha mifumo yake ya sasa ambayo tayari inajumuisha ukaguzi wa kibinadamu. Lakini uamuzi huo unabainisha kuwa kusimamisha mtu kutoka jukwaa analotegemea kupata mapato ni "matokeo muhimu" chini ya sheria za Ulaya, na kwamba makampuni lazima yawajulishe watu maamuzi kama hayo yanapofanywa kuwahusu.

Mifumo ya kiotomatiki inapochukua maamuzi zaidi katika uchumi wote, kutoka kwa ukopeshaji hadi kukodisha hadi ufikiaji wa jukwaa, kesi ya Uber inatoa ishara moja wazi zaidi ya wapi mipaka ya kisheria iko - na ya bei ya kuvuka.

Kaa Mbele ya Udhibiti wa AI Soma habari zaidi za AI →