Nizozemský regulační orgán pokutuje Uber 825 milionů EUR za deaktivaci řidičů řízených umělou inteligencí v zásadním případě GDPR

Nizozemský úřad pro ochranu osobních údajů (AP) potrestal Uber pokutou ve výši 825 milionů eur – zhruba 966 milionů dolarů – za používání automatizovaných systémů k deaktivaci účtů řidičů, aniž by je o tom dostatečně informoval, což je druhá nejvyšší pokuta, která kdy byla udělena podle evropského obecného nařízení o ochraně osobních údajů.

Rozhodnutí, o kterém v pátek informovala agentura Reuters poté, co tisková agentura přezkoumala zjištění regulátora, se dostává do průsečíku dvou nejsledovanějších trendů v technologii: šíření algoritmického řízení v ekonomice koncertů a stále asertivnějšího vymáhání pravidel, kterými se řídí automatizované rozhodování v Evropě. Pro průběžné pokrytí toho, jak vlády dohlížejí na systémy AI, sledujte [hlášení o předpisech AI Buzz Wire] (https://aibuzzwire.news).

Co našel regulátor

Automatizované systémy Uberu podle agentury AP dočasně pozastavily účty více řidičům v Evropě, kteří byli podezřelí z podvodu, v letech 2020 až 2022. V některých případech byli řidiči s nízkým hodnocením zákazníků pozastaveni trvale.

Regulátor dospěl k závěru, že tato praxe porušila práva řidičů podle GDPR, které omezuje společnosti nechat počítačový algoritmus činit rozhodnutí, která mají významný dopad na životy lidí. Odříznutí od platformy, na které jsou živobytí jednotliví řidiči, se považuje za podstatný důsledek.

"Agentura AP rozhodla, že Uber porušil práva řidičů, konkrétně právo nebýt předmětem automatizovaného rozhodování, které má významné důsledky," uvedl regulátor ve svém rozhodnutí, citovaný agenturou Reuters. "Uber také porušil jejich právo být informován."

Proč se případu chopil nizozemský regulační orgán

Vyšetřování vyplynulo ze stížnosti, kterou podali řidiči Uberu ve Francii. AP se případem zabývala, protože evropské ústředí Uberu se nachází v Nizozemsku, což z nizozemského úřadu učinilo vedoucího dohlížejícího na ochranu osobních údajů pro operace přepravní společnosti v celé Evropské unii.

Rozsah trestu je to, co dělá případ výjimečným. Pokuta ve výši 825 milionů eur je považována za druhou nejvyšší, která kdy byla udělena v rámci GDPR, překonána pouze pokutou ve výši 1,2 miliardy eur, kterou společnosti Meta uložil v roce 2023 irský regulátor ochrany údajů za nezákonné přenosy evropských uživatelských dat do Spojených států. Meta se stejně jako Uber proti této pokutě odvolala a případ zůstává nevyřešený.

Odpověď Uberu

Uber uvedl, že se proti rozhodnutí odvolá s tím, že nedeaktivoval trvale účty bez kontroly člověkem. Společnost agentuře Reuters řekla, že již nečiní trvalá rozhodnutí o deaktivaci pouze prostřednictvím automatizovaných systémů.

"Rozhodně nesouhlasíme s tímto rozhodnutím a neúměrně pokutujeme," uvedl mluvčí Uberu v prohlášení a dodal, že společnost bere práva řidičů vážně a že její současná politika zahrnuje lidské kontroly a příležitosti pro řidiče zpochybnit rozhodnutí týkající se účtu.

Proč na případu záleží mimo Uber

Toto rozhodnutí je ve své podstatě varováním pro každou společnost, která umožňuje softwaru činit následná rozhodnutí o lidech – deaktivaci účtů, snížení výplat, omezení přístupu k platformě – bez smysluplného lidského dohledu nebo transparentnosti.

Ustanovení GDPR o automatizovaném rozhodování byla napsána roky před současnou vlnou agentů AI a nástrojů pro správu algoritmů, ale evropské regulační orgány je stále více aplikují na moderní systémy strojového učení. Pokuta Uberu ukazuje, že pravidla mají své zuby: sankce nyní mohou dosáhnout řádově stejné velikosti jako velké antimonopolní akce a vztahují se na rozhodnutí učiněná systémy fungujícími v rozsahu milionů uživatelů.

U platforem koncertní ekonomiky tento případ pravděpodobně vyvolá rozsáhlé přehodnocení systémů odhalování podvodů, deaktivace na základě hodnocení a ověřování identity – přesně toho druhu automatizovaných pracovních postupů, které byly historicky levné a pro postižené pracovníky obtížné je napadnout. Řidiči v Evropě si již dlouho stěžují, že pozastavení účtů přichází s malým vysvětlením a bez praktické cesty k odvolání, a rozhodnutí AP přímo potvrzuje jádro těchto stížností.

Rozhodnutí přichází také v době, kdy Brusel ukládá na systémy umělé inteligence další povinnosti prostřednictvím zákona EU o umělé inteligenci, který ukládá požadavky na transparentnost a řízení rizik na systémy, které ovlivňují jednotlivce. Společnosti, které ještě nezmapovaly, které z jejich automatizovaných procesů spadají do těchto režimů, nyní čelí rostoucí právní a finanční expozici – signál posílený deníkem Financial Times, který poznamenal, že trest Uberu patří mezi největší zaznamenané sankce GDPR.

Co se stane dál

Odvolání Uberu proběhne u nizozemských soudů, což je proces, který se v precedentních případech, jako je Meta's, již protáhl na několik let. Mezitím je pokuta dosud nejvýznamnějším evropským donucovacím opatřením proti algoritmické správě účtů a očekává se, že regulační orgány na ochranu soukromí v celém bloku podrobně prostudují úvahy AP.

Pro řidiče může být okamžitá praktická změna omezená – Uber udržuje, že jeho současné systémy již zahrnují kontrolu člověkem. Rozhodnutí však stanoví, že suspendování někoho z platformy, na kterou se spoléhají, pokud jde o příjem, je podle evropského práva „významným důsledkem“ a že společnosti musí informovat lidi, když se o nich taková rozhodnutí učiní.

Vzhledem k tomu, že automatizované systémy přebírají více rozhodování v celé ekonomice, od půjčování přes najímání až po přístup k platformě, případ Uber nabízí jeden z dosud nejjasnějších signálů o tom, kde leží právní hranice – a o ceně za jejich překročení.

Stay Ahead of AI Regulation Přečtěte si další zprávy o AI →