Autoritatea de reglementare olandeză amendează Uber cu 825 de milioane de euro pentru dezactivări ale șoferilor determinate de inteligență artificială în cazul emblematic GDPR

Autoritatea Olandeză pentru Protecția Datelor (AP) a amendat Uber cu 825 de milioane de euro – aproximativ 966 de milioane de dolari – pentru că a folosit sisteme automate pentru a dezactiva conturile șoferilor fără a-i informa în mod adecvat, în ceea ce se crede a fi a doua cea mai mare sancțiune emisă vreodată în temeiul Regulamentului european privind protecția datelor.

Decizia, raportată vineri de Reuters, după ce agenția de presă a analizat constatările autorității de reglementare, ajunge la intersecția a două dintre cele mai importante tendințe în tehnologie: răspândirea managementului algoritmic în economia gig și aplicarea din ce în ce mai asertivă de către Europa a regulilor care guvernează luarea automată a deciziilor. Pentru o acoperire continuă a modului în care guvernele controlează sistemele AI, urmați raportarea reglementărilor AI Buzz Wire.

Ce a găsit autoritatea de reglementare

Potrivit AP, sistemele automate ale Uber au suspendat temporar conturile mai multor șoferi din Europa care erau suspectați de fraudă între 2020 și 2022. În unele cazuri, șoferii cu rating scăzut de la clienți au fost suspendați definitiv.

Autoritatea de reglementare a concluzionat că practica a încălcat drepturile șoferilor în temeiul GDPR, care restricționează companiile să lase un algoritm computerizat să ia decizii care au un impact semnificativ asupra vieții oamenilor. A fi izolați de o platformă de care depind șoferii individuali pentru a trăi este considerată o consecință substanțială.

„AP a stabilit că Uber a încălcat drepturile șoferilor, în special dreptul de a nu fi supus luării deciziilor automate care are consecințe semnificative”, a spus autoritatea de reglementare în decizia sa, citată de Reuters. „Uber le-a încălcat și dreptul de a fi informat”.

De ce un organism de reglementare olandez a luat cazul

Ancheta a pornit de la o plângere depusă de șoferii Uber din Franța. AP s-a ocupat de cazul deoarece sediul central european al Uber este situat în Țările de Jos, făcând din autoritatea olandeză supraveghetorul principal de confidențialitate pentru operațiunile companiei de transport-hailing în Uniunea Europeană.

Amploarea pedepsei este ceea ce face cazul excepțional. Se consideră că amenda de 825 de milioane de euro este a doua cea mai mare emisă vreodată în temeiul GDPR, depășită doar de sancțiunea de 1,2 miliarde de euro impusă Meta în 2023 de autoritatea de reglementare a protecției datelor din Irlanda pentru transferurile ilegale de date ale utilizatorilor europeni în Statele Unite. Meta, la fel ca Uber, a făcut recurs împotriva acestei amenzi, iar cazul rămâne nerezolvat.

Răspunsul Uber

Uber a spus că va face recurs împotriva deciziei, argumentând că nu a dezactivat permanent conturile fără examinare umană. Compania a declarat pentru Reuters că nu mai ia decizii permanente cu privire la dezactivare doar prin sisteme automate.

„Suntem puternic în dezacord cu această decizie și cu o amendă disproporționată”, a declarat un purtător de cuvânt al Uber într-o declarație, adăugând că compania ia în serios drepturile șoferilor și că politicile sale actuale includ recenzii umane și oportunități pentru șoferi de a contesta deciziile legate de cont.

De ce contează cazul dincolo de Uber

În esență, decizia este un avertisment pentru fiecare companie care permite software-ului să facă alegeri semnificative cu privire la oameni - dezactivarea conturilor, reducerea plăților, restricționarea accesului la o platformă - fără supraveghere umană semnificativă sau transparență.

Prevederile GDPR privind luarea deciziilor automate au fost scrise cu ani înainte de valul actual de agenți AI și instrumente de management algoritmic, dar autoritățile europene de reglementare le aplică din ce în ce mai mult sistemelor moderne de învățare automată. Amenda Uber demonstrează că regulile poartă dinți: sancțiunile pot ajunge acum la același ordin de mărime ca acțiunile antitrust majore și se aplică deciziilor luate de sistemele care funcționează la scara a milioane de utilizatori.

Pentru platformele gig economy, este probabil ca cazul să determine o reexaminare amplă a sistemelor de detectare a fraudelor, dezactivare bazată pe rating și verificare a identității – exact tipul de fluxuri de lucru automatizate care au fost în trecut ieftin de rulat și dificil de contestat de către lucrătorii afectați. Șoferii din Europa s-au plâns de multă vreme că suspendările de cont ajung cu puține explicații și fără o cale practică de recurs, iar decizia AP validează direct miezul acelor plângeri.

Hotărârea vine, de asemenea, pe măsură ce Bruxelles-ul impune obligații suplimentare sistemelor AI prin Actul AI al UE, care impune cerințe de transparență și de gestionare a riscurilor asupra sistemelor care afectează indivizii. Companiile care nu au cartografiat deja care dintre procesele lor automatizate se încadrează în aceste regimuri se confruntă acum cu o expunere juridică și financiară crescândă - un semnal întărit de Financial Times, care a menționat că sancțiunea Uber se află printre cele mai mari sancțiuni GDPR înregistrate.

Ce se întâmplă în continuare

Apelul Uber va trece prin instanțele olandeze, un proces care în cazuri precedente, cum ar fi cel al lui Meta, s-a extins deja de-a lungul anilor. Între timp, amenda este cea mai importantă acțiune europeană de aplicare până în prezent împotriva gestionării algoritmice a conturilor, iar autoritățile de reglementare a confidențialității din bloc ar trebui să studieze îndeaproape raționamentul AP.

Pentru șoferi, schimbarea practică imediată poate fi limitată - Uber își menține sistemele actuale care includ deja evaluarea umană. Însă decizia stabilește că suspendarea cuiva de pe o platformă pe care se bazează pentru venituri este o „consecință semnificativă” conform legislației europene și că companiile trebuie să informeze oamenii atunci când se iau astfel de decizii despre ei.

Pe măsură ce sistemele automate preiau mai multe decizii în economie, de la împrumuturi la angajare până la accesul la platformă, cazul Uber oferă unul dintre cele mai clare semnale de până acum despre unde se află granițele legale și despre prețul depășirii acestora.

Fii înaintea reglementărilor AI Citiți mai multe știri AI →