L'autorità di regolamentazione olandese multa Uber da 825 milioni di euro per le disattivazioni dei conducenti guidate dall'intelligenza artificiale in un caso storico GDPR

L'autorità olandese per la protezione dei dati (AP) ha multato Uber da 825 milioni di euro – circa 966 milioni di dollari – per aver utilizzato sistemi automatizzati per disattivare gli account degli autisti senza informarli adeguatamente, in quella che si ritiene essere la seconda sanzione più grande mai emessa ai sensi del regolamento generale sulla protezione dei dati europeo.

La decisione, riportata venerdì da Reuters dopo che l'agenzia di stampa ha esaminato i risultati dell'autorità di regolamentazione, si colloca all'intersezione di due delle tendenze più consequenziali della tecnologia: la diffusione della gestione algoritmica nella gig economy e l'applicazione sempre più assertiva da parte dell'Europa delle regole che governano il processo decisionale automatizzato. Per una copertura continua del modo in cui i governi controllano i sistemi di intelligenza artificiale, segui i rapporti normativi di AI Buzz Wire.

Cosa ha scoperto l'ente regolatore

Secondo AP, tra il 2020 e il 2022 i sistemi automatizzati di Uber hanno temporaneamente sospeso i conti di diversi conducenti in Europa sospettati di frode. In alcuni casi, i conducenti con una bassa valutazione dei clienti sono stati sospesi permanentemente.

L’autorità di regolamentazione ha concluso che la pratica viola i diritti dei conducenti previsti dal GDPR, che impedisce alle aziende di lasciare che un algoritmo informatico prenda decisioni che hanno un impatto significativo sulla vita delle persone. Essere tagliati fuori da una piattaforma da cui i singoli conducenti dipendono per il proprio sostentamento è considerata una conseguenza sostanziale.

"L'AP ha stabilito che Uber ha violato i diritti dei conducenti, in particolare il diritto di non essere soggetti a processi decisionali automatizzati che hanno conseguenze significative", ha affermato l'ente regolatore nella sua decisione, come citato da Reuters. "Uber ha anche violato il loro diritto ad essere informati."

Perché un regolatore olandese ha preso in carico il caso

L'indagine è nata da una denuncia presentata dagli autisti Uber in Francia. L'AP ha gestito il caso perché la sede europea di Uber si trova nei Paesi Bassi, rendendo l'autorità olandese il principale supervisore della privacy per le operazioni della società di ride-hailing in tutta l'Unione Europea.

L’entità della sanzione è ciò che rende il caso eccezionale. Si ritiene che la sanzione da 825 milioni di euro sia la seconda più alta mai emessa ai sensi del GDPR, superata solo dalla sanzione da 1,2 miliardi di euro imposta a Meta nel 2023 dall'autorità irlandese per la protezione dei dati per trasferimenti illegali di dati degli utenti europei negli Stati Uniti. Meta, come Uber, ha presentato ricorso contro tale multa e il caso rimane irrisolto.

La risposta di Uber

Uber ha dichiarato che presenterà ricorso contro la decisione, sostenendo che non ha disattivato permanentemente gli account senza la revisione umana. La società ha dichiarato a Reuters che non prende più decisioni permanenti sulla disattivazione esclusivamente attraverso sistemi automatizzati.

"Siamo fortemente in disaccordo con questa decisione e con una multa sproporzionata", ha detto un portavoce di Uber in una nota, aggiungendo che la società prende sul serio i diritti dei conducenti e che le sue attuali politiche includono revisioni umane e opportunità per i conducenti di contestare le decisioni relative all'account.

Perché il caso è importante oltre Uber

Fondamentalmente, la decisione è un avvertimento per ogni azienda che consente al software di fare scelte consequenziali sulle persone – disattivazione di account, taglio dei pagamenti, limitazione dell’accesso a una piattaforma – senza una significativa supervisione o trasparenza umana.

Le disposizioni del GDPR sul processo decisionale automatizzato sono state scritte anni prima dell’attuale ondata di agenti di intelligenza artificiale e strumenti di gestione algoritmica, ma i regolatori europei le stanno applicando sempre più ai moderni sistemi di apprendimento automatico. La multa di Uber dimostra che le regole sono efficaci: le sanzioni possono ora raggiungere lo stesso ordine di grandezza delle principali azioni antitrust e si applicano a decisioni prese da sistemi che operano su scala di milioni di utenti.

Per le piattaforme della gig economy, il caso probabilmente porterà a un ampio riesame dei sistemi di rilevamento delle frodi, disattivazione basata sul rating e verifica dell’identità, proprio il tipo di flussi di lavoro automatizzati che storicamente sono stati economici da gestire e difficili da sfidare per i lavoratori interessati. Gli automobilisti in Europa si lamentano da tempo del fatto che le sospensioni dei conti arrivano con poche spiegazioni e senza alcuna via pratica per ricorrere in appello, e la decisione dell'AP convalida direttamente il nocciolo di tali denunce.

La sentenza arriva anche mentre Bruxelles impone ulteriori obblighi ai sistemi di intelligenza artificiale attraverso la legge sull'intelligenza artificiale dell'UE, che impone requisiti di trasparenza e gestione del rischio sui sistemi che colpiscono gli individui. Le aziende che non hanno ancora mappato quali dei loro processi automatizzati rientrano in questi regimi ora si trovano ad affrontare una crescente esposizione legale e finanziaria – un segnale rafforzato dal Financial Times, che ha osservato che la sanzione Uber si colloca tra le più grandi sanzioni GDPR mai registrate.

Cosa succede dopo

L'appello di Uber passerà attraverso i tribunali olandesi, un processo che in casi precedenti come quello di Meta si è già protratto per anni. Nel frattempo, la multa rappresenta l’azione esecutiva europea più significativa fino ad oggi contro la gestione algoritmica degli account, e si prevede che i regolatori della privacy in tutto il blocco studieranno attentamente il ragionamento dell’AP.

Per gli autisti, il cambiamento pratico immediato potrebbe essere limitato: Uber sostiene che i suoi sistemi attuali includono già la revisione umana. Ma la decisione stabilisce che sospendere qualcuno da una piattaforma su cui fa affidamento è una “conseguenza significativa” ai sensi della legge europea, e che le aziende devono informare le persone quando vengono prese tali decisioni nei loro confronti.

Mentre i sistemi automatizzati assumono sempre più processi decisionali in tutta l’economia, dai prestiti alle assunzioni fino all’accesso alle piattaforme, il caso Uber offre uno dei segnali più chiari finora su dove si trovano i confini legali – e sul prezzo da pagare per superarli.

Stai al passo con la regolamentazione sull'intelligenza artificiale Leggi altre notizie sull'AI →