Nederlandse toezichthouder legt Uber een boete van €825 miljoen op wegens AI-gestuurde deactivering van stuurprogramma's in historische AVG-zaak

De Nederlandse Gegevensbeschermingsautoriteit (AP) heeft Uber een boete van 825 miljoen euro (ongeveer 966 miljoen dollar) opgelegd voor het gebruik van geautomatiseerde systemen om de accounts van chauffeurs te deactiveren zonder hen adequaat te informeren. Dit wordt beschouwd als de op een na grootste boete die ooit is opgelegd onder de Europese Algemene Verordening Gegevensbescherming.

Het besluit, dat vrijdag door Reuters werd gerapporteerd nadat het persbureau de bevindingen van de toezichthouder had beoordeeld, komt terecht op het kruispunt van twee van de meest consequente trends in de technologie: de verspreiding van algoritmisch management in de gig-economie, en de steeds assertievere handhaving door Europa van de regels die de geautomatiseerde besluitvorming beheersen. Voor voortdurende berichtgeving over hoe overheden toezicht houden op AI-systemen, volgt u [AI Buzz Wire's regelgevingsrapportage] (https://aibuzzwire.news).

Wat de toezichthouder heeft gevonden

Volgens de AP hebben de geautomatiseerde systemen van Uber tussen 2020 en 2022 tijdelijk de accounts opgeschort van meerdere chauffeurs in Europa die werden verdacht van fraude. In sommige gevallen werden chauffeurs met lage klantbeoordelingen permanent geschorst.

De toezichthouder concludeerde dat deze praktijk de rechten van bestuurders schendt onder de AVG, die bedrijven verbiedt een computeralgoritme beslissingen te laten nemen die een aanzienlijke impact hebben op het leven van mensen. Het wordt als een substantieel gevolg beschouwd dat men wordt afgesloten van een platform waarvan individuele bestuurders afhankelijk zijn voor hun levensonderhoud.

“De AP heeft vastgesteld dat Uber de rechten van chauffeurs heeft geschonden, met name het recht om niet te worden onderworpen aan geautomatiseerde besluitvorming die aanzienlijke gevolgen heeft”, aldus de toezichthouder in zijn besluit, zoals geciteerd door Reuters. “Uber heeft ook hun recht om geïnformeerd te worden geschonden.”

Waarom een Nederlandse toezichthouder de zaak heeft aangespannen

Het onderzoek kwam voort uit een klacht van Uber-chauffeurs in Frankrijk. De AP behandelde de zaak omdat het Europese hoofdkantoor van Uber in Nederland is gevestigd, waardoor de Nederlandse autoriteit de leidende privacytoezichthouder is voor de activiteiten van het taxibedrijf in de hele Europese Unie.

Het is de omvang van de straf die deze zaak uitzonderlijk maakt. Aangenomen wordt dat de boete van € 825 miljoen de op één na hoogste is die ooit is opgelegd onder de AVG, alleen overtroffen door de boete van € 1,2 miljard die in 2023 aan Meta werd opgelegd door de Ierse toezichthouder voor gegevensbescherming wegens onwettige overdracht van Europese gebruikersgegevens naar de Verenigde Staten. Meta is, net als Uber, in beroep gegaan tegen die boete, en de zaak blijft onopgelost.

Reactie van Uber

Uber zei dat het in beroep zou gaan tegen de beslissing, met het argument dat het accounts niet permanent zou deactiveren zonder menselijke controle. Het bedrijf vertelde Reuters dat het niet langer permanente beslissingen over deactivering uitsluitend via geautomatiseerde systemen neemt.

"We zijn het absoluut niet eens met deze beslissing en deze onevenredige boete", zei een woordvoerder van Uber in een verklaring, eraan toevoegend dat het bedrijf de rechten van chauffeurs serieus neemt en dat zijn huidige beleid menselijke beoordelingen omvat en mogelijkheden voor chauffeurs om accountbeslissingen te betwisten.

Waarom de zaak er verder toe doet dan Uber

In de kern is het besluit een waarschuwing voor elk bedrijf dat software consequente keuzes over mensen laat maken – accounts deactiveren, uitbetalingen beperken, de toegang tot een platform beperken – zonder betekenisvol menselijk toezicht of transparantie.

De geautomatiseerde besluitvormingsbepalingen van de AVG zijn jaren vóór de huidige golf van AI-agenten en algoritmische beheertools geschreven, maar de Europese toezichthouders passen ze steeds vaker toe op moderne machine-learning-systemen. De Uber-boete laat zien dat de regels tanden hebben: straffen kunnen nu dezelfde orde van grootte bereiken als grote antitrustacties, en ze zijn van toepassing op beslissingen die worden genomen door systemen die op de schaal van miljoenen gebruikers werken.

Voor platforms in de gig-economie zal de zaak waarschijnlijk aanleiding geven tot een breed heronderzoek van systemen voor fraudedetectie, op beoordelingen gebaseerde deactivering en identiteitsverificatie – precies het soort geautomatiseerde workflows dat van oudsher goedkoop was in het gebruik en voor de getroffen werknemers moeilijk uit te dagen was. Chauffeurs in Europa klagen er al lang over dat accountopschortingen zonder enige uitleg en zonder praktische beroepsmogelijkheid tot stand komen, en de beslissing van de AP bevestigt direct de kern van deze klachten.

De uitspraak komt ook op het moment dat Brussel aanvullende verplichtingen oplegt aan AI-systemen via de AI-wet van de EU, die eisen op het gebied van transparantie en risicobeheer oplegt aan systemen die gevolgen hebben voor individuen. Bedrijven die nog niet in kaart hebben gebracht welke van hun geautomatiseerde processen onder deze regimes vallen, worden nu geconfronteerd met toenemende juridische en financiële risico’s – een signaal dat wordt versterkt door de Financial Times, die opmerkte dat de Uber-boete tot de grootste AVG-sancties ooit behoort.

Wat gebeurt er vervolgens

Het beroep van Uber zal via de Nederlandse rechtbanken worden behandeld, een proces dat zich in precedentzaken zoals dat van Meta al over jaren heeft uitgestrekt. In de tussentijd geldt de boete als de belangrijkste Europese handhavingsmaatregel tot nu toe tegen algoritmisch accountbeheer, en van privacytoezichthouders in het hele blok wordt verwacht dat ze de redenering van de AP nauwlettend bestuderen.

Voor chauffeurs kan de onmiddellijke praktische verandering beperkt zijn: Uber blijft volhouden dat zijn huidige systemen al menselijke controle omvatten. Maar het besluit stelt vast dat het schorsen van iemand van een platform waarvan hij voor zijn inkomen afhankelijk is, een “significante consequentie” is onder de Europese wetgeving, en dat bedrijven mensen moeten informeren wanneer dergelijke beslissingen over hen worden genomen.

Nu geautomatiseerde systemen in de hele economie steeds meer besluitvorming op zich nemen, van het verstrekken van leningen tot het aannemen van personeel en toegang tot platforms, biedt de Uber-zaak een van de duidelijkste signalen tot nu toe over waar de wettelijke grenzen liggen – en over de prijs die het overschrijden ervan met zich meebrengt.

Blijf de AI-regelgeving voor Lees meer AI-nieuws →