Niederländische Aufsichtsbehörde verhängt gegen Uber eine Geldstrafe in Höhe von 825 Millionen Euro wegen KI-gesteuerter Fahrerdeaktivierungen in einem wegweisenden DSGVO-Fall

Die niederländische Datenschutzbehörde (AP) hat Uber eine Geldstrafe in Höhe von 825 Millionen Euro (rund 966 Millionen US-Dollar) auferlegt, weil das Unternehmen automatisierte Systeme zur Deaktivierung von Fahrerkonten eingesetzt hat, ohne sie angemessen zu informieren. Es handelt sich vermutlich um die zweithöchste Strafe, die jemals im Rahmen der europäischen Datenschutz-Grundverordnung verhängt wurde.

Die Entscheidung, die am Freitag von Reuters bekannt gegeben wurde, nachdem die Nachrichtenagentur die Ergebnisse der Regulierungsbehörde überprüft hatte, landet an der Schnittstelle zweier der folgenreichsten Trends in der Technologie: der Verbreitung des algorithmischen Managements in der Gig Economy und der zunehmend konsequenten Durchsetzung der Regeln, die die automatisierte Entscheidungsfindung regeln, in Europa. Für eine fortlaufende Berichterstattung darüber, wie Regierungen KI-Systeme überwachen, folgen Sie der Regulierungsberichterstattung von AI Buzz Wire.

Was die Aufsichtsbehörde herausgefunden hat

Laut AP haben die automatisierten Systeme von Uber zwischen 2020 und 2022 die Konten mehrerer Fahrer in Europa, die des Betrugs verdächtigt wurden, vorübergehend gesperrt. In einigen Fällen wurden Fahrer mit niedrigen Kundenbewertungen dauerhaft gesperrt.

Die Regulierungsbehörde kam zu dem Schluss, dass die Praxis gegen die Fahrerrechte gemäß der DSGVO verstößt, die Unternehmen daran hindert, einen Computeralgorithmus Entscheidungen treffen zu lassen, die erhebliche Auswirkungen auf das Leben der Menschen haben. Als erhebliche Konsequenz wird die Abgeschnittenheit von einer Plattform angesehen, von der der Lebensunterhalt einzelner Fahrer abhängt.

„Die AP hat festgestellt, dass Uber die Rechte der Fahrer verletzt hat, insbesondere das Recht, keiner automatisierten Entscheidungsfindung mit erheblichen Konsequenzen unterworfen zu werden“, sagte die Regulierungsbehörde in ihrer Entscheidung, wie von Reuters zitiert. „Uber hat auch ihr Recht auf Information verletzt.“

Warum eine niederländische Aufsichtsbehörde den Fall aufnahm

Die Untersuchung ging auf eine Beschwerde zurück, die von Uber-Fahrern in Frankreich eingereicht wurde. Die AP hat sich mit dem Fall befasst, da sich der europäische Hauptsitz von Uber in den Niederlanden befindet, was die niederländische Behörde zum führenden Datenschutzbeauftragten für die Aktivitäten des Fahrdienstleisters in der gesamten Europäischen Union macht.

Das Ausmaß der Strafe macht den Fall außergewöhnlich. Es wird angenommen, dass die Geldbuße in Höhe von 825 Millionen Euro die zweithöchste ist, die jemals im Rahmen der DSGVO verhängt wurde. Sie wird nur von der Strafe in Höhe von 1,2 Milliarden Euro übertroffen, die Meta im Jahr 2023 von der irischen Datenschutzbehörde wegen rechtswidriger Übermittlung europäischer Benutzerdaten in die Vereinigten Staaten auferlegt wurde. Meta hat wie Uber Berufung gegen diese Geldbuße eingelegt, und der Fall bleibt ungelöst.

Ubers Antwort

Uber sagte, es werde gegen die Entscheidung Berufung einlegen und argumentierte, dass es Konten nicht ohne menschliche Überprüfung dauerhaft deaktiviert habe. Das Unternehmen teilte Reuters mit, dass es dauerhafte Entscheidungen über die Deaktivierung nicht mehr allein durch automatisierte Systeme treffe.

„Wir sind mit dieser Entscheidung und der unverhältnismäßigen Geldbuße überhaupt nicht einverstanden“, sagte ein Uber-Sprecher in einer Erklärung und fügte hinzu, dass das Unternehmen die Rechte der Fahrer ernst nehme und dass seine aktuellen Richtlinien menschliche Überprüfungen und Möglichkeiten für Fahrer vorsähen, Kontoentscheidungen anzufechten.

Warum der Fall über Uber hinaus wichtig ist

Im Kern ist die Entscheidung eine Warnung an jedes Unternehmen, das zulässt, dass Software folgenreiche Entscheidungen über Menschen trifft – Konten deaktivieren, Auszahlungen kürzen, Zugriff auf eine Plattform einschränken – ohne nennenswerte menschliche Aufsicht oder Transparenz.

Die Bestimmungen der DSGVO zur automatisierten Entscheidungsfindung wurden Jahre vor der aktuellen Welle von KI-Agenten und algorithmischen Managementtools verfasst, doch europäische Regulierungsbehörden wenden sie zunehmend auf moderne Systeme des maschinellen Lernens an. Das Bußgeld gegen Uber zeigt, dass die Regeln tragfähig sind: Strafen können mittlerweile die gleiche Größenordnung erreichen wie große Kartellklagen und gelten für Entscheidungen von Systemen, die auf der Ebene von Millionen von Nutzern operieren.

Für Gig-Economy-Plattformen wird der Fall wahrscheinlich eine umfassende Überprüfung der Systeme zur Betrugserkennung, zur bewertungsbasierten Deaktivierung und zur Identitätsüberprüfung nach sich ziehen – genau die Art von automatisierten Arbeitsabläufen, die in der Vergangenheit kostengünstig zu betreiben und für betroffene Mitarbeiter nur schwer anzufechten waren. Autofahrer in Europa beschweren sich seit langem darüber, dass Kontosperrungen ohne Begründung und ohne praktische Möglichkeit zur Berufung erfolgen, und die Entscheidung der AP bestätigt direkt den Kern dieser Beschwerden.

Das Urteil kommt auch zu einem Zeitpunkt, an dem Brüssel durch das EU-KI-Gesetz zusätzliche Verpflichtungen für KI-Systeme auferlegt, das Transparenz- und Risikomanagementanforderungen für Systeme auferlegt, die Einzelpersonen betreffen. Unternehmen, die noch nicht festgelegt haben, welche ihrer automatisierten Prozesse unter diese Regelungen fallen, sind nun einem zunehmenden rechtlichen und finanziellen Risiko ausgesetzt – ein Signal, das durch die Financial Times verstärkt wird, die feststellte, dass die Uber-Strafe zu den größten DSGVO-Sanktionen aller Zeiten zählt.

Was als nächstes passiert

Die Berufung von Uber wird vor den niederländischen Gerichten laufen, ein Prozess, der sich in Präzedenzfällen wie dem von Meta bereits über Jahre hingezogen hat. Mittlerweile handelt es sich bei der Strafe um die bisher bedeutendste europäische Durchsetzungsmaßnahme gegen algorithmische Kontoverwaltung, und von den Datenschutzbehörden in der gesamten Union wird erwartet, dass sie die Argumentation des AP genau prüfen.

Für Fahrer dürfte die unmittelbare praktische Änderung begrenzt sein – Uber behauptet, dass seine aktuellen Systeme bereits eine menschliche Überprüfung beinhalten. Die Entscheidung stellt jedoch fest, dass die Sperrung einer Person von einer Plattform, auf deren Einkommen sie angewiesen ist, nach europäischem Recht eine „erhebliche Konsequenz“ darstellt und dass Unternehmen die Menschen informieren müssen, wenn solche Entscheidungen über sie getroffen werden.

Da automatisierte Systeme immer mehr Entscheidungen in der gesamten Wirtschaft übernehmen, von der Kreditvergabe über die Einstellung von Mitarbeitern bis hin zum Plattformzugang, liefert der Uber-Fall eines der bisher klarsten Signale dafür, wo die rechtlichen Grenzen liegen – und wie hoch der Preis für deren Überschreitung ist.

Der KI-Regulierung einen Schritt voraus sein Weitere KI-Neuigkeiten lesen →