Ο ολλανδικός ρυθμιστής επιβάλλει πρόστιμο 825 εκατομμυρίων ευρώ στην Uber λόγω απενεργοποίησης προγραμμάτων οδήγησης που βασίζονται σε τεχνητή νοημοσύνη σε υπόθεση ορόσημο GDPR

Η Ολλανδική Αρχή Προστασίας Δεδομένων (AP) επέβαλε στην Uber πρόστιμο 825 εκατομμυρίων ευρώ - περίπου 966 εκατομμύρια δολάρια - για τη χρήση αυτοματοποιημένων συστημάτων για την απενεργοποίηση των λογαριασμών των οδηγών χωρίς να τους ενημερώνει επαρκώς, κάτι που πιστεύεται ότι είναι η δεύτερη μεγαλύτερη ποινή που έχει εκδοθεί ποτέ βάσει του Γενικού Κανονισμού Προστασίας Δεδομένων της Ευρώπης.

Η απόφαση, που αναφέρθηκε την Παρασκευή από το Reuters αφού το πρακτορείο ειδήσεων εξέτασε τα ευρήματα της ρυθμιστικής αρχής, προσγειώνεται στη διασταύρωση δύο από τις πιο σημαντικές τάσεις στην τεχνολογία: την εξάπλωση της αλγοριθμικής διαχείρισης στην οικονομία των συναυλιών και την ολοένα και πιο δυναμική επιβολή από την Ευρώπη των κανόνων που διέπουν την αυτοματοποιημένη λήψη αποφάσεων. Για συνεχή κάλυψη του τρόπου με τον οποίο οι κυβερνήσεις αστυνομεύουν τα συστήματα τεχνητής νοημοσύνης, ακολουθήστε την [Αναφορά κανονισμών του AI Buzz Wire] (https://aibuzzwire.news).

Τι βρήκε η Ρυθμιστική Αρχή

Σύμφωνα με το AP, τα αυτοματοποιημένα συστήματα της Uber ανέστειλαν προσωρινά τους λογαριασμούς πολλών οδηγών στην Ευρώπη που ήταν ύποπτοι για απάτη μεταξύ 2020 και 2022. Σε ορισμένες περιπτώσεις, οι οδηγοί με χαμηλές αξιολογήσεις πελατών ανέστειλαν οριστικά.

Η ρυθμιστική αρχή κατέληξε στο συμπέρασμα ότι η πρακτική παραβίαζε τα δικαιώματα των οδηγών βάσει του GDPR, ο οποίος περιορίζει τις εταιρείες να αφήνουν έναν αλγόριθμο υπολογιστή να λαμβάνει αποφάσεις που έχουν σημαντικό αντίκτυπο στη ζωή των ανθρώπων. Η αποκοπή από μια πλατφόρμα από την οποία εξαρτώνται οι μεμονωμένοι οδηγοί για τη διαβίωση τους θεωρείται ουσιαστική συνέπεια.

«Το AP διαπίστωσε ότι η Uber παραβίασε τα δικαιώματα των οδηγών, συγκεκριμένα το δικαίωμα να μην υπόκεινται σε αυτοματοποιημένη λήψη αποφάσεων που έχει σημαντικές συνέπειες», ανέφερε η ρυθμιστική αρχή στην απόφασή της, όπως αναφέρει το Reuters. «Η Uber παραβίασε επίσης το δικαίωμά της να ενημερώνεται».

Γιατί μια ολλανδική ρυθμιστική αρχή ανέλαβε την υπόθεση

Η έρευνα προήλθε από καταγγελία που υπέβαλαν οδηγοί της Uber στη Γαλλία. Το AP χειρίστηκε την υπόθεση επειδή τα κεντρικά γραφεία της Uber στην Ευρώπη βρίσκονται στην Ολλανδία, καθιστώντας την ολλανδική αρχή τον κύριο επόπτη απορρήτου για τις δραστηριότητες της εταιρείας μεταφοράς σε όλη την Ευρωπαϊκή Ένωση.

Το μέγεθος της ποινής είναι αυτό που κάνει την περίπτωση εξαιρετική. Το πρόστιμο των 825 εκατομμυρίων ευρώ πιστεύεται ότι είναι το δεύτερο υψηλότερο που έχει εκδοθεί ποτέ βάσει του GDPR, ξεπερνώντας μόνο το πρόστιμο 1,2 δισεκατομμυρίων ευρώ που επιβλήθηκε στη Meta το 2023 από τη ρυθμιστική αρχή προστασίας δεδομένων της Ιρλανδίας για παράνομες μεταφορές δεδομένων ευρωπαίων χρηστών στις Ηνωμένες Πολιτείες. Η Meta, όπως και η Uber, άσκησε έφεση κατά αυτού του προστίμου και η υπόθεση παραμένει ανεπίλυτη.

Απάντηση της Uber

Η Uber είπε ότι θα ασκήσει έφεση κατά της απόφασης, υποστηρίζοντας ότι δεν απενεργοποίησε οριστικά τους λογαριασμούς χωρίς ανθρώπινο έλεγχο. Η εταιρεία είπε στο Reuters ότι δεν λαμβάνει πλέον μόνιμες αποφάσεις σχετικά με την απενεργοποίηση αποκλειστικά μέσω αυτοματοποιημένων συστημάτων.

«Διαφωνούμε κάθετα με αυτήν την απόφαση και το δυσανάλογο πρόστιμο», δήλωσε εκπρόσωπος της Uber σε δήλωση, προσθέτοντας ότι η εταιρεία λαμβάνει σοβαρά υπόψη τα δικαιώματα των οδηγών και ότι οι τρέχουσες πολιτικές της περιλαμβάνουν ανθρώπινες αναθεωρήσεις και ευκαιρίες για τους οδηγούς να αμφισβητήσουν αποφάσεις λογαριασμού.

Γιατί η υπόθεση έχει σημασία πέρα από την Uber

Στον πυρήνα της, η απόφαση είναι μια προειδοποίηση για κάθε εταιρεία που αφήνει το λογισμικό να κάνει επακόλουθες επιλογές σχετικά με τους ανθρώπους - απενεργοποίηση λογαριασμών, περικοπή πληρωμών, περιορισμός της πρόσβασης σε μια πλατφόρμα - χωρίς ουσιαστική ανθρώπινη επίβλεψη ή διαφάνεια.

Οι διατάξεις αυτοματοποιημένης λήψης αποφάσεων του GDPR γράφτηκαν χρόνια πριν από το τρέχον κύμα πρακτόρων τεχνητής νοημοσύνης και εργαλείων αλγοριθμικής διαχείρισης, αλλά οι ευρωπαϊκές ρυθμιστικές αρχές τις εφαρμόζουν όλο και περισσότερο σε σύγχρονα συστήματα μηχανικής μάθησης. Το πρόστιμο της Uber αποδεικνύει ότι οι κανόνες έχουν δόντια: οι κυρώσεις μπορούν πλέον να φτάσουν την ίδια τάξη μεγέθους με τις μεγάλες αντιμονοπωλιακές ενέργειες και ισχύουν για αποφάσεις που λαμβάνονται από συστήματα που λειτουργούν σε κλίμακα εκατομμυρίων χρηστών.

Για τις πλατφόρμες οικονομίας συναυλιών, η υπόθεση είναι πιθανό να προκαλέσει μια ευρεία επανεξέταση των συστημάτων ανίχνευσης απάτης, απενεργοποίησης βάσει αξιολόγησης και επαλήθευσης ταυτότητας — ακριβώς το είδος των αυτοματοποιημένων ροών εργασίας που ιστορικά ήταν φθηνές στην εκτέλεση και δύσκολο να αμφισβητηθούν από τους επηρεαζόμενους εργαζόμενους. Οι οδηγοί στην Ευρώπη παραπονιούνται εδώ και καιρό ότι οι αναστολές λογαριασμών φτάνουν με ελάχιστη εξήγηση και χωρίς πρακτική οδό για ένσταση, και η απόφαση του AP επικυρώνει άμεσα τον πυρήνα αυτών των καταγγελιών.

Η απόφαση έρχεται επίσης καθώς οι Βρυξέλλες επιβάλλουν πρόσθετες υποχρεώσεις στα συστήματα τεχνητής νοημοσύνης μέσω του νόμου της ΕΕ για την τεχνητή νοημοσύνη, ο οποίος επιβάλλει απαιτήσεις διαφάνειας και διαχείρισης κινδύνου σε συστήματα που επηρεάζουν άτομα. Οι εταιρείες που δεν έχουν ήδη χαρτογραφήσει ποιες από τις αυτοματοποιημένες διαδικασίες τους εμπίπτουν σε αυτά τα καθεστώτα αντιμετωπίζουν τώρα αυξανόμενη νομική και οικονομική έκθεση — ένα μήνυμα που ενισχύεται από τους Financial Times, οι οποίοι σημείωσαν ότι η ποινή της Uber συγκαταλέγεται στις μεγαλύτερες κυρώσεις GDPR που έχουν καταγραφεί.

Τι θα συμβεί στη συνέχεια

Η προσφυγή της Uber θα διεξαχθεί μέσω των ολλανδικών δικαστηρίων, μια διαδικασία που σε προηγούμενες υποθέσεις όπως αυτή του Meta έχει ήδη εκταθεί εδώ και χρόνια. Εν τω μεταξύ, το πρόστιμο αποτελεί τη σημαντικότερη ευρωπαϊκή δράση επιβολής μέχρι σήμερα κατά της αλγοριθμικής διαχείρισης λογαριασμών και οι ρυθμιστικές αρχές απορρήτου σε όλο το μπλοκ αναμένεται να μελετήσουν προσεκτικά το σκεπτικό του AP.

Για τους οδηγούς, η άμεση πρακτική αλλαγή μπορεί να είναι περιορισμένη — η Uber διατηρεί τα τρέχοντα συστήματά της που περιλαμβάνουν ήδη ανθρώπινη εξέταση. Ωστόσο, η απόφαση ορίζει ότι η αναστολή από μια πλατφόρμα στην οποία βασίζεται για εισόδημα είναι μια «σημαντική συνέπεια» σύμφωνα με την ευρωπαϊκή νομοθεσία και ότι οι εταιρείες πρέπει να ενημερώνουν τους ανθρώπους όταν λαμβάνονται τέτοιες αποφάσεις σχετικά με αυτές.

Καθώς τα αυτοματοποιημένα συστήματα αναλαμβάνουν περισσότερη λήψη αποφάσεων σε ολόκληρη την οικονομία, από το δανεισμό έως την πρόσληψη έως την πρόσβαση στην πλατφόρμα, η υπόθεση Uber προσφέρει ένα από τα πιο ξεκάθαρα σημάδια μέχρι στιγμής για το πού βρίσκονται τα νομικά όρια — και για το κόστος της υπέρβασής τους.

Μένετε μπροστά από τον κανονισμό AI Διαβάστε περισσότερα νέα AI →