Holenderski organ regulacyjny nakłada na Ubera karę w wysokości 825 mln euro za dezaktywację sterowników przez sztuczną inteligencję w przełomowej sprawie dotyczącej RODO

Holenderski organ ochrony danych (AP) nałożył na firmę Uber grzywnę w wysokości 825 mln euro, czyli około 966 mln dolarów, za używanie zautomatyzowanych systemów do dezaktywacji kont kierowców bez odpowiedniego informowania ich, co jest uważane za drugą co do wielkości karę nałożoną kiedykolwiek na mocy europejskiego ogólnego rozporządzenia o ochronie danych.

Decyzja, ogłoszona w piątek przez Reuters po tym, jak agencja informacyjna zapoznała się z ustaleniami organu regulacyjnego, zbiega się z dwoma najważniejszymi trendami w technologii: rozprzestrzenianiem się zarządzania algorytmicznego w gospodarce gig oraz coraz bardziej asertywnym egzekwowaniem w Europie zasad regulujących zautomatyzowane podejmowanie decyzji. Aby na bieżąco śledzić, jak rządy pilnują systemów sztucznej inteligencji, śledź raporty dotyczące przepisów AI Buzz Wire.

Co stwierdził organ regulacyjny

Według AP zautomatyzowane systemy Ubera tymczasowo zawiesiły konta wielu kierowców w Europie podejrzanych o oszustwa w latach 2020–2022. W niektórych przypadkach kierowcy z niskimi ocenami klientów zostali zawieszeni na stałe.

Organ regulacyjny uznał, że praktyka ta narusza prawa kierowców wynikające z RODO, które zabrania firmom pozwalania algorytmowi komputerowemu na podejmowanie decyzji mających istotny wpływ na życie ludzi. Odcięcie od platformy, od której zależy życie poszczególnych kierowców, uważa się za istotną konsekwencję.

„AP ustaliła, że ​​Uber naruszył prawa kierowców, w szczególności prawo do niepodlegania zautomatyzowanemu podejmowaniu decyzji, które ma poważne konsekwencje” – stwierdził organ regulacyjny w swojej decyzji, cytowanej przez Reuters. „Uber naruszył również ich prawo do informacji”.

Dlaczego holenderski organ regulacyjny zajął się tą sprawą

Dochodzenie wszczęto w związku ze skargą złożoną przez kierowców Ubera we Francji. AP zajęła się tą sprawą, ponieważ europejska siedziba Ubera znajduje się w Holandii, co czyni holenderski organ głównym inspektorem ochrony prywatności w działalności firmy przewozowej w całej Unii Europejskiej.

Skala kary stanowi o wyjątkowości sprawy. Uważa się, że kara w wysokości 825 mln euro jest drugą najwyższą w historii nałożoną na mocy RODO, ustępując jedynie karze w wysokości 1,2 miliarda euro nałożonej na Meta w 2023 r. przez irlandzki organ regulacyjny ds. ochrony danych w związku z nielegalnym przesyłaniem danych użytkowników z Europy do Stanów Zjednoczonych. Meta, podobnie jak Uber, odwołała się od tej kary, a sprawa pozostaje nierozwiązana.

Odpowiedź Ubera

Uber zapowiedział odwołanie się od tej decyzji, argumentując, że nie dezaktywował trwale kont bez kontroli manualnej. Firma powiedziała agencji Reuters, że nie podejmuje już stałych decyzji o dezaktywacji wyłącznie za pomocą zautomatyzowanych systemów.

„Zdecydowanie nie zgadzamy się z tą decyzją i nieproporcjonalną karą” – oznajmił rzecznik Ubera w oświadczeniu, dodając, że firma poważnie podchodzi do praw kierowców i że jej obecne zasady obejmują weryfikację przez człowieka oraz możliwość kwestionowania przez kierowców decyzji dotyczących konta.

Dlaczego sprawa ma znaczenie poza Uberem

W istocie decyzja ta jest ostrzeżeniem dla każdej firmy, która pozwala oprogramowaniu na podejmowanie konsekwencji w stosunku do ludzi – dezaktywację kont, ograniczanie wypłat, ograniczanie dostępu do platformy – bez znaczącego nadzoru ze strony człowieka i przejrzystości.

Przepisy RODO dotyczące automatycznego podejmowania decyzji zostały napisane wiele lat przed obecną falą agentów AI i narzędzi zarządzania algorytmicznego, ale europejskie organy regulacyjne coraz częściej stosują je w nowoczesnych systemach uczenia maszynowego. Kara na Ubera pokazuje, że zasady obowiązują: kary mogą teraz sięgać tego samego rzędu wielkości, co główne działania antymonopolowe i dotyczą decyzji podejmowanych przez systemy działające na skalę milionów użytkowników.

W przypadku platform ekonomii gig sprawa prawdopodobnie skłoni do ponownego szerokiego zbadania systemów wykrywania oszustw, dezaktywacji na podstawie ocen i weryfikacji tożsamości – dokładnie tego rodzaju zautomatyzowanych przepływów pracy, które w przeszłości były tanie w obsłudze i trudne do zakwestionowania dla dotkniętych nimi pracowników. Kierowcy w Europie od dawna narzekają, że zawieszenia kont przychodzą bez wyjaśnienia i bez praktycznej możliwości odwołania, a decyzja AP bezpośrednio potwierdza istotę tych skarg.

Orzeczenie wydano również w związku z nałożeniem przez Brukselę dodatkowych obowiązków na systemy sztucznej inteligencji na mocy unijnej ustawy o sztucznej inteligencji, która nakłada wymogi dotyczące przejrzystości i zarządzania ryzykiem na systemy mające wpływ na jednostki. Firmy, które nie ustaliły jeszcze, które z ich zautomatyzowanych procesów podlegają tym systemom, stoją teraz w obliczu rosnącego ryzyka prawnego i finansowego – sygnał wzmocniony przez „Financial Times”, który zauważył, że kara dla Ubera jest jedną z największych sankcji wynikających z RODO w historii.

Co stanie się dalej

Apelacja Ubera zostanie rozpatrzona przez holenderskie sądy, a proces ten w precedensowych sprawach, takich jak sprawa Meta, ciągnął się już latami. W międzyczasie grzywna jest najważniejszym jak dotąd europejskim działaniem egzekucyjnym przeciwko algorytmicznemu zarządzaniu kontami i oczekuje się, że organy regulacyjne ds. prywatności w całym bloku dokładnie przestudiują argumentację AP.

W przypadku kierowców natychmiastowa praktyczna zmiana może być ograniczona — Uber utrzymuje, że obecne systemy firmy Uber obejmują już kontrolę człowieka. Decyzja stanowi jednak, że zawieszenie kogoś w platformie, na której opiera się dochód, stanowi „istotną konsekwencję” w świetle prawa europejskiego i że firmy muszą informować ludzi, gdy zapadają takie decyzje na ich temat.

W miarę jak zautomatyzowane systemy podejmują coraz więcej decyzji w całej gospodarce, od udzielania pożyczek, przez zatrudnianie, po dostęp do platform, przypadek Ubera oferuje jeden z najwyraźniejszych jak dotąd sygnałów tego, gdzie leżą granice prawne – i jaka jest cena ich przekroczenia.

Bądź o krok przed przepisami dotyczącymi sztucznej inteligencji Przeczytaj więcej aktualności o sztucznej inteligencji →