Управління із захисту даних Нідерландів (AP) оштрафувало Uber на 825 мільйонів євро (приблизно 966 мільйонів доларів) за використання автоматизованих систем для дезактивації облікових записів водіїв без відповідного інформування. Це вважається другим за величиною штрафом, який коли-небудь накладався відповідно до Загального регламенту захисту даних Європи.

Рішення, про яке Reuters повідомило в п’ятницю після того, як інформаційне агентство ознайомилося з висновками регулятора, припадає на перетин двох найбільш послідовних тенденцій у технологіях: поширення алгоритмічного управління в економіці концертів і все більш наполегливе дотримання в Європі правил, які регулюють автоматизоване прийняття рішень. Для постійного висвітлення того, як уряди контролюють системи штучного інтелекту, слідкуйте за [інструкціями AI Buzz Wire] (https://aibuzzwire.news).

Що виявив регулятор

За даними AP, автоматизовані системи Uber тимчасово призупинили облікові записи багатьох водіїв у Європі, яких підозрювали в шахрайстві в період з 2020 по 2022 рік. У деяких випадках водії з низькими рейтингами клієнтів були призупинені назавжди.

Регулятор дійшов висновку, що ця практика порушує права водіїв відповідно до GDPR, який обмежує компанії від дозволу комп’ютерному алгоритму приймати рішення, які мають значний вплив на життя людей. Бути відрізаним від платформи, від якої окремі водії залежать для свого існування, вважається суттєвим наслідком.

«AP встановила, що Uber порушив права водіїв, зокрема право не підлягати автоматизованому ухваленню рішень, що має значні наслідки», — йдеться у рішенні регулятора, яке цитує Reuters. «Uber також порушив їхнє право бути поінформованим».

Чому нідерландський регулятор взявся за справу

Розслідування було розпочато на основі скарги, поданої водіями Uber у Франції. AP займалася цією справою, оскільки європейська штаб-квартира Uber розташована в Нідерландах, що робить нідерландський орган провідним наглядовим органом із забезпечення конфіденційності для операцій компанії, що займається організацією поїздок, у всьому Європейському Союзі.

Масштаб покарання робить випадок винятковим. Вважається, що штраф у розмірі 825 мільйонів євро є другим за величиною, який коли-небудь накладався відповідно до GDPR, випереджаючи лише штраф у розмірі 1,2 мільярда євро, накладений на Meta у 2023 році регулятором захисту даних Ірландії за незаконну передачу даних європейських користувачів до Сполучених Штатів. Meta, як і Uber, оскаржила цей штраф, і справа залишається невирішеною.

Відповідь Uber

Uber заявив, що буде оскаржувати це рішення, стверджуючи, що він не деактивував облікові записи назавжди без перевірки персоналом. Компанія повідомила Reuters, що більше не приймає постійні рішення про деактивацію виключно через автоматизовані системи.

«Ми категорично не погоджуємося з цим рішенням і непропорційним штрафом», — сказав представник Uber у заяві, додавши, що компанія серйозно ставиться до прав водіїв і що її поточна політика передбачає перевірку людьми та можливість для водіїв оскаржувати рішення щодо облікового запису.

Чому справа важлива за межами Uber

За своєю суттю це рішення є попередженням для кожної компанії, яка дозволяє програмному забезпеченню робити відповідний вибір щодо людей — дезактивувати облікові записи, скорочувати виплати, обмежувати доступ до платформи — без значущого людського контролю чи прозорості.

Положення GDPR щодо автоматизованого прийняття рішень були написані за роки до нинішньої хвилі агентів ШІ та інструментів алгоритмічного керування, але європейські регулятори все частіше застосовують їх до сучасних систем машинного навчання. Штраф Uber демонструє жорсткість правил: штрафи тепер можуть досягати того ж порядку, що й основні антимонопольні дії, і вони застосовуються до рішень, прийнятих системами, що працюють у масштабі мільйонів користувачів.

Для економічних платформ великого масштабу цей випадок, ймовірно, спонукає до широкого перегляду систем виявлення шахрайства, дезактивації на основі рейтингів і перевірки особи — саме того типу автоматизованих робочих процесів, які раніше були дешевими у використанні та складними для постраждалих працівників. Водії в Європі вже давно скаржаться, що призупинення облікових записів приходить без пояснень і без практичної можливості для оскарження, і рішення AP безпосередньо підтверджує суть цих скарг.

Постанова також надходить, оскільки Брюссель накладає додаткові зобов’язання на системи штучного інтелекту через Закон ЄС про штучний інтелект, який накладає вимоги щодо прозорості та управління ризиками до систем, які впливають на окремих людей. Компанії, які ще не визначили, які з їхніх автоматизованих процесів підпадають під ці режими, тепер стикаються зі зростаючою юридичною та фінансовою небезпекою — сигнал, підкріплений Financial Times, який зазначив, що покарання Uber є одним із найбільших санкцій GDPR за всю історію.

Що станеться далі

Апеляція Uber проходитиме через голландські суди, процес, який у прецедентних справах, таких як Meta, вже розтягнувся на роки. Тим часом штраф є найзначнішим європейським правозастосуванням на сьогоднішній день проти алгоритмічного керування обліковими записами, і очікується, що регулятори конфіденційності в усьому блоці уважно вивчать аргументацію AP.

Для водіїв негайні практичні зміни можуть бути обмеженими — Uber стверджує, що його поточні системи вже включають перевірку людьми. Але рішення встановлює, що відсторонення когось від платформи, на яку вони покладаються для отримання прибутку, є «значним наслідком» згідно з європейським законодавством, і що компанії повинні інформувати людей, коли щодо них приймаються такі рішення.

Оскільки автоматизовані системи приймають більше рішень у всій економіці, від кредитування до найму та доступу до платформи, справа Uber є одним із найчіткіших сигналів про те, де пролягають юридичні кордони — і про ціну їх перетину.

Будьте попереду регулювання штучного інтелекту Читати більше новин AI →