Голландский регулирующий орган оштрафовал Uber на 825 миллионов евро за деактивацию водителей с помощью искусственного интеллекта в знаковом деле GDPR

Управление по защите данных Нидерландов (AP) оштрафовало Uber на 825 миллионов евро (около 966 миллионов долларов США) за использование автоматизированных систем для деактивации учетных записей водителей без надлежащего информирования их, что считается вторым по величине штрафом, когда-либо наложенным в соответствии с Общим регламентом защиты данных Европы.

Решение, о котором сообщило в пятницу агентство Reuters после того, как информационное агентство рассмотрело выводы регулятора, находится на пересечении двух наиболее важных тенденций в области технологий: распространения алгоритмического управления в экономике свободного заработка и все более настойчивого соблюдения в Европе правил, регулирующих автоматизированное принятие решений. Для постоянного освещения того, как правительства контролируют системы искусственного интеллекта, следите за [репортажами AI Buzz Wire о регулировании] (https://aibuzzwire.news).

Что обнаружил регулятор

По данным AP, в период с 2020 по 2022 год автоматизированные системы Uber временно заблокировали учетные записи нескольких водителей в Европе, подозреваемых в мошенничестве. В некоторых случаях водители с низким рейтингом клиентов были заблокированы навсегда.

Регулятор пришел к выводу, что эта практика нарушает права водителей в соответствии с GDPR, который запрещает компаниям позволять компьютерному алгоритму принимать решения, которые оказывают существенное влияние на жизнь людей. Отрезание от платформы, от которой зависят средства к существованию отдельных водителей, считается существенным последствием.

«AP установило, что Uber нарушил права водителей, в частности право не подвергаться автоматическому принятию решений, что имеет серьезные последствия», — говорится в решении регулятора, цитируемого Reuters. «Uber также нарушил свое право на получение информации».

Почему голландский регулирующий орган взялся за это дело

Расследование началось на основании жалобы, поданной водителями Uber во Франции. AP взялось за дело, поскольку европейская штаб-квартира Uber расположена в Нидерландах, что делает голландский орган ведущим надзором за соблюдением конфиденциальности в деятельности компании по вызову пассажиров на всей территории Европейского Союза.

Масштаб наказания делает этот случай исключительным. Штраф в 825 миллионов евро считается вторым по величине, когда-либо наложенным в соответствии с GDPR, его превосходит только штраф в 1,2 миллиарда евро, наложенный на Meta в 2023 году регулятором защиты данных Ирландии за незаконную передачу данных европейских пользователей в Соединенные Штаты. Meta, как и Uber, обжаловала этот штраф, и дело осталось нераскрытым.

Ответ Uber

Uber заявил, что подаст апелляцию на это решение, утверждая, что компания не деактивирует учетные записи навсегда без проверки человеком. Компания сообщила Reuters, что больше не принимает постоянных решений о деактивации исключительно с помощью автоматизированных систем.

«Мы категорически не согласны с этим решением и непропорциональным штрафом», — заявил представитель Uber в своем заявлении, добавив, что компания серьезно относится к правам водителей и что ее текущая политика включает в себя человеческие проверки и возможности для водителей оспаривать решения по учетным записям.

Почему дело имеет значение за пределами Uber

По сути, это решение является предупреждением для каждой компании, которая позволяет программному обеспечению делать последовательный выбор в отношении людей — деактивировать учетные записи, сокращать выплаты, ограничивать доступ к платформе — без значимого человеческого контроля или прозрачности.

Положения GDPR по автоматизированному принятию решений были написаны за несколько лет до нынешней волны агентов искусственного интеллекта и алгоритмических инструментов управления, но европейские регуляторы все чаще применяют их к современным системам машинного обучения. Штраф Uber демонстрирует, что правила нерушимы: штрафы теперь могут достигать того же порядка, что и крупные антимонопольные действия, и они применяются к решениям, принимаемым системами, работающими в масштабе миллионов пользователей.

Для платформ гиг-экономики этот случай, скорее всего, побудит к широкому пересмотру систем обнаружения мошенничества, деактивации на основе рейтинга и проверки личности — именно тех автоматизированных рабочих процессов, которые исторически были дешевыми в эксплуатации и с которыми пострадавшим работникам было трудно бросить вызов. Водители в Европе уже давно жалуются, что блокировка учетных записей происходит без каких-либо объяснений и без каких-либо практических возможностей для апелляции, и решение AP напрямую подтверждает суть этих жалоб.

Постановление также было принято на фоне того, что Брюссель налагает дополнительные обязательства на системы искусственного интеллекта посредством Закона ЕС об искусственном интеллекте, который накладывает требования прозрачности и управления рисками на системы, которые затрагивают отдельных лиц. Компании, которые еще не определили, какие из их автоматизированных процессов подпадают под эти режимы, теперь сталкиваются с растущими юридическими и финансовыми проблемами — сигнал, подтвержденный газетой Financial Times, которая отметила, что штраф Uber входит в число крупнейших санкций GDPR за всю историю.

Что будет дальше

Апелляция Uber будет рассматриваться в голландских судах, и этот процесс в прецедентных делах, таких как дело Меты, уже растянулся на годы. Между тем, этот штраф на сегодняшний день является наиболее значимым европейским принудительным действием против алгоритмического управления учетными записями, и ожидается, что регуляторы конфиденциальности по всему блоку внимательно изучат доводы AP.

Для водителей немедленные практические изменения могут быть ограниченными — Uber утверждает, что его нынешние системы уже включают проверку людьми. Но решение устанавливает, что отстранение кого-либо от платформы, на которую они полагаются в качестве источника дохода, является «значительным последствием» в соответствии с европейским законодательством, и что компании должны информировать людей, когда в их отношении принимаются такие решения.

Поскольку автоматизированные системы берут на себя все больше задач по принятию решений во всей экономике, от кредитования до найма и доступа к платформам, случай с Uber предлагает один из самых четких сигналов о том, где лежат правовые границы — и о цене их пересечения.

Остерегайтесь регулирования ИИ Читать больше новостей об искусственном интеллекте →