オランダのデータ保護局（AP）は、ドライバーに適切な通知をせずに自動システムを使用してドライバーのアカウントを無効化したとして、ウーバーに8億2,500万ユーロ（およそ9億6,600万ドル）の罰金を科した。これは、欧州の一般データ保護規則に基づいて課された罰金としては、これまでで2番目に大きいと考えられている。

この決定は、通信社が規制当局の調査結果を精査した後にロイター通信が金曜日に報じたもので、ギグエコノミーにおけるアルゴリズム管理の普及と、自動化された意思決定を管理するルールの執行をヨーロッパがますます積極的に行っているという、テクノロジーにおける最も重要な2つのトレンドが交差するところに着地している。政府が AI システムをどのように取り締まっているかに関する継続的な報道については、AI Buzz Wire の規制レポート をご覧ください。

規制当局が発見したこと

AP通信によると、ウーバーの自動システムは2020年から2022年にかけて、欧州で詐欺の疑いがある複数のドライバーのアカウントを一時的に停止した。場合によっては、顧客評価の低いドライバーが永久停止になった。

規制当局は、この行為は企業が人々の生活に重大な影響を与える意思決定をコンピュータアルゴリズムに行わせることを制限するGDPRに基づくドライバーの権利を侵害していると結論づけた。個々のドライバーが生計を立てているプラ​​ットフォームから切り離されることは、重大な結果であると考えられます。

ロイター通信が引用したように、規制当局は決定の中で「AP通信は、ウーバーがドライバーの権利、特に重大な結果をもたらす自動化された意思決定の対象とならない権利を侵害したと判断した」と述べた。 「ウーバーはまた、情報を得る権利を侵害している。」

オランダの規制当局が訴訟を起こした理由

この調査は、フランスのウーバー運転手からの告訴に端を発した。 AP通信がこの事件を扱ったのは、Uberの欧州本社がオランダにあり、オランダ当局が欧州連合全体での配車会社の事業運営の主任プライバシー監督者となっているためである。

この訴訟を異例なものにしているのは、刑罰の規模だ。この8億2,500万ユーロの罰金は、GDPRに基づいて課せられた史上2番目に高い罰金であると考えられており、これを上回るのは、欧州のユーザーデータの米国への不法移転を巡り、2023年にアイルランドのデータ保護規制当局がメタ社に課した罰金12億ユーロだけである。メタ社はウーバー社と同様にこの罰金に対して控訴したが、事件は未解決のままである。

Uber の応答

ウーバーは、人間による審査なしにアカウントを永久に無効化したわけではないと主張し、この決定に対して控訴すると述べた。同社はロイターに対し、今後は自動化システムだけで非アクティブ化に関する恒久的な決定を下すことはないと語った。

ウーバーの広報担当者は声明で「この決定と不当な罰金に強く反対する」と述べ、同社はドライバーの権利を真剣に受け止めており、現在の方針には人による審査やドライバーがアカウントの決定に異議を唱える機会が含まれていると付け加えた。

この事件が Uber を超えて重要である理由

この決定の核心は、人による有意義な監視や透明性なしに、ソフトウェアにアカウントの無効化、支払いの削減、プラットフォームへのアクセスの制限など、人に関する結果的な選択をさせるすべての企業への警告である。

GDPR の自動意思決定に関する規定は、現在の AI エージェントやアルゴリズム管理ツールの波が起こる何年も前に書かれたものですが、欧州の規制当局はこれらの規定を最新の機械学習システムに適用するケースが増えています。ウーバーの罰金は、この規則が有効であることを示している。罰則は現在、主要な反トラスト法と同規模に達する可能性があり、数百万人のユーザー規模で運用されているシステムが下す決定に適用される。

ギグエコノミープラットフォームにとって、今回の事件は、不正行為の検出、評価に基づく無効化、身元確認システムなど、まさに歴史的に実行コストが低く、影響を受ける労働者が挑戦するのが困難であった種類の自動化ワークフローの広範な再検討を促す可能性がある。欧州のドライバーらは長い間、アカウント停止がほとんど説明も現実的な控訴手段もないまま行われると不満を訴えてきたが、AP通信の決定はこうした苦情の核心を直接裏付けるものとなった。

この判決は、個人に影響を与えるシステムに透明性とリスク管理の要件を課すEUのAI法を通じて、ブリュッセル市がAIシステムに追加の義務を課す中でも下された。どの自動化プロセスがこれらの制度に該当するのかをまだ把握していない企業は、現在、法的および財務上のエクスポージャの増大に直面している。これは、Uber の罰金が史上最大の GDPR 制裁にランクされると指摘したフィナンシャル・タイムズ紙によってもその傾向が強まっている。

次に何が起こるか

ウーバー側の上訴はオランダの裁判所で審理されることになるが、メタ氏のような前例の訴訟ではすでに数年に渡って手続きが行われている。一方、この罰金は、アルゴリズムによるアカウント管理に対するこれまでの欧州の執行措置の中で最も重要なものであり、域内のプライバシー規制当局はAP通信の根拠を詳しく研究することが期待されている。

ドライバーにとって、当面の実際的な変更は限定的なものになる可能性がある。ウーバーは、現在のシステムにはすでに人間によるレビューが含まれていると主張している。しかし今回の決定は、収入源として依存しているプラ​​ットフォームからの停職処分は欧州法の下で「重大な結果」であり、企業はそのような決定が下された場合には国民に通知しなければならないことを明らかにした。

融資から雇用、プラットフォームへのアクセスに至るまで、経済全体で自動化システムがより多くの意思決定を担う中、ウーバーの訴訟は、法的境界線がどこにあるのか、そしてそれを越える代償について、これまでで最も明確なシグナルの一つを提示している。

AI 規制の先を行く AIニュースをもっと読む→