荷兰数据保护局 (AP) 对 Uber 处以 8.25 亿欧元（约合 9.66 亿美元）的罚款，原因是 Uber 在未充分通知司机的情况下使用自动化系统停用司机账户，这被认为是欧洲《通用数据保护条例》有史以来开出的第二大罚款。
路透社周五在审查了监管机构的调查结果后报道了这一决定，该决定恰逢技术领域两个最重要的趋势的交叉点：算法管理在零工经济中的传播，以及欧洲日益自信地执行管理自动化决策的规则。有关政府如何监管人工智能系统的持续报道，请关注 AI Buzz Wire 的监管报告。
监管机构发现了什么
据美联社报道，Uber 的自动化系统在 2020 年至 2022 年期间暂时暂停了欧洲多名涉嫌欺诈的司机的账户。在某些情况下，客户评级较低的司机被永久暂停。
监管机构的结论是，这种做法侵犯了 GDPR 规定的驾驶员权利，该权利限制公司让计算机算法做出对人们生活产生重大影响的决策。与个体司机赖以生存的平台隔绝被认为是一个重大后果。
据路透社报道，监管机构在其决定中表示：“美联社已认定 Uber 侵犯了司机的权利，特别是不接受会产生重大后果的自动决策的权利。” “Uber也侵犯了他们的知情权。”
荷兰监管机构为何受理此案
此次调查源于法国 Uber 司机提出的投诉。美联社处理此案是因为优步的欧洲总部位于荷兰，这使得荷兰当局成为这家叫车公司在欧盟各地运营的首席隐私监管机构。
处罚的规模是本案的特殊之处。据信，8.25 亿欧元的罚款是 GDPR 下有史以来第二高的罚款，仅次于爱尔兰数据保护监管机构 2023 年因非法将欧洲用户数据传输到美国而对 Meta 处以的 12 亿欧元罚款。 Meta 和 Uber 一样，对罚款提出上诉，但案件仍未解决。
Uber 的回应
Uber 表示将对这一决定提出上诉，称其不会在未经人工审查的情况下永久停用账户。该公司告诉路透社，它不再仅通过自动化系统做出有关停用的永久性决定。
优步发言人在一份声明中表示：“我们强烈反对这一决定和不成比例的罚款。”他补充说，该公司认真对待司机的权利，其当前的政策包括人工审查和司机对帐户决定提出异议的机会。
为什么此案比 Uber 更重要
从本质上讲，这一决定是对每家让软件在没有有意义的人为监督或透明度的情况下对人员做出相应选择（停用账户、削减支出、限制对平台的访问）的公司的警告。
GDPR 的自动化决策条款是在当前人工智能代理和算法管理工具浪潮出现之前几年编写的，但欧洲监管机构正在越来越多地将它们应用于现代机器学习系统。 Uber 的罚款表明，这些规则是有效的：处罚现在可以达到与重大反垄断行动相同的数量级，并且适用于数百万用户规模运营的系统做出的决策。
对于零工经济平台而言，此案可能会促使人们对欺诈检测、基于评级的停用和身份验证系统进行广泛的重新审查，而这些系统正是以往运行成本低廉、受影响的工人难以挑战的自动化工作流程。欧洲的司机长期以来一直抱怨帐户被暂停时几乎没有任何解释，也没有实际的上诉途径，而美联社的决定直接证实了这些投诉的核心。
这项裁决也是在布鲁塞尔通过欧盟《人工智能法案》对人工智能系统施加额外义务之际做出的，该法案对影响个人的系统提出了透明度和风险管理要求。尚未确定哪些自动化流程属于这些制度的公司现在面临着越来越多的法律和财务风险——《金融时报》强化了这一信号，该报指出，Uber 的处罚是有记录以来最大规模的 GDPR 制裁之一。
接下来会发生什么
Uber 的上诉将通过荷兰法院进行，这一过程在 Meta 等先例中已经持续了数年之久。与此同时，这笔罚款是欧洲迄今为止针对算法账户管理最重大的执法行动，预计整个欧盟的隐私监管机构将密切研究美联社的推理。
对于司机来说，直接的实际变化可能是有限的——优步坚称其当前的系统已经包括人工审核。但该决定规定，根据欧洲法律，暂停某人的收入所依赖的平台是“重大后果”，公司必须在做出此类决定时告知人们。
随着自动化系统在整个经济中承担更多的决策，从贷款到招聘再到平台访问，优步的案例提供了迄今为止最清晰的信号之一，表明法律界限在哪里，以及跨越这些界限的代价。
领先于人工智能监管 阅读更多人工智能新闻 →
