A Autoridade Holandesa de Proteção de Dados (AP) multou a Uber em 825 milhões de euros – cerca de 966 milhões de dólares – por usar sistemas automatizados para desativar contas de motoristas sem informá-los adequadamente, no que se acredita ser a segunda maior penalidade já emitida sob o Regulamento Geral de Proteção de Dados da Europa.

A decisão, divulgada na sexta-feira pela Reuters depois de a agência de notícias ter revisto as conclusões do regulador, situa-se na intersecção de duas das tendências mais importantes da tecnologia: a difusão da gestão algorítmica na economia gig e a aplicação cada vez mais assertiva na Europa das regras que regem a tomada de decisões automatizada. Para uma cobertura contínua sobre como os governos estão policiando os sistemas de IA, siga os relatórios regulatórios da AI Buzz Wire.

O que o regulador encontrou

Segundo a AP, os sistemas automatizados da Uber suspenderam temporariamente as contas de vários motoristas na Europa suspeitos de fraude entre 2020 e 2022. Em alguns casos, os motoristas com baixas classificações de clientes foram suspensos permanentemente.

O regulador concluiu que a prática violava os direitos dos condutores ao abrigo do RGPD, que restringe as empresas de permitir que um algoritmo informático tome decisões que tenham um impacto significativo na vida das pessoas. Ficar isolado de uma plataforma da qual os condutores individuais dependem para a sua subsistência é considerado uma consequência substancial.

“A AP determinou que a Uber violou os direitos dos motoristas, especificamente o direito de não estar sujeito a decisões automatizadas que têm consequências significativas”, afirmou o regulador na sua decisão, citada pela Reuters. “O Uber também violou seu direito de ser informado.”

Por que um regulador holandês aceitou o caso

A investigação resultou de uma denúncia apresentada por motoristas da Uber na França. A AP tratou do caso porque a sede europeia da Uber está localizada na Holanda, tornando a autoridade holandesa o principal supervisor de privacidade para as operações da empresa de transporte em toda a União Europeia.

A escala da pena é o que torna o caso excepcional. Acredita-se que a multa de 825 milhões de euros seja a segunda mais elevada alguma vez emitida ao abrigo do RGPD, superada apenas pela multa de 1,2 mil milhões de euros imposta à Meta em 2023 pelo regulador de protecção de dados da Irlanda por transferências ilegais de dados de utilizadores europeus para os Estados Unidos. A Meta, assim como a Uber, recorreu da multa e o caso continua sem solução.

Resposta do Uber

A Uber disse que apelaria da decisão, argumentando que não desativou permanentemente as contas sem revisão humana. A empresa disse à Reuters que não toma mais decisões permanentes sobre desativação apenas por meio de sistemas automatizados.

“Discordamos veementemente desta decisão e da multa desproporcional”, disse um porta-voz da Uber em comunicado, acrescentando que a empresa leva a sério os direitos dos motoristas e que suas políticas atuais incluem análises humanas e oportunidades para os motoristas contestarem decisões de contas.

Por que o caso é importante além do Uber

Na sua essência, a decisão é um aviso para todas as empresas que permitem que o software faça escolhas importantes sobre as pessoas – desativando contas, cortando pagamentos, restringindo o acesso a uma plataforma – sem supervisão humana significativa ou transparência.

As disposições automatizadas de tomada de decisão do RGPD foram escritas anos antes da atual onda de agentes de IA e ferramentas de gestão algorítmica, mas os reguladores europeus estão cada vez mais a aplicá-las a sistemas modernos de aprendizagem automática. A multa da Uber demonstra que as regras são válidas: as sanções podem agora atingir a mesma ordem de grandeza que as principais ações antitrust e aplicam-se a decisões tomadas por sistemas que operam à escala de milhões de utilizadores.

Para as plataformas da economia gig, o caso provavelmente levará a um amplo reexame da detecção de fraudes, da desativação baseada em classificações e dos sistemas de verificação de identidade – precisamente o tipo de fluxos de trabalho automatizados que historicamente têm sido baratos de operar e difíceis de serem desafiados pelos trabalhadores afetados. Os condutores na Europa queixam-se há muito tempo que as suspensões de contas chegam com poucas explicações e sem vias práticas de recurso, e a decisão da AP valida diretamente o cerne dessas reclamações.

A decisão também chega no momento em que Bruxelas impõe obrigações adicionais aos sistemas de IA através da Lei de IA da UE, que impõe requisitos de transparência e gestão de riscos aos sistemas que afetam os indivíduos. As empresas que ainda não mapearam quais dos seus processos automatizados se enquadram nestes regimes enfrentam agora uma crescente exposição jurídica e financeira – um sinal reforçado pelo Financial Times, que observou que a penalidade da Uber está entre as maiores sanções do GDPR já registadas.

O que acontece a seguir

O recurso da Uber passará pelos tribunais holandeses, um processo que em casos precedentes como o da Meta já se estendeu por anos. Entretanto, a multa permanece como a ação de aplicação europeia mais significativa até à data contra a gestão algorítmica de contas, e espera-se que os reguladores de privacidade em todo o bloco estudem de perto o raciocínio da AP.

Para os motoristas, a mudança prática imediata pode ser limitada – a Uber mantém que seus sistemas atuais já incluem revisão humana. Mas a decisão estabelece que suspender alguém de uma plataforma da qual depende para obter rendimentos é uma “consequência significativa” ao abrigo da legislação europeia, e que as empresas devem informar as pessoas quando tais decisões são tomadas sobre elas.

À medida que os sistemas automatizados assumem mais decisões em toda a economia, desde os empréstimos à contratação e ao acesso à plataforma, o caso Uber oferece um dos sinais mais claros sobre onde estão os limites legais — e sobre o preço de os ultrapassar.

Fique à frente da regulamentação de IA Leia mais notícias sobre IA →