La Autoridad Holandesa de Protección de Datos (AP) ha multado a Uber con 825 millones de euros (aproximadamente 966 millones de dólares) por utilizar sistemas automatizados para desactivar las cuentas de los conductores sin informarles adecuadamente, en lo que se cree que es la segunda multa más grande jamás impuesta bajo el Reglamento General de Protección de Datos de Europa.

La decisión, reportada el viernes por Reuters después de que la agencia de noticias revisó los hallazgos del regulador, aterriza en la intersección de dos de las tendencias más importantes en tecnología: la difusión de la gestión algorítmica en la economía de los pequeños negocios y la aplicación cada vez más asertiva de las reglas que gobiernan la toma de decisiones automatizada en Europa. Para obtener cobertura continua sobre cómo los gobiernos controlan los sistemas de IA, siga el informe sobre regulaciones de AI Buzz Wire.

Lo que encontró el regulador

Según AP, los sistemas automatizados de Uber suspendieron temporalmente las cuentas de varios conductores en Europa sospechosos de fraude entre 2020 y 2022. En algunos casos, los conductores con bajas calificaciones de los clientes fueron suspendidos permanentemente.

El regulador concluyó que la práctica violaba los derechos de los conductores según el RGPD, que impide que las empresas permitan que un algoritmo informático tome decisiones que tienen un impacto significativo en la vida de las personas. Quedarse aislado de una plataforma de la que dependen los conductores individuales para su sustento se considera una consecuencia sustancial.

"La AP ha determinado que Uber violó los derechos de los conductores, específicamente el derecho a no estar sujeto a una toma de decisiones automatizada que tiene consecuencias significativas", dijo el regulador en su decisión, citado por Reuters. "Uber también ha violado su derecho a estar informados".

Por qué un regulador holandés tomó el caso

La investigación surgió de una denuncia presentada por conductores de Uber en Francia. La AP manejó el caso porque la sede europea de Uber está ubicada en los Países Bajos, lo que convierte a la autoridad holandesa en el principal supervisor de privacidad de las operaciones de la empresa de transporte en toda la Unión Europea.

La magnitud de la pena es lo que hace que el caso sea excepcional. Se cree que la multa de 825 millones de euros es la segunda más alta jamás impuesta en virtud del RGPD, solo superada por la multa de 1.200 millones de euros impuesta a Meta en 2023 por el regulador de protección de datos de Irlanda por transferencias ilegales de datos de usuarios europeos a Estados Unidos. Meta, al igual que Uber, apeló esa multa y el caso sigue sin resolverse.

La respuesta de Uber

Uber dijo que apelaría la decisión, argumentando que no desactivaba cuentas permanentemente sin una revisión humana. La compañía dijo a Reuters que ya no toma decisiones permanentes sobre la desactivación únicamente a través de sistemas automatizados.

"Estamos totalmente en desacuerdo con esta decisión y multa desproporcionada", dijo un portavoz de Uber en un comunicado, y agregó que la compañía toma en serio los derechos de los conductores y que sus políticas actuales incluyen revisiones humanas y oportunidades para que los conductores impugnen decisiones sobre cuentas.

Por qué el caso importa más allá de Uber

En esencia, la decisión es una advertencia para todas las empresas que permiten que el software tome decisiones importantes sobre las personas (desactivar cuentas, recortar pagos, restringir el acceso a una plataforma) sin supervisión humana ni transparencia significativas.

Las disposiciones del RGPD sobre la toma de decisiones automatizadas se redactaron años antes de la ola actual de agentes de inteligencia artificial y herramientas de gestión algorítmica, pero los reguladores europeos las aplican cada vez más a los sistemas modernos de aprendizaje automático. La multa a Uber demuestra que las reglas tienen fuerza: las sanciones ahora pueden alcanzar el mismo orden de magnitud que las principales acciones antimonopolio y se aplican a decisiones tomadas por sistemas que operan a escala de millones de usuarios.

En el caso de las plataformas de economía colaborativa, es probable que el caso provoque un amplio reexamen de los sistemas de detección de fraude, desactivación basada en calificaciones y verificación de identidad, precisamente el tipo de flujos de trabajo automatizados que históricamente han sido baratos de ejecutar y difíciles de desafiar para los trabajadores afectados. Los conductores en Europa se han quejado durante mucho tiempo de que las suspensiones de cuentas llegan con poca explicación y sin posibilidad práctica de apelación, y la decisión de la AP valida directamente el núcleo de esas quejas.

El fallo también llega cuando Bruselas impone obligaciones adicionales a los sistemas de IA a través de la Ley de IA de la UE, que impone requisitos de transparencia y gestión de riesgos a los sistemas que afectan a los individuos. Las empresas que aún no han mapeado cuáles de sus procesos automatizados caen bajo estos regímenes ahora enfrentan una exposición legal y financiera cada vez mayor, una señal reforzada por el Financial Times, que señaló que la multa a Uber se encuentra entre las sanciones GDPR más grandes registradas.

¿Qué pasa después?

La apelación de Uber se llevará a cabo ante los tribunales holandeses, un proceso que en casos precedentes como el de Meta ya se ha prolongado a lo largo de años. Mientras tanto, la multa es la medida europea más importante hasta la fecha contra la gestión algorítmica de cuentas, y se espera que los reguladores de privacidad de todo el bloque estudien de cerca el razonamiento de AP.

Para los conductores, el cambio práctico inmediato puede ser limitado: Uber sostiene que sus sistemas actuales ya incluyen revisión humana. Pero la decisión establece que suspender a alguien de una plataforma de la que depende para obtener ingresos es una "consecuencia significativa" según la legislación europea, y que las empresas deben informar a las personas cuando se toman tales decisiones sobre ellos.

A medida que los sistemas automatizados asumen más decisiones en toda la economía, desde préstamos hasta contrataciones y acceso a plataformas, el caso Uber ofrece una de las señales más claras hasta ahora sobre dónde se encuentran los límites legales y el precio de cruzarlos.

Manténgase a la vanguardia de la regulación de la IA Leer más noticias sobre IA →