De Europese privacyorganisatie noyb heeft samen met de onderzoeksgroepen Intérêt à Agir, DIPLab en Reversing.Works vijf klachten ingediend tegen Scale AI op grond van de Algemene Verordening Gegevensbescherming van de EU, waarin wordt beweerd dat het Outlier-platform van het bedrijf de gig-werknemers die AI-modellen trainen, onderwerpt aan invasief en onwettig toezicht. De klachten zijn maandag ingediend bij gegevensbeschermingsautoriteiten in Frankrijk, Italië, Nederland en Oostenrijk.
Het Outlier-platform van Scale AI heeft meer dan 900.000 freelance medewerkers in dienst die het menselijke werk achter de AI-training uitvoeren: het schrijven van aanwijzingen, het rangschikken van modelantwoorden en het annoteren van gegevens. De klantenlijst van het platform leest als een who's-who van de AI-industrie: Meta, OpenAI, xAI, Google en Anthropic, samen met de Amerikaanse overheid. Reuters meldde de klachten maandagochtend. Voor meer context over dit verhaal, zie ons AI-nieuws.
Trackers van TikTok, LinkedIn en Facebook op apparaten van werknemers
Uit de technische analyse die aan de klachten ten grondslag ligt, bleek dat terwijl werknemers zich op het Outlier-platform bevinden, trackingcode van TikTok, LinkedIn, Facebook, het enquêteplatform Sprig en het data-analysebedrijf Datadog op hun apparaten wordt geplaatst. Volgens noyb sturen deze trackers elke paar seconden persoonlijke gegevens van werknemers naar derden, waaronder IP-adressen, contactgegevens, unieke identificatiegegevens en informatie over de bezochte pagina.
"Zulke constante en uitgebreide tracking tijdens het werk gaat echt tegen alle redelijke verwachtingen in", zegt Lisa Steinfeld Leiser, advocaat gegevensbescherming bij noyb. "Waarom zou LinkedIn of Facebook weten aan welke taken je werkt?"
De groep stelt dat deze praktijk in strijd is met de vereisten van de AVG op het gebied van doelbinding en dataminimalisatie, en dat werknemers – geclassificeerd als freelancers in plaats van werknemers – geen zinvolle manier hebben om het volgen te weigeren zonder de toegang tot inkomen te verliezen.
Gedwongen biometrische verificatie via Persona
De tweede pijler van de klachten betreft identiteitsverificatie. Outlier vereist dat werknemers herhaaldelijk de biometrische verificatie doorstaan die wordt uitgevoerd door het identiteitsbedrijf Persona, inclusief video-opnamen van hun gezichten en uploads van door de overheid uitgegeven identiteitsdocumenten. Scale AI zegt dat het proces bestaat om identiteitsfraude te voorkomen en de vaardigheden van werknemers te verifiëren.
noyb stelt dat de praktijk veel verder gaat dan nodig is, en wijst op de beveiligingsgeschiedenis van Persona: in oktober 2025 werden ongeveer 70.000 foto's van overheids-ID's die bij het bedrijf waren opgeslagen door hackers openbaar gemaakt. In de klachten wordt ook opgemerkt dat Persona zich ruime rechten voorbehoudt om persoonlijke gegevens te verzamelen, waaronder IP-adressen, apparaatinformatie, geolocatie, adressen en consumentenkredietgegevens.
"Platformwerk lijkt een vruchtbare voedingsbodem te zijn voor een geheel nieuw type werkplektoezicht", zegt Thomas Le Bonniec, sociologieonderzoeker bij DIPLab. “Dit zou bij elke andere vorm van werkgelegenheid in de Europese Unie als onaanvaardbaar worden beschouwd. Dit systeem gedijt alleen vanwege het opzettelijke gebrek aan transparantie.”
De inhoud van de klachten is het vermelden waard, omdat deze een werkomgeving beschrijft die de meeste mensen in een conventionele baan nooit zouden accepteren. Een medewerker die gegevens annoteert of modeluitvoer op Outlier beoordeelt, voedt, volgens de technische analyse, tegelijkertijd advertentieplatforms met een stroom gedragssignalen: de pagina's die ze bezoeken, identificatiegegevens die deze bezoeken koppelen aan hun bredere online profielen, en details waarmee ze kunnen worden gelokaliseerd. noyb merkt op dat deze gegevens vervolgens kunnen worden gebruikt voor gerichte reclame en profilering, doeleinden die niets te maken hebben met het betalen van een werknemer voor voltooide taken.
De klachten richten zich ook op de asymmetrie van de regeling. Werknemers worden geclassificeerd als freelancers, waardoor ze buiten de meeste arbeidsbescherming vallen, maar toch zijn ze onderworpen aan controles – voortdurende monitoring, herhaalde identiteitscontroles – die lijken op de meest intensieve vormen van werknemerstoezicht. Bedrijven in de platformeconomie classificeren werknemers als zelfstandigen, wat hen vaak uitsluit van sociale uitkeringen en gevolgen heeft voor hun lonen. De klachten stellen dat schendingen van de gegevensbescherming deze kwetsbaarheid vergroten in plaats van los daarvan te bestaan.
Het verborgen personeelsbestand achter grensmodellen
De klachten komen binnen in het kader van toenemende aandacht voor de arbeid die AI-systemen aandrijft. Meer dan 40 miljoen mensen wereldwijd hebben hun werk nu georganiseerd via digitale platforms, en AI-annotatie is een van de snelst groeiende segmenten geworden. De datalabelers en beoordelaars die chatbots als ChatGPT, Gemini en Grok gepolijst en veilig maken, werken doorgaans geïsoleerd, betaald per taak, waarbij hun output rechtstreeks wordt ingevoerd in modellen waarvan de waarderingen nu in de honderden miljarden lopen.
“De schendingen die worden benadrukt in de klachten tegen Scale AI laten duidelijk zien dat de AI-boom afhankelijk is van een groot personeelsbestand wier privacy op het spel staat”, zegt Baptiste Delmas, projectcoördinator bij Intérêt à Agir. "Gegevensbeschermingsautoriteiten moeten deze kwesties nu serieus nemen en strikte handhavingsmaatregelen opleggen."
De aanwezigheid van de Amerikaanse overheid op de klantenlijst van Outlier voegt een extra dimensie toe. Scale AI heeft aanzienlijke federale contracten binnengehaald, en de klachten benadrukken hoe hetzelfde platform dat het werk van de overheid en grenslaboratoria ondersteunt, volgens de indieners buiten de Europese privacywetgeving opereert.
Wat gebeurt er vervolgens
Op grond van de AVG kunnen de Franse, Italiaanse, Nederlandse en Oostenrijkse autoriteiten die de klachten ontvangen Scale AI opdracht geven de praktijken te stoppen, boetes opleggen tot 4 procent van de wereldwijde jaaromzet, of beide. De handhaving tegen Amerikaanse platformbedrijven is historisch gezien traag verlopen, maar noyb heeft een track record van het volgen van klachten tot bindende beslissingen, waaronder baanbrekende acties tegen Meta en Google wegens gedwongen toestemming.
Voor de AI-industrie is de casus een test of de arbeidslaag die modellen bruikbaar maakt, aan dezelfde privacynormen zal worden gehouden als de producten zelf. Als de autoriteiten de kant van de klagers kiezen, zouden AI-trainingsplatforms die in Europa actief zijn, gedwongen kunnen worden om trackers van derden uit hun werkomgeving te verwijderen en biometrische identiteitscontroles te heroverwegen – veranderingen die zouden doorwerken in een sector die afhankelijk is van precies dit soort gedistribueerde, flexibele arbeidskrachten.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
