Den europeiska integritetsorganisationen noyb har tillsammans med forskargrupperna Intérêt à Agir, DIPLab och Reversing.Works lämnat in fem klagomål mot Scale AI enligt EU:s allmänna dataskyddsförordning, med påståenden om att företagets Outlier-plattform utsätter gigarbetarna som tränar AI-modeller för invasiv och olaglig övervakning. Klagomålen lämnades in på måndagen till dataskyddsmyndigheter i Frankrike, Italien, Nederländerna och Österrike.
Scale AI:s Outlier-plattform sysselsätter mer än 900 000 frilansarbetare som utför det mänskliga arbetet bakom AI-träning – skriver uppmaningar, rangordnar modellsvar och kommenterar data. Plattformens kundlista läser som en vem är-vem i AI-branschen: Meta, OpenAI, xAI, Google och Anthropic, tillsammans med den amerikanska regeringen. Reuters rapporterade om klagomålen på måndagsmorgonen. For more context on this story, see our ongoing AI trends.
Spårare från TikTok, LinkedIn och Facebook på arbetares enheter
Den tekniska analysen som ligger till grund för klagomålen visade att medan arbetare är på Outlier-plattformen, placeras spårningskod från TikTok, LinkedIn, Facebook, undersökningsplattformen Sprig och dataanalysföretaget Datadog på deras enheter. Enligt noyb skickar dessa spårare arbetares personliga data till tredje part med några sekunders mellanrum, inklusive IP-adresser, kontaktuppgifter, unika identifierare och information om sidan som besöks.
"En sådan konstant och omfattande spårning under arbetet går verkligen emot alla rimliga förväntningar", säger Lisa Steinfeld Leiser, dataskyddsadvokat på noyb. "Varför ska LinkedIn eller Facebook veta vilka uppgifter du arbetar med?"
Gruppen hävdar att praxis bryter mot GDPR:s krav kring ändamålsbegränsning och dataminimering, och att arbetare – klassificerade som frilansare snarare än anställda – inte har något meningsfullt sätt att vägra spårning utan att förlora tillgång till inkomst.
Tvingad biometrisk verifiering genom persona
Den andra pelaren i klagomålen gäller identitetskontroll. Outlier kräver att arbetare upprepade gånger klarar biometrisk verifiering utförd av identitetsföretaget Persona, inklusive videoinspelningar av deras ansikten och uppladdningar av statligt utfärdade ID-handlingar. Scale AI säger att processen existerar för att förhindra identitetsbedrägerier och verifiera arbetarnas kompetens.
noyb hävdar att praxis går långt utöver vad som är nödvändigt och pekar på Personas säkerhetshistorik: i oktober 2025 avslöjades cirka 70 000 fotografier av statliga ID:n som lagrats hos företaget av hackare. Klagomålen noterar också att Persona förbehåller sig breda rättigheter att samla in personlig information, inklusive IP-adresser, enhetsinformation, geolokalisering, adresser och konsumentkreditdata.
"Plattformarbete verkar vara grogrund för en helt ny typ av arbetsplatsövervakning", säger Thomas Le Bonniec, sociologiforskare vid DIPLab. "Detta skulle ses som oacceptabelt i någon annan form av anställning i Europeiska unionen. Detta system frodas bara på grund av dess avsiktliga brist på transparens."
Innehållet i klagomålen är värt att precisera, eftersom det beskriver en arbetsmiljö som de flesta aldrig skulle acceptera i ett konventionellt jobb. En arbetare som kommenterar data eller betygsmodeller på Outlier matar, enligt den tekniska analysen, samtidigt reklamplattformar med en ström av beteendesignaler – sidorna de besöker, identifierare som länkar dessa besök till deras bredare onlineprofiler och detaljer som kan hitta dem. noyb noterar att denna data sedan kan användas för riktad reklam och profilering, syften som inte har något att göra med att betala en arbetare för utförda uppgifter.
Klagomålen riktar sig också mot arrangemangets asymmetri. Arbetare klassas som frilansare, vilket placerar dem utanför de flesta arbetsskydd, men de är föremål för kontroller - kontinuerlig övervakning, upprepade identitetskontroller - som liknar de mest intensiva formerna av anställd övervakning. Företag inom plattformsekonomin klassificerar arbetare som egenföretagare, vilket ofta utesluter dem från sociala förmåner och påverkar deras löner, och klagomålen hävdar att dataskyddsbrott förvärrar denna sårbarhet snarare än att existera separat från den.
Den dolda arbetskraften bakom gränsmodeller
Klagomålen anländer mitt i en växande granskning av det arbete som driver AI-system. Mer än 40 miljoner människor världen över har nu sitt arbete organiserat via digitala plattformar, och AI-kommentarer har blivit ett av de snabbast växande segmenten. Datamärkningarna och bedömarna som gör chatbotar som ChatGPT, Gemini och Grok polerade och säkra arbetar vanligtvis isolerade, betalda per uppgift, med deras utdata direkt in i modeller vars värderingar nu uppgår till hundratals miljarder.
"Kränkningarna som lyfts fram i klagomålen mot Scale AI visar tydligt att AI-boomen förlitar sig på en stor arbetsstyrka vars integritet står på spel", säger Baptiste Delmas, projektkoordinator på Intérêt à Agir. "Dataskyddsmyndigheter måste nu ta dessa frågor på allvar och införa strikta tillsynsåtgärder."
Den amerikanska regeringens närvaro på Outliers kundlista ger ytterligare en dimension. Scale AI har vunnit betydande federala kontrakt, och klagomålen belyser hur samma plattform som stöder regerings- och gränslabbarbete fungerar utanför europeisk integritetslagstiftning.
Vad händer härnäst
Enligt GDPR kan de franska, italienska, holländska och österrikiska myndigheterna som tar emot klagomålen beordra Scale AI att upphöra med metoderna, utdöma böter på upp till 4 procent av den globala årliga omsättningen, eller både och. Upprätthållandet av amerikanska plattformsföretag har historiskt sett varit långsamt, men noyb har en erfarenhet av att följa klagomål till bindande beslut, inklusive milstolpar mot Meta och Google över påtvingat samtycke.
För AI-branschen är fallet ett test av om arbetslagret som gör modeller användbara kommer att hållas till samma integritetsstandarder som själva produkterna. Om myndigheterna ställer sig på de klagandes sida kan AI-utbildningsplattformar som är verksamma i Europa tvingas ta bort tredjepartsspårare från sina arbetsmiljöer och ompröva biometriska identitetskontroller – förändringar som skulle skölja igenom en bransch som är beroende av just denna typ av distribuerad, flexibel arbetskraft.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
