Evropská organizace pro ochranu soukromí noyb spolu s výzkumnými skupinami Intérêt à Agir, DIPLab a Reversing.Works podala pět stížností na Scale AI podle obecného nařízení EU o ochraně osobních údajů, přičemž tvrdí, že platforma společnosti Outlier podrobuje pracovníky koncertů, kteří školí modely AI, invazivnímu a nezákonnému sledování. Stížnosti byly v pondělí podány úřadům na ochranu údajů ve Francii, Itálii, Nizozemsku a Rakousku.
Platforma Scale AI Outlier zaměstnává více než 900 000 pracovníků na volné noze, kteří provádějí lidskou práci, která stojí za školením AI – píší výzvy, hodnotí modelové odpovědi a anotují data. Seznam zákazníků platformy zní jako kdo je-kdo z odvětví AI: Meta, OpenAI, xAI, Google a Anthropic, spolu s vládou USA. O stížnostech informovala v pondělí ráno agentura Reuters. For more context on this story, see our ongoing AI trends.
Sledovače od TikTok, LinkedIn a Facebook na zařízeních pracovníků
Technická analýza, která je základem stížností, zjistila, že zatímco jsou pracovníci na platformě Outlier, na jejich zařízení je umístěn sledovací kód z TikTok, LinkedIn, Facebook, průzkumné platformy Sprig a společnosti Datadog pro analýzu dat. Podle noyb tyto sledovače každých pár sekund odesílají osobní údaje pracovníků třetím stranám, včetně IP adres, kontaktních údajů, jedinečných identifikátorů a informací o navštívené stránce.
"Takové neustálé a rozsáhlé sledování při práci je skutečně v rozporu se všemi rozumnými očekáváními," řekla Lisa Steinfeld Leiser, právnička na ochranu údajů ve společnosti noyb. "Proč by měl LinkedIn nebo Facebook vědět, na kterých úkolech pracujete?"
Skupina tvrdí, že tato praxe porušuje požadavky GDPR týkající se omezení účelu a minimalizace dat a že pracovníci – klasifikovaní jako nezávislí spíše než zaměstnanci – nemají žádný smysluplný způsob, jak odmítnout sledování, aniž by ztratili přístup k příjmu.
Vynucené biometrické ověření prostřednictvím osoby
Druhý pilíř stížností se týká ověřování totožnosti. Outlier vyžaduje, aby pracovníci opakovaně procházeli biometrickým ověřením prováděným identitární společností Persona, včetně videozáznamů jejich tváří a nahraných státem vydaných dokladů totožnosti. Scale AI říká, že proces existuje, aby zabránil podvodům s identitou a ověřil dovednosti pracovníků.
noyb tvrdí, že tato praxe jde daleko nad rámec toho, co je nutné, a poukazuje na historii zabezpečení Persony: v říjnu 2025 bylo hackery odhaleno přibližně 70 000 fotografií vládních ID uložených u společnosti. Stížnosti také uvádějí, že společnost Persona si vyhrazuje široká práva na shromažďování osobních údajů, včetně IP adres, informací o zařízení, geolokace, adres a údajů o spotřebitelských úvěrech.
"Práce na platformě se zdá být úrodnou půdou pro zcela nový typ dohledu na pracovišti," řekl Thomas Le Bonniec, sociolog z DIPLab. "To by bylo považováno za nepřijatelné v jakékoli jiné formě zaměstnávání v Evropské unii. Tento systém vzkvétá pouze díky záměrnému nedostatku transparentnosti."
Podstata stížností stojí za to upřesnit, protože popisuje pracovní prostředí, které by většina lidí v konvenčním zaměstnání nikdy nepřijala. Pracovník, který anotuje výstupy dat nebo hodnotícího modelu na Outlier, podle technické analýzy současně dodává reklamním platformám proud behaviorálních signálů – stránky, které navštíví, identifikátory, které tyto návštěvy propojují s jejich širšími online profily, a podrobnosti, které je dokážou najít. noyb poznamenává, že tato data mohou být následně použita pro cílenou reklamu a profilování, účely, které nemají nic společného s placením pracovníka za dokončené úkoly.
Stížnosti míří také na asymetrii uspořádání. Pracovníci jsou klasifikováni jako nezávislí pracovníci, což je staví mimo většinu pracovních ochran, přesto podléhají kontrolám – nepřetržitému monitorování, opakovaným kontrolám totožnosti – které se podobají nejintenzivnějším formám dohledu nad zaměstnanci. Společnosti v ekonomice platforem klasifikují pracovníky jako osoby samostatně výdělečně činné, což je často vylučuje ze sociálních dávek a ovlivňuje jejich mzdy, a stížnosti tvrdí, že porušování ochrany údajů tuto zranitelnost spíše zvyšuje, než že by existovalo odděleně od ní.
Modely skryté pracovní síly za hranicemi
Stížnosti přicházejí uprostřed rostoucího zkoumání práce, která pohání systémy AI. Více než 40 milionů lidí na celém světě má nyní svou práci organizovanou prostřednictvím digitálních platforem a anotace AI se stala jedním z nejrychleji rostoucích segmentů. Štítkovatelé dat a hodnotitelé, kteří dělají chatboty jako ChatGPT, Gemini a Grok leštěnými a bezpečnými, obvykle pracují izolovaně, placeni za úkol, přičemž jejich výstupy jsou přímo dodávány do modelů, jejichž ocenění nyní jdou do stovek miliard.
"Porušení zdůrazněná ve stížnostech proti Scale AI jasně ukazuje, že boom umělé inteligence závisí na obrovské pracovní síle, jejíž soukromí je ohroženo," řekl Baptiste Delmas, koordinátor projektu v Intérêt à Agir. "Orgány pro ochranu údajů musí nyní brát tyto problémy vážně a zavést přísná donucovací opatření."
Přítomnost vlády USA na seznamu zákazníků Outlier přidává další rozměr. Scale AI získala významné federální zakázky a stížnosti zdůrazňují, jak stejná platforma, která podporuje práci vlády a hraničních laboratoří, podle archivářů funguje mimo evropské právo na ochranu soukromí.
Co se stane dál
Podle GDPR mohou francouzské, italské, nizozemské a rakouské úřady, které obdrží stížnosti, nařídit společnosti Scale AI, aby tyto praktiky zastavila, uložila pokuty až do výše 4 procent globálních ročních příjmů nebo obojí. Vymáhání práva proti americkým platformovým společnostem bylo historicky pomalé, ale noyb má záznamy o sledování stížností až po závazná rozhodnutí, včetně přelomových akcí proti Meta a Google kvůli nucenému souhlasu.
Pro průmysl umělé inteligence je tento případ testem, zda pracovní vrstva, díky níž jsou modely použitelné, bude dodržovat stejné standardy ochrany soukromí jako samotné produkty. Pokud se úřady přikloní na stranu stěžovatelů, školicí platformy AI působící v Evropě by mohly být nuceny odstranit sledovače třetích stran ze svých pracovních prostředí a přehodnotit biometrické kontroly identity – změny, které by zasáhly průmysl, který závisí přesně na tomto druhu distribuované flexibilní pracovní síly.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
