Die europäische Datenschutzorganisation noyb hat zusammen mit den Forschungsgruppen Intérêt à Agir, DIPLab und Reversing.Works fünf Beschwerden gegen Scale AI gemäß der EU-Datenschutz-Grundverordnung eingereicht und behauptet, dass die Outlier-Plattform des Unternehmens die Gig-Worker, die KI-Modelle trainieren, einer invasiven und rechtswidrigen Überwachung aussetzt. Die Beschwerden wurden am Montag bei Datenschutzbehörden in Frankreich, Italien, den Niederlanden und Österreich eingereicht.
Die Outlier-Plattform von Scale AI beschäftigt mehr als 900.000 freiberufliche Mitarbeiter, die die menschliche Arbeit hinter dem KI-Training leisten – Eingabeaufforderungen schreiben, Modellantworten bewerten und Daten kommentieren. Die Kundenliste der Plattform liest sich wie ein Who-is-Who der KI-Branche: Meta, OpenAI, xAI, Google und Anthropic sowie die US-Regierung. Reuters meldete die Beschwerden am Montagmorgen. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Tracker von TikTok, LinkedIn und Facebook auf den Geräten der Arbeitnehmer
Die den Beschwerden zugrunde liegende technische Analyse ergab, dass auf ihren Geräten Tracking-Code von TikTok, LinkedIn, Facebook, der Umfrageplattform Sprig und dem Datenanalyseunternehmen Datadog platziert wird, während sich Arbeitnehmer auf der Outlier-Plattform befinden. Laut noyb senden diese Tracker alle paar Sekunden personenbezogene Daten der Arbeitnehmer an Dritte, darunter IP-Adressen, Kontaktdaten, eindeutige Kennungen und Informationen über die besuchte Seite.
„Eine solch ständige und umfangreiche Nachverfolgung während der Arbeit widerspricht wirklich allen vernünftigen Erwartungen“, sagte Lisa Steinfeld Leiser, Datenschutzanwältin bei noyb. „Warum sollten LinkedIn oder Facebook wissen, an welchen Aufgaben Sie arbeiten?“
Die Gruppe argumentiert, dass die Praxis gegen die Anforderungen der DSGVO in Bezug auf Zweckbindung und Datenminimierung verstößt und dass Arbeitnehmer – die als Freiberufler und nicht als Angestellte eingestuft werden – keine sinnvolle Möglichkeit haben, die Nachverfolgung zu verweigern, ohne den Zugang zu Einkommen zu verlieren.
Erzwungene biometrische Überprüfung durch Persona
Die zweite Säule der Beschwerden betrifft die Identitätsprüfung. Outlier verlangt von den Arbeitnehmern, dass sie sich wiederholt einer biometrischen Überprüfung durch das Identitätsunternehmen Persona unterziehen, einschließlich Videoaufzeichnungen ihrer Gesichter und dem Hochladen von amtlichen Ausweisdokumenten. Scale AI gibt an, dass der Prozess dazu dient, Identitätsbetrug zu verhindern und die Fähigkeiten der Mitarbeiter zu überprüfen.
noyb argumentiert, dass die Praxis weit über das Notwendige hinausgeht und verweist auf die Sicherheitsgeschichte von Persona: Im Oktober 2025 wurden etwa 70.000 Fotos von beim Unternehmen gespeicherten Regierungsausweisen von Hackern offengelegt. In den Beschwerden wird auch darauf hingewiesen, dass sich Persona weitreichende Rechte zur Erhebung personenbezogener Daten vorbehält, darunter IP-Adressen, Geräteinformationen, Geolokalisierung, Adressen und Verbraucherkreditdaten.
„Plattformarbeit scheint ein fruchtbarer Boden für eine völlig neue Art der Arbeitsplatzüberwachung zu sein“, sagte Thomas Le Bonniec, Soziologieforscher am DIPLab. „Bei jeder anderen Beschäftigungsform in der Europäischen Union wäre dies inakzeptabel. Dieses System floriert nur aufgrund seiner bewussten Intransparenz.“
Der Inhalt der Beschwerden ist es wert, näher erläutert zu werden, da er ein Arbeitsumfeld beschreibt, das die meisten Menschen in einem herkömmlichen Job niemals akzeptieren würden. Laut der technischen Analyse versorgt ein Mitarbeiter, der Daten oder Bewertungsmodellausgaben auf Outlier kommentiert, gleichzeitig Werbeplattformen mit einem Strom von Verhaltenssignalen – den von ihnen besuchten Seiten, Identifikatoren, die diese Besuche mit ihren breiteren Online-Profilen verknüpfen, und Details, die sie lokalisieren können. noyb weist darauf hin, dass diese Daten dann für gezielte Werbung und Profilerstellung verwendet werden können, Zwecke, die nichts mit der Bezahlung eines Arbeitnehmers für erledigte Aufgaben zu tun haben.
Die Beschwerden zielen auch auf die Asymmetrie der Regelung ab. Arbeitnehmer werden als Freiberufler eingestuft, wodurch sie von den meisten Arbeitsschutzbestimmungen ausgeschlossen sind. Dennoch unterliegen sie Kontrollen – kontinuierliche Überwachung, wiederholte Identitätskontrollen –, die den intensivsten Formen der Arbeitnehmerüberwachung ähneln. Unternehmen in der Plattformökonomie stufen Arbeitnehmer als Selbständige ein, was sie häufig von Sozialleistungen ausschließt und sich auf ihre Löhne auswirkt. In den Beschwerden wird argumentiert, dass Datenschutzverstöße diese Gefährdung eher verschärfen als getrennt davon existieren.
Die verborgene Belegschaft hinter Grenzmodellen
Die Beschwerden kommen vor dem Hintergrund einer zunehmenden Prüfung der Arbeit, die KI-Systeme antreibt. Mittlerweile organisieren mehr als 40 Millionen Menschen weltweit ihre Arbeit über digitale Plattformen, und die KI-Annotation hat sich zu einem der am schnellsten wachsenden Segmente entwickelt. Die Datenkennzeichner und Bewerter, die Chatbots wie ChatGPT, Gemini und Grok ausgefeilt und sicher machen, arbeiten in der Regel isoliert und werden pro Aufgabe bezahlt, wobei ihre Ergebnisse direkt in Modelle eingespeist werden, deren Bewertungen inzwischen Hunderte von Milliarden betragen.
„Die in den Beschwerden gegen Scale AI hervorgehobenen Verstöße zeigen deutlich, dass der KI-Boom auf einer großen Belegschaft beruht, deren Privatsphäre auf dem Spiel steht“, sagte Baptiste Delmas, Projektkoordinator bei Intérêt à Agir. „Datenschutzbehörden müssen diese Probleme jetzt ernst nehmen und strenge Durchsetzungsmaßnahmen ergreifen.“
Die Präsenz der US-Regierung auf der Kundenliste von Outlier fügt eine weitere Dimension hinzu. Scale AI hat bedeutende Bundesaufträge erhalten, und die Beschwerden verdeutlichen, dass dieselbe Plattform, die die Arbeit von Regierung und Grenzlaboren unterstützt, den Antragstellern zufolge außerhalb des europäischen Datenschutzrechts operiert.
Was als nächstes passiert
Gemäß der DSGVO können die französischen, italienischen, niederländischen und österreichischen Behörden, die die Beschwerden erhalten, Scale AI anweisen, die Praktiken zu stoppen, Geldstrafen von bis zu 4 Prozent des weltweiten Jahresumsatzes zu verhängen oder beides. Die Durchsetzung gegen US-Plattformunternehmen verlief in der Vergangenheit langsam, aber noyb kann auf eine Erfolgsbilanz bei der Verfolgung von Beschwerden bis hin zu verbindlichen Entscheidungen zurückblicken, einschließlich wegweisender Maßnahmen gegen Meta und Google wegen erzwungener Einwilligung.
Für die KI-Branche ist der Fall ein Test dafür, ob die Arbeitsschicht, die Modelle nutzbar macht, denselben Datenschutzstandards unterliegt wie die Produkte selbst. Wenn sich die Behörden auf die Seite der Beschwerdeführer stellen, könnten in Europa tätige KI-Schulungsplattformen gezwungen sein, Drittanbieter-Tracker aus ihren Arbeitsumgebungen zu entfernen und biometrische Identitätsprüfungen zu überdenken – Veränderungen, die sich auf eine Branche auswirken würden, die genau auf diese Art verteilter, flexibler Arbeitskräfte angewiesen ist.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
