L'organisation européenne de protection de la vie privée noyb, en collaboration avec les groupes de recherche Intérêt à Agir, DIPLab et Reversing.Works, a déposé cinq plaintes contre Scale AI en vertu du règlement général sur la protection des données de l'UE, alléguant que la plateforme Outlier de l'entreprise soumet les travailleurs qui forment des modèles d'IA à une surveillance invasive et illégale. Les plaintes ont été déposées lundi auprès des autorités de protection des données en France, en Italie, aux Pays-Bas et en Autriche.
La plateforme Outlier de Scale AI emploie plus de 900 000 travailleurs indépendants qui effectuent le travail humain derrière la formation en IA : rédaction d'invites, classement des réponses du modèle et annotation des données. La liste des clients de la plateforme se lit comme un who's who de l'industrie de l'IA : Meta, OpenAI, xAI, Google et Anthropic, ainsi que le gouvernement américain. Reuters a rapporté les plaintes lundi matin. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
Trackers de TikTok, LinkedIn et Facebook sur les appareils des travailleurs
L’analyse technique qui sous-tend les plaintes a révélé que lorsque les travailleurs se trouvent sur la plateforme Outlier, des codes de suivi de TikTok, LinkedIn, Facebook, de la plateforme d’enquête Sprig et de la société d’analyse de données Datadog sont placés sur leurs appareils. Selon noyb, ces trackers envoient les données personnelles des travailleurs à des tiers toutes les quelques secondes, notamment les adresses IP, les coordonnées, les identifiants uniques et les informations sur la page visitée.
"Un suivi aussi constant et approfondi pendant le travail va vraiment à l'encontre de toutes les attentes raisonnables", a déclaré Lisa Steinfeld Leiser, avocate en matière de protection des données chez noyb. « Pourquoi LinkedIn ou Facebook devraient-ils savoir sur quelles tâches vous travaillez ? »
Le groupe affirme que cette pratique viole les exigences du RGPD en matière de limitation des finalités et de minimisation des données, et que les travailleurs – classés comme indépendants plutôt que comme employés – n'ont aucun moyen significatif de refuser le suivi sans perdre l'accès aux revenus.
Vérification biométrique forcée via Persona
Le deuxième pilier des plaintes concerne la vérification de l'identité. Outlier exige que les travailleurs passent à plusieurs reprises une vérification biométrique effectuée par la société d'identité Persona, y compris des enregistrements vidéo de leurs visages et le téléchargement de documents d'identité délivrés par le gouvernement. Scale AI affirme que le processus existe pour prévenir la fraude à l'identité et vérifier les compétences des travailleurs.
noyb affirme que cette pratique va bien au-delà de ce qui est nécessaire et souligne l'historique de sécurité de Persona : en octobre 2025, environ 70 000 photographies de pièces d'identité gouvernementales stockées dans l'entreprise ont été exposées par des pirates informatiques. Les plaintes indiquent également que Persona se réserve de larges droits de collecte de données personnelles, notamment les adresses IP, les informations sur les appareils, la géolocalisation, les adresses et les données de crédit à la consommation.
"Le travail sur plateforme semble être un terrain fertile pour un tout nouveau type de surveillance des lieux de travail", estime Thomas Le Bonniec, chercheur en sociologie au DIPLab. "Cela serait considéré comme inacceptable dans toute autre forme d'emploi dans l'Union européenne. Ce système ne prospère que grâce à son manque délibéré de transparence."
Le fond des plaintes mérite d'être précisé, car il décrit un environnement de travail que la plupart des gens n'accepteraient jamais dans un emploi conventionnel. Selon l'analyse technique, un travailleur annotant des données ou des résultats de modèles d'évaluation sur Outlier alimente simultanément les plateformes publicitaires avec un flux de signaux comportementaux : les pages qu'ils visitent, les identifiants qui relient ces visites à leurs profils en ligne plus larges et les détails qui peuvent les localiser. noyb note que ces données peuvent ensuite être utilisées à des fins de publicité ciblée et de profilage, à des fins qui n'ont rien à voir avec la rémunération d'un travailleur pour des tâches accomplies.
Les plaintes visent également l'asymétrie du dispositif. Les travailleurs sont classés comme indépendants, ce qui les place à l’écart de la plupart des protections du travail, mais ils sont soumis à des contrôles – surveillance continue, contrôles d’identité répétés – qui ressemblent aux formes les plus intensives de surveillance des employés. Les entreprises de l’économie des plateformes classent les travailleurs comme des travailleurs indépendants, ce qui les exclut souvent des prestations sociales et affecte leurs salaires. Les plaintes affirment que les violations de la protection des données aggravent cette vulnérabilité plutôt que d’exister séparément.
La main-d'œuvre cachée derrière les modèles frontières
Les plaintes arrivent dans un contexte d’examen minutieux croissant du travail qui alimente les systèmes d’IA. Plus de 40 millions de personnes dans le monde organisent désormais leur travail via des plateformes numériques, et l’annotation par l’IA est devenue l’un des segments à la croissance la plus rapide. Les étiqueteurs et évaluateurs de données qui rendent les chatbots comme ChatGPT, Gemini et Grok perfectionnés et sûrs travaillent généralement de manière isolée, payés à la tâche, leurs résultats alimentant directement des modèles dont les valorisations s'élèvent désormais à des centaines de milliards.
« Les violations mises en évidence dans les plaintes contre Scale AI montrent clairement que le boom de l'IA repose sur une vaste main-d'œuvre dont la vie privée est en jeu », a déclaré Baptiste Delmas, coordinateur du projet chez Intérêt à Agir. "Les autorités chargées de la protection des données doivent désormais prendre ces questions au sérieux et imposer des mesures coercitives strictes."
La présence du gouvernement américain sur la liste des clients d'Outlier ajoute une dimension supplémentaire. Scale AI a remporté d'importants contrats fédéraux, et les plaintes soulignent à quel point la même plate-forme qui soutient le travail du gouvernement et des laboratoires frontaliers fonctionne, selon les déclarants, en dehors de la loi européenne sur la protection de la vie privée.
Que se passe-t-il ensuite
En vertu du RGPD, les autorités françaises, italiennes, néerlandaises et autrichiennes qui reçoivent les plaintes peuvent ordonner à Scale AI de mettre fin à ces pratiques, imposer des amendes allant jusqu'à 4 % du chiffre d'affaires annuel mondial, ou les deux. L'application des mesures contre les sociétés de plateformes américaines a toujours été lente, mais noyb a l'habitude de suivre des plaintes jusqu'à des décisions contraignantes, y compris des actions historiques contre Meta et Google pour consentement forcé.
Pour l’industrie de l’IA, il s’agit de tester si la couche de travail qui rend les modèles utilisables sera soumise aux mêmes normes de confidentialité que les produits eux-mêmes. Si les autorités se rangent du côté des plaignants, les plateformes de formation à l’IA opérant en Europe pourraient être contraintes de retirer les trackers tiers de leurs environnements de travail et de repenser les contrôles d’identité biométriques – des changements qui se répercuteraient sur une industrie qui dépend précisément de ce type de main-d’œuvre distribuée et flexible.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
