L'organizzazione europea per la privacy noyb, insieme ai gruppi di ricerca Intérêt à Agir, DIPLab e Reversing.Works, ha presentato cinque denunce contro Scale AI ai sensi del regolamento generale sulla protezione dei dati dell'UE, sostenendo che la piattaforma Outlier dell'azienda sottopone i lavoratori gig che addestrano modelli di intelligenza artificiale a una sorveglianza invasiva e illegale. I reclami sono stati presentati lunedì alle autorità per la protezione dei dati in Francia, Italia, Paesi Bassi e Austria.
La piattaforma Outlier di Scale AI impiega più di 900.000 lavoratori freelance che svolgono il lavoro umano dietro la formazione sull'intelligenza artificiale: scrivere suggerimenti, classificare le risposte del modello e annotare i dati. L'elenco dei clienti della piattaforma si legge come un who's who del settore dell'intelligenza artificiale: Meta, OpenAI, xAI, Google e Anthropic, insieme al governo degli Stati Uniti. La Reuters ha riportato le denunce lunedì mattina. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Tracker da TikTok, LinkedIn e Facebook sui dispositivi dei lavoratori
L’analisi tecnica alla base dei reclami ha rilevato che mentre i lavoratori si trovano sulla piattaforma Outlier, sui loro dispositivi viene inserito il codice di tracciamento di TikTok, LinkedIn, Facebook, della piattaforma di sondaggi Sprig e della società di analisi dei dati Datadog. Secondo noyb, questi tracker inviano ogni pochi secondi i dati personali dei lavoratori a terzi, inclusi indirizzi IP, dettagli di contatto, identificatori univoci e informazioni sulla pagina visitata.
"Un monitoraggio così costante ed esteso durante il lavoro va davvero contro ogni ragionevole aspettativa", ha affermato Lisa Steinfeld Leiser, avvocato specializzata in protezione dei dati presso noyb. "Perché LinkedIn o Facebook dovrebbero sapere su quali attività stai lavorando?"
Il gruppo sostiene che la pratica viola i requisiti del GDPR in merito alla limitazione delle finalità e alla minimizzazione dei dati e che i lavoratori, classificati come liberi professionisti piuttosto che come dipendenti, non hanno alcun modo significativo per rifiutare il tracciamento senza perdere l’accesso al reddito.
Verifica biometrica forzata tramite persona
Il secondo pilastro delle denunce riguarda la verifica dell'identità. Il valore anomalo richiede che i lavoratori superino ripetutamente la verifica biometrica effettuata dalla società di identità Persona, comprese le registrazioni video dei loro volti e il caricamento di documenti d'identità rilasciati dal governo. Scale AI afferma che il processo esiste per prevenire le frodi sull'identità e verificare le competenze dei lavoratori.
noyb sostiene che la pratica va ben oltre ciò che è necessario e fa riferimento alla storia della sicurezza di Persona: nell'ottobre 2025, circa 70.000 fotografie di documenti d'identità governativi archiviate presso l'azienda sono state esposte dagli hacker. I reclami rilevano inoltre che Persona si riserva ampi diritti di raccolta di dati personali, inclusi indirizzi IP, informazioni sul dispositivo, geolocalizzazione, indirizzi e dati sul credito al consumo.
"Il lavoro su piattaforma sembra essere un terreno fertile per un tipo completamente nuovo di sorveglianza sul posto di lavoro", ha affermato Thomas Le Bonniec, ricercatore sociologo presso DIPLab. "Ciò sarebbe considerato inaccettabile in qualsiasi altra forma di lavoro nell'Unione europea. Questo sistema prospera solo grazie alla sua deliberata mancanza di trasparenza."
Vale la pena di spiegare il merito delle lamentele, perché descrive un ambiente di lavoro che la maggior parte delle persone non accetterebbe mai in un lavoro convenzionale. Secondo l'analisi tecnica, un lavoratore che annota i dati o gli output del modello di valutazione su Outlier alimenta contemporaneamente le piattaforme pubblicitarie con un flusso di segnali comportamentali: le pagine che visita, identificatori che collegano tali visite ai loro profili online più ampi e dettagli che possono localizzarli. noyb osserva che questi dati possono poi essere utilizzati per pubblicità mirata e profilazione, scopi che non hanno nulla a che fare con il pagamento di un lavoratore per le attività completate.
Le lamentele riguardano anche l'asimmetria dell'accordo. I lavoratori sono classificati come liberi professionisti, il che li colloca al di fuori della maggior parte delle tutele del lavoro, ma sono soggetti a controlli – monitoraggio continuo, ripetuti controlli di identità – che assomigliano alle forme più intensive di sorveglianza dei dipendenti. Le aziende nell’economia delle piattaforme classificano i lavoratori come lavoratori autonomi, il che spesso li esclude dai benefici sociali e incide sui loro salari, e le denunce sostengono che le violazioni della protezione dei dati aggravano tale vulnerabilità anziché esistere separatamente da essa.
La forza lavoro nascosta dietro i modelli di frontiera
Le denunce arrivano in un contesto di crescente controllo del lavoro che alimenta i sistemi di intelligenza artificiale. Oltre 40 milioni di persone in tutto il mondo ora organizzano il proprio lavoro attraverso piattaforme digitali e l’annotazione basata sull’intelligenza artificiale è diventata uno dei segmenti in più rapida crescita. Gli etichettatori e i valutatori dei dati che rendono i chatbot come ChatGPT, Gemini e Grok raffinati e sicuri lavorano in genere in isolamento, pagati per attività, con i loro risultati che alimentano direttamente modelli le cui valutazioni ora ammontano a centinaia di miliardi.
"Le violazioni evidenziate nelle denunce contro Scale AI mostrano chiaramente che il boom dell'IA si basa su una vasta forza lavoro la cui privacy è in gioco", ha affermato Baptiste Delmas, coordinatore del progetto presso Intérêt à Agir. "Le autorità per la protezione dei dati devono ora prendere sul serio queste questioni e imporre rigorose misure di applicazione."
La presenza del governo statunitense nell'elenco dei clienti di Outlier aggiunge un'ulteriore dimensione. Scale AI ha vinto importanti contratti federali e le denunce evidenziano come la stessa piattaforma che supporta il lavoro del governo e dei laboratori di frontiera, secondo i presentatori, opera al di fuori della legge europea sulla privacy.
Cosa succede dopo
Secondo il GDPR, le autorità francesi, italiane, olandesi e austriache che ricevono i reclami possono ordinare a Scale AI di interrompere le pratiche, imporre multe fino al 4% delle entrate annuali globali, o entrambi. L'applicazione delle norme contro le società di piattaforme statunitensi è stata storicamente lenta, ma noyb ha una lunga esperienza nel seguire i reclami fino a prendere decisioni vincolanti, comprese azioni storiche contro Meta e Google per il consenso forzato.
Per l’industria dell’intelligenza artificiale, il caso è una prova per verificare se il livello di lavoro che rende utilizzabili i modelli sarà tenuto agli stessi standard di privacy dei prodotti stessi. Se le autorità si schierassero con i denuncianti, le piattaforme di formazione sull’intelligenza artificiale che operano in Europa potrebbero essere costrette a eliminare i tracker di terze parti dai loro ambienti di lavoro e a riconsiderare i controlli di identità biometrici – cambiamenti che si diffonderebbero in un settore che dipende esattamente da questo tipo di forza lavoro distribuita e flessibile.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
