Європейська організація захисту конфіденційності noyb разом з дослідницькими групами Intérêt à Agir, DIPLab і Reversing.Works подала п’ять скарг проти Scale AI відповідно до Загального регламенту ЄС про захист даних, стверджуючи, що платформа компанії Outlier піддає працівників концертів, які навчають моделі ШІ, інвазивному та незаконному нагляду. Скарги були подані в понеділок до органів захисту даних Франції, Італії, Нідерландів та Австрії.
Платформа Outlier від Scale AI налічує понад 900 000 позаштатних працівників, які виконують людську роботу за навчанням ШІ — пишуть підказки, ранжують відповіді моделі та анотують дані. Список клієнтів платформи схожий на те, хто є хто в індустрії ШІ: Meta, OpenAI, xAI, Google і Anthropic, а також уряд США. Reuters повідомило про скарги в понеділок вранці. For more context on this story, see our ongoing artificial intelligence updates.
Трекери з TikTok, LinkedIn і Facebook на пристроях працівників
Технічний аналіз, який ґрунтується на скаргах, виявив, що, коли працівники працюють на платформі Outlier, код відстеження з TikTok, LinkedIn, Facebook, платформи опитування Sprig і компанії Datadog, що займається аналізом даних, розміщується на їхніх пристроях. Згідно з noyb, ці трекери кожні кілька секунд надсилають особисті дані працівників третім сторонам, включаючи IP-адреси, контактні дані, унікальні ідентифікатори та інформацію про сторінку, яку відвідують.
«Таке постійне і широке відстеження під час роботи дійсно суперечить усім розумним очікуванням», — сказала Ліза Штайнфельд Лейзер, юрист із захисту даних noyb. «Навіщо LinkedIn чи Facebook знати, над якими завданнями ви працюєте?»
Група стверджує, що ця практика порушує вимоги GDPR щодо обмеження цілей і мінімізації даних, і що працівники, класифіковані як фрілансери, а не наймані працівники, не мають значущого способу відмовитися від відстеження, не втрачаючи доступу до доходу.
Примусова біометрична перевірка через Persona
Другий стовп скарг стосується підтвердження особи. Outlier вимагає, щоб працівники неодноразово проходили біометричну перевірку, яку проводить компанія Persona, включаючи відеозаписи їхніх облич і завантаження офіційних документів, що посвідчують особу. Scale AI каже, що процес існує для запобігання шахрайству з особистими даними та перевірки навичок працівників.
noyb стверджує, що ця практика виходить далеко за рамки необхідного, і вказує на історію безпеки Persona: у жовтні 2025 року хакери викрили приблизно 70 000 фотографій державних посвідчень, які зберігаються в компанії. У скаргах також зазначено, що Persona залишає за собою широкі права на збір персональних даних, включаючи IP-адреси, інформацію про пристрій, геолокацію, адреси та дані про споживчі кредити.
«Робота на платформі, здається, є благодатним ґрунтом для абсолютно нового типу стеження на робочому місці», — сказав Томас Ле Боннік, соціолог з DIPLab. «Це було б неприйнятним у будь-якій іншій формі працевлаштування в Європейському Союзі. Ця система процвітає лише через навмисну відсутність прозорості».
Суть скарги варто викласти, оскільки вона описує робоче середовище, з яким більшість людей ніколи б не погодилися на звичайній роботі. Відповідно до технічного аналізу працівник, який коментує дані або результати рейтингової моделі на Outlier, одночасно надсилає рекламним платформам потік поведінкових сигналів — сторінки, які вони відвідують, ідентифікатори, які пов’язують ці відвідування з їхніми ширшими онлайн-профілями, і деталі, за якими їх можна знайти. noyb зазначає, що потім ці дані можна використовувати для цільової реклами та профілювання, цілей, які не мають нічого спільного з оплатою працівникам за виконані завдання.
Скарги також спрямовані на асиметрію розташування. Працівники класифікуються як позаштатні працівники, що ставить їх поза межами охорони праці, але вони підлягають контролю — постійному моніторингу, повторній перевірці особи — що нагадує найінтенсивніші форми стеження за працівниками. Компанії в економіці платформи класифікують працівників як самозайнятих, що часто позбавляє їх доступу до соціальних виплат і впливає на їхні заробітні плати, а в скаргах стверджується, що порушення захисту даних посилюють цю вразливість, а не існують окремо від неї.
Прихована робоча сила за передовими моделями
Скарги надходять на тлі дедалі більшої уваги до працівників, які забезпечують роботу систем ШІ. Понад 40 мільйонів людей у всьому світі зараз організовують свою роботу за допомогою цифрових платформ, а анотування AI стало одним із сегментів, що найшвидше розвиваються. Розміщувачі та оцінювачі даних, які роблять такі чат-боти, як ChatGPT, Gemini та Grok, відшліфованими та безпечними, зазвичай працюють ізольовано, оплачуючи кожне завдання, а їхні результати надходять безпосередньо в моделі, оцінка яких зараз досягає сотень мільярдів.
«Порушення, висвітлені в скаргах на Scale AI, чітко показують, що бум штучного інтелекту спирається на величезну робочу силу, конфіденційність якої поставлена на карту», — сказав Баптіст Дельмас, координатор проекту в Intérêt à Agir. «Органи із захисту даних тепер повинні серйозно поставитися до цих питань і запровадити суворі примусові заходи».
Присутність уряду США в списку клієнтів Outlier додає ще один вимір. Scale AI виграв значні федеральні контракти, і скарги підкреслюють, що та сама платформа, яка підтримує роботу уряду та прикордонних лабораторій, за словами авторів, працює поза межами європейського законодавства про конфіденційність.
Що станеться далі
Відповідно до GDPR, органи влади Франції, Італії, Нідерландів та Австрії, які отримують скарги, можуть наказати Scale AI припинити цю практику, накласти штрафи в розмірі до 4 відсотків світового річного доходу або обидва. Історично правозастосування проти американських платформних компаній відбувалося повільно, але noyb має досвід розгляду скарг і прийняття обов’язкових рішень, у тому числі знакових позовів проти Meta та Google через примусову згоду.
Для індустрії штучного інтелекту цей випадок є перевіркою того, чи буде рівень праці, який робить моделі придатними для використання, відповідати тим самим стандартам конфіденційності, що й самі продукти. Якщо влада стане на сторону скаржників, навчальні платформи штучного інтелекту, що працюють у Європі, можуть бути змушені видалити сторонні трекери зі своїх робочих середовищ і переглянути біометричні перевірки особи — зміни, які вплинуть на галузь, яка залежить саме від такого роду розподіленої, гнучкої робочої сили.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
