Европейская организация по обеспечению конфиденциальности noyb вместе с исследовательскими группами Intérêt à Agir, DIPLab и Reversing.Works подала пять жалоб на Scale AI в соответствии с Общим регламентом ЕС по защите данных, утверждая, что платформа Outlier компании подвергает рабочих, обучающих модели ИИ, инвазивному и незаконному надзору. Жалобы были поданы в понедельник в органы по защите данных во Франции, Италии, Нидерландах и Австрии.
На платформе Outlier Scale AI работают более 900 000 внештатных сотрудников, которые выполняют человеческий труд, связанный с обучением ИИ — пишут подсказки, ранжируют ответы моделей и аннотируют данные. Список клиентов платформы выглядит как кто есть кто в индустрии искусственного интеллекта: Meta, OpenAI, xAI, Google и Anthropic, а также правительство США. Агентство Reuters сообщило о жалобах в понедельник утром. Подробнее об этой истории — в нашем последние разработки в ИИ.
Трекеры из TikTok, LinkedIn и Facebook на устройствах сотрудников
Технический анализ, лежащий в основе жалоб, показал, что, пока работники используют платформу Outlier, на их устройствах размещается код отслеживания из TikTok, LinkedIn, Facebook, платформы опросов Sprig и компании по анализу данных Datadog. По данным Noyb, эти трекеры каждые несколько секунд отправляют третьим лицам персональные данные работников, включая IP-адреса, контактные данные, уникальные идентификаторы и информацию о посещаемой странице.
«Такое постоянное и обширное отслеживание во время работы действительно противоречит всем разумным ожиданиям», — сказала Лиза Стейнфельд Лейзер, юрист по защите данных в noyb. «Зачем LinkedIn или Facebook знать, над какими задачами вы работаете?»
Группа утверждает, что такая практика нарушает требования GDPR в отношении ограничения целей и минимизации данных, и что у работников, классифицируемых как фрилансеры, а не наемные работники, нет реального способа отказаться от отслеживания без потери доступа к доходам.
Принудительная биометрическая верификация через Person
Вторая составляющая жалоб касается проверки личности. Outlier требует, чтобы работники неоднократно проходили биометрическую проверку, проводимую компанией по идентификации Persona, включая видеозаписи своих лиц и загрузку выданных правительством документов, удостоверяющих личность. Scale AI утверждает, что этот процесс существует для предотвращения мошенничества с личными данными и проверки навыков работников.
Нойб утверждает, что эта практика выходит далеко за рамки необходимого, и указывает на историю безопасности Persona: в октябре 2025 года хакеры раскрыли около 70 000 фотографий государственных удостоверений личности, хранящихся в компании. В жалобах также отмечается, что Persona оставляет за собой широкие права на сбор персональных данных, включая IP-адреса, информацию об устройствах, геолокацию, адреса и данные о потребительских кредитах.
«Работа на платформе кажется благодатной почвой для совершенно нового типа наблюдения на рабочих местах», — сказал Томас Ле Бонник, социолог из DIPLab. «Это было бы неприемлемо при любой другой форме занятости в Европейском Союзе. Эта система процветает только из-за преднамеренного отсутствия прозрачности».
Суть жалоб стоит изложить подробно, поскольку она описывает рабочую среду, которую большинство людей никогда бы не приняли на обычной работе. Согласно техническому анализу, работник, аннотирующий данные или результаты рейтинговой модели в Outlier, одновременно снабжает рекламные платформы потоком поведенческих сигналов — страниц, которые он посещает, идентификаторов, которые связывают эти посещения с его более широкими онлайн-профилями, и деталей, которые могут их найти. Нойб отмечает, что эти данные затем могут быть использованы для таргетированной рекламы и профилирования, целей, которые не имеют ничего общего с оплатой работнику за выполненные задания.
Жалобы также направлены на асимметрию системы. Работники классифицируются как фрилансеры, что лишает их большинства мер защиты труда, однако они подлежат контролю — постоянному мониторингу, повторным проверкам личности — которые напоминают наиболее интенсивные формы наблюдения за сотрудниками. Компании в платформенной экономике классифицируют работников как самозанятых, что часто лишает их социальных пособий и влияет на их заработную плату, а в жалобах утверждается, что нарушения защиты данных усугубляют эту уязвимость, а не существуют отдельно от нее.
Скрытая рабочая сила за передовыми моделями
Жалобы поступают на фоне растущего внимания к работникам, работающим на системах искусственного интеллекта. Сегодня более 40 миллионов человек во всем мире организуют свою работу с помощью цифровых платформ, и аннотирование с помощью ИИ стало одним из наиболее быстрорастущих сегментов. Маркировщики и оценщики данных, которые делают чат-ботов, таких как ChatGPT, Gemini и Grok, безупречными и безопасными, обычно работают изолированно, им платят за каждую задачу, а их результаты напрямую поступают в модели, оценки которых сейчас исчисляются сотнями миллиардов.
«Нарушения, отмеченные в жалобах на Scale AI, ясно показывают, что бум ИИ опирается на огромную рабочую силу, чья конфиденциальность находится под угрозой», — сказал Батист Дельмас, координатор проекта в Intérêt à Agir. «Органы защиты данных теперь должны серьезно отнестись к этим вопросам и ввести строгие меры по обеспечению соблюдения».
Присутствие правительства США в списке клиентов Outlier добавляет еще одно измерение. Scale AI выиграла важные федеральные контракты, и жалобы подчеркивают, что та же платформа, которая поддерживает работу правительства и пограничных лабораторий, по мнению подателей жалобы, работает за пределами европейского законодательства о конфиденциальности.
Что будет дальше
В соответствии с GDPR власти Франции, Италии, Нидерландов и Австрии, получившие жалобы, могут приказать Scale AI прекратить эту практику, наложить штрафы в размере до 4 процентов мирового годового дохода или и то, и другое. Правоприменение в отношении американских платформенных компаний исторически было медленным, но noyb имеет опыт рассмотрения жалоб вплоть до принятия обязательных решений, включая знаковые действия против Meta и Google за принудительное согласие.
Для индустрии искусственного интеллекта речь идет о проверке того, будет ли рабочая сила, которая делает модели пригодными для использования, соблюдать те же стандарты конфиденциальности, что и сами продукты. Если власти встанут на сторону заявителей, действующие в Европе платформы обучения искусственному интеллекту могут быть вынуждены исключить сторонние трекеры из своей рабочей среды и переосмыслить биометрические проверки личности — изменения, которые пройдут по всей отрасли, которая зависит именно от такого рода распределенной и гибкой рабочей силы.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
