유럽의 개인 정보 보호 기관인 noyb는 연구 그룹 Intérêt à Agir, DIPLab 및 Reversing.Works와 함께 EU의 일반 데이터 보호 규정에 따라 Scale AI에 대해 5건의 불만 사항을 제기했습니다. 이는 이 회사의 Outlier 플랫폼이 AI 모델을 훈련하는 긱 작업자를 침입적이고 불법적인 감시 대상으로 삼고 있다고 주장합니다. 해당 불만 사항은 월요일 프랑스, ​​이탈리아, 네덜란드, 오스트리아의 데이터 보호 당국에 제출되었습니다.

Scale AI의 Outlier 플랫폼은 프롬프트 작성, 모델 답변 순위 지정, 데이터 주석 달기 등 AI 교육 뒤에 있는 인간 노동을 수행하는 900,000명 이상의 프리랜서 직원을 고용하고 있습니다. 플랫폼의 고객 목록은 미국 정부와 함께 Meta, OpenAI, xAI, Google, Anthropic 등 AI 업계의 누구인지를 보여줍니다. 로이터는 월요일 아침에 불만 사항을 보도했습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

직원 장치에서 TikTok, LinkedIn 및 Facebook의 추적기

불만 사항을 뒷받침하는 기술적 분석에 따르면 직원이 Outlier 플랫폼을 사용하는 동안 TikTok, LinkedIn, Facebook, 설문 조사 플랫폼 Sprig 및 데이터 분석 회사인 Datadog의 추적 코드가 장치에 배치되어 있는 것으로 나타났습니다. noyb에 따르면 이러한 추적기는 IP 주소, 연락처 세부 정보, 고유 식별자 및 방문한 페이지에 대한 정보를 포함하여 직원의 개인 데이터를 몇 초마다 제3자에게 보냅니다.

noyb의 데이터 보호 변호사인 Lisa Steinfeld Leiser는 "작업 중 이러한 지속적이고 광범위한 추적은 실제로 모든 합리적인 기대에 어긋나는 것입니다."라고 말했습니다. "왜 LinkedIn이나 Facebook이 당신이 어떤 작업을 하고 있는지 알아야 합니까?"

이 그룹은 이러한 관행이 목적 제한 및 데이터 최소화에 관한 GDPR의 요구 사항을 위반하고 직원이 아닌 프리랜서로 분류된 근로자가 소득에 대한 접근권을 잃지 않고 추적을 거부할 의미 있는 방법이 없다고 주장합니다.

페르소나를 통한 강제 생체인증

불만 사항의 두 번째 기둥은 신원 확인에 관한 것입니다. Outlier는 직원들에게 얼굴 영상 녹화, 정부 발급 신분증 업로드 등 신원 확인 회사인 페르소나(Persona)가 실시하는 생체 인식 검증을 반복적으로 통과하도록 요구합니다. Scale AI는 신원 사기를 방지하고 직원의 기술을 검증하는 프로세스가 존재한다고 말합니다.

noyb는 이러한 관행이 필요한 수준을 훨씬 넘어서고 있다고 주장하며 페르소나의 보안 이력을 지적합니다. 2025년 10월 회사에 저장된 정부 ID 사진 약 70,000장이 해커에 의해 노출되었습니다. 고소장은 또한 페르소나가 IP 주소, 장치 정보, 지리적 위치, 주소 및 소비자 신용 데이터를 포함한 개인 데이터를 수집할 수 있는 광범위한 권리를 보유하고 있음을 명시하고 있습니다.

DIPLab의 사회학 연구원인 Thomas Le Bonniec은 "플랫폼 작업은 완전히 새로운 유형의 직장 감시를 위한 비옥한 기반인 것 같습니다."라고 말했습니다. "이것은 유럽 연합의 다른 어떤 형태의 고용에서도 용납될 수 없는 것으로 보일 것입니다. 이 시스템은 고의적인 투명성 부족 때문에 성공할 뿐입니다."

불만의 내용은 대부분의 사람들이 전통적인 직업에서는 결코 받아들이지 않을 작업 환경을 설명하기 때문에 자세히 설명할 가치가 있습니다. 기술적 분석에 따르면 Outlier에서 데이터에 주석을 달거나 모델 결과를 평가하는 작업자는 광고 플랫폼에 자신이 방문하는 페이지, 해당 방문을 더 광범위한 온라인 프로필에 연결하는 식별자, 해당 항목을 찾을 수 있는 세부 정보 등 일련의 행동 신호 스트림을 광고 플랫폼에 동시에 제공합니다. noyb는 이 데이터가 완료된 작업에 대해 근로자에게 급여를 지급하는 것과는 아무런 관련이 없는 타겟 광고 및 프로파일링에 사용될 수 있다고 지적합니다.

불만 사항은 또한 배열의 비대칭성을 겨냥합니다. 근로자는 프리랜서로 분류되어 대부분의 노동 보호 범위에 속하지 않지만 가장 집중적인 직원 감시 형태와 유사한 지속적인 모니터링, 반복적인 신원 확인 등의 통제를 받습니다. 플랫폼 경제의 기업은 근로자를 자영업자로 분류하여 종종 사회적 혜택에서 제외되고 임금에 영향을 미치며, 불만 사항은 데이터 보호 위반이 취약성과 별도로 존재하기보다는 취약성을 악화시킨다고 주장합니다.

프론티어 모델 뒤에 숨은 인력

이러한 불만은 AI 시스템을 구동하는 노동력에 대한 조사가 증가하는 가운데 발생합니다. 현재 전 세계적으로 4천만 명이 넘는 사람들이 디지털 플랫폼을 통해 업무를 정리하고 있으며, AI 주석은 가장 빠르게 성장하는 부문 중 하나가 되었습니다. ChatGPT, Gemini 및 Grok과 같은 챗봇을 세련되고 안전하게 만드는 데이터 라벨러 및 평가자는 일반적으로 작업별로 비용을 지불하면서 독립적으로 작업하며, 그 결과는 현재 가치가 수천억 달러에 달하는 모델에 직접 공급됩니다.

Intérêt à Agir의 프로젝트 코디네이터인 Baptiste Delmas는 "Scale AI에 대한 불만 사항에서 강조된 위반 사항은 AI 붐이 개인 정보 보호가 위태로운 방대한 인력에 의존하고 있음을 분명히 보여줍니다."라고 말했습니다. "데이터 보호 당국은 이제 이러한 문제를 심각하게 받아들이고 엄격한 집행 조치를 취해야 합니다."

Outlier의 고객 목록에 미국 정부가 포함되어 있다는 점은 그 차원을 더욱 높여줍니다. Scale AI는 중요한 연방 계약을 체결했으며, 신고자에 따르면 정부 및 개척 연구실 작업을 지원하는 동일한 플랫폼이 유럽 개인 정보 보호법을 벗어나 운영되고 있다는 불만 사항이 강조되었습니다.

다음에 무슨 일이 일어날까요?

GDPR에 따라 불만사항을 접수한 프랑스, 이탈리아, 네덜란드 및 오스트리아 당국은 Scale AI에 관행을 중단하도록 명령하거나 전 세계 연간 수익의 최대 4%에 해당하는 벌금을 부과하거나 두 가지 모두를 부과할 수 있습니다. 미국 플랫폼 회사에 대한 집행은 역사적으로 느렸지만 noyb는 강제 동의에 대한 Meta 및 Google에 대한 획기적인 조치를 포함하여 구속력 있는 결정에 이르기까지 불만 사항을 준수한 기록을 보유하고 있습니다.

AI 산업의 경우, 이 사례는 모델을 사용 가능하게 만드는 노동 계층이 제품 자체와 동일한 개인 정보 보호 표준을 유지할 것인지 여부에 대한 테스트입니다. 당국이 고소인의 편을 든다면 유럽에서 운영되는 AI 교육 플랫폼은 업무 환경에서 제3자 추적기를 제거하고 생체 인식 신원 확인을 재고해야 할 수 있습니다. 이는 정확히 이러한 종류의 분산되고 유연한 인력에 의존하는 산업 전반에 파급될 변화입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →