Avrupa gizlilik kuruluşu noyb, Intérêt à Agir, DIPLab ve Reversing.Works araştırma grupları ile birlikte, şirketin Outlier platformunun AI modellerini eğiten iş çalışanlarını istilacı ve yasa dışı gözetime maruz bıraktığını iddia ederek AB'nin Genel Veri Koruma Yönetmeliği kapsamında Scale AI'ye karşı beş şikayette bulundu. Şikayetler Pazartesi günü Fransa, İtalya, Hollanda ve Avusturya'daki veri koruma yetkililerine sunuldu.

Scale AI'nin Outlier platformu, AI eğitiminin arkasında istem yazma, model yanıtlarını sıralama ve verilere açıklama ekleme gibi insan emeğini gerçekleştiren 900.000'den fazla serbest çalışan çalıştırıyor. Platformun müşteri listesi yapay zeka sektörünün kim-kim olduğunu gösteriyor: Meta, OpenAI, xAI, Google ve Anthropic ile ABD hükümeti. Reuters şikayetleri Pazartesi sabahı bildirdi. For more context on this story, see our ongoing AI trends.

İşçilerin Cihazlarında TikTok, LinkedIn ve Facebook'tan Takipçiler

Şikayetleri destekleyen teknik analiz, çalışanların Outlier platformundayken cihazlarına TikTok, LinkedIn, Facebook, anket platformu Sprig ve veri analitiği şirketi Datadog'dan gelen takip kodlarının yerleştirildiğini ortaya çıkardı. Noyb'a göre bu izleyiciler, IP adresleri, iletişim bilgileri, benzersiz tanımlayıcılar ve ziyaret edilen sayfayla ilgili bilgiler de dahil olmak üzere çalışanların kişisel verilerini birkaç saniyede bir üçüncü taraflara gönderiyor.

Noyb'de veri koruma avukatı olan Lisa Steinfeld Leiser, "Çalışma sırasındaki bu tür sürekli ve kapsamlı takip, gerçekten de tüm makul beklentilere aykırıdır" dedi. "LinkedIn veya Facebook hangi görevler üzerinde çalıştığınızı neden bilmeli?"

Grup, uygulamanın GDPR'nin amaç sınırlaması ve veri minimizasyonu ile ilgili gerekliliklerini ihlal ettiğini ve çalışanlar yerine serbest çalışan olarak sınıflandırılan çalışanların, gelire erişimlerini kaybetmeden takibi reddetmenin anlamlı bir yolunun olmadığını savunuyor.

Persona Aracılığıyla Zorunlu Biyometrik Doğrulama

Şikayetlerin ikinci ayağı kimlik doğrulamayla ilgili. Outlier, çalışanların yüzlerinin video kayıtları ve devlet tarafından verilen kimlik belgelerinin yüklenmesi de dahil olmak üzere kimlik şirketi Persona tarafından gerçekleştirilen biyometrik doğrulamayı defalarca geçmelerini gerektiriyor. Scale AI, sürecin kimlik sahtekarlığını önlemek ve çalışanların becerilerini doğrulamak için var olduğunu söylüyor.

Noyb, uygulamanın gerekli olanın çok ötesine geçtiğini savunuyor ve Persona'nın güvenlik geçmişine işaret ediyor: Ekim 2025'te, şirkette saklanan yaklaşık 70.000 resmi kimlik fotoğrafı bilgisayar korsanları tarafından ifşa edildi. Şikayetlerde ayrıca Persona'nın IP adresleri, cihaz bilgileri, coğrafi konum, adresler ve tüketici kredisi verileri dahil olmak üzere kişisel verileri toplama konusunda geniş hakları saklı tuttuğu belirtiliyor.

DIPLab'da sosyoloji araştırmacısı olan Thomas Le Bonniec, "Platform çalışması yepyeni bir işyeri gözetimi için verimli bir zemin gibi görünüyor" dedi. "Bu, Avrupa Birliği'ndeki başka herhangi bir istihdam türünde kabul edilemez olarak görülecektir. Bu sistem yalnızca kasıtlı şeffaflık eksikliği nedeniyle gelişiyor."

Şikayetlerin özünü açıklamaya değer çünkü çoğu insanın geleneksel bir işte asla kabul etmeyeceği bir çalışma ortamını tanımlıyor. Teknik analize göre, Outlier'da veri veya derecelendirme modeli çıktılarına açıklama ekleyen bir çalışan, aynı anda reklam platformlarını bir dizi davranışsal sinyalle (ziyaret ettikleri sayfalar, bu ziyaretleri daha geniş çevrimiçi profillere bağlayan tanımlayıcılar ve onları konumlandırabilecek ayrıntılar) besliyor. noyb, bu verilerin daha sonra hedefli reklamcılık ve profil oluşturma için kullanılabileceğini, bunun da bir çalışana tamamlanan görevler için ödeme yapılmasıyla hiçbir ilgisi olmayan amaçlarla kullanılabileceğini belirtiyor.

Şikayetler aynı zamanda düzenlemenin asimetrisini de hedef alıyor. İşçiler serbest çalışan olarak sınıflandırılıyor ve bu da onları çoğu iş korumasının dışında bırakıyor, ancak yine de en yoğun çalışan gözetimi biçimlerine benzeyen kontrollere (sürekli izleme, tekrarlanan kimlik kontrolleri) tabi tutuluyorlar. Platform ekonomisindeki şirketler, işçileri serbest meslek sahibi olarak sınıflandırıyor, bu da çoğu zaman onları sosyal yardımlardan dışlıyor ve ücretlerini etkiliyor ve şikayetler, veri koruma ihlallerinin bu güvenlik açığından ayrı olarak var olmak yerine onu artırdığını öne sürüyor.

Sınır Modellerinin Arkasındaki Gizli İşgücü

Şikayetler, yapay zeka sistemlerine güç veren işgücünün giderek daha fazla incelendiği bir dönemde geliyor. Artık dünya çapında 40 milyondan fazla insanın çalışmaları dijital platformlar aracılığıyla organize ediliyor ve yapay zeka açıklamaları en hızlı büyüyen segmentlerden biri haline geldi. ChatGPT, Gemini ve Grok gibi sohbet robotlarını gösterişli ve güvenli hale getiren veri etiketleyicileri ve değerlendiricileri, genellikle ayrı ayrı çalışır, görev başına ödeme yapar ve çıktıları, değerlemeleri artık yüz milyarları bulan modellere doğrudan beslenir.

Intérêt à Agir proje koordinatörü Baptiste Delmas, "Scale AI'ye yönelik şikayetlerde vurgulanan ihlaller, AI patlamasının mahremiyeti tehlikede olan geniş bir işgücüne dayandığını açıkça gösteriyor" dedi. "Veri koruma yetkilileri artık bu sorunları ciddiye almalı ve sıkı yaptırım önlemleri uygulamalıdır."

ABD hükümetinin Outlier'ın müşteri listesindeki varlığı konuya daha da boyut katıyor. Scale AI önemli federal sözleşmeler kazandı ve şikayetler, başvuru sahiplerine göre hükümet ve sınır laboratuvarı çalışmalarını destekleyen aynı platformun Avrupa gizlilik yasası dışında çalıştığını gösteriyor.

Sırada Ne Olacak?

GDPR uyarınca, şikayetleri alan Fransız, İtalyan, Hollandalı ve Avusturyalı yetkililer, Scale AI'ye uygulamaları durdurma emri verebilir, küresel yıllık gelirin yüzde 4'üne kadar para cezası uygulayabilir veya her ikisini birden yapabilir. ABD platform şirketlerine karşı yaptırımlar tarihsel olarak yavaştı, ancak Noyb'un, zorunlu rıza nedeniyle Meta ve Google'a karşı önemli eylemler de dahil olmak üzere, bağlayıcı kararlara kadar şikayetleri takip etme konusunda bir geçmişi var.

Yapay zeka endüstrisi için bu durum, modelleri kullanılabilir hale getiren emek katmanının, ürünlerle aynı gizlilik standartlarına tabi tutulup tutulmayacağına ilişkin bir testtir. Yetkililer şikayetçilerin yanında yer alırsa, Avrupa'da faaliyet gösteren yapay zeka eğitim platformları, üçüncü taraf izleyicileri çalışma ortamlarından çıkarmaya ve biyometrik kimlik kontrollerini yeniden düşünmeye zorlanabilir; bu değişiklikler, tam olarak bu tür dağıtılmış, esnek iş gücüne bağlı bir endüstride dalga dalga yayılacak değişikliklerdir.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →