Organisasi privasi Eropa, noyb, bersama dengan kelompok riset Intérêt à Agir, DIPLab, dan Reversing.Works, telah mengajukan lima keluhan terhadap Scale AI berdasarkan Peraturan Perlindungan Data Umum UE, dengan tuduhan bahwa platform Outlier perusahaan tersebut menjadikan pekerja gig yang melatih model AI melakukan pengawasan yang invasif dan melanggar hukum. Keluhan tersebut diajukan pada hari Senin ke otoritas perlindungan data di Perancis, Italia, Belanda dan Austria.
Platform Outlier Scale AI mempekerjakan lebih dari 900.000 pekerja lepas yang melakukan pekerjaan manusia di balik pelatihan AI – menulis petunjuk, memberi peringkat pada jawaban model, dan membuat anotasi data. Daftar pelanggan platform ini terbaca seperti siapa yang ada di industri AI: Meta, OpenAI, xAI, Google dan Anthropic, serta pemerintah AS. Reuters melaporkan keluhan tersebut pada Senin pagi. For more context on this story, see our ongoing latest AI developments.
Pelacak Dari TikTok, LinkedIn, dan Facebook di Perangkat Pekerja
Analisis teknis yang mendasari keluhan tersebut menemukan bahwa ketika para pekerja menggunakan platform Outlier, kode pelacakan dari TikTok, LinkedIn, Facebook, platform survei Sprig, dan perusahaan analisis data Datadog ditempatkan di perangkat mereka. Menurut noyb, pelacak ini mengirimkan data pribadi pekerja ke pihak ketiga setiap beberapa detik, termasuk alamat IP, detail kontak, pengidentifikasi unik, dan informasi tentang halaman yang dikunjungi.
“Pelacakan yang terus-menerus dan ekstensif saat bekerja benar-benar bertentangan dengan ekspektasi yang masuk akal,” kata Lisa Steinfeld Leiser, pengacara perlindungan data di noyb. “Mengapa LinkedIn atau Facebook harus mengetahui tugas apa yang sedang Anda kerjakan?”
Kelompok tersebut berpendapat bahwa praktik tersebut melanggar persyaratan GDPR seputar pembatasan tujuan dan minimalisasi data, dan bahwa pekerja – yang diklasifikasikan sebagai pekerja lepas dan bukan karyawan – tidak memiliki cara yang berarti untuk menolak pelacakan tanpa kehilangan akses terhadap pendapatan.
Verifikasi Biometrik Paksa Melalui Persona
Pilar pengaduan yang kedua berkaitan dengan verifikasi identitas. Outlier mengharuskan pekerja untuk berulang kali melewati verifikasi biometrik yang dilakukan oleh perusahaan identitas Persona, termasuk rekaman video wajah mereka dan pengunggahan dokumen tanda pengenal yang dikeluarkan pemerintah. Scale AI mengatakan proses tersebut ada untuk mencegah penipuan identitas dan memverifikasi keterampilan pekerja.
noyb berpendapat bahwa praktik tersebut jauh melampaui apa yang diperlukan, dan menunjuk pada sejarah keamanan Persona: pada bulan Oktober 2025, sekitar 70.000 foto tanda pengenal pemerintah yang disimpan di perusahaan diekspos oleh peretas. Keluhan tersebut juga mencatat bahwa Persona memiliki hak luas untuk mengumpulkan data pribadi, termasuk alamat IP, informasi perangkat, geolokasi, alamat, dan data kredit konsumen.
“Pekerjaan platform tampaknya menjadi lahan subur untuk jenis pengawasan tempat kerja yang benar-benar baru,” kata Thomas Le Bonniec, peneliti sosiologi di DIPLab. “Hal ini akan dianggap tidak dapat diterima dalam bentuk pekerjaan apa pun di Uni Eropa. Sistem ini hanya bisa berkembang karena kurangnya transparansi yang disengaja.”
Substansi pengaduan ini layak untuk dijabarkan, karena hal ini menggambarkan lingkungan kerja yang tidak akan diterima oleh sebagian besar orang dalam pekerjaan konvensional. Menurut analisis teknis, seorang pekerja yang membuat anotasi pada data atau keluaran model penilaian di Outlier secara bersamaan memberikan aliran sinyal perilaku kepada platform periklanan – halaman yang mereka kunjungi, pengidentifikasi yang menghubungkan kunjungan tersebut ke profil online mereka yang lebih luas, dan detail yang dapat menemukannya. noyb mencatat bahwa data ini kemudian dapat digunakan untuk periklanan dan pembuatan profil bertarget, tujuan yang tidak ada hubungannya dengan membayar pekerja untuk tugas yang diselesaikan.
Keluhan juga menyasar pada asimetri penataan. Pekerja diklasifikasikan sebagai pekerja lepas, yang menempatkan mereka di luar sebagian besar perlindungan tenaga kerja, namun mereka tunduk pada pengendalian – pemantauan terus menerus, pemeriksaan identitas berulang kali – yang mirip dengan bentuk pengawasan karyawan yang paling intensif. Perusahaan-perusahaan dalam ekonomi platform mengklasifikasikan pekerja sebagai pekerja mandiri, yang sering kali mengecualikan mereka dari tunjangan sosial dan memengaruhi upah mereka, dan pengaduan tersebut berpendapat bahwa pelanggaran perlindungan data memperparah kerentanan tersebut, bukannya terpisah dari kerentanan tersebut.
Tenaga Kerja Tersembunyi di Balik Model Frontier
Keluhan ini muncul di tengah meningkatnya pengawasan terhadap tenaga kerja yang menggerakkan sistem AI. Lebih dari 40 juta orang di seluruh dunia kini mengatur pekerjaannya melalui platform digital, dan anotasi AI telah menjadi salah satu segmen dengan pertumbuhan tercepat. Para pelabel dan penilai data yang menjadikan chatbot seperti ChatGPT, Gemini, dan Grok sempurna dan aman biasanya bekerja secara terpisah, dibayar per tugas, dan output mereka dimasukkan langsung ke dalam model yang valuasinya kini mencapai ratusan miliar.
“Pelanggaran yang disoroti dalam pengaduan terhadap Scale AI dengan jelas menunjukkan bahwa lonjakan AI bergantung pada banyaknya tenaga kerja yang privasinya dipertaruhkan,” kata Baptiste Delmas, koordinator proyek di Intérêt à Agir. “Otoritas perlindungan data sekarang harus menanggapi masalah ini dengan serius dan menerapkan tindakan penegakan hukum yang ketat.”
Kehadiran pemerintah AS dalam daftar pelanggan Outlier menambah dimensi lain. Scale AI telah memenangkan kontrak federal yang signifikan, dan keluhan tersebut menyoroti bagaimana platform yang sama yang mendukung pekerjaan pemerintah dan laboratorium perbatasan, menurut pelapor, beroperasi di luar undang-undang privasi Eropa.
Apa yang Terjadi Selanjutnya
Berdasarkan GDPR, otoritas Perancis, Italia, Belanda, dan Austria yang menerima pengaduan dapat memerintahkan Scale AI untuk menghentikan praktik tersebut, mengenakan denda hingga 4 persen dari pendapatan tahunan global, atau keduanya. Penegakan hukum terhadap perusahaan platform AS secara historis berjalan lambat, namun noyb memiliki rekam jejak dalam menindaklanjuti pengaduan hingga mengambil keputusan yang mengikat, termasuk tindakan penting terhadap Meta dan Google terkait persetujuan yang dipaksakan.
Bagi industri AI, kasus ini merupakan ujian apakah lapisan pekerja yang membuat model dapat digunakan akan memiliki standar privasi yang sama dengan produk itu sendiri. Jika pihak berwenang memihak pihak yang mengajukan pengaduan, platform pelatihan AI yang beroperasi di Eropa dapat terpaksa menghapus pelacak pihak ketiga dari lingkungan kerja mereka dan memikirkan kembali pemeriksaan identitas biometrik – perubahan yang akan berdampak pada industri yang bergantung pada jenis tenaga kerja yang terdistribusi dan fleksibel.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
