Otoritas Perlindungan Data Belanda (AP) telah mendenda Uber sebesar €825 juta — sekitar $966 juta — karena menggunakan sistem otomatis untuk menonaktifkan akun pengemudi tanpa memberi tahu mereka secara memadai, yang diyakini sebagai denda terbesar kedua yang pernah dikeluarkan berdasarkan Peraturan Perlindungan Data Umum Eropa.
Keputusan tersebut, yang dilaporkan pada hari Jumat oleh Reuters setelah kantor berita tersebut meninjau temuan regulator, berada di persimpangan dua tren paling penting dalam teknologi: penyebaran manajemen algoritmik dalam gig economy, dan semakin tegasnya penegakan aturan yang mengatur pengambilan keputusan otomatis di Eropa. Untuk liputan berkelanjutan tentang cara pemerintah mengawasi sistem AI, ikuti pelaporan peraturan AI Buzz Wire.
Apa yang Ditemukan Regulator
Menurut AP, sistem otomatis Uber untuk sementara menangguhkan akun beberapa pengemudi di Eropa yang dicurigai melakukan penipuan antara tahun 2020 dan 2022. Dalam beberapa kasus, pengemudi dengan peringkat pelanggan rendah ditangguhkan secara permanen.
Regulator menyimpulkan bahwa praktik tersebut melanggar hak pengemudi berdasarkan GDPR, yang membatasi perusahaan membiarkan algoritme komputer mengambil keputusan yang berdampak signifikan pada kehidupan masyarakat. Terputusnya platform yang menjadi andalan para pengemudi untuk penghidupan mereka dianggap sebagai konsekuensi yang besar.
“AP telah menetapkan bahwa Uber melanggar hak pengemudi, khususnya hak untuk tidak tunduk pada pengambilan keputusan otomatis yang memiliki konsekuensi signifikan,” kata regulator dalam keputusannya, seperti dikutip dari Reuters. “Uber juga telah melanggar hak mereka untuk mendapatkan informasi.”
Mengapa Regulator Belanda Mengambil Kasus Ini
Investigasi tersebut bermula dari pengaduan yang diajukan oleh pengemudi Uber di Prancis. AP menangani kasus ini karena kantor pusat Uber di Eropa berlokasi di Belanda, sehingga menjadikan otoritas Belanda sebagai pengawas privasi utama untuk operasi perusahaan ride-hailing tersebut di seluruh Uni Eropa.
Skala hukuman inilah yang menjadikan kasus ini luar biasa. Denda €825 juta diyakini merupakan denda tertinggi kedua yang pernah dikeluarkan berdasarkan GDPR, hanya dilampaui oleh denda €1,2 miliar yang dikenakan pada Meta pada tahun 2023 oleh regulator perlindungan data Irlandia atas transfer data pengguna Eropa ke Amerika Serikat yang melanggar hukum. Meta, seperti Uber, mengajukan banding atas denda tersebut, dan kasusnya masih belum terselesaikan.
Tanggapan Uber
Uber mengatakan akan mengajukan banding atas keputusan tersebut, dengan alasan bahwa pihaknya tidak menonaktifkan akun secara permanen tanpa tinjauan manusia. Perusahaan tersebut mengatakan kepada Reuters bahwa mereka tidak lagi membuat keputusan permanen mengenai penonaktifan hanya melalui sistem otomatis.
“Kami sangat tidak setuju dengan keputusan ini dan denda yang tidak proporsional,” kata juru bicara Uber dalam sebuah pernyataan, seraya menambahkan bahwa perusahaan tersebut menganggap serius hak-hak pengemudi dan bahwa kebijakannya saat ini mencakup tinjauan manusia dan peluang bagi pengemudi untuk menyengketakan keputusan akun.
Mengapa Kasus Ini Penting Selain Uber
Pada intinya, keputusan ini merupakan peringatan bagi setiap perusahaan yang membiarkan perangkat lunak membuat pilihan penting terhadap orang-orang – menonaktifkan akun, memotong pembayaran, membatasi akses ke platform – tanpa pengawasan manusia atau transparansi yang berarti.
Ketentuan pengambilan keputusan otomatis GDPR dibuat bertahun-tahun sebelum munculnya agen AI dan alat manajemen algoritmik saat ini, namun regulator Eropa semakin banyak menerapkannya pada sistem pembelajaran mesin modern. Denda Uber menunjukkan bahwa peraturan tersebut sangat kuat: hukuman sekarang dapat mencapai tingkat yang sama besarnya dengan tindakan antimonopoli besar, dan hukuman tersebut berlaku untuk keputusan yang dibuat oleh sistem yang beroperasi pada skala jutaan pengguna.
Untuk platform gig economy, kasus ini kemungkinan akan mendorong pemeriksaan ulang secara luas terhadap deteksi penipuan, penonaktifan berbasis rating, dan sistem verifikasi identitas – tepatnya jenis alur kerja otomatis yang secara historis murah untuk dijalankan dan sulit ditantang oleh pekerja yang terkena dampak. Pengemudi di Eropa telah lama mengeluh bahwa penangguhan akun terjadi tanpa adanya penjelasan dan tidak ada jalan praktis untuk mengajukan banding, dan keputusan AP secara langsung memvalidasi inti dari keluhan tersebut.
Keputusan ini juga diambil ketika Brussel memberikan kewajiban tambahan pada sistem AI melalui Undang-Undang AI Uni Eropa, yang menerapkan persyaratan transparansi dan manajemen risiko pada sistem yang berdampak pada individu. Perusahaan-perusahaan yang belum memetakan proses otomatis mana yang termasuk dalam rezim ini kini menghadapi paparan hukum dan finansial yang semakin besar – sebuah sinyal yang diperkuat oleh Financial Times, yang mencatat bahwa hukuman terhadap Uber merupakan salah satu sanksi GDPR terbesar yang pernah tercatat.
Apa yang Terjadi Selanjutnya
Permohonan banding Uber akan dilakukan melalui pengadilan Belanda, sebuah proses yang dalam kasus-kasus sebelumnya seperti Meta telah berlangsung selama bertahun-tahun. Sementara itu, denda tersebut merupakan tindakan penegakan hukum Eropa yang paling signifikan hingga saat ini terhadap pengelolaan akun algoritmik, dan regulator privasi di seluruh blok diharapkan mempelajari alasan AP dengan cermat.
Bagi pengemudi, perubahan praktis yang dapat dilakukan secara langsung mungkin terbatas – Uber menyatakan bahwa sistemnya saat ini sudah mencakup tinjauan manusia. Namun keputusan tersebut menetapkan bahwa menangguhkan seseorang dari platform yang mereka andalkan untuk mendapatkan penghasilan adalah "konsekuensi signifikan" berdasarkan hukum Eropa, dan bahwa perusahaan harus memberi tahu orang-orang ketika keputusan tersebut dibuat mengenai mereka.
Ketika sistem otomatis mengambil lebih banyak pengambilan keputusan di seluruh perekonomian, mulai dari pemberian pinjaman, perekrutan, hingga akses platform, kasus Uber menawarkan salah satu sinyal paling jelas tentang di mana letak batasan hukum – dan konsekuensi jika melanggar batasan tersebut.
Tetap Terdepan dalam Regulasi AI Baca berita AI selengkapnya →
