Pihak Berkuasa Perlindungan Data Belanda (AP) telah mendenda Uber €825 juta — kira-kira $966 juta — kerana menggunakan sistem automatik untuk menyahaktifkan akaun pemandu tanpa memaklumkan mereka dengan secukupnya, dalam apa yang dipercayai sebagai penalti kedua terbesar pernah dikeluarkan di bawah Peraturan Perlindungan Data Am Eropah.
Keputusan itu, dilaporkan pada hari Jumaat oleh Reuters selepas agensi berita menyemak penemuan pengawal selia, tiba di persimpangan dua arah aliran paling penting dalam teknologi: penyebaran pengurusan algoritma dalam ekonomi gig, dan penguatkuasaan Eropah yang semakin tegas terhadap peraturan yang mengawal pembuatan keputusan automatik. Untuk liputan berterusan tentang cara kerajaan mengawal sistem AI, ikuti pelaporan peraturan AI Buzz Wire.
Perkara yang Ditemui Pengawal Selia
Menurut AP, sistem automatik Uber menggantung sementara akaun berbilang pemandu di Eropah yang disyaki melakukan penipuan antara 2020 dan 2022. Dalam sesetengah kes, pemandu dengan rating pelanggan yang rendah telah digantung secara kekal.
Pengawal selia menyimpulkan bahawa amalan itu melanggar hak pemandu di bawah GDPR, yang menyekat syarikat daripada membenarkan algoritma komputer membuat keputusan yang mempunyai kesan yang besar terhadap kehidupan orang ramai. Terputus hubungan daripada platform yang mana pemandu individu bergantung pada mata pencarian mereka dianggap sebagai akibat yang besar.
"AP telah menentukan bahawa Uber melanggar hak pemandu, khususnya hak untuk tidak tertakluk kepada pembuatan keputusan automatik yang mempunyai akibat yang ketara," kata pengawal selia dalam keputusannya, seperti dipetik oleh Reuters. "Uber juga telah melanggar hak mereka untuk dimaklumkan."
Mengapa Pengawal Selia Belanda Mengambil Kes
Siasatan itu berpunca daripada aduan yang difailkan oleh pemandu Uber di Perancis. AP mengendalikan kes itu kerana ibu pejabat Eropah Uber terletak di Belanda, menjadikan pihak berkuasa Belanda sebagai penyelia privasi utama untuk operasi syarikat pengangkutan merentasi Kesatuan Eropah.
Skala penalti inilah yang menjadikan kes itu luar biasa. Denda €825 juta itu dipercayai kedua tertinggi pernah dikeluarkan di bawah GDPR, hanya mengatasi penalti €1.2 bilion yang dikenakan ke atas Meta pada 2023 oleh pengawal selia perlindungan data Ireland berhubung pemindahan data pengguna Eropah yang menyalahi undang-undang ke Amerika Syarikat. Meta, seperti Uber, merayu terhadap denda itu, dan kes itu masih tidak dapat diselesaikan.
Maklum Balas Uber
Uber berkata ia akan merayu terhadap keputusan itu, dengan alasan ia tidak menyahaktifkan akaun secara kekal tanpa semakan manusia. Syarikat itu memberitahu Reuters bahawa ia tidak lagi membuat keputusan tetap mengenai penyahaktifan semata-mata melalui sistem automatik.
"Kami sangat tidak bersetuju dengan keputusan ini dan denda yang tidak seimbang," kata jurucakap Uber dalam satu kenyataan, sambil menambah bahawa syarikat mengambil serius hak pemandu dan dasar semasanya termasuk semakan manusia dan peluang untuk pemandu mempertikaikan keputusan akaun.
Mengapa Kes Itu Penting Di Luar Uber
Pada asasnya, keputusan itu adalah amaran kepada setiap syarikat yang membenarkan perisian membuat pilihan berbangkit tentang orang - menyahaktifkan akaun, memotong pembayaran, menyekat akses kepada platform - tanpa pengawasan atau ketelusan manusia yang bermakna.
Peruntukan membuat keputusan automatik GDPR telah ditulis bertahun-tahun sebelum gelombang semasa ejen AI dan alat pengurusan algoritma, tetapi pengawal selia Eropah semakin menggunakannya pada sistem pembelajaran mesin moden. Denda Uber menunjukkan bahawa peraturan membawa gigih: penalti kini boleh mencapai susunan magnitud yang sama seperti tindakan antitrust utama, dan ia digunakan pada keputusan yang dibuat oleh sistem yang beroperasi pada skala berjuta-juta pengguna.
Untuk platform ekonomi gig, kes ini berkemungkinan akan mendorong pemeriksaan semula yang meluas terhadap pengesanan penipuan, penyahaktifan berasaskan penarafan dan sistem pengesahan identiti — tepatnya jenis aliran kerja automatik yang secara sejarahnya murah untuk dijalankan dan sukar untuk dicabar oleh pekerja yang terjejas. Pemandu di Eropah telah lama mengadu bahawa penggantungan akaun tiba dengan sedikit penjelasan dan tiada jalan praktikal untuk rayuan, dan keputusan AP secara langsung mengesahkan teras aduan tersebut.
Keputusan itu juga tiba apabila Brussels melapisi kewajipan tambahan pada sistem AI melalui Akta AI EU, yang mengenakan keperluan ketelusan dan pengurusan risiko pada sistem yang mempengaruhi individu. Syarikat yang belum memetakan proses automatik mereka yang mana berada di bawah rejim ini kini menghadapi pendedahan undang-undang dan kewangan yang semakin meningkat — isyarat yang diperkukuh oleh Financial Times, yang menyatakan bahawa penalti Uber berada di antara sekatan GDPR terbesar dalam rekod.
Apa Yang Berlaku Seterusnya
Rayuan Uber akan dijalankan melalui mahkamah Belanda, satu proses yang dalam kes-kes terdahulu seperti Meta telah menjangkau bertahun-tahun. Sementara itu, denda itu merupakan tindakan penguatkuasaan Eropah yang paling penting setakat ini terhadap pengurusan akaun algoritma, dan pengawal selia privasi di seluruh blok dijangka mengkaji alasan AP dengan teliti.
Bagi pemandu, perubahan praktikal serta-merta mungkin terhad — Uber mengekalkan sistem semasanya sudah termasuk semakan manusia. Tetapi keputusan itu menetapkan bahawa menggantung seseorang daripada platform yang mereka harapkan untuk memperoleh pendapatan adalah "akibat yang ketara" di bawah undang-undang Eropah, dan syarikat mesti memaklumkan orang ramai apabila keputusan sedemikian dibuat tentang mereka.
Memandangkan sistem automatik mengambil lebih banyak membuat keputusan merentas ekonomi, daripada memberi pinjaman kepada mengupah kepada akses platform, kes Uber menawarkan salah satu isyarat paling jelas tentang di mana sempadan undang-undang terletak — dan harga untuk melintasinya.
Kekal Mendahului Peraturan AI Baca lebih banyak berita AI →
