Hollanda Veri Koruma Otoritesi (AP), sürücülerin hesaplarını yeterince bilgilendirmeden otomatik sistemler kullanarak devre dışı bırakmak için Uber'e 825 milyon Euro (yaklaşık 966 milyon dolar) para cezası verdi; bunun Avrupa Genel Veri Koruma Yönetmeliği kapsamında şimdiye kadar verilen en büyük ikinci ceza olduğuna inanılıyor.

Haber ajansının düzenleyici kurumun bulgularını incelemesinin ardından Reuters tarafından Cuma günü bildirilen karar, teknolojideki en önemli iki trendin kesişim noktasına geliyor: esnek ekonomide algoritmik yönetimin yayılması ve Avrupa'nın otomatik karar almayı yöneten kuralların giderek daha iddialı bir şekilde uygulanması. Hükümetlerin yapay zeka sistemlerini nasıl denetlediğine ilişkin sürekli haber için AI Buzz Wire'ın yönetmelik raporlamasını takip edin.

Düzenleyicinin Buldukları

AP'ye göre, Uber'in otomatik sistemleri, 2020 ile 2022 yılları arasında Avrupa'da dolandırıcılık yaptığından şüphelenilen birden fazla sürücünün hesaplarını geçici olarak askıya aldı. Bazı durumlarda, düşük müşteri puanına sahip sürücüler kalıcı olarak askıya alındı.

Düzenleyici, uygulamanın, şirketlerin bir bilgisayar algoritmasının insanların yaşamları üzerinde önemli etkisi olan kararlar almasına izin vermesini kısıtlayan GDPR kapsamındaki sürücü haklarını ihlal ettiği sonucuna vardı. Bireysel sürücülerin geçimlerini sağlamak için bağlı oldukları bir platformdan mahrum kalmanın önemli bir sonuç olduğu değerlendiriliyor.

Reuters'in aktardığına göre düzenleyici, kararında "AP, Uber'in sürücülerin haklarını, özellikle de önemli sonuçları olan otomatik karar almaya tabi olmama hakkını ihlal ettiğini belirledi." dedi. "Uber aynı zamanda bilgilendirilme haklarını da ihlal etti."

Hollandalı Bir Düzenleyici Davayı Neden Aldı?

Soruşturma, Fransa'daki Uber sürücülerinin yaptığı şikayetten kaynaklandı. AP, Uber'in Avrupa genel merkezinin Hollanda'da bulunması nedeniyle davayı ele aldı ve bu da Hollandalı otoriteyi araç çağırma şirketinin Avrupa Birliği genelindeki operasyonlarında baş gizlilik denetçisi haline getirdi.

Davayı istisnai kılan şey, cezanın büyüklüğüdür. 825 milyon Euro'luk cezanın, GDPR kapsamında şimdiye kadar verilen en yüksek ikinci ceza olduğuna inanılıyor; bu cezayı, İrlanda'nın veri koruma düzenleyicisi tarafından Avrupalı ​​kullanıcı verilerinin Amerika Birleşik Devletleri'ne yasa dışı aktarımı nedeniyle 2023'te Meta'ya uygulanan 1,2 milyar Euro'luk ceza geride bıraktı. Uber gibi Meta da bu cezaya itiraz etti ve dava henüz çözümlenmedi.

Uber'in Yanıtı

Uber, hesapları insan incelemesi olmadan kalıcı olarak devre dışı bırakmadığını ileri sürerek karara itiraz edeceğini söyledi. Şirket Reuters'e, artık yalnızca otomatik sistemler aracılığıyla devre dışı bırakma konusunda kalıcı kararlar vermediğini söyledi.

Bir Uber sözcüsü yaptığı açıklamada, "Bu karara ve orantısız cezaya kesinlikle katılmıyoruz" dedi ve şirketin sürücü haklarını ciddiye aldığını ve mevcut politikalarının insan incelemeleri ve sürücülerin hesap kararlarına itiraz etme fırsatlarını içerdiğini ekledi.

Uber'in Ötesinde Vaka Neden Önemli?

Karar özünde her şirkete, yazılımın insanlar hakkında sonuç niteliğinde seçimler yapmasına (hesapları devre dışı bırakmak, ödemeleri kesmek, bir platforma erişimi kısıtlamak) izin veren ve anlamlı bir insan gözetimi veya şeffaflığı olmayan bir uyarıdır.

GDPR'nin otomatik karar verme hükümleri, mevcut yapay zeka aracıları ve algoritmik yönetim araçlarından yıllar önce yazılmıştı, ancak Avrupalı ​​düzenleyiciler bunları giderek artan bir şekilde modern makine öğrenimi sistemlerine uyguluyor. Uber'in cezası, kuralların zorlu olduğunu gösteriyor: Cezalar artık büyük antitröst eylemleriyle aynı boyuta ulaşabiliyor ve milyonlarca kullanıcı ölçeğinde çalışan sistemler tarafından alınan kararlara uygulanabiliyor.

Esnek ekonomi platformları için bu durumun, dolandırıcılık tespitinin, derecelendirmeye dayalı devre dışı bırakmanın ve kimlik doğrulama sistemlerinin (tarihsel olarak çalıştırılması ucuz ve etkilenen çalışanlar için zor olan otomatik iş akışları) kapsamlı bir şekilde yeniden incelenmesine yol açması bekleniyor. Avrupa'daki sürücüler uzun süredir hesapların askıya alınmasının çok az açıklamayla ve pratik bir itiraz yolu olmadan geldiğinden şikayetçiydi ve AP'nin kararı doğrudan bu şikayetlerin özünü doğruluyor.

Karar aynı zamanda Brüksel'in, bireyleri etkileyen sistemlere şeffaflık ve risk yönetimi gereklilikleri getiren AB'nin Yapay Zeka Yasası aracılığıyla yapay zeka sistemlerine ek yükümlülükler getirmesiyle birlikte geldi. Hangi otomatik süreçlerinin bu rejimlere tabi olduğunu henüz haritalandırmamış olan şirketler artık giderek artan yasal ve mali risklerle karşı karşıyadır; bu, Uber cezasının tarihteki en büyük GDPR yaptırımları arasında yer aldığını belirten Financial Times tarafından da güçlendirilen bir sinyaldir.

Sırada Ne Olacak?

Uber'in temyiz başvurusu, Meta'nınki gibi emsal davalarda zaten yıllara yayılan bir süreç olan Hollanda mahkemelerinden geçecek. Bu arada, ceza, algoritmik hesap yönetimine karşı bugüne kadar Avrupa'da uygulanan en önemli yaptırım eylemi olarak duruyor ve bloktaki gizlilik düzenleyicilerinin AP'nin gerekçesini yakından incelemesi bekleniyor.

Sürücüler için acil pratik değişiklik sınırlı olabilir; Uber, mevcut sistemlerinin halihazırda insan incelemesini içerdiğini sürdürüyor. Ancak karar, bir kişinin gelir elde etmek için güvendiği bir platformdan uzaklaştırılmasının Avrupa yasalarına göre "önemli bir sonuç" olduğunu ve şirketlerin bu tür kararlar onlar hakkında alındığında insanları bilgilendirmesi gerektiğini ortaya koyuyor.

Otomatik sistemler, borç verme, işe alma ve platform erişimine kadar ekonomi genelinde daha fazla karar alma sürecini üstlenirken, Uber vakası yasal sınırların nerede olduğuna ve bu sınırları aşmanın bedeline ilişkin şimdiye kadarki en net sinyallerden birini sunuyor.

Yapay Zeka Düzenlemelerinin Önünde Olun Daha fazla AI haberini okuyun →