डच डेटा प्रोटेक्शन ऑथॉरिटी (AP) ने Uber ला €825 दशलक्ष - अंदाजे $966 दशलक्ष - चालकांची खाती त्यांना पुरेशी माहिती न देता निष्क्रिय करण्यासाठी स्वयंचलित प्रणाली वापरल्याबद्दल दंड ठोठावला आहे, जो युरोपच्या जनरल डेटा प्रोटेक्शन रेग्युलेशन अंतर्गत जारी केलेला दुसरा सर्वात मोठा दंड मानला जातो.

वृत्तसंस्थेने रेग्युलेटरच्या निष्कर्षांचे पुनरावलोकन केल्यानंतर शुक्रवारी रॉयटर्सने अहवाल दिलेला निर्णय, तंत्रज्ञानातील दोन सर्वात परिणामकारक ट्रेंडच्या छेदनबिंदूवर उतरला: गिग अर्थव्यवस्थेत अल्गोरिदमिक व्यवस्थापनाचा प्रसार आणि युरोपचे स्वयंचलित निर्णय घेण्याच्या नियमांची वाढत्या ठामपणे अंमलबजावणी. सरकार AI सिस्टीमचे पोलिस कसे करत आहेत याच्या सततच्या कव्हरेजसाठी, AI Buzz Wire's Regulation reporting फॉलो करा.

रेग्युलेटरला काय सापडले

AP च्या मते, Uber च्या स्वयंचलित प्रणालीने 2020 आणि 2022 दरम्यान फसवणूक केल्याचा संशय असलेल्या युरोपमधील एकाधिक ड्रायव्हर्सची खाती तात्पुरती निलंबित केली. काही प्रकरणांमध्ये, कमी ग्राहक रेटिंग असलेल्या चालकांना कायमचे निलंबित केले गेले.

रेग्युलेटरने निष्कर्ष काढला की जीडीपीआर अंतर्गत या सरावाने ड्रायव्हर्सच्या अधिकारांचे उल्लंघन केले आहे, ज्यामुळे कंपन्यांना संगणक अल्गोरिदमचे लोकांच्या जीवनावर महत्त्वपूर्ण परिणाम करणारे निर्णय घेण्यास प्रतिबंध होतो. वैयक्तिक ड्रायव्हर्स त्यांच्या उपजीविकेसाठी ज्या प्लॅटफॉर्मवर अवलंबून असतात त्या प्लॅटफॉर्मवरून तोडले जाणे हा एक महत्त्वपूर्ण परिणाम मानला जातो.

"एपीने निर्धारित केले आहे की उबरने ड्रायव्हर्सच्या अधिकारांचे उल्लंघन केले आहे, विशेषत: स्वयंचलित निर्णय घेण्याच्या अधीन न होण्याचा अधिकार ज्याचे महत्त्वपूर्ण परिणाम आहेत," नियामकाने आपल्या निर्णयात म्हटले आहे, रॉयटर्सने उद्धृत केले आहे. "उबरने त्यांच्या माहितीच्या अधिकाराचेही उल्लंघन केले आहे."

डच नियामकाने केस का घेतली

फ्रान्समधील उबर चालकांनी केलेल्या तक्रारीवरून ही चौकशी सुरू झाली आहे. AP ने हे प्रकरण हाताळले कारण Uber चे युरोपियन मुख्यालय नेदरलँड्समध्ये आहे, ज्यामुळे डच प्राधिकरण संपूर्ण युरोपियन युनियनमधील राइड-हेलिंग कंपनीच्या ऑपरेशन्ससाठी मुख्य गोपनीयता पर्यवेक्षक बनले.

दंडाचे प्रमाण केसला अपवादात्मक बनवते. €825 दशलक्ष दंड हा GDPR अंतर्गत जारी केलेला दुसरा-सर्वोच्च दंड मानला जातो, जो युनायटेड स्टेट्समध्ये युरोपियन वापरकर्त्याच्या डेटाच्या बेकायदेशीर हस्तांतरणावर आयर्लंडच्या डेटा संरक्षण नियामकाने 2023 मध्ये Meta वर लादलेल्या €1.2 अब्ज दंडापेक्षा जास्त आहे. मेटा, उबेर प्रमाणे, त्या दंडाविरुद्ध अपील केले, आणि प्रकरण अद्याप निराकरण झाले नाही.

Uber चा प्रतिसाद

मानवी पुनरावलोकनाशिवाय खाती कायमची निष्क्रिय केली नाहीत असा युक्तिवाद करून उबरने निर्णयाविरुद्ध अपील करणार असल्याचे सांगितले. कंपनीने रॉयटर्सला सांगितले की ते यापुढे केवळ स्वयंचलित सिस्टमद्वारे निष्क्रियतेबद्दल कायमस्वरूपी निर्णय घेत नाही.

"आम्ही या निर्णयाशी आणि असमान दंडाशी जोरदार असहमत आहोत," उबेरच्या प्रवक्त्याने एका निवेदनात म्हटले आहे, कंपनी ड्रायव्हर्सचे हक्क गांभीर्याने घेते आणि तिच्या सध्याच्या धोरणांमध्ये मानवी पुनरावलोकने आणि ड्रायव्हर्सना खाते निर्णयांवर विवाद करण्याच्या संधींचा समावेश आहे.

केस Uber च्या पलीकडे का महत्त्वाची आहे

त्याच्या मुळाशी, हा निर्णय प्रत्येक कंपनीसाठी एक चेतावणी आहे जो सॉफ्टवेअरला लोकांबद्दल परिणामकारक निवडी करू देतो — खाती निष्क्रिय करणे, पेआउट कमी करणे, प्लॅटफॉर्मवर प्रवेश प्रतिबंधित करणे — अर्थपूर्ण मानवी निरीक्षण किंवा पारदर्शकता न करता.

GDPR च्या स्वयंचलित निर्णय घेण्याच्या तरतुदी एआय एजंट्स आणि अल्गोरिदमिक व्यवस्थापन साधनांच्या सध्याच्या लहरींच्या अनेक वर्षांपूर्वी लिहिल्या गेल्या होत्या, परंतु युरोपियन नियामक आधुनिक मशीन-लर्निंग सिस्टमवर त्यांचा वापर वाढवत आहेत. Uber दंड दाखवतो की नियम दात आहेत: दंड आता मोठ्या अविश्वास कृतींप्रमाणेच परिमाणापर्यंत पोहोचू शकतात आणि ते लाखो वापरकर्त्यांच्या प्रमाणात कार्यरत असलेल्या सिस्टमद्वारे घेतलेल्या निर्णयांवर लागू होतात.

गिग इकॉनॉमी प्लॅटफॉर्मसाठी, केस फसवणूक शोध, रेटिंग-आधारित निष्क्रियीकरण आणि ओळख पडताळणी प्रणालीची व्यापक पुनर्परीक्षा करण्यास प्रवृत्त करेल - तंतोतंत स्वयंचलित वर्कफ्लोचे प्रकार जे ऐतिहासिकदृष्ट्या चालण्यास स्वस्त आहेत आणि प्रभावित कामगारांना आव्हान देणे कठीण आहे. युरोपमधील ड्रायव्हर्सनी फार पूर्वीपासून तक्रार केली आहे की खाते निलंबन थोडे स्पष्टीकरणासह आले आहे आणि अपीलसाठी व्यावहारिक मार्ग नाही आणि AP चा निर्णय थेट त्या तक्रारींचा मुख्य भाग प्रमाणित करतो.

ब्रुसेल्सने EU च्या AI कायद्याद्वारे AI सिस्टीमवर अतिरिक्त दायित्वे लादल्यामुळे हा निर्णय देखील आला आहे, ज्यामुळे व्यक्तींवर परिणाम करणाऱ्या प्रणालींवर पारदर्शकता आणि जोखीम-व्यवस्थापन आवश्यकता लागू होतात. ज्या कंपन्यांनी आधीच मॅप केलेली नाही त्यांच्या कोणत्या स्वयंचलित प्रक्रिया या नियमांच्या अंतर्गत येतात त्यांना आता वाढत्या कायदेशीर आणि आर्थिक एक्सपोजरचा सामना करावा लागतो - फायनान्शियल टाइम्सने प्रबलित केलेला सिग्नल, ज्याने नोंदवले की Uber दंड रेकॉर्डवरील सर्वात मोठ्या GDPR मंजूरींमध्ये आहे.

पुढे काय होईल

उबेरचे अपील डच न्यायालयांमार्फत चालवले जाईल, ही प्रक्रिया मेटासारख्या पूर्वीच्या प्रकरणांमध्ये वर्षानुवर्षे पसरलेली आहे. यादरम्यान, दंड हा अल्गोरिदमिक खाते व्यवस्थापनाविरुद्ध आजपर्यंतची सर्वात महत्त्वाची युरोपियन अंमलबजावणी कारवाई आहे आणि संपूर्ण गटातील गोपनीयता नियामकांनी AP च्या तर्काचा बारकाईने अभ्यास करणे अपेक्षित आहे.

ड्रायव्हर्ससाठी, तात्काळ व्यावहारिक बदल मर्यादित असू शकतात — Uber ने त्याच्या सध्याच्या प्रणालींमध्ये आधीच मानवी पुनरावलोकन समाविष्ट केले आहे. परंतु निर्णयाने हे स्थापित केले आहे की एखाद्याला ते उत्पन्नासाठी अवलंबून असलेल्या प्लॅटफॉर्मवरून निलंबित करणे हा युरोपियन कायद्यांतर्गत "महत्त्वपूर्ण परिणाम" आहे आणि जेव्हा असे निर्णय घेतले जातात तेव्हा कंपन्यांनी लोकांना सूचित केले पाहिजे.

कर्ज देण्यापासून ते प्लॅटफॉर्म ॲक्सेसपर्यंत कामावर घेण्यापर्यंत स्वयंचलित प्रणाली संपूर्ण अर्थव्यवस्थेत अधिक निर्णय घेत असल्याने, उबेर केस कायदेशीर सीमा कोठे आहे — आणि त्या ओलांडण्याच्या किंमतीबद्दलचे सर्वात स्पष्ट संकेत देते.

एआय रेग्युलेशनच्या पुढे रहा अधिक एआय बातम्या वाचा →