डच डेटा प्रोटेक्शन अथॉरिटी (एपी) ने ड्राइवरों को पर्याप्त रूप से सूचित किए बिना उनके खातों को निष्क्रिय करने के लिए स्वचालित सिस्टम का उपयोग करने के लिए उबर पर €825 मिलियन - लगभग 966 मिलियन डॉलर का जुर्माना लगाया है, जिसे यूरोप के जनरल डेटा प्रोटेक्शन रेगुलेशन के तहत अब तक जारी किया गया दूसरा सबसे बड़ा जुर्माना माना जा रहा है।
समाचार एजेंसी द्वारा नियामक के निष्कर्षों की समीक्षा के बाद शुक्रवार को रॉयटर्स द्वारा रिपोर्ट किया गया निर्णय, प्रौद्योगिकी में दो सबसे परिणामी रुझानों के चौराहे पर स्थित है: गिग अर्थव्यवस्था में एल्गोरिथम प्रबंधन का प्रसार, और यूरोप में स्वचालित निर्णय लेने को नियंत्रित करने वाले नियमों का तेजी से मुखर प्रवर्तन। सरकारें एआई सिस्टम पर कैसे निगरानी रख रही हैं, इसकी निरंतर कवरेज के लिए, [एआई बज़ वायर की विनियमन रिपोर्टिंग] (https://aibuzzwire.news) का अनुसरण करें।
नियामक ने क्या पाया
एपी के अनुसार, उबर के स्वचालित सिस्टम ने यूरोप में कई ड्राइवरों के खातों को अस्थायी रूप से निलंबित कर दिया, जिन पर 2020 और 2022 के बीच धोखाधड़ी का संदेह था। कुछ मामलों में, कम ग्राहक रेटिंग वाले ड्राइवरों को स्थायी रूप से निलंबित कर दिया गया था।
नियामक ने निष्कर्ष निकाला कि इस प्रथा ने जीडीपीआर के तहत ड्राइवरों के अधिकारों का उल्लंघन किया है, जो कंपनियों को कंप्यूटर एल्गोरिदम को ऐसे निर्णय लेने से रोकता है जिनका लोगों के जीवन पर महत्वपूर्ण प्रभाव पड़ता है। ऐसे मंच से कट जाना जिस पर व्यक्तिगत ड्राइवर अपनी आजीविका के लिए निर्भर हैं, एक बड़ा परिणाम माना जाता है।
रॉयटर्स के हवाले से नियामक ने अपने फैसले में कहा, "एपी ने निर्धारित किया है कि उबर ने ड्राइवरों के अधिकारों का उल्लंघन किया है, विशेष रूप से स्वचालित निर्णय लेने के अधीन न होने के अधिकार का, जिसके महत्वपूर्ण परिणाम हैं।" "उबर ने सूचना पाने के अपने अधिकार का भी उल्लंघन किया है।"
एक डच नियामक ने मामला क्यों उठाया
यह जांच फ़्रांस में उबर ड्राइवरों द्वारा दायर एक शिकायत से शुरू हुई। एपी ने मामले को संभाला क्योंकि उबर का यूरोपीय मुख्यालय नीदरलैंड में स्थित है, जिससे डच प्राधिकरण पूरे यूरोपीय संघ में राइड-हेलिंग कंपनी के संचालन के लिए प्रमुख गोपनीयता पर्यवेक्षक बन गया।
जुर्माने का पैमाना ही मामले को असाधारण बनाता है। माना जाता है कि €825 मिलियन का जुर्माना जीडीपीआर के तहत अब तक जारी किया गया दूसरा सबसे बड़ा जुर्माना है, जो संयुक्त राज्य अमेरिका में यूरोपीय उपयोगकर्ता डेटा के गैरकानूनी हस्तांतरण पर आयरलैंड के डेटा संरक्षण नियामक द्वारा 2023 में मेटा पर लगाए गए €1.2 बिलियन के जुर्माने से अधिक है। उबर की तरह मेटा ने भी उस जुर्माने के खिलाफ अपील की, और मामला अनसुलझा है।
उबेर की प्रतिक्रिया
उबर ने कहा कि वह इस फैसले के खिलाफ अपील करेगा, यह तर्क देते हुए कि उसने मानवीय समीक्षा के बिना खातों को स्थायी रूप से निष्क्रिय नहीं किया है। कंपनी ने रॉयटर्स को बताया कि वह अब केवल स्वचालित प्रणालियों के माध्यम से निष्क्रियता के बारे में स्थायी निर्णय नहीं लेती है।
उबर के प्रवक्ता ने एक बयान में कहा, "हम इस फैसले और असंगत जुर्माने से पूरी तरह असहमत हैं।" उन्होंने कहा कि कंपनी ड्राइवरों के अधिकारों को गंभीरता से लेती है और इसकी मौजूदा नीतियों में ड्राइवरों के लिए खाता निर्णयों पर विवाद करने के लिए मानवीय समीक्षा और अवसर शामिल हैं।
मामला उबर से परे क्यों मायने रखता है
इसके मूल में, यह निर्णय हर उस कंपनी के लिए एक चेतावनी है जो सॉफ़्टवेयर को लोगों के बारे में परिणामी विकल्प चुनने देती है - खातों को निष्क्रिय करना, भुगतान में कटौती करना, एक प्लेटफ़ॉर्म तक पहुंच को प्रतिबंधित करना - बिना सार्थक मानवीय निरीक्षण या पारदर्शिता के।
जीडीपीआर के स्वचालित निर्णय लेने वाले प्रावधान एआई एजेंटों और एल्गोरिथम प्रबंधन उपकरणों की वर्तमान लहर से कई साल पहले लिखे गए थे, लेकिन यूरोपीय नियामक तेजी से उन्हें आधुनिक मशीन-लर्निंग सिस्टम पर लागू कर रहे हैं। उबेर जुर्माना दर्शाता है कि नियम कठोर हैं: दंड अब प्रमुख अविश्वास कार्रवाइयों के समान परिमाण तक पहुंच सकता है, और वे लाखों उपयोगकर्ताओं के पैमाने पर काम करने वाले सिस्टम द्वारा किए गए निर्णयों पर लागू होते हैं।
गिग इकोनॉमी प्लेटफार्मों के लिए, यह मामला धोखाधड़ी का पता लगाने, रेटिंग-आधारित निष्क्रियता और पहचान सत्यापन प्रणालियों की व्यापक पुन: जांच को प्रेरित करने की संभावना है - ठीक उसी तरह के स्वचालित वर्कफ़्लो जो ऐतिहासिक रूप से चलाने के लिए सस्ते रहे हैं और प्रभावित श्रमिकों के लिए चुनौती देना मुश्किल है। यूरोप में ड्राइवरों ने लंबे समय से शिकायत की है कि खाता निलंबन बहुत कम स्पष्टीकरण के साथ आता है और अपील के लिए कोई व्यावहारिक रास्ता नहीं है, और एपी का निर्णय सीधे उन शिकायतों के मूल को मान्य करता है।
यह फैसला तब भी आया है जब ब्रसेल्स ने EU के AI अधिनियम के माध्यम से AI सिस्टम पर अतिरिक्त दायित्वों को लागू कर दिया है, जो व्यक्तियों को प्रभावित करने वाले सिस्टम पर पारदर्शिता और जोखिम-प्रबंधन आवश्यकताओं को लागू करता है। जिन कंपनियों ने पहले से ही मैप नहीं किया है कि उनकी कौन सी स्वचालित प्रक्रियाएँ इन व्यवस्थाओं के अंतर्गत आती हैं, उन्हें अब बढ़ते कानूनी और वित्तीय जोखिम का सामना करना पड़ रहा है - फाइनेंशियल टाइम्स द्वारा प्रबलित एक संकेत, जिसने नोट किया कि उबर जुर्माना रिकॉर्ड पर सबसे बड़े जीडीपीआर प्रतिबंधों में से एक है।
आगे क्या होता है
उबर की अपील डच अदालतों के माध्यम से चलेगी, यह प्रक्रिया मेटा जैसे पूर्ववर्ती मामलों में पहले ही कई वर्षों तक खिंच चुकी है। इस बीच, यह जुर्माना एल्गोरिथम खाता प्रबंधन के खिलाफ अब तक की सबसे महत्वपूर्ण यूरोपीय प्रवर्तन कार्रवाई है, और समूह भर के गोपनीयता नियामकों से एपी के तर्क का बारीकी से अध्ययन करने की उम्मीद की जाती है।
ड्राइवरों के लिए, तत्काल व्यावहारिक परिवर्तन सीमित हो सकता है - उबर का कहना है कि उसके मौजूदा सिस्टम में पहले से ही मानव समीक्षा शामिल है। लेकिन निर्णय यह स्थापित करता है कि जिस मंच पर वे आय के लिए भरोसा करते हैं, उससे किसी को निलंबित करना यूरोपीय कानून के तहत एक "महत्वपूर्ण परिणाम" है, और कंपनियों को उनके बारे में ऐसे निर्णय लेने पर लोगों को सूचित करना चाहिए।
चूँकि स्वचालित प्रणालियाँ पूरी अर्थव्यवस्था में अधिक निर्णय लेने का काम करती हैं, उधार देने से लेकर किराये पर लेने से लेकर प्लेटफ़ॉर्म तक पहुँच तक, उबर मामला अब तक के सबसे स्पष्ट संकेतों में से एक प्रदान करता है कि कानूनी सीमाएँ कहाँ हैं - और उन्हें पार करने की कीमत क्या है।
एआई विनियमन से आगे रहें अधिक AI समाचार पढ़ें →
