سازمان حفاظت از داده هلند (AP) اوبر را به دلیل استفاده از سیستم‌های خودکار برای غیرفعال کردن حساب‌های رانندگان بدون اطلاع کافی، 825 میلیون یورو - تقریباً 966 میلیون دلار - جریمه کرده است، که گمان می‌رود دومین جریمه بزرگی است که تا کنون بر اساس مقررات عمومی حفاظت از داده اروپا صادر شده است.

این تصمیم که روز جمعه پس از بررسی یافته‌های رگولاتور توسط خبرگزاری رویترز گزارش شد، در تقاطع دو مورد از مهم‌ترین روندها در فناوری قرار می‌گیرد: گسترش مدیریت الگوریتمی در اقتصاد گیگ و اجرای قاطعانه‌تر اروپا از قوانین حاکم بر تصمیم‌گیری خودکار. برای پوشش مداوم نحوه نظارت دولت ها بر سیستم های هوش مصنوعی، [گزارش مقررات AI Buzz Wire] (https://aibuzzwire.news) را دنبال کنید.

آنچه رگولاتور پیدا کرد

بر اساس گزارش AP، سیستم‌های خودکار اوبر به طور موقت حساب‌های چندین راننده در اروپا را که در بین سال‌های 2020 تا 2022 مظنون به کلاهبرداری بودند، به حالت تعلیق درآوردند. در برخی موارد، رانندگانی که رتبه‌بندی مشتریان پایینی داشتند به‌طور دائم به حالت تعلیق درآمدند.

رگولاتور به این نتیجه رسید که این عمل حقوق رانندگان تحت GDPR را نقض می‌کند، که شرکت‌ها را از اجازه دادن به الگوریتم رایانه‌ای برای تصمیم‌گیری که تأثیر قابل‌توجهی بر زندگی مردم دارد، محدود می‌کند. قطع شدن از پلت فرمی که رانندگان برای امرار معاش خود به آن وابسته هستند، یک پیامد اساسی در نظر گرفته می شود.

به نقل از رویترز، رگولاتور در تصمیم خود گفت: AP تشخیص داده است که اوبر حقوق رانندگان، به ویژه حق عدم تصمیم گیری خودکار را که پیامدهای مهمی دارد، نقض کرده است. اوبر همچنین حق اطلاع رسانی آنها را نقض کرده است.

چرا یک رگولاتور هلندی این مورد را گرفت

این تحقیقات از شکایتی که توسط رانندگان اوبر در فرانسه ارائه شده بود، نشات گرفت. AP این پرونده را مدیریت کرد زیرا دفتر مرکزی اوبر در اروپا در هلند واقع شده است و این مقام هلندی را به عنوان ناظر اصلی حریم خصوصی برای عملیات شرکت سواری در سراسر اتحادیه اروپا تبدیل می کند.

مقیاس مجازات چیزی است که مورد را استثنایی می کند. اعتقاد بر این است که این 825 میلیون یورو دومین جریمه صادر شده بر اساس GDPR است که تنها با جریمه 1.2 میلیارد یورویی اعمال شده بر متا در سال 2023 توسط رگولاتور حفاظت از داده ایرلند به دلیل انتقال غیرقانونی داده های کاربران اروپایی به ایالات متحده پیشی گرفته است. متا، مانند اوبر، علیه این جریمه اعتراض کرد و این پرونده حل نشده باقی مانده است.

پاسخ اوبر

اوبر اعلام کرد که علیه این تصمیم اعتراض خواهد کرد و استدلال می‌کند که حساب‌ها را بدون بررسی انسانی به‌طور دائم غیرفعال نمی‌کند. این شرکت به رویترز گفت که دیگر تصمیمات دائمی در مورد غیرفعال کردن را صرفاً از طریق سیستم های خودکار نمی گیرد.

سخنگوی اوبر در بیانیه ای گفت: «ما به شدت با این تصمیم و جریمه نامتناسب مخالفیم.» او افزود که این شرکت حقوق رانندگان را جدی می گیرد و سیاست های فعلی آن شامل بررسی های انسانی و فرصت هایی برای رانندگان برای اعتراض در تصمیمات حساب کاربری است.

چرا قضیه فراتر از اوبر اهمیت دارد

در هسته خود، این تصمیم هشداری است برای هر شرکتی که به نرم افزار اجازه می دهد تا بدون نظارت یا شفافیت معنادار انسانی، انتخاب های مهمی در مورد افراد - غیرفعال کردن حساب ها، قطع پرداخت ها، محدود کردن دسترسی به یک پلت فرم - انجام دهد.

مفاد تصمیم گیری خودکار GDPR سال ها قبل از موج فعلی عوامل هوش مصنوعی و ابزارهای مدیریت الگوریتمی نوشته شده بود، اما تنظیم کننده های اروپایی به طور فزاینده ای آنها را در سیستم های یادگیری ماشین مدرن به کار می برند. جریمه Uber نشان می‌دهد که این قوانین بسیار دشوار است: مجازات‌ها اکنون می‌توانند به همان ترتیب اقدامات اصلی ضد انحصار برسند، و این جریمه‌ها برای تصمیمات اتخاذ شده توسط سیستم‌هایی که در مقیاس میلیون‌ها کاربر کار می‌کنند اعمال می‌شود.

برای پلت‌فرم‌های اقتصاد گیگ، این مورد احتمالاً باعث بررسی مجدد گسترده‌ای از سیستم‌های تشخیص تقلب، غیرفعال‌سازی مبتنی بر رتبه‌بندی و تأیید هویت می‌شود - دقیقاً نوعی گردش کار خودکار که در طول تاریخ اجرا کردن آنها ارزان بوده و برای کارگران آسیب‌دیده به چالش کشیدن دشوار بوده است. رانندگان در اروپا مدت‌هاست که شکایت دارند که تعلیق حساب‌ها بدون توضیح اندک و هیچ راه عملی برای تجدید نظر می‌رسد و تصمیم AP مستقیماً هسته اصلی این شکایات را تأیید می‌کند.

این حکم همچنین زمانی صادر می‌شود که بروکسل از طریق قانون هوش مصنوعی اتحادیه اروپا، الزامات شفافیت و مدیریت ریسک را بر سیستم‌هایی که افراد را تحت تأثیر قرار می‌دهند، تعهدات بیشتری را بر روی سیستم‌های هوش مصنوعی اعمال می‌کند. شرکت‌هایی که قبلاً نقشه‌برداری نکرده‌اند که کدام یک از فرآیندهای خودکار آنها تحت این رژیم‌ها قرار می‌گیرد، اکنون با افزایش حقوقی و مالی مواجه هستند - سیگنالی که توسط فایننشال تایمز تقویت شده است، که خاطرنشان کرد که مجازات اوبر در میان بزرگترین تحریم‌های GDPR قرار دارد.

بعد چه اتفاقی می افتد

درخواست تجدیدنظر اوبر از طریق دادگاه‌های هلند انجام خواهد شد، روندی که در پرونده‌های سابقه‌ای مانند متا چندین سال طول کشیده است. در این میان، این جریمه مهم‌ترین اقدام اجرایی اروپایی تا به امروز علیه مدیریت حساب الگوریتمی است و انتظار می‌رود که تنظیم‌کنندگان حریم خصوصی در سراسر بلوک استدلال AP را از نزدیک مطالعه کنند.

برای رانندگان، تغییر عملی فوری ممکن است محدود باشد - اوبر معتقد است سیستم‌های فعلی آن از قبل شامل بررسی انسانی است. اما این تصمیم نشان می‌دهد که تعلیق شخصی از پلتفرمی که برای درآمد به آن تکیه می‌کند، طبق قوانین اروپا «پیامد مهمی» است و شرکت‌ها باید هنگام اتخاذ چنین تصمیم‌هایی به مردم اطلاع دهند.

از آنجایی که سیستم‌های خودکار تصمیم‌گیری بیشتری را در سرتاسر اقتصاد، از وام‌دهی گرفته تا استخدام و دسترسی به پلت‌فرم، به عهده می‌گیرند، پرونده اوبر یکی از واضح‌ترین سیگنال‌ها را در مورد اینکه مرزهای قانونی کجاست - و قیمت عبور از آنها را ارائه می‌دهد.

از مقررات هوش مصنوعی جلوتر بمانید اخبار هوش مصنوعی را بیشتر بخوانید →