غرمت هيئة حماية البيانات الهولندية (AP) شركة أوبر بمبلغ 825 مليون يورو - ما يقرب من 966 مليون دولار - لاستخدامها أنظمة آلية لإلغاء تنشيط حسابات السائقين دون إبلاغهم بشكل مناسب، فيما يُعتقد أنه ثاني أكبر عقوبة تم إصدارها على الإطلاق بموجب اللائحة العامة لحماية البيانات في أوروبا.
القرار، الذي أوردته رويترز يوم الجمعة بعد أن استعرضت وكالة الأنباء النتائج التي توصلت إليها الهيئة التنظيمية، يقع عند تقاطع اثنين من الاتجاهات الأكثر أهمية في التكنولوجيا: انتشار الإدارة الخوارزمية في اقتصاد الوظائف المؤقتة، والإنفاذ الأوروبي الحازم بشكل متزايد للقواعد التي تحكم صنع القرار الآلي. للحصول على تغطية مستمرة لكيفية قيام الحكومات بمراقبة أنظمة الذكاء الاصطناعي، تابع التقارير التنظيمية الصادرة عن AI Buzz Wire.
ما وجده المنظم
وفقًا لوكالة أسوشييتد برس، علقت أنظمة أوبر الآلية مؤقتًا حسابات العديد من السائقين في أوروبا الذين يشتبه في قيامهم بالاحتيال بين عامي 2020 و2022. وفي بعض الحالات، تم تعليق السائقين ذوي تقييمات العملاء المنخفضة بشكل دائم.
وخلصت الهيئة التنظيمية إلى أن هذه الممارسة تنتهك حقوق السائقين بموجب اللائحة العامة لحماية البيانات، والتي تمنع الشركات من السماح لخوارزمية الكمبيوتر باتخاذ قرارات لها تأثير كبير على حياة الناس. ويعتبر الانقطاع عن المنصة التي يعتمد عليها السائقون الأفراد في معيشتهم نتيجة كبيرة.
وقالت الهيئة التنظيمية في قرارها، حسبما نقلت رويترز: "قررت وكالة أسوشييتد برس أن أوبر انتهكت حقوق السائقين، وتحديدًا الحق في عدم الخضوع لعملية صنع القرار الآلي التي لها عواقب وخيمة". "لقد انتهكت أوبر أيضًا حقهم في الحصول على المعلومات."
لماذا قبلت هيئة تنظيمية هولندية هذه القضية
نبع التحقيق من شكوى قدمها سائقو أوبر في فرنسا. تعاملت وكالة أسوشيتد برس مع القضية لأن المقر الرئيسي لشركة أوبر الأوروبية يقع في هولندا، مما يجعل السلطة الهولندية هي المشرف الرئيسي على الخصوصية لعمليات شركة نقل الركاب عبر الاتحاد الأوروبي.
حجم العقوبة هو ما يجعل القضية استثنائية. ويُعتقد أن الغرامة البالغة 825 مليون يورو هي ثاني أعلى غرامة يتم إصدارها على الإطلاق بموجب اللائحة العامة لحماية البيانات، ولم يتم تجاوزها إلا بغرامة قدرها 1.2 مليار يورو فرضتها هيئة حماية البيانات الأيرلندية على ميتا في عام 2023 بسبب النقل غير القانوني لبيانات المستخدم الأوروبية إلى الولايات المتحدة. وقد استأنفت ميتا، مثل أوبر، ضد هذه الغرامة، ولا تزال القضية دون حل.
استجابة أوبر
وقالت أوبر إنها ستستأنف ضد القرار، بحجة أنها لم تقم بإلغاء تنشيط الحسابات بشكل دائم دون مراجعة بشرية. وقالت الشركة لرويترز إنها لم تعد تتخذ قرارات دائمة بشأن التعطيل من خلال الأنظمة الآلية فقط.
وقال متحدث باسم أوبر في بيان: "نحن نختلف بشدة مع هذا القرار والغرامة غير المتناسبة"، مضيفًا أن الشركة تأخذ حقوق السائقين على محمل الجد وأن سياساتها الحالية تشمل المراجعات البشرية وفرصًا للسائقين للاعتراض على قرارات الحساب.
لماذا تعتبر هذه القضية مهمة خارج نطاق شركة أوبر؟
يعد هذا القرار في جوهره تحذيرًا لكل شركة تسمح للبرمجيات باتخاذ خيارات تبعية بشأن الأشخاص - إلغاء تنشيط الحسابات، وخفض المدفوعات، وتقييد الوصول إلى النظام الأساسي - دون إشراف بشري أو شفافية ذات معنى.
تمت كتابة أحكام اتخاذ القرار الآلي في اللائحة العامة لحماية البيانات قبل سنوات من ظهور الموجة الحالية من وكلاء الذكاء الاصطناعي وأدوات الإدارة الخوارزمية، لكن الهيئات التنظيمية الأوروبية تطبقها بشكل متزايد على أنظمة التعلم الآلي الحديثة. وتُظهِر الغرامة التي فرضتها شركة أوبر أن القواعد لها تأثيرها: فمن الممكن أن تصل العقوبات الآن إلى نفس مستوى إجراءات مكافحة الاحتكار الكبرى، وهي تنطبق على القرارات التي تتخذها الأنظمة التي تعمل على نطاق الملايين من المستخدمين.
بالنسبة لمنصات اقتصاد الوظائف المؤقتة، من المرجح أن تؤدي هذه القضية إلى إعادة النظر على نطاق واسع في الكشف عن الاحتيال، وإلغاء التنشيط على أساس التصنيف، وأنظمة التحقق من الهوية - على وجه التحديد هذا النوع من سير العمل الآلي الذي كان تشغيله رخيصًا تاريخيًا ويصعب على العمال المتضررين تحديه. لقد اشتكى السائقون في أوروبا منذ فترة طويلة من أن تعليق الحسابات يصل دون تفسير يذكر ولا يوجد وسيلة عملية للاستئناف، ويؤكد قرار وكالة الأسوشييتد برس صحة جوهر تلك الشكاوى بشكل مباشر.
ويأتي هذا الحكم أيضًا في الوقت الذي تفرض فيه بروكسل التزامات إضافية على أنظمة الذكاء الاصطناعي من خلال قانون الذكاء الاصطناعي للاتحاد الأوروبي، والذي يفرض متطلبات الشفافية وإدارة المخاطر على الأنظمة التي تؤثر على الأفراد. والشركات التي لم تحدد بالفعل أيًا من عملياتها الآلية التي تندرج تحت هذه الأنظمة تواجه الآن تعرضًا قانونيًا وماليًا متزايدًا ــ وهي الإشارة التي عززتها صحيفة فايننشال تايمز، التي لاحظت أن عقوبة أوبر تُصنف بين أكبر عقوبات القانون العام لحماية البيانات المسجلة على الإطلاق.
ماذا سيحدث بعد ذلك
سيتم استئناف استئناف أوبر من خلال المحاكم الهولندية، وهي عملية امتدت بالفعل عبر سنوات في قضايا سابقة مثل قضية ميتا. في غضون ذلك، تعد الغرامة أهم إجراء تنفيذي أوروبي حتى الآن ضد إدارة الحسابات الخوارزمية، ومن المتوقع أن يدرس منظمو الخصوصية في جميع أنحاء الكتلة أسباب AP عن كثب.
بالنسبة للسائقين، قد يكون التغيير العملي الفوري محدودًا، حيث تؤكد أوبر أن أنظمتها الحالية تتضمن بالفعل مراجعة بشرية. لكن القرار ينص على أن تعليق استخدام شخص ما على منصة يعتمدون عليها للحصول على الدخل يعد "نتيجة مهمة" بموجب القانون الأوروبي، وأنه يجب على الشركات إبلاغ الأشخاص عند اتخاذ مثل هذه القرارات بشأنهم.
مع تولي الأنظمة الآلية المزيد من عمليات صنع القرار في جميع أنحاء الاقتصاد، من الإقراض إلى التوظيف إلى الوصول إلى المنصة، تقدم قضية أوبر واحدة من أوضح الإشارات حتى الآن حول أين تكمن الحدود القانونية - وثمن تجاوزها.
ابق في صدارة تنظيمات الذكاء الاصطناعي اقرأ المزيد من أخبار الذكاء الاصطناعي →
