רשות הגנת המידע ההולנדית (AP) קנסה את אובר ב-825 מיליון אירו - בערך 966 מיליון דולר - על שימוש במערכות אוטומטיות לביטול חשבונות של נהגים מבלי ליידע אותם כראוי, במה שנחשב כעונש השני בגודלו שהוצא אי פעם במסגרת תקנת הגנת המידע הכללית באירופה.
ההחלטה, שדיווחה ביום שישי על ידי רויטרס לאחר שסוכנות הידיעות בחנה את ממצאי הרגולטור, נוחתת בצומת של שתיים מהמגמות המשמעותיות ביותר בטכנולוגיה: התפשטות הניהול האלגוריתמי בכלכלת ההופעות, ואכיפה יותר ויותר אסרטיבית של אירופה של הכללים השולטים בקבלת החלטות אוטומטית. לסיקור מתמשך של האופן שבו ממשלות משטרה מערכות בינה מלאכותית, עקוב אחר דיווח הרגולציה של AI Buzz Wire.
מה הרגולטור מצא
לפי AP, המערכות האוטומטיות של אובר השעיו זמנית את חשבונותיהם של מספר נהגים באירופה שנחשדו בהונאה בין השנים 2020 ל-2022. במקרים מסוימים, נהגים עם דירוג לקוחות נמוך הושעו לצמיתות.
הרגולטור הגיע למסקנה שהנוהג מפר את זכויות הנהגים במסגרת ה-GDPR, המגביל לחברות לאפשר לאלגוריתם מחשב לקבל החלטות בעלות השפעה משמעותית על חייהם של אנשים. ניתוק מפלטפורמה שנהגים בודדים תלויים בה לפרנסתם נחשבת לתוצאה מהותית.
"סוכנות הידיעות AP קבעה כי אובר הפרה את זכויות הנהגים, ובמיוחד את הזכות לא להיות כפופה לקבלת החלטות אוטומטיות שיש לה השלכות משמעותיות", אמר הרגולטור בהחלטתו, כפי שצוטט על ידי רויטרס. "אובר גם הפרה את זכותם לקבל מידע".
מדוע רגולטור הולנדי לקח את התיק
החקירה נבעה מתלונה שהגישו נהגי אובר בצרפת. ה-AP טיפל בתיק מכיוון שהמטה האירופי של אובר ממוקם בהולנד, מה שהופך את הרשות ההולנדית למפקחת הפרטיות המובילה בפעילותה של חברת הסעות ברחבי האיחוד האירופי.
קנה המידה של העונש הוא זה שהופך את המקרה לחריג. הקנס של 825 מיליון אירו נחשב לשני בגובהו אי פעם במסגרת ה-GDPR, והוא עלה רק על ידי הקנס של 1.2 מיליארד אירו שהוטל על Meta בשנת 2023 על ידי הרגולטור להגנת המידע של אירלנד על העברות בלתי חוקיות של נתוני משתמשים אירופאים לארצות הברית. מטה, כמו אובר, ערערה על הקנס הזה, והתיק נותר ללא פתרון.
התגובה של אובר
אובר הודיעה כי תערער על ההחלטה, בטענה שהיא לא השביתה חשבונות לצמיתות ללא בדיקה אנושית. החברה אמרה לרויטרס שהיא לא מקבלת עוד החלטות קבועות לגבי השבתה רק באמצעות מערכות אוטומטיות.
"אנחנו מאוד לא מסכימים עם ההחלטה הזו וקנס בלתי פרופורציונלי", אמר דובר אובר בהצהרה, והוסיף כי החברה מתייחסת ברצינות לזכויות הנהגים וכי המדיניות הנוכחית שלה כוללת ביקורות אנושיות והזדמנויות לנהגים לערער על החלטות בחשבון.
למה התיק חשוב מעבר לאובר
בבסיסה, ההחלטה היא אזהרה לכל חברה המאפשרת לתוכנה לבצע בחירות תוצאתיות לגבי אנשים - השבתת חשבונות, קיצוץ תשלומים, הגבלת גישה לפלטפורמה - ללא פיקוח אנושי משמעותי או שקיפות.
הוראות קבלת ההחלטות האוטומטיות של ה-GDPR נכתבו שנים לפני הגל הנוכחי של סוכני בינה מלאכותית וכלי ניהול אלגוריתמיים, אך הרגולטורים האירופיים מיישמים אותם יותר ויותר על מערכות למידת מכונה מודרניות. הקנס של אובר מוכיח שהכללים נושאים שיניים: עונשים יכולים כעת להגיע לאותו סדר גודל כמו פעולות הגבלים עסקיים גדולים, והם חלים על החלטות המתקבלות על ידי מערכות הפועלות בקנה מידה של מיליוני משתמשים.
עבור פלטפורמות כלכליות של הופעות, המקרה עשוי לעורר בחינה מחדש רחבה של זיהוי הונאה, השבתה מבוססת דירוג ומערכות אימות זהות - בדיוק מסוג זרימות העבודה האוטומטיות שהיו זולות להפעלה וקשה לאתגר לעובדים המושפעים. נהגים באירופה התלוננו זה מכבר שהשעיית חשבונות מגיעות עם מעט הסבר וללא דרך מעשית לערעור, והחלטת AP מאשרת ישירות את ליבת התלונות הללו.
הפסיקה מגיעה גם כאשר בריסל מטילה חובות נוספות על מערכות AI באמצעות חוק AI של האיחוד האירופי, המטיל דרישות שקיפות וניהול סיכונים על מערכות המשפיעות על אנשים. חברות שעדיין לא מיפו אילו מהתהליכים האוטומטיים שלהן נופלים תחת המשטרים הללו עומדות כעת בפני חשיפה משפטית ופיננסית גוברת - אות שחוזק על ידי הפייננשל טיימס, שציין כי העונש על אובר מדורג בין הסנקציות הגדולות ביותר על ה-GDPR.
מה קורה אחר כך
הערעור של אובר יעבור בבתי המשפט בהולנד, תהליך שבמקרים תקדימיים כמו זה של Meta כבר נמשך על פני שנים. בינתיים, הקנס עומד על פעולת האכיפה האירופית המשמעותית ביותר עד כה נגד ניהול חשבונות אלגוריתמי, ורגולטורי הפרטיות ברחבי הגוש צפויים ללמוד מקרוב את הנמקה של AP.
עבור נהגים, השינוי המעשי המיידי עשוי להיות מוגבל - Uber שומרת על המערכות הנוכחיות שלה שכבר כוללות ביקורת אנושית. אבל ההחלטה קובעת שהשעיית מישהו מפלטפורמה שהם מסתמכים עליה לצורך הכנסה היא "תוצאה משמעותית" לפי החוק האירופי, ושחברות חייבות ליידע אנשים כאשר מתקבלות החלטות כאלה לגביהם.
ככל שהמערכות האוטומטיות מקבלות יותר החלטות בכל הכלכלה, מהלוואות ועד שכירות ועד גישה לפלטפורמה, מקרה אובר מציע את אחד האותות הברורים ביותר עד כה היכן נעוצים הגבולות המשפטיים - ולמחיר החצייה שלהם.
הישארו לפני הרגולציה של AI קרא עוד חדשות AI →
