หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์ (AP) ได้ปรับ Uber จำนวน 825 ล้านยูโร หรือประมาณ 966 ล้านดอลลาร์ สำหรับการใช้ระบบอัตโนมัติเพื่อปิดการใช้งานบัญชีของผู้ขับขี่โดยไม่ได้แจ้งให้ทราบอย่างเพียงพอ ในสิ่งที่เชื่อกันว่าเป็นการลงโทษครั้งใหญ่เป็นอันดับสองที่เคยออกภายใต้กฎระเบียบคุ้มครองข้อมูลทั่วไปของยุโรป

การตัดสินใจดังกล่าวรายงานโดย Reuters เมื่อวันศุกร์ หลังจากที่สำนักข่าวได้ทบทวนผลการวิจัยของหน่วยงานกำกับดูแล ซึ่งมาถึงจุดตัดของแนวโน้มทางเทคโนโลยีที่เป็นผลสืบเนื่องมากที่สุดสองประการ ได้แก่ การแพร่กระจายของการจัดการอัลกอริทึมในเศรษฐกิจขนาดใหญ่ และการบังคับใช้กฎเกณฑ์ที่กล้าแสดงออกมากขึ้นของยุโรปที่ควบคุมการตัดสินใจโดยอัตโนมัติ หากต้องการความคุ้มครองอย่างต่อเนื่องเกี่ยวกับวิธีที่รัฐบาลควบคุมระบบ AI โปรดติดตาม การรายงานกฎระเบียบของ AI Buzz Wire

สิ่งที่หน่วยงานกำกับดูแลพบ

จากข้อมูลของ AP ระบบอัตโนมัติของ Uber ระงับบัญชีของผู้ขับขี่หลายคนในยุโรปชั่วคราวซึ่งต้องสงสัยว่ามีการฉ้อโกงระหว่างปี 2020 ถึง 2022 ในบางกรณี ผู้ขับขี่ที่มีคะแนนลูกค้าต่ำจะถูกระงับอย่างถาวร

หน่วยงานกำกับดูแลสรุปว่าการปฏิบัติดังกล่าวละเมิดสิทธิ์ของผู้ขับขี่ภายใต้ GDPR ซึ่งจำกัดบริษัทต่างๆ ไม่ให้อัลกอริทึมของคอมพิวเตอร์ทำการตัดสินใจที่มีผลกระทบสำคัญต่อชีวิตของผู้คน การถูกตัดขาดจากแพลตฟอร์มที่ผู้ขับขี่แต่ละคนต้องพึ่งพาในการดำรงชีวิตถือเป็นผลลัพธ์ที่สำคัญ

“AP ได้พิจารณาแล้วว่า Uber ละเมิดสิทธิของผู้ขับขี่ โดยเฉพาะสิทธิที่จะไม่อยู่ภายใต้การตัดสินใจโดยอัตโนมัติซึ่งมีผลกระทบที่สำคัญ” ผู้ควบคุมกล่าวในการตัดสินใจ ดังที่อ้างโดย Reuters “Uber ยังได้ละเมิดสิทธิ์ในการรับแจ้งด้วย”

เหตุใดหน่วยงานกำกับดูแลของเนเธอร์แลนด์จึงรับเรื่องนี้

การสอบสวนเกิดขึ้นจากการร้องเรียนโดยคนขับ Uber ในฝรั่งเศส AP จัดการคดีนี้เนื่องจากสำนักงานใหญ่ในยุโรปของ Uber ตั้งอยู่ในเนเธอร์แลนด์ ทำให้หน่วยงานชาวดัตช์เป็นผู้นำผู้ดูแลความเป็นส่วนตัวสำหรับการดำเนินงานของบริษัทเรียกรถทั่วสหภาพยุโรป

ขนาดของการลงโทษคือสิ่งที่ทำให้คดีนี้มีความพิเศษ เชื่อกันว่าค่าปรับ 825 ล้านยูโรถือเป็นค่าปรับที่สูงเป็นอันดับสองภายใต้ GDPR แซงหน้าเพียงค่าปรับ 1.2 พันล้านยูโรที่บังคับใช้กับ Meta ในปี 2566 โดยหน่วยงานกำกับดูแลการปกป้องข้อมูลของไอร์แลนด์เกี่ยวกับการถ่ายโอนข้อมูลผู้ใช้ในยุโรปอย่างผิดกฎหมายไปยังสหรัฐอเมริกา Meta เช่นเดียวกับ Uber ได้ยื่นอุทธรณ์ค่าปรับดังกล่าว และคดีนี้ยังไม่ได้รับการแก้ไข

การตอบสนองของ Uber

Uber กล่าวว่าจะอุทธรณ์คำตัดสินดังกล่าว โดยอ้างว่าไม่ได้ปิดใช้งานบัญชีอย่างถาวรโดยไม่ได้รับการตรวจสอบจากเจ้าหน้าที่ บริษัทบอกกับรอยเตอร์ว่าจะไม่ทำการตัดสินใจอย่างถาวรเกี่ยวกับการปิดใช้งานผ่านระบบอัตโนมัติเพียงอย่างเดียวอีกต่อไป

“เราไม่เห็นด้วยอย่างยิ่งกับการตัดสินใจครั้งนี้และค่าปรับที่ไม่สมส่วน” โฆษกของ Uber กล่าวในแถลงการณ์ พร้อมเสริมว่าบริษัทให้ความสำคัญกับสิทธิของผู้ขับขี่อย่างจริงจัง และนโยบายปัจจุบันของบริษัทยังรวมถึงการตรวจสอบโดยมนุษย์และโอกาสสำหรับผู้ขับขี่ในการโต้แย้งการตัดสินใจเกี่ยวกับบัญชี

เหตุใดคดีจึงมีความสำคัญมากกว่า Uber

หัวใจสำคัญของการตัดสินใจคือการเตือนทุกบริษัทที่ปล่อยให้ซอฟต์แวร์ทำการตัดสินใจเกี่ยวกับผู้คน เช่น การปิดใช้งานบัญชี การตัดการจ่ายเงิน การจำกัดการเข้าถึงแพลตฟอร์ม โดยปราศจากการควบคุมดูแลหรือความโปร่งใสของมนุษย์

ข้อกำหนดในการตัดสินใจแบบอัตโนมัติของ GDPR เขียนขึ้นหลายปีก่อนที่จะมีตัวแทน AI และเครื่องมือการจัดการอัลกอริทึมเข้ามามากมายในปัจจุบัน แต่หน่วยงานกำกับดูแลของยุโรปกำลังนำข้อกำหนดเหล่านี้ไปใช้กับระบบการเรียนรู้ของเครื่องจักรที่ทันสมัยมากขึ้น ค่าปรับของ Uber แสดงให้เห็นว่ากฎเกณฑ์ยังคงดำเนินต่อไป: บทลงโทษสามารถมีลำดับความสำคัญเท่ากันกับการดำเนินการต่อต้านการผูกขาดที่สำคัญ และนำไปใช้กับการตัดสินใจโดยระบบที่ทำงานในระดับผู้ใช้หลายล้านคน

สำหรับแพลตฟอร์ม gig Economy กรณีนี้มีแนวโน้มที่จะกระตุ้นให้มีการตรวจสอบการตรวจจับการฉ้อโกง การปิดใช้งานตามการให้คะแนน และระบบการตรวจสอบตัวตนอีกครั้งในวงกว้าง ซึ่งเป็นขั้นตอนการทำงานอัตโนมัติประเภทหนึ่งที่มีราคาถูกในอดีตและยากสำหรับพนักงานที่ได้รับผลกระทบที่จะท้าทาย ผู้ขับขี่ในยุโรปร้องเรียนมานานแล้วว่าการระงับบัญชีเกิดขึ้นโดยไม่มีคำอธิบายเพียงเล็กน้อย และไม่มีช่องทางในการอุทธรณ์ในทางปฏิบัติ และการตัดสินใจของ AP ก็ยืนยันแก่นแท้ของการร้องเรียนเหล่านั้นโดยตรง

คำตัดสินยังมาถึงในขณะที่บรัสเซลส์เพิ่มภาระผูกพันเพิ่มเติมให้กับระบบ AI ผ่านพระราชบัญญัติ AI ของสหภาพยุโรป ซึ่งกำหนดข้อกำหนดด้านความโปร่งใสและการจัดการความเสี่ยงในระบบที่ส่งผลกระทบต่อบุคคล บริษัทที่ยังไม่ได้จัดทำแผนที่กระบวนการอัตโนมัติของตนที่อยู่ภายใต้ระบอบการปกครองเหล่านี้ ขณะนี้ต้องเผชิญกับความเสี่ยงทางกฎหมายและการเงินที่เพิ่มขึ้น ซึ่งเป็นสัญญาณที่เสริมโดย Financial Times ซึ่งตั้งข้อสังเกตว่าการลงโทษของ Uber ติดอันดับหนึ่งในมาตรการคว่ำบาตร GDPR ที่ใหญ่ที่สุดเป็นประวัติการณ์

จะเกิดอะไรขึ้นต่อไป

การอุทธรณ์ของ Uber จะดำเนินการผ่านศาลดัตช์ ซึ่งเป็นกระบวนการที่ในกรณีตัวอย่างเช่น Meta's ได้ยืดเยื้อมานานหลายปีแล้ว ในระหว่างนี้ ค่าปรับถือเป็นการดำเนินการบังคับใช้ที่สำคัญที่สุดของยุโรปจนถึงปัจจุบันต่อการจัดการบัญชีอัลกอริทึม และหน่วยงานกำกับดูแลความเป็นส่วนตัวทั่วทั้งกลุ่มคาดว่าจะศึกษาเหตุผลของ AP อย่างใกล้ชิด

สำหรับผู้ขับขี่ การเปลี่ยนแปลงเชิงปฏิบัติทันทีอาจมีจำกัด – Uber ยังคงระบบปัจจุบันที่มีการตรวจสอบโดยมนุษย์อยู่แล้ว แต่การตัดสินใจดังกล่าวระบุว่าการระงับบุคคลจากแพลตฟอร์มที่พวกเขาพึ่งพาเพื่อหารายได้ถือเป็น “ผลลัพธ์ที่สำคัญ” ภายใต้กฎหมายยุโรป และบริษัทต่างๆ จะต้องแจ้งให้ผู้คนทราบเมื่อมีการตัดสินใจดังกล่าวเกี่ยวกับพวกเขา

เนื่องจากระบบอัตโนมัติทำหน้าที่ในการตัดสินใจมากขึ้นทั่วทั้งเศรษฐกิจ ตั้งแต่การให้ยืมไปจนถึงการจ้างงานไปจนถึงการเข้าถึงแพลตฟอร์ม กรณีของ Uber เสนอหนึ่งในสัญญาณที่ชัดเจนที่สุดว่าขอบเขตทางกฎหมายอยู่ที่ไหน และราคาของการข้ามขอบเขตเหล่านั้น

ก้าวนำหน้ากฎระเบียบ AI อ่านข่าว AI เพิ่มเติม →