네덜란드 데이터 보호 당국(AP)은 자동화 시스템을 사용하여 운전자에게 적절한 정보를 제공하지 않고 계정을 비활성화한 혐의로 Uber에 8억 2천5백만 유로(약 9억 6천6백만 달러)의 벌금을 부과했습니다. 이는 유럽의 일반 데이터 보호 규정에 따라 부과된 벌금 중 두 번째로 큰 벌금입니다.

통신사가 규제 기관의 조사 결과를 검토한 후 금요일 로이터가 보도한 이 결정은 기술의 가장 중요한 두 가지 추세, 즉 긱 경제에서 알고리즘 관리의 확산과 자동화된 의사 결정을 지배하는 규칙의 점점 더 확고해지는 유럽의 단호한 시행의 교차점에 있습니다. 정부가 AI 시스템을 어떻게 단속하고 있는지에 대한 지속적인 보도를 보려면 AI Buzz Wire의 규제 보고를 따르세요.

규제기관이 발견한 것

AP에 따르면 우버의 자동화 시스템은 2020년부터 2022년 사이에 유럽에서 사기 혐의를 받은 여러 운전자의 계정을 일시적으로 정지했습니다. 어떤 경우에는 고객 평점이 낮은 운전자의 계정이 영구적으로 정지되었습니다.

규제 당국은 이러한 관행이 기업이 컴퓨터 알고리즘을 통해 사람들의 삶에 중대한 영향을 미치는 결정을 내리는 것을 제한하는 GDPR에 따른 운전자의 권리를 침해한다고 결론지었습니다. 개인 운전자가 생계를 위해 의존하는 플랫폼에서 단절되는 것은 상당한 결과로 간주됩니다.

로이터통신은 “AP는 우버가 운전자의 권리, 특히 중대한 결과를 초래하는 자동화된 의사결정의 대상이 되지 않을 권리를 침해했다고 결정했다”고 밝혔다. "Uber는 알 권리도 침해했습니다."

네덜란드 규제 당국이 사건을 맡은 이유

이번 조사는 프랑스의 우버 운전기사들이 제기한 불만 사항에서 시작됐다. AP는 Uber의 유럽 본사가 네덜란드에 위치하고 있어 네덜란드 당국이 유럽 연합 전역에서 차량 호출 회사 운영에 대한 수석 개인 정보 보호 감독관이 되었기 때문에 사건을 처리했습니다.

처벌의 규모는 이 사건을 예외적으로 만드는 요인이다. 8억 2,500만 유로의 벌금은 GDPR에 따라 부과된 벌금 중 두 번째로 높은 것으로 여겨지며, 이는 유럽 사용자 데이터를 미국으로 불법 전송한 것에 대해 아일랜드 데이터 보호 규제 기관이 2023년 Meta에 부과한 12억 유로의 벌금을 능가하는 것입니다. Uber와 마찬가지로 Meta도 벌금에 대해 항소했지만 사건은 아직 해결되지 않았습니다.

Uber의 답변

우버는 사람의 검토 없이 계정을 영구적으로 비활성화하지 않았다는 점을 주장하며 이번 결정에 대해 항소할 것이라고 밝혔습니다. 회사는 더 이상 자동화된 시스템을 통해서만 비활성화에 대한 영구적인 결정을 내리지 않는다고 로이터에 말했습니다.

우버 대변인은 성명을 통해 “우리는 이 결정과 과도한 벌금에 강력히 동의하지 않는다”며 “우버는 운전자의 권리를 심각하게 여기고 있으며 우버의 현재 정책에는 인적 검토와 운전자가 계정 결정에 이의를 제기할 수 있는 기회가 포함되어 있다”고 덧붙였다.

사건이 Uber를 넘어 중요한 이유

본질적으로 이번 결정은 의미 있는 인간의 감독이나 투명성 없이 소프트웨어가 계정 비활성화, 지불금 삭감, 플랫폼에 대한 액세스 제한 등 사람에 대해 중대한 선택을 하도록 허용하는 모든 회사에 대한 경고입니다.

GDPR의 자동화된 의사결정 조항은 현재 AI 에이전트 및 알고리즘 관리 도구가 등장하기 몇 년 전에 작성되었지만 유럽 규제 기관에서는 이를 현대 기계 학습 시스템에 점점 더 많이 적용하고 있습니다. Uber 벌금은 규칙이 유효하다는 것을 보여줍니다. 이제 처벌은 주요 독점 금지 조치와 동일한 규모에 도달할 수 있으며 수백만 명의 사용자 규모로 운영되는 시스템에서 내리는 결정에 적용됩니다.

긱 경제 플랫폼의 경우 이번 사건은 사기 탐지, 등급 기반 비활성화 및 신원 확인 시스템에 대한 광범위한 재검토를 촉발할 가능성이 높습니다. 이는 역사적으로 실행 비용이 저렴하고 영향을 받은 근로자가 도전하기 어려웠던 일종의 자동화된 워크플로입니다. 유럽의 운전자들은 설명이 거의 없고 항소할 실질적인 방법도 없이 계정 정지가 발생한다고 오랫동안 불평해 왔으며, AP의 결정은 이러한 불만의 핵심을 직접적으로 입증합니다.

또한 이번 판결은 브뤼셀이 개인에게 영향을 미치는 시스템에 투명성과 위험 관리 요구 사항을 부과하는 EU의 AI법을 통해 AI 시스템에 추가 의무를 부과함에 따라 나온 것입니다. 자동화된 프로세스 중 어떤 프로세스가 이러한 체제에 속하는지 아직 파악하지 못한 기업은 이제 점점 더 커지는 법적, 재정적 노출에 직면해 있습니다. 이는 Uber의 벌금이 기록상 가장 큰 GDPR 제재 중 하나라고 언급한 Financial Times에 의해 강화된 신호입니다.

다음에 무슨 일이 일어날까요?

Uber의 항소는 네덜란드 법원을 통해 진행될 예정이며, Meta의 항소와 같은 선례에서는 이미 수년에 걸쳐 진행된 절차입니다. 한편, 벌금은 알고리즘 계정 관리에 대한 유럽의 가장 중요한 집행 조치이며 블록 전체의 개인 정보 보호 규제 기관은 AP의 추론을 면밀히 연구할 것으로 예상됩니다.

운전자의 경우 즉각적인 실질적인 변화는 제한적일 수 있습니다. Uber는 현재 시스템에 이미 인적 검토가 포함되어 있다고 유지하고 있습니다. 그러나 이번 결정은 누군가가 수입을 위해 의존하는 플랫폼에서 누군가를 정지시키는 것은 유럽 법률에 따라 "중요한 결과"이며 회사는 그러한 결정이 내려지면 사람들에게 알려야 한다는 점을 확립했습니다.

자동화된 시스템이 대출부터 채용, 플랫폼 액세스까지 경제 전반에 걸쳐 더 많은 의사결정을 함에 따라 Uber 사례는 법적 경계가 어디에 있는지, 그리고 이를 넘어서는 대가에 대해 가장 명확한 신호 중 하나를 제공합니다.

AI 규제에 앞서 나가세요 AI 뉴스 자세히 보기 →