CWN(CHANGE WITH NEWS) - 우버, 알고리즘으로 운전기사 자동 해고시켰다?

최근 알고리즘이 환자의 인종에 따라 신장 이식 수술 여부를 결정한 사례가 발견됐다. 알고리즘이 인간에게 피해를 준 사례 중 가장 끔찍한 사례라 할 수 있다. 이 때문에 일각에서는 기술의 부정적인 측면을 강조하며, 기술 사용에 대해 우려의 목소리를 냈다.

관련 기사: 의학 알고리즘, 환자를 상대로 인종차별 한다?...미국서 흑인의 신장 이식 수술 막은 사례 발견

이러한 가운데, 최근 유럽에서 알고리즘이 인간에게 피해를 준 또 다른 사례가 발견됐다. 이번에는 알고리즘이 우버 기사들을 자동으로 해고한 일이 발생했다.

알고리즘, 우버 기사 해고 권한 지녔다?
와이어드, BBC, TCT 월드 등이 영국과 포르투갈 등에서 우버 기사 여러 명이 우버 시스템에서 계정 차단 조치를 당하며, 우버 기사로 근무할 수 없게 되는 문제가 발생했다고 보도했다.

우버에 억울하게 해고됐다고 주장하는 기사들은 부정행위를 저지르지 않았는데도 우버 측에서 가짜 계정 운영, 과다 요금 청구, 상세 이동 내역 조작 등 각종 부정행위를 이유로 계정을 차단한다는 안내를 받았다고 밝혔다.

하루아침에 우버에서 해고된 기사들은 우버 측에 이를 항의할 권리를 얻지도 못하고 우버에서 쫓겨났다. 이후, 우버에 수십 차례 연락을 했으나 어떠한 답변도 받을 수 없었다.

이에, 영국의 앱 운전기사 및 배송기사 노동조합(ADCU) 측은 알고리즘으로 기사들을 부당하게 자동 해고했다는 이유로 네덜란드에서 우버를 상대로 소송을 제기했다.

우버의 알고리즘, 법률 위반했다?
ADCU의 설명에 따르면, 우버는 기사들의 문의에 자동으로 답변을 보냈다. 이는 '인공지능 시스템이 인간에게 중대한 영향을 미치는 결정을 내리는 주체가 될 수 없다'는 정보위원회(Information Commissioner)의 주장과 상반되는 행위이다.

또, 우버는 유럽연합이 제정한 GDPR 규정도 위반했다. 2018년에 제정된 GDPR은 사용자 데이터 보호 및 기술이 독단적으로 인간에게 영향을 미친 결정을 내렸다고 판단할 경우, 사용자의 요청에 따라 정보를 공개해야 한다고 규정한다.

ADCU 측은 우버가 기사로 활동할 수 있는 이들부터 기사가 벌어들이는 소득까지 모두 알고리즘으로 결정한다는 문제점을 지적했다. 또한, 우버 측은 알고리즘이 기사들의 정보를 어떤 방식으로 사용했는지 공개해야 한다고 주장했다.

그러나 우버는 억울하게 차단당한 기사들이 어떠한 문제로 차단된 것인지 문의를 했을 때, 구체적인 답변을 하지 않았다.

우버, 신원검증 체계도 문제있다
우버는 2019년, 런던 교통 공사(TfL)와 함께 실시간 신원 검증 기술을 도입했다. 이후, 우버 기사가 억울하게 해고되는 사례가 더욱 증가했다. 신원 검증 절차의 문제 때문이다.

우선, 우버는 신원 검증을 위해 기사에게 주기적으로 자신의 사진을 촬영할 것을 요청한다. 이때, 운전기사가 촬영한 사진은 알고리즘이 계정 소유주의 프로필과 동일한 인물인지 판단하는 데 사용된다. 그리고, 운전면허증의 사진과 우버 기사가 촬영한 사진을 비교한다.

이 과정에서 신원 검증 과정을 통과하지 못하면, 해당 기사의 계정은 무기한 사용 정지된다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]