外卖员因Uber Eats“种族歧视”人脸识别功能而无法送餐，英国呼吁加强对自动化决策的监管

2024年3月29日BBC报道称，Uber Eats送餐员Pa Edrissa Manjang因系统面部识别检查失败即被自动阻止访问该软件，Manjang就此提起法律诉讼，且最终通过和解获得了Uber的赔偿。这个案件引发了对英国法律在处理日益普及的人工智能方面适用性的质疑。

Manjang提到，Uber声称在他为访问该平台而拍摄的自拍照片中发现了“持续不匹配”。然而，Uber在这一次身份检查失败与自动处理流程结束后，即自动终止了他的账户，并没有进行人工审核。虽然Uber与Manjang基于平等和人权保护层面达成了和解，但Uber并未公开承认其系统或流程存在错误，其关于和解的声明否认仅凭面部识别检查的人工智能自动化评估就能终止外卖员的账户，法院也并未就面部识别和自动化决策等数据保护角度做出判定。

在英国的判例中，尽管早在 2021 年就有人投诉 Uber 的身份检查失误，但相关的执法者——信息专员办公室（Information Commissioner’s Office）却没有介入针对 Uber 投诉的调查。同时 GDPR 应当为个人信息安全提供保障，包括防止应用对个人信息主体权益具有重大影响的自动化决策算法。法律还要求处理个人数据要有合法依据，并鼓励系统部署者通过进行数据保护影响评估，积极主动地评估潜在危害 。