华政学报 | 程凌 平台劳动者自动化决策拒绝权实现路径的公私法协同

平台劳动者自动化决策拒绝权

实现路径的公私法协同

我国《个人信息保护法》对个人信息进行了赋权，个人信息权作为权利束包括自动化决策拒绝权、知情权、决定权、查阅权等多项权利。个人信息权由《宪法》第38条人格尊严条款推导而出，属于宪法基本权利的范畴，相应地，自动化决策拒绝权则为个人信息权宪法基本权利的组成部分。

在平台用工中，无论平台与平台劳动者之间的关系定性为劳动关系、承揽关系抑或是其他形态，平台通过自动化决策对平台劳动者都存在一定约束，平台劳动者面临主体性丧失的危机。以往劳动者在工作中享有部分自由裁量权，但是随着平台用工派单、评分评级等用工自动决策机制的应用，平台劳动者受到平台的实时监控，只能被迫执行由算法自动化决策做出的决定，其自主性被严重限缩，人格尊严受到侵蚀。在宪法中，人格尊严虽然在不同的文化背景中有不同的诠释，但是不受支配的自由是其内涵的共识。根据我国《宪法》第38条人格尊严条款的规定，国家保护平台劳动者免受算法自动化决策的支配。平台劳动者的自动化决策拒绝权保障平台劳动者人格尊严、促进自主性实现为目标，其宪法基础当然亦以《宪法》第38条人格尊严条款所推导出的个人信息权为宪法依据，并成为该权利束体系的组成部分。

从平台劳动者视角出发，“困在系统里”的平台劳动者在自主性严重受限的情形下，被迫执行平台用工自动化决策系统的决定，这可能会严重影响平台劳动者生命权、健康权、劳动权、平等权等除人格尊严外的其他宪法基本权利。平台劳动者的自动化决策拒绝权旨在保护平台劳动者免受自动化决策的约束，与这些宪法基本权利的实现密切相关。

第一，平台劳动者的生命权、健康权。在职业安全卫生方面，平台用工自动化决策影响平台劳动者的生命权、健康权。生命权、健康权作为人权的重要内容，是人之为人而应当享有的权利，属于宪法层面具有优先性的权利。虽然我国《宪法》没有对生命权、健康权进行规定，但是宪法基本权利体系具有开放性，根据《宪法》第33条第3款的人权条款，生命权、健康权属于基本权利体系范畴。在平台用工领域，自动化决策与工作时间、任务量、奖惩与考核等劳动条件密切相关。在平台用工初期，平台通常以“最严算法”作为考核要求，严重影响了平台劳动者的劳动安全。根据欧盟工作安全与健康机构发布的报告，平台用工自动化决策会导致平台劳动者产生时间压力、工作强度、不安全感和社会孤立等问题，这不仅会影响平台劳动者的人身安全，还会影响其心理健康和福祉。在平台劳动者自动化决策拒绝权的实现路径中，对自动化决策系统运行的事中风险评估与人工监控则可以防止平台适用“最严算法”，通过“算法取中”的方式合理确定劳动时间、休息时间、任务量等劳动条件，进一步保障平台劳动者的生命权、健康权。

第二，平台劳动者的平等权。在平台用工自动化决策过程中，平台劳动者因为种族、照顾家人等受到歧视，其平等权受到损害。无论是意大利Deliveroo算法歧视案中罢工、照顾家人引起的工作任务分配歧视，还是英国Mr Pa Edrissa Manjang v. Uber Eats UK Ltd and others案涉及的有色人种工作机会歧视，均侵害了平台劳动者的平等权。我国《宪法》第33条、第34条、第48条等条款分别以概括性条款或者具体平等权条款的形式对平等权进行了规定。平台劳动者自动化决策拒绝权实现路径中的事中风险评估与人工监控、事后人工审查机制，可以在事中阶段评估并监控自动化决策的歧视风险以尽可能避免歧视的发生，或者在事后阶段为平台劳动者提供人工审查与救济，从而保障平台劳动者的平等权。

第三，平台劳动者的劳动权。在平台劳动者的劳动权保障方面，平台通过自动化决策暂时或者永久关停账户等行为影响了平台劳动者的劳动权。我国《宪法》第42条第1款对公民的劳动基本权利进行了规定，宪法层面的劳动者不仅涵盖了《劳动法》意义上具有劳动关系的劳动者，还涵盖了公民中不具有劳动关系的群体。同时，我国《宪法》第42条第1款中的“劳动”，不仅包含《劳动法》中劳动关系意义上的职业性劳动，还涵盖了“营业”范畴。换言之，无论平台与平台劳动者之间是否存在劳动关系，平台劳动者均享有宪法层面的劳动权。在平台用工算法管理过程中，平台通过自动化决策暂停账户、永久关停账户等行为影响了平台劳动者宪法层面的劳动权。平台用工自动化决策涉及的暂停账户、考核与奖惩内容，还会对平台劳动者的劳动条件产生严重影响。平台劳动者自动化决策拒绝权实现路径中的事中风险评估与人工监控、事后人工审查机制，可以在事中阶段评估并监控劳动条件的自动化决策，尤其是评估相关惩罚措施的合理性，或者在事后阶段为平台劳动者提供人工审查与救济，从而保障平台劳动者宪法层面的劳动权。

（一） 主观防御功能：保障平台用工自动化决策的私法自治

（二）客观价值秩序功能：对平台用工自动化决策进行国家干预

1.平台用工场景下“仅通过自动化决策的方式作出”的多因素考量

关于我国《个人信息保护法》第24条第3款规定的“仅通过自动化决策的方式作出决定”的内涵，可参考GDPR第22条第1款“完全通过自动化方式做出的决策”的界定。完全自动化决策意味着个人无法对决策的结果施加任何实质性影响，判断的核心在于是否存在有意义的人工干预。在平台用工自动化决策的相关案件中，平台通常会主张进行了人工干预。那么，如何判断平台所主张的人工干预是有意义的，抑或人类的参与必须达到何种程度才是有意义的？欧盟第29条工作组认为，可从以下方面进行考量：第一，人类对决策的所有监控均是有意义的，而非仅是橡皮图章；第二，负责人工干预的人员必须具备改变决策结果的相应能力与权限；第三，在人工干预的分析过程中应当考量所有相关数据因素。

在平台用工自动化决策案件中，法院或者数据保护机构对自动化决策中是否存在有意义的人工干预进行了分析，具体包括以下考量因素：

第一，关于人工参与是否为橡皮图章。在荷兰Uber司机诉Uber算法关停账户案件中，Uber司机因被算法“解雇”（关停账户）而对平台提起诉讼，案件核心问题之一为Uber“解雇”（关停账户）的决定是算法还是人工作出的。Uber提出，因欺诈而关闭账户的决定是由EMEA运营风险团队（以下简称风险团队）至少两名人员在一致决定的基础上作出的。但是，在该案件的审理过程中，法院认为Uber并未有力证明其主张，尤其是该案中风险团队没有充分考量所有相关数据因素。对于风险团队的工作人员在收到ERAF软件欺诈信号后是由人工还是自动化决策作出的相关分析及决定，Uber未进行有力举证，因而无法判断工作人员的行为是否仅是纯粹的象征性行为，故法院未支持Uber的主张。在意大利数据保护监管机构对Foodinho、Deliveroo外派配送平台的罚款案件中，关于“卓越”评分等自动化决策系统，无论是预设参数还是后续的参数调整都需要人工参与，意大利数据保护监管机构指出，对算法的参数进行必要的设置并不能排除完全自动化决策。换言之，此时的人工参与并不具有意义，仅为橡皮图章。

第二，关于人工干预人员的资质与水平。在荷兰Uber司机诉Uber算法关停账户案件中，法院指出Uber未证明风险团队的工作人员的资质与知识水平。《欧盟平台用工指令》第10条第2款对自动化决策人工监督中的工作人员的能力、培训、权限进行了概括性规定，要求工作人员应当具有推翻自动化决策的能力，并且不得因此受到不合理待遇。

第三，关于人工干预是否考量了所有相关数据等因素。在荷兰Uber司机诉Uber算法关停账户案件中，法院指出Uber的风险团队总部位于波兰克拉科夫，虽然Uber主张其工作人员对涉嫌欺诈的个案进行了实际人工调查，但是在未听取三名司机各自意见的情况下，这一主张难以令人信服，因而，就这三名Uber司机而言，法院认为关闭账户是通过完全自动化决策做出的决定；同时，针对该案另一名司机的特殊情况，因为风险团队在作出人工决策之前，与司机进行了对话，考量了司机意见这一因素，因此法院认为就该司机而言风险团队的人工干预是有意义的。

2.对平台劳动者权益有“重大影响”的综合判断

根据我国《个人信息保护法》第24条第3款的规定，自动化决策拒绝权行使的另一要件为“对个人权益有重大影响”，但当前立法并未规定该要件的具体内涵。与之相类似，GDPR第22条第1款规定自动化决策拒绝权的行使要件之一为对数据主体产生“法律效果或者类似重大影响”。关于该要件的具体内涵，相关学者指出，该要件是指自动化决策改变、塑造或者以其他方式（部分或者全部）决定一个人的合法权利或者义务，或者对数据主体的福利产生严重不利影响。欧盟第29条工作组认为，一方面，在法律效果层面，自动化决策影响数据主体的合法权利，或者对数据主体的法律地位或者合同相关权利产生影响；另一方面，在类似重大影响方面，自动化决策虽然未影响数据主体的法律地位或者合法权利，但是其产生的影响重大，以至于与法律效果相似，甚至可能严重影响有关数据主体个人的情况、行为或选择，对数据主体产生长期或永久的影响，抑或在最极端的情况下，导致个人的排斥或歧视。具体到劳动法领域，对劳动者个人权益有重大影响的事项涉及就业机会、工作内容、报酬收入、安全卫生等内容，而且其判断具有一定的弹性。具体的判断需要区分不同场景、结合数据主体情况进行个案分析。

在平台用工实践中，针对相关自动化决策是否对平台劳动者产生“法律效果或者类似重大影响”，法院、数据保护机构进行了分析与阐释，对平台劳动者权益有“重大影响”的判断具有重要的参考意义。综合而言，包括以下方面：

第一，自动化决策影响平台劳动者的法律权利或者地位。一方面，自动化决策影响平台劳动者的合同地位。在荷兰Uber司机诉Uber关停账户案件中，阿姆斯特丹上诉法院指出，Uber关闭司机账户的行为是永久性的，其终止了与Uber司机的合同关系，这表明自动化决策对平台劳动者产生了法律效果，影响了平台劳动者的法律地位。另一方面，自动化决策致使平台劳动者面临行政处罚或者刑事指控。在上述案件中，阿姆斯特丹上诉法院进一步指出，Uber检测欺诈算法的自动化决策结果可能导致平台劳动者面临刑事或者其他方面的指控，这足以表明自动化决策将会对平台劳动者产生重大影响。在荷兰Ola与平台司机的自动化决策数据访问权争议案中，Ola“欺诈概率评分”这一自动化决策系统的评分是基于乘客提出异议成功后重新计算车程费用的频率和次数以及同一账户的账单被重新计算的次数。“欺诈概率评分”可分为“可疑”分数和“不可疑”分数，仅供Ola内部员工专门监控某些司机，并对司机行为和可靠性进行风险预测分析。法院认为，“欺诈概率评分”对司机有重大影响，因为这个分数决定了Ola是否会对司机采取进一步措施。如果该得分为负数，则意味着对司机的严重指控，这可能会产生其他严重的后果，例如向运输监管机构报告和吊销出租车牌照。

第二，不仅注重自动化决策对平台劳动者的直接影响，亦考量其可能的间接影响。在荷兰Ola与平台司机的自动化决策数据访问权争议案中，法院指出，Ola“收入画像”自动化决策系统将平台司机分类以提供特殊派单，使司机可以获得比常规更多的补贴,此分类是根据各种参数建立的，比如每周登录时间、平台司机的“接单率”，而且平台会定期更新和调整参数。法院认为，对某一群体的这种定性或分类的结果在相当大程度上影响了平台司机的经济收入，因为这影响了他们的订单、价格，以及他们是否有资格享受特殊优惠。在荷兰Uber司机与Uber自动化决策数据访问权争议案中，关于Uber“司机综合评级系统”，法院指出，虽然评分是乘客给出的，但是Uber通过该系统将评分统计结合，得出司机的平均评分，该系统的自动化决策可能会成为关闭司机账户的原因，从而间接对司机产生重大影响。

第三，考量对平台劳动者影响的长久性、持续性。在荷兰Uber司机与Uber自动化决策数据访问权案件中，阿姆斯特丹上诉法院指出，Uber关闭平台劳动者账户的影响具有永久性而非暂时性，就此而言，一方面，Uber平台的自动化结果影响了平台劳动者的机会，劳动者无法通过Uber平台获得劳动收入，导致平台劳动者无法收回平台劳动者的投资成本；另一方面，平台劳动者可能面临刑事或者其他方面的指控。在荷兰Ola与平台司机的自动化决策数据访问权争议案中，法院对Ola“欺诈概率评分”自动化决策系统作出了相似的阐释，认为该自动化决策系统会对平台劳动者产生持续性的影响。

第四，在平台劳动者的权益方面，着重考量对平台工作机会与工作收入的影响。在荷兰Uber与平台司机自动化决策数据访问权争议案中，Uber“派单匹配系统”是Uber用来匹配司机和乘客的自动化决策系统，该系统首先将最近的司机和乘客分组，然后在组中确定最优匹配，以尽量减少整个司机和乘客群体的等待时间。阿姆斯特丹上诉法院认为，“派单匹配系统”不仅会导致司机与乘客的供需匹配，还可能导致司机收不到订单或者收到订单的频率降低，进而影响司机通过Uber平台完成的接单量与收入。因而，Uber“派单匹配系统”对Uber司机产生重大影响。此外，在该案中，Uber“预定价系统”是一种自动化决策系统，Uber平台通过该系统根据客观因素，比如请求乘车的时间和预期持续时间、实时的供需比例、预期的交通状况和日期，提前计算出乘车价格，而且Uber在确定车费时使用动态定价，法院认为“预定价系统”对车费定价进行自动化决策，而每个订单的定价都决定了司机的收入，同时多个连续订单的定价作为整体将会对司机产生重大影响。

平台劳动者以私法请求权的方式行使自动化决策拒绝权，确保自动化决策中人工干预的介入，进而保障平台劳动者在个案情形下自身不受自动化决策约束的权利。

第一，不同法域自动化决策拒绝权的法律效果差异检视。GDPR第22条对自动化决策拒绝权（免受自动化决策约束权）进行了规定，关于该条文的阐释，有观点认为该条赋予了数据主体免受自动化决策约束的权利，即“权利说”，有的观点则认为该条是对自动化决策的禁止，即“禁令说”。“权利说”抑或是“禁令说”虽然均具有一定的合理性，但是两者具有不同的法律效果。在“禁令说”立场下，法律一般性禁止对数据主体进行完全自动化决策，数据处理者需要进行主动的人工干预，此为数据处理者的一般性积极义务，无须数据主体以履行请求权的方式行权，即可达到要求数据处理者进行人工干预的法律效果。在允许数据处理者进行完全自动化决策的特殊例外情形下（GDPR第22条第2款），数据处理者方可进行完全自动化决策，此时，数据处理者还须承担设置保障措施的积极义务。在“权利说”立场下，自动化决策的人工干预法律效果部分依赖数据主体，以履行请求权的方式实现。

我国《个人信息保护法》第24条第3款规定，个人有权拒绝信息处理者仅通过自动化决策的方式作出决定。针对该条文，相关观点指出其采取了自动化决策结果拒绝权的模式。亦有观点认为该条款采取了自动化决策方式拒绝权的模式，应当从事前与事中的方式拒绝、事后结果拒绝等方面进行考量。从该条款的文义解释出发，我国《个人信息保护法》第24条第3款自动化决策拒绝权应当不仅包含事后阶段的自动化决策结果之拒绝，还包括事前与事中阶段的自动化决策方式之拒绝。

第二，平台劳动者自动化决策拒绝权在自动化决策不同阶段的法律效果：停止完全自动化决策与人工干预。在事前与事中阶段，平台劳动者行使自动化决策拒绝权，一方面表明平台劳动者请求平台不得（事前阶段）或者暂时停止（事中阶段）完全自动化决策；另一方面，如果平台后续需要进行数据处理，该权利的行使意味着平台劳动者请求平台在自动化决策中进行人工干预。就此，我国《个人信息保护法》第24条第3款以及第44条均可成为请求权的基础。在平台用工实践中，平台劳动者自动化决策拒绝权的行使主要通过自动化决策的知情同意机制（事前阶段）、选择退出机制（事前与事中阶段）来实现。

在事后阶段，平台劳动者行使自动化决策拒绝权，意味着平台用工完全自动化决策的结果暂时不生效，同时平台劳动者请求平台对完全自动化决策的结果进行解释、人工审查，我国《个人信息保护法》第24条第3款为请求权的基础。在事后阶段，平台用工完全自动化决策的结果如果没有对平台劳动者造成特定的损害后果或者产生重大影响，在当前算法透明度不足、自动化决策信息严重不对称的情形下，平台劳动者事后通常难以行使自动化决策拒绝权。在平台用工完全自动化决策的结果导致平台劳动者权益受到损害时，比如涉及算法解雇（暂时或者永久关闭账户等）、算法派单歧视、面部验证无法登录等情形，结合前述平台劳动者完全自动化决策拒绝权的权利行使要件，平台劳动者方可具有行使权利的可能性。实践中，在事后阶段，平台劳动者自动化决策拒绝权的行使主要通过申诉机制来实现。

总体而言，平台劳动者自动化决策拒绝权的私法请求权路径强调平台劳动者权利保护的个人主义，尤其注重解决平台劳动者的个人权益影响或者个人损害。在平台与平台劳动者力量极其不对等、群体结构性不平等但是个体难以察觉等情形下，仅通过个人私法请求权的路径难以有效保障平台劳动者自动化决策拒绝权的实现。

（一） 平台用工自动化决策的告知：有意义信息的强制性披露

（二） 平台用工自动化决策的风险评估：人工监督的嵌入