姚志伟：生成式人工智能服务提供者在私法上的法律性质

知产力 · 公众号 · · 2025-02-18 18:30

正文

考虑到权利保护和产业发展的平衡，应该超越内容服务/技术服务的二元划分，在私法上对生成式人工智能服务提供者进行重新定性。具体而言，应明确其为侵权责任法上的特殊责任主体，规定以专门的免责机制，有条件地免除其赔偿损失责任。

作者 | 姚志伟广东财经大学法学院教授

摘要：在生成式人工智能服务相关侵权诉讼中，生成式人工智能服务提供者的法律性质问题是核心争议点。法律性质的界定，关系到生成式人工智能服务提供者的义务和责任，更与产业的健康发展息息相关。《生成式人工智能服务管理暂行办法》将人工智能服务界定为信息服务，在公法上要求服务提供者承担内容生产者责任，在私法上并未明确其法律性质。关于生成式人工智能服务提供者在私法上的定性，现有的讨论集中于其是内容服务提供者还是技术服务提供者。根据人工智能内容生成的特点，难以将生成式人工智能服务提供者定性为内容服务提供者、技术服务提供者或新型网络服务提供者。在此基础上，考虑到权利保护和产业发展的平衡，应该超越内容服务/技术服务的二元划分，在私法上对生成式人工智能服务提供者进行重新定性。具体而言，应明确其为侵权责任法上的特殊责任主体，规定以专门的免责机制，有条件地免除其赔偿损失责任。

关键词 ：生成式人工智能服务提供者；法律性质；私法；信息服务；避风港

【本文引用格式】

姚志伟.生成式人工智能服务提供者在私法上的法律性质[J].上海交通大学学报(哲学社会科学版),2024,32(12):127-142.

全文

生成式人工智能（Generative Artificial Intelligence，以下简称GAI）技术正在对全球的经济发展和社会关系等产生深刻的影响，也是新一轮科技革命的中心所在。生成式人工智能技术及相关产业在促进社会发展的同时，也带来了一系列挑战，在法律方面同样如此。美国和中国都出现了一系列针对生成式人工智能服务提供者（以下简称GAI服务提供者）的诉讼，核心问题是著作权侵权的问题。这种情景极其类似于20世纪90年代，互联网技术和产业在发展之初遇到的法律挑战。美国的权利人当时同样向互联网论坛和存储空间的运营者等主体发起著作权侵权诉讼，要求他们为其平台上的用户侵权内容承担严格责任。美国立法者为平衡互联网产业的发展和著作权人的利益，制定了《新数字千年版权法》第512条。该条将提供技术服务而非内容服务的服务提供商定性为“网络服务提供商”（Online Service Provider），给予有条件的侵权责任豁免，该条也被称为避风港规则。随着互联网产业在全世界范围内的发展，避风港规则也被各个国家和地区所借鉴和移植。中国法同样引入了避风港规则，为网络技术服务提供者提供侵权赔偿责任的豁免机制。这个移植的过程，实际上是对网络技术服务提供者的法律性质进行新的定性，将其视为侵权责任法上的特殊责任主体，为其规定专门的侵权责任免责规则。

在生成式人工智能产业快速发展的当下，GAI服务提供者作为新主体的法律定性问题同样凸显。立法上，《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）要求GAI服务提供者承担“网络信息内容生产者”责任的规定，引发了一些争议。在司法上，广州互联网法院作出了“全球首例生成式AI服务侵权判决”，该案判决后引发热议，其中一个重要的争议点是该案被告作为GAI服务提供者的法律性质，究竟是网络技术服务提供者还是网络内容服务提供者（下文分别简称技术服务提供者和内容服务提供者）。在域外，GAI服务提供者是否应该被定性为技术服务提供者从而进入避风港，也存在很大争议。在此背景下，本文将对GAI服务提供者在私法上的法律性质问题展开研讨。需要明确的是，本文的研究以《暂行办法》对“生成式人工智能服务提供者”的概念界定为出发点，该办法将生成式人工智能界定为一种信息服务。因此，本文是在信息服务的场景下，讨论私法上GAI服务提供者的法律性质问题。

一、现行法上生成式人工智能服务提供者的概念及定性

在讨论GAI服务提供者私法上的定性问题时，有必要先对《暂行办法》上GAI服务提供者的概念和定性加以探讨，以作为后续讨论的基础。

（一）生成式人工智能服务提供者的概念

根据《暂行办法》，生成式人工智能服务是一种信息服务，GAI服务提供者是信息服务提供者。同时，GAI服务提供者包括GAI模型研发者和GAI部署者（以下分别简称研发者和部署者）两大类型，具体论述如下。

在讨论GAI服务提供者概念之前，必须先讨论生成式人工智能服务的定义。按照《暂行办法》第22条第1项规定：“生成式人工智能技术是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”同时，《暂行办法》第2条第1款规定：“利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。”可以认为，《暂行办法》将生成式人工智能服务定义为一种内容生成服务，这种内容生成服务可以归为中国法上更为常见的“信息服务”。在《暂行办法》的语境下，生成式人工智能服务的本质是一种信息服务，其理由是：第一，《暂行办法》明确将生成式人工智能服务界定为内容生成服务，而没有提及人工智能的其他用途规制，例如自动驾驶、机器人等用途，显然其本质不是一种内容生成的服务。可兹比较的是欧盟《人工智能法》的规制范围不限于信息服务，可以涵盖自动驾驶、机器人等用途。欧盟《人工智能法》规制范围的广泛性，与其采用的概念相关。该法没有采用“生成式人工智能”的界定，而是采用“通用人工智能”的界定，并强调“通用性，能够胜任各种不同的任务，并可集成到各种下游系统或应用中”。其二，《暂行办法》征求意见稿在界定生成式人工智能时，明确指出生成的内容包括“文本、图片、声音、视频、代码”。“代码”并非中国法上信息服务规制的对象，其具有功能性。在正式稿中，“代码”被删除。这也能证明立法者意图规制的仅是信息服务。其三，从《暂行办法》对生成式人工智能服务提供者规定的义务也可以得出其服务仅是信息服务的结论。《暂行办法》第9条明确规定提供者要承担“网络信息安全义务”，这非常明显地指出其是一种信息服务。同时，第12条规定的标识义务等义务也是信息服务提供者才可能承担的义务。例如，一个“集成”到机器人中的模型：该模型的目的，是让机器人获得“智能”，能够更好地执行机器人的任务，例如做家务。在这个情境下，要求其承担标识义务没有意义。其四，《暂行办法》规定要尊重的人格权，不包括信息服务外用途可能会涉及的身体权、健康权等人格权。《暂行办法》第4条第4项规定了提供和使用生成式人工智能服务要尊重的人格权，包括：“不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。”这些人格权都是信息服务可能侵犯的人格权。但是，信息服务以外的用途，例如将生成式人工智能用于机器人，可能会侵害到身体权和健康权。《暂行办法》并没有规定不得侵害身体权和健康权，这可以推论出《暂行办法》规定的生成式人工智能服务仅限于信息服务。

按照《暂行办法》，GAI服务提供者的概念是：“利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。”这个概念里面包括了研发者和部署者两种类型。所谓研发者，普遍认为是研发人工智能模型（以下简称模型）的主体，日本《关于AI与著作权相关问题的看法》对这个概念进行了较为细致的界定：“是指开发生成式AI（预训练模型），收集训练数据，构筑训练用的数据集以及使用训练用数据集进行AI训练等行为的当事人。”研发者工作的核心是通过使用数据进行（预）训练的方式，形成人工智能模型。

部署者，是指利用人工智能模型提供生成式人工智能服务的主体。日本《关于AI与著作权相关问题的看法》将其表述为“AI服务提供商”，具体定义是：“对现有的生成式AI进行进一步训练、为AI利用者提供编入了生成式AI的软件。”这个界定说明了部署者概念的两个特点：一是，相当多情况下，部署者会以“微调”的方式对研发者的模型进行二次训练。二是，部署者需要将模型以一定的方式“编入”特定的软件或者服务，才能为人工智能利用者（即最终用户）提供服务。《暂行办法》提到的“通过提供可编程接口”（也称API接口）就是一种典型的“编入”方法，部署者通过API接口调用研发者的人工智能模型，从而提供服务。需要说明的是，在实践中研发者和部署者的主体可以合一，即同一主体同时为研发者和部署者；也可以分离，即不同主体分别是研发者和部署者。

（二）生成式人工智能服务提供者在现行法上的定性

现行法上仅有《暂行办法》对人工智能服务提供者进行了一定的定性，但是这个定性是公法上的定性，且具有模糊性。对于GAI服务提供者在私法上的法律性质，《暂行办法》并没有规定。《暂行办法》第9条规定：“提供者应当依法承担网络信息内容生产者责任。”这里的“网络信息内容生产者”来源于公法对信息内容安全方面的规定，具体来源是《网络信息内容生态治理规定》。按照该规定第41条，“网络信息内容生产者”是指“制作、复制、发布网络信息内容的组织或者个人”。在该规定中，“网络信息内容生产者”与“网络信息内容服务平台”相对应存在，后者是指：“提供网络信息内容传播服务的网络信息服务提供者。”前者是内容的提供方、直接来源方；后者并不提供内容，仅为内容的传播提供技术服务。例如，用户在微博上发布了一个帖子，用户是“网络信息内容生产者”，而微博则是“网络信息内容服务平台”。按照《网络信息内容生态治理规定》，“网络信息内容生产者”（以下简称内容生产者）承担的主要义务是不得制作、复制、发布违法或不良内容，“网络信息内容服务平台”（以下简称内容平台）的主要义务则是对平台上内容的管理，履行“信息内容管理主体责任”。需要指出的是，不得制作、复制、发布违法或不良内容和内容管理义务对应的是不同的主体，义务本身也是互斥的。对于自己制作、复制、发布的内容，内容生产者直接承担“不得做出行为”的不作为义务。对于他人发布在平台的内容，内容平台则承担内容管理的积极作为义务，需要进行内容生态治理。

虽然《暂行办法》中内容生产者概念的来源是清晰的，但这是否意味着《暂行办法》明确将GAI服务提供者定性为《网络信息内容生态治理规定》中的“内容生产者”，其义务和责任可以完全套用该规定对内容生产者的规定呢？并非如此。《暂行办法》在第9条规定GAI服务提供者承担内容生产者责任之后，还规定了其履行“网络信息安全义务”，这个责任有可能是较为模糊地对应《网络信息内容生态治理规定》中关于内容平台的责任。除此之外，《暂行办法》在具体义务的设计上，也呈现出在内容生产者和内容平台之间摇摆的模糊状态。

一方面，《暂行办法》第4条第1项明确规定了提供人工智能服务，不得生成煽动颠覆国家政权等违法内容。这个义务与《网络信息内容生态治理规定》为内容生产者规定的不得制作、复制、发布违法内容的义务是极为相似的。另一方面，《暂行办法》第14条、第15条规定了GAI服务提供者的内容管理义务，即在发现违法内容时采取停止生成等措施制止、对使用者采取惩戒措施的义务，以及设立投诉举报机制的义务。这些义务与《网络信息内容生态治理规定》为内容平台规定的义务极为相似。因此，《暂行办法》同时为GAI服务提供者规定了两种在《网络信息内容生态治理规定》中互斥的义务，也反映了《暂行办法》在这个问题上的规定并不明确。

需要指出的是，以上讨论都是在公法语境下进行的，《暂行办法》并未在私法上明确人工智能服务提供者的性质以及相应责任承担：其一，《网络信息内容生态治理规定》为内容生产者和内容平台设定的义务基本上是公法上的义务，是基于内容安全所做的规定。《暂行办法》同样继承了这点，关于内容生产者责任和网络信息安全责任的规定仍然是在《网络信息内容生态治理规定》设定的公法框架之内，应理解为一种公法责任。相应的，其对生成式人工智能法律性质的界定也是公法上的界定。其二，《暂行办法》自身的性质也是一部公法规范，其制定依据主要是《中华人民共和国网络安全法》等公法性质的法律，并没有出现《中华人民共和国民法典》（以下简称《民法典》）《中华人民共和国著作权法》（以下简称《著作权法》）等私法性质的法律；其法律责任部分为GAI服务提供者规定的也都是行政责任，而没有规定民事责任。其三，从立法史来看，国家互联网信息办公室（以下简称国家网信办）等监管部门制定的监管规范规定技术服务提供者的公法义务和责任，而《民法典》《中华人民共和国电子商务法》（以下简称《电子商务法》）《信息网络传播权保护条例》以及最高人民法院相关司法解释则规定技术服务提供者的私法义务和责任。两条立法路径是泾渭分明的，两种义务和责任模式也差距巨大。国家网信办等监管部门并未在其制定的监管规范中对技术服务提供者进行私法上的定性并规定相应义务和责任。因此，可以合理地认为，这种立法路径同样会延续到GAI服务提供者上，国家网信办等监管部门也无意在《暂行办法》这样的监管规范中为GAI服务提供者规定公私法上统一的法律性质及相应义务和责任。在《暂行办法》之外，研讨GAI服务提供者在私法上的定性，需要考虑《民法典》等私法性质法律法规以及相关司法解释上的规定，其核心问题是：GAI服务提供者是否属于网络服务提供者？具体而言，是技术服务提供者还是内容服务提供者？这是第二部分要探讨的内容。

二、生成式人工智能服务提供者在私法上定性的困难

现行私法下，GAI服务提供者在私法上的定性存在困难，其难以归入到现行的内容服务提供者/技术服务提供者的二元体系之下，从而难以被认定为技术服务提供者、内容服务提供者以及新型网络服务提供者。

（一）内容服务提供者和技术服务提供者的二元划分

在现行私法上，关于GAI服务提供者法律定性的讨论，核心问题是GAI服务提供者提供的是内容服务还是技术服务，其是内容服务提供者还是技术服务提供者？内容服务提供者和技术服务提供者的二元划分框架来自现行法对网络服务提供者的区分。所谓内容提供者是指向网络用户提供内容的主体，其提供的内容是其自己主动编辑、组织的。需要指出的是，内容提供者的提供，一般是指作出了物理意义上的提供行为，通常是将内容“上传”到网络空间的行为。技术服务提供者的概念则强调两个要点：一是其不提供内容，而是提供技术服务，包括接入、缓存、信息存储空间、搜索以及链接服务等。二是其对内容的中立性，并不主动对传输或存储的信息进行编辑、组织或者修改。借用信息论的术语，内容提供者是“信源”，而技术服务提供者则是“信道”。在上述区分基础上，立法者为其规定了差异极大的义务和责任。就内容提供者而言，内容是其主动编辑、组织和提供的，应由其自己负责，造成侵害他人权益的，承担直接侵权责任，包括赔偿损失责任。对于技术提供者而言，则为其规定了避风港规则，使得它可以在满足一定的条件下，不承担赔偿损失责任。这个条件并不苛刻，主要是在知道或者应当知道网络用户利用其服务侵权时，采取必要措施制止。特别是在收到权利人合格通知时，需要采取必要措施制止。同时，避风港规则在私法上还豁免了技术服务提供者对平台上内容的一般性审查义务，其不需要事前审查平台上内容是否侵权。发现技术服务提供者平台上侵权内容的责任由权利人来承担。权利人发现侵权内容后，以通知的方式让技术服务提供者进行处理，通知中应当包含足以定位侵权内容的信息，通常情况下是一个网络地址。避风港规则为技术服务提供者提供了很好的保护，很大程度避免了其为平台上海量的第三方内容承担赔偿损失责任，有力地促进了互联网产业的发展。

由于技术服务提供者在私法上义务和责任显著低于内容提供者，相关主体必然都追求其被定性为技术服务提供者而非内容服务提供者。当问题来到生成式人工智能的场景下，GAI服务提供者是内容服务提供者还是技术服务提供者也就成为十分重要的问题。

（二）生成式人工智能服务提供者难以被定性为技术服务提供者

GAI服务提供者的法律性质如果是技术服务提供者，那么就可以进入“避风港”。但是，从概念涵摄、侵权责任承担和避风港规则适用的角度来看，GAI服务提供者均难以被界定为技术服务提供者。当然，并非所有情况下，GAI服务提供者都不能定性为技术服务提供者。当生成内容明显来自使用者或第三方时，例如使用GAI进行摘要、翻译的场景下，GAI服务提供者是技术服务提供者。

其一，在大部分场景下，生成的内容并不来源于第三方，而是源自GAI服务提供者，这明显与技术服务提供者的概念不兼容，而更接近于内容服务提供者的概念。在生成式人工智能服务中，在大部分情况下，内容的直接来源是GAI服务提供者，主要是因为其训练行为等原因，使得人工智能可以生成侵权内容。因此，有学者明确指出，由于内容主要来自GAI服务提供者，因此生成式人工智能服务不能被视为一种欧盟《数字服务法》所定义的“中介服务”，其提供者不能被视为技术服务提供者而进入避风港。

其二，从现行法侵权责任承担的角度看，技术服务提供者承担的责任是一种共同侵权责任，其与侵权的用户承担连带责任。但在生成式人工智能服务中，存在用户不侵权而GAI服务提供者单独侵权的情况。此时，GAI服务提供者需要独自承担侵权责任。现行法下技术服务提供者承担共同侵权责任的规定无法涵盖这种独立承担侵权责任的情况。

其三，现行法为技术服务提供者设计的避风港规则很难适用于GAI服务提供者。正如上文所言，在避风港规则之中，发现侵权内容的责任是由权利人来承担的。在传统的网络服务中，侵权内容位于技术服务提供者的平台之上，并且通常是公开的。因此，权利人通过公开渠道可以观察到侵权内容，要求权利人承担监控侵权内容侵权的责任存在合理性。同时权利人也可以定位侵权内容，作为通知的一部分发送给技术服务提供者。由于侵权的内容公开展现在技术服务提供者的平台上，法院等外在观察者也可以判断这些侵权内容是否足够明显，从而判定技术服务提供者对于侵权是否属于“知道或者应当知道”，由此决定技术服务提供者是否能够进入“避风港”。但在生成式人工智能场景下，内容的生成并非公开进行，除了下达指令的用户和GAI服务提供者，其他人往往难以通过公开渠道观察到侵权内容。由此产生了避风港规则适用于GAI服务提供者的诸多困难。

首先，权利人难以通过公开渠道获取网络链接等足以定位侵权内容的信息，以作为通知的必要组成部分发送给GAI服务提供者。权利人只能将生成侵权内容的记录作为通知一部分进行发送，而GAI服务提供者收到通知后，很难定位侵权内容，也无法采取避风港规则中最主要的删除等阻断传播之必要措施。其为制止生成阶段的侵权，需依靠过滤技术等必要措施。其次，权利人很难通过公开渠道监控侵权内容，难以对侵权内容进行取证。这表现在现有的著作权人起诉GAI服务提供者的案件中，著作权人一方往往只能通过伪装为用户，向生成式人工智能下达生成侵权内容的指令，取证证明被告的人工智能生成了侵权内容。这种取证方式面临着一些质疑。最后，人工智能生成的非公开性，使得外在观察者难以判定GAI服务提供者对于侵权是否属于“知道或应知”，正如有学者所指出的：“除非运用专业技术手段，内部的侵权信息便无法被一个合理的人所轻易知悉。此时的‘红旗’更像是被锁进了箱子，只有服务提供者才拥有打开箱子的钥匙。当任何一个合理的人都看不到‘红旗’时，生成式人工智能服务提供者‘知道或应当知道’的主观和客观状态就难以判定。”

（三）生成式人工智能服务提供者不应被定性为内容服务提供者

GAI服务提供者不能被定性为技术服务提供者，那是否就意味其法律性质是内容服务提供者呢？也并非如此。

姚志伟：生成式人工智能服务提供者在私法上的法律性质

正文

请到「今天看啥」查看全文