一文读懂《人工智能生成合成内容标识办法（征求意见稿）》实务问题丨威科先行

作者丨陈际红 陈煜烺 陈瑞庭

机构丨中伦律师事务所

* 本文为威科先行首发内容，未经授权请勿转载

2024年9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（“ 《标识办法》 ”），同日，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（“ 《标识国标》 ”）作为配套文件发布，旨在落实《互联网信息服务深度合成管理规定》等规定项下的标识要求。

《标识办法》《标识国标》正式稿一旦生效，将成为人工智能生成合成内容全链条企业甚至用户必须遵循的强制性规范。本文就“哪些主体开展标识适用《标识办法》”“如何开展标识”“各主体与标识相关的义务有哪些”等实务问题进行解读，以期为相关企业提前部署合规方案提供参考。

根据《标识办法》第2条，《标识办法》适用于符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的 网络信息服务提供者（“服务提供者”） 开展人工智能生成合成内容标识。具体而言，前述 规定 中对于服务提供者的相关定义如下：

据此 ，本次《标识办法》适用主体范围包含 算法推荐服务提供者、深度合成服务提供者 以及 生成式人工智能服务提供者 。 实际上 ，生成合成内容标识要求在 上述 三 项规定 中 均已 提及，属于 既有规定的细化，且 《标识办法》将“人工智能生成合成内容”定义为利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息， 前述 三类服务提供者所应用的技术均有可能在人工智能生成合成过程中涉及。 值得注意的是，《互联网信息服务算法推荐管理规定》项下包含多类算法推荐服务提供者，从上述技术定义及监管思路来看，《标识办法》应当适用于“生成合成类”技术的算法推荐服务提供者。

此外， 《标识办法》 规定了与 《生成式人工智能服务管理暂行办法》 类似的排除范围 ，即 排除了“未向境内公众提供服务”的适用，据此， 《互联网信息服务深度合成管理规定》 项下的 技术支持者， 以及企业自身应用或仅面向特定对象（不构成境内公众）提供技术服务的，可能不落入《标识办法》的适用范围 。

《标识办法》第4条、第5条以 《互联网信息服务深度合成管理规定》第17条、第16条为依据， 针对前述服务提供者提出了 具体的标识要求，明确人工智能生成合成内容标识包括显式标识和隐式标识两种类型。 如下 结合《标识办法》要求以及《标识国标》针对显式标识和隐式标识所提供的详细方法和示例，就 企业 如何开展显式标识和隐式标识梳理如下：

显式标识，是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识， 其主要用途在于提示用户当前内容由人工智能生成合成 ，实现方式包括 内容显式标识、交互场景界面显式标识 等。根据《标识办法》第4条，符合以下情形的服务提供者应当对生成合成内容添加显式标识：

1. 智能对话、智能写作等模拟自然人进行 文本 的生成或者编辑服务；

2. 合成人声、仿声等 语音 生成或者显著改变个人身份特征的编辑服务；

3. 人脸生成、人脸替换、人脸操控、姿态操控等 人物图像、视频 生成或者显著改变个人身份特征的编辑服务；

4. 沉浸式拟真场景 等生成或者编辑服务；

5. 其他具有生成或者显著改变信息内容功能的服务。

根据《标识办法》 ， 服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识 。在此基础上，《标识国标》提供了如下六种类型的显式标识添加方法和示例：

- 形式1-文字 ：应同时包含以下要素：

Ÿ 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

Ÿ 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

- 形式2-角标 ：应包含“AI”。

- 位置 ：位于文本的起始、末尾、中间适当位置中的一个或多个位置。

- 其他 ：字型和颜色应清晰可辨。

- 示例：

- 形式：文字提示 ， 应同时包含人工智能和生成合成要素（同上）。

- 位置 ： 图片的边或角。

- 其他 ： 字型应清晰可辨，文字高度应不低于画面最短边长度的5%。

- 示例：

- 形式1-语音标识 ：应同时包含人工智能和生成合成要素（同上）；应使用正常语速（汉语约为120~160字/分钟）。

- 形式2-音频节奏 ：为“短长 短短”的节奏。“短长 短短”节奏为“AI”的摩斯码表示。

- 位置 ：位于音频的起始、末尾、中间适当位置中的一个或多个位置。在智能语音助手、智能客服、智能导航等音频的高频交互场景中，音频的起始位置、末尾位置是指一轮交互的起始位置和末尾位置。

- 示例 ：

- 形式：文字提示 ， 应同时包含人工智能和生成合成要素（同上）。

- 位置 ： 应位于视频起始画面，可位于视频末尾和中间适当位置；应位于视频画面的边或角。

- 其他 ：文字高度应不低于画面最短边长度的5%。

- 示例 ：

根据 《标识办法》第4条 ，在呈现虚拟场景时， 应当 在起始画面的适当位置添加显著的提示标识， 可在 虚拟场景 持续 服务过程中的适当位置添加显著的提示标识。《标识国标》提出，对于虚拟场景，应参照图片、视频类生成合成内容，在切入虚拟场景时添加显式标识。

- 形式：文字提示 ， 应同时包含人工智能和生成合成要素（同上）。

- 内容周边显式标识 应采取以下一种或多种方式：

Ÿ 在内容展示区域附近持续显示提示文字。

Ÿ 在内容展示区域的背景均匀添加包含提示文字的显式水印标识。

- 非内容周边显式标识 应采取以下一种或多种方式：

Ÿ 音频、视频交互区域附近持续显示提示文字。

Ÿ 交互场景界面顶部、底部等适当位置持续显示提示文字。

- 其他 ：字型和颜色应清晰可辨。

- 示例：

隐式标识 是指，采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。用户不能直接感知、不影响用户正常使用，但通过技术手段能从内容中提取，其 主要用途在于记录生成合成内容信息 。

不同于显式标识仅为特定情形下的要求， 根据《标识办法》第5条以及《互联网信息服务深度合成管理规定》第16条，服务提供者均需对生成合成内容添加隐式标识。 隐式标识的实现方式包括内容隐式标识、元数据隐式标识等。

− 内容隐式标识： 是指在人工智能生成合成内容数据中添加的数字水印等标识， 《标识办法》第5条鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

− 元数据隐式标识： 文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。根据《标识国标》，元数据隐式标识应包括以下要素，包括：1） 生成合成标签要素 ，即内容的人工智能生成合成属性信息，包括确定、可能、疑似；2） 制作要素信息 ，包括生成合成服务提供者要素、内容制作编号要素；3） 传播要素信息 ，包括内容传播服务提供者要素、内容传播编号要素。 《标识国标》附录E提出了元数据隐式标识应满足的格式要求，并提出 确定、可能、疑似为人工智能生成合成的内容文件中，应仅保留一份元数据隐式标识 。《标识国标》就元数据隐式标识提供了如下示例：

Ÿ 图片内容：

Ÿ 音频内容：

Ÿ 视频内容：

《标识办法》除对服务提供者开展标识设定具体要求外，还针对人工智能生成合成内容全链条相关企业以及用户设定了一系列义务，全方位多层次加压，最大程度确保标识义务得到落实，推动人工智能生成合成内容的规范传播和健康发展。

网络平台通常是信息快速传播、舆论属性极强的高地，尤其大型网络平台，历来是监管部门的重点关注对象。《标识办法》第6条首先即针对“提供网络信息内容传播平台服务的服务提供者”（“ 网络平台服务提供者 ”）规定了三类义务：

第一类：核验、检测以及添加标识的提醒义务

《标识办法》第6条第（一）（二）（三）项设定了网络平台服务提供者的核验、检测以及添加 显著标识 的提醒义务，具体包括：

− 应当 核验 文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边 添加显著的提示标识 ， 明确提醒 用户该内容属于生成合成内容；

− 文件元数据中未核验到隐式标识，但 用户声明 为生成合成内容的，应当采取适当方式在发布内容周边 添加显著的提示标识 ， 提醒用户 该内容可能为生成合成内容；

− 文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者 检测 到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边 添加显著的提示标识 ， 提醒用户 该内容疑似为生成合成内容。

第二类：文件元数据添加信息的义务

除上述经核验、用户声明和检测后添加 显著标识 的提醒义务外，《标识办法》第6条第（四）项还进一步要求对于“确为、可能和疑似生成合成内容的”，网络平台服务提供者应在文件元数据中添加“生成合成内容属性信息、传播平台名称或编码、内容编号等 传播要素信息 ”，实质上进一步为网络平台服务提供者设定了添加 隐式标识 的义务。

可以看出，《标识办法》第4-6条对“服务提供者”到“网络平台服务提供者”，从“制作”到“传播”施加了“双保险”，不仅要求溯源可查，还要求做到全链条追踪，体现主管部门对于人工智能生成内容严格审慎的监管态势。

第三类：提供标识功能、提醒用户发布声明的义务

为落实上述第一类义务，引入平台业态核心角色——用户参与人工智能生成内容治理机制，《标识办法》第6条第（五）项要求平台服务提供者“提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。”

实践中，目前抖音等平台已提供了此等标识功能，并在用户上传相关内容时允许用户通过设置发布声明，但此等设置界面可能还不足以达到《标识办法》要求的“提醒用户”的效果，未来办法正式生效后，平台企业或将面临相关交互界面的调整。

现阶段，App、小程序等应用程序系目前提供生成合成内容相关服务的主要形式，《标识办法》第7条据此延续App、小程序等应用程序上线的监管治理实践，要求 互联网应用程序分发 平台 在“应用程序上架或上线审核时，应当 核验 服务提供者是否按要求提供生成合成内容标识功能”。

值得注意的是，《标识办法》仅在第6条为 网络平台服务提供者 设定了“提供标识功能”的要求，而未对（提供生成合成内容服务的）服务提供者本身直接提出此等要求。关于服务提供者本身的标识功能要求，则见于《互联网信息服务深度合成管理规定》第17条第二款 [1] ，但也仅针对提供特定类型深度合成服务之外的服务的，才要求提供显著标识功能。

据此，上述规定是否意味着分发平台仅就平台企业以及特定类型深度合成服务提供者具有核验义务，亦或《标识办法》正式稿中是否会进一步就（提供生成合成内容服务的）服务提供者增加“提供标识功能”的义务，值得观察。

《标识办法》除对服务提供者开展显式标识和隐式标识提出要求外，还要求服务提供者遵循如下义务：

− 用户服务协议说明及提示要求 ：《标识办法》第8条要求服务提供者在用户服务协议中明确 说明生成合成内容标识的方法、样式等 规范内容，并 提示用户 仔细阅读并理解相关的标识管理要求。

−