中国版生成式人工智能水印标识法案也呼之欲出了。
2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（“标识办法”）并公开征求意见。与此配套的，还有当日由网信办组织并由全国网安标委几乎同时发布的《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准(征求意见稿)（“标识标准”）。
1.标识办法和标准中设定的人工智能水印标识义务主体非常宽泛，不仅包括生成式人工智能服务提供者本身，也包括提供网络信息内容传播平台服务的服务提供者、互联网应用程序分发平台（应用商店），以及互联网用户。
2.虽然标识办法只规定适用“网络信息服务提供者”这一前端服务主体，但实际上，生成式人工智能服务提供者必然会涉及传导到基础大模型服务商等技术服务提供者，《标识标准》3.8条就明确包括“提供可编程接口等方式”的主体。基于“平台”概念的泛化，“提供网络信息内容传播平台服务的服务提供者”也不能狭义理解为持有ICP许可的平台，也包括仅ICP备案的自营类“平台”；“互联网应用程序分发平台”将可能成为最终治理责任的最重要抓手，要想清楚必要措施的方式方法。
3.未向境内公众提供服务的，不适用办法的规定。但大家不要忘记了，出海的产品得适用境外的规定，境外的规定不会比国内轻松。2024年7月11日美国《编辑和深度伪造内容来源保护完整性法案》，
2024年8月AB-3211《加州数字内容溯源标识法案》
，以及2024年05月21日，欧盟委员会《生成人工智能透明度：识别机器生成的内容》等，都嗷嗷待哺。
4.“境内公众”可以理解为不特定的用户群体，特定单位、行业或组织的人员，
即使人员数量诸多，在有严格人群边界设定的情况下仍可能不用适用标识办法
。例如，2024年9月13日，公安部门就发布了“公安AI助手”仅部署在内网，虽然公安干警人群数量很广，但仍可能不用适用标识办法。
5.标识办法和标准最大的缺憾，仍然是没有进一步说明清楚“必须标识水印的生成合成内容”。根据标识办法，在标识必要性来看，仍沿用《互联网信息服务深度合成管理规定》“第十七条第一款情形的就必须要标识“的要求，我国首次在《互联网信息服务深度合成管理规定》中明确了标识义务，并在《互联网信息服务深度合成管理规定》第十七条将标识义务进行分类分层，
一类是可能导致公众混淆或者误认的深度合成服务，二是显著改变信息内容功能的服务时（”两类强制标识“）
。
6.除了两类强制标识外，
法规项对于其他深度合成服务的生成物，并没有强制标识要求
。这种非强制性主要体现在两个方面，一是深度合成服务提供者仍应当为用户提供显著标识功能，但并不要求直接对生成物进行标识；二是仅需要提示深度合成服务使用者进行标识；三是用户可以选择标识或者不标识，但在服务者已尽合理提示后，不标识引发的风险由该用户承担。
7.实际上，
对于显而易见的没有公众混淆或误认的服务或生成物，本质上不应当要求无差别标识，也无须标识
，否则标识符就成为一张狗皮膏药了，也仍应当以不妨碍用户使用为限。这种场景十分多见，比如手机相册中将用户的照片进行格式转化，将头像变成木雕风格或Q版风格。这种本身极大概率没有误导风险，而且基于头像的使用场景，如果在头像下方还加贴一个“由AI生成”的狗皮膏药，这种AI生成可能极少有用户需求。再例如，非传播属性的私有平台中，这种标识似乎也没有太多必要。
8.至于显性标识方式，标识办法要求“在文本、音频、图片、视频、虚拟场景等生成合成内容或交互场景界面中，按相应要求添加以文字、声音、图形等方式呈现且可被用户明显感知到的标识”。相对于以往的要求，细化明确了可以采用文字提示或者通用符号提示。这在标识标准中使用了文字+图示方式进行了很明确的指引，以后业务再来“吵架”，可以直接甩了。
9.标识的持续呈现问题也是实践中的问题。标识办法要求，提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。但实际上，大量生成物涉及到一个提示词生成多张或多个图片或视频供用户选择，这种情况下，虽然用户没有下载、复制等行为，当必须标识时，此生成的过程中的图片也应当进行标识，否则对聪明的用户来说，下载个图传播也不是没可能的事。
10.“内容传播平台服务”的平台几乎无所不包。但问题在于，
这些平台如何检验用户上传的元数据中是否具有隐式标识，各家隐式及数字水印技术方式可能并不相同，这有待技术专家们出手解决标准问题
。标识办法倒也给出了一个相对合理的方案，没有过于苛责平台，包括（1）确能识别时和不能识别以及疑似识别时分别进行标识或提示提醒；（2）元数据中加入平台要素，这简直是要把全部平台当成公共区块链了；（3）为用户提供标识功能，提醒用户，这一招估计会成为平台成本最轻选择最多的方案。
11.应用商店看似就给了一条规则的义务，但个人认为反而是责任要求最高的主体。标识办法要求应用程序上架或上线审核时，
应用商店应当核验服务提供者是否按要求提供生成合成内容标识功能，这里用的是“核验”而不是“核对”，责任非常之高
，应用商店得好好考虑下要采取什么必要措施以防背锅了。题外之义就是：标识办法和标识标准中对所有义务主体要做的事，你都给我注意起来，核验起来，如果哪天发现app没有提供标识能力，应用商店有你好看了。
12.对用户而言，
可以要求提供没有添加显式标识的生成合成内容
。个人的理解是：一是用户的要求仍然不能对抗强制标识的要求，虽然我这种理解可能并不对，这里留个尾巴待讨论；二是用户的“可以要求”不是一种权利，而仅仅只是平台能够提供的一种“功能选择”，不能搞混区别；三是用户也不能基于整体功能而个体个性化提出，其起始交互仍然在于“在生成物中提供入口”，在用户申请并提示后去除；四是此处的用户协议不应当是用户注册时的协议，而是用户申请时单点提示的协议；五是隐式标识不可少；六是留存相关日志不少于六个月。
13.当然，中国版方案能否落地仍然有待考察，特别是隐式水印能否抗得住技术破坏的水平。目前，
这在全球范围内也仍然是一个技术难题，水印技术应用前，大模型厂商应当进行严格的对抗性测试以确保水印的鲁棒性，否则水印将起不到任何作用
。
《生成人工智能透明度：识别机器生成的内容》认为：“元数据能够提供内容的版权、所有权细节和时间戳等信息，但可以被轻易篡改或删除。水印技术通过在内容中嵌入不易察觉的标记，虽然能提供一定的保护，但也可能因内容修改而被破坏。”
14.这些提示或标识的核心目的：一是减少深度伪造的困扰，这对于国家和社会的正常秩序而言非常重要；二是满足公众知情权，让公众知悉正和机器在互动，这也是欧盟人工智能法案中特别强调的规则；三是为了机器免责，将风险通过提示友好地转嫁给用户；四是可以保护人类作者的创作激情。
15.我们需要注意，最严格的水印规则是否需要在现阶段即铺成开，也是值得讨论的——
全社会群体都要围绕水印提升注意义务将提升非常高的企业成本，也可能减缓人工智能创新的步伐
。美国加州水印法案提出后，就受到了大量的批评，认为法案可能阻碍协作，可能会为共享和构建开源AI模型创造障碍，全面水印的推动不仅在技术上是不可行的，也是一个误导的尝试。
16.人工智能生成物和人类制作物本身似乎没有大的区别，在生成式人工智能诞生之前，人类就已经开始造假了。大量的广告宣传图、逼真的绘画、photoshop的修图，拍照滤镜和直播中的面容改变，等等，均具有迷惑性，但也没有法规要求加以标识。
17.标识办法有效呼应了全球水印标识法的趋势，包括欧盟《人工智能法》和《数字服务法》均涉及AI 标识，美国政府颁布的《关于 AI 的安全和可信赖开发和使用的行政命令》以及各州的水印法案等，以及新加坡《生成式人工智能治理模型框架》、加拿大《生成式人工智能行为守则》。
中国水印标识法案的出炉似乎正当其时，期待中国人工智能治理更上一层楼。
以下为征求意见稿全文：
国家互联网信息办公室关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律法规，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方式提出反馈意见：
2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能生成合成内容标识办法征求意见”。
国家互联网信息办公室
2
024年9月14日
第一条 为促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识的，适用本办法。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用人工智能生成合成技术，未向境内公众提供服务的，不适用本办法的规定。
第三条 人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。（一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；（二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；（三）在图片的适当位置添加显著的提示标识；（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；（五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；（六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。
第六条 提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。（一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；（四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；（五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
第七条 互联网应用程序分发平台在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条 如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。
第十条 用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者应当按照有关强制性国家标准的要求进行标识。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条 违反本办法规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。第十四条 本办法自2024年 月 日起施行。
关于征求《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准(征求意见稿)意见的通知
根据国家标准化管理委员会标准制修订计划，中央网络安全和信息化委员会办公室已组织完成了《网络安全技术 人工智能生成合成内容标识方法》国家标准的征求意见稿,现公开征求意见。请于2024年11月13日前将意见反馈给组织起草部门。根据国家标准化管理委员会标准制修订计划，中央网络安全和信息化委员会办公室已组织完成了《网络安全技术 人工智能生成合成内容标识方法》国家标准的征求意见稿,现公开征求意见。请于2024年11月13日前将意见反馈给组织起草部门。
2024年9月14日
附件：
