二十届三中全会《决定》在深化文化体制机制改革部分中，明确提出：“完善生成式人工智能发展和管理机制。”8月7日，中央宣传部部长李书磊在人民日报的署名文章《
深化文化体制机制改革
》中明确提出：“生成式人工智能是目前最具革命性、引领性的科学技术之一，要尽快完善生成式人工智能发展和管理机制，推动这一重要领域的产业发展、技术进步与安全保障，做到趋利避害、安全使用。”在此背景下，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，以及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》。
公众号后台回复关键词【人工智能标识办法】获取
《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》
与编制说明
编审
| 时光
解读：明确要求，促进人工智能生成合成内容精细化治理
（摘自：完善人工智能生成合成内容标识方法 构建健康的信息网络生态环境）
作者（魏凯，中国信息通信研究院人工智能研究所所长）
国家互联网信息办公室等部门适时发布《人工智能生成合成内容标识办法》（下称《办法》）及配套国家标准《网络安全技术 人工智能生成合成内容标识方法》（下称《标识方法》），全方位、多层次地规范人工智能内容标识要求和方法，迈出了完善我国人工智能治理制度的重要一步。
人工智能生成合成内容不仅包括文本、图像、音频、视频等多种表现形式，更在“元宇宙”等交互式、沉浸式场景中提供了更多实现方案。《标识方法》对于人工智能生成合成内容进行了全方位覆盖，并且进一步明确了《办法》要求和具体操作指引。
一是区分显式标识和隐式标识规范要求。
为满足当前可感知和不可感知的两类标识方法需要，《标识方法》清晰阐述了各自的关键要素要求，对于显式标识主要围绕文字要素、位置、字型、颜色、音频节奏、视频像素和交互提示等提出要求，对于元数据和内容隐式标识提出生成合成标签要素、服务提供者要素和内容编号要素等关键指引。
二是列举显式标识典型应用场景。
《标识方法》通过列举式的方式对于显式标识的应用场景做出了进一步细化，在《规定》中提到的五类显著标识应用场景之外加以补充，包括文生图片等图片内容生成服务；音乐等音频内容生成服务；文生视频、图生视频等视频内容生成服务。新列举的三类典型应用场景属于2022年后迅速发展起来的新型生成合成内容形式，尤其是ChatGPT、Sora展示出视频内容生成的强大潜能，在《标识方法》囊括此三类典型应用场景有利于针对性、前瞻性开展监管，符合生成式人工智能的技术原理与产业需要。
三是规范元数据隐式标识格式要求。
此前生成合成内容隐式标识方法在不同规模、不同技术水平的企业间应用各不相同，标识的标签信息也未有一致，这就导致识别隐式标识对于监管主体和内容平台而言面临挑战。《标识方法》为解决这一问题，对于隐式标识扩展字段关键词和应包括的标签、编号、预留字段的值等添加了具体说明，为行业统一、稳定、持续落实隐式标识要求提供了有效措施。
四是展示显式和隐式标识各要求对应示例。
《标识方法》以图片示例的形式对于各类显式和隐式标识要求进行了展示，有助于企业直观了解标准要求，避免因文字表述引发的模糊和歧义，从而推动行业协同落实，提升治理效能。
国家互联网信息办公室关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律法规，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方式提出反馈意见：
1.通过电子邮件方式发送至：[email protected]。
2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能生成合成内容标识办法征求意见”。
意见反馈截止时间为2024年10月14日。
附件：
人工智能生成合成内容标识办法（征求意见稿）
国家互联网信息办公室
2024年9月14日
人工智能生成合成内容标识办法
（征求意见稿）
第一条
为促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条
符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识的，适用本办法。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用人工智能生成合成技术，未向境内公众提供服务的，不适用本办法的规定。
第三条
人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条
服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。
（一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；
（二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；
（三）在图片的适当位置添加显著的提示标识；
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；
（五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
（六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。
服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。
第五条
服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。
第六条
提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。
（一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；
（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；
（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；
（四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；
（五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
第七条
互联网应用程序分发平台在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。
第八条
服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条
如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。
第十条
用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。
第十一条
服务提供者应当按照有关强制性国家标准的要求进行标识。
第十二条
服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条
违反本办法规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。
第十四条
本办法自2024年 月 日起施行。
加入私密社区
