专家解读｜从技术规则到技术标准：人工智能治理的标识管理

网信安徽 · 公众号 · · 2025-03-18 09:51

正文

国家互联网信息办公室等部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）及配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（以下简称《标识标准》），旨在防范人工智能生成合成内容引发的信息安全风险，提升人工智能安全水平，规范人工智能行业应用和健康发展。从技术规则到技术标准的有机组合，是一种兼具灵活性和约束力的制度创新，符合全球人工智能治理通用做法，提出人工智能标识管理的中国方案，为全球人工智能治理规则形成和兼容协调提供更多基础共识。

一、《标识办法》和《标识标准》的制定背景

当前以ChatGPT、Sora、DeepSeek等为代表的生成式人工智能迅猛发展，借助人工智能生成合成文本、图像、音频、视频、虚拟场景等，逐渐演变为重要的信息生产模式。然而，伴随技术门槛降低，虚假信息、深度伪造、恶意输出等安全问题突出，加剧传统信息安全风险的动态性、渗透性和全局性。联合国2024年《治理人工智能，助力造福人类》报告将“损害信息完整性”列为排名第一的风险。

生成合成内容标识已成为国际惯例。无论是已施行的欧盟《人工智能法》、正式出台的澳大利亚《安全和负责任的人工智能咨询：澳大利亚政府的临时回应》，还是正在制定中的美国《编辑和深度伪造内容来源保护完整性法案》《数字内容溯源标识法案》、英国《人工智能（监管）法案》等提案，均对水印、标识义务有要求。在我国，2023年1月施行的《互联网信息服务深度合成管理规定》提出针对文本、图像、音频、视频、虚拟场景等信息内容的标识要求，2023年8月施行的《生成式人工智能服务管理暂行办法》承袭这一规定。尽管各国对数字水印、数字指纹、加密元数据等标识技术的具体要求存在不同，对平台标识义务的强度设定也存在差异，但在从事后内容审核转向生成端风险内嵌控制、提高人工智能治理技术能力的理念是一致的。

二、《标识办法》和《标识标准》的核心内容与治理逻辑

作为网络信息内容治理制度体系的有机组成部分，《标识办法》和《标识标准》是我国人工智能法治建设进程中的重要一步，既与《中华人民共和国网络安全法》一脉相承，又与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等有效衔接，构建的人工智能标识管理要求具有体系性、技术性、协同性、融贯性、全流程、精细化等特点，在明确治理标准和落地机制、促成治理实效方面，具备可操作性、落实基础和前景。

1.体系性、技术性：技治与法治互嵌运行，探索显隐双标识机制

技治与法治彼此的内嵌、牵连、塑造在人工智能标识管理中尤为明显。《标识办法》援引的《互联网信息服务深度合成管理规定》涵盖人工智能输出的基本数据类型，并明确各类信息内容的可标识性。其中，显式标识能够对主体权利、义务进行明确提示；而元数据的隐式标识、基于技术中立性选择的内容隐式标识和加密，在不影响输出数据质量、用户感观的同时，其内容的完备性、唯一性要求，形式的强制性、规范性等共同构成结构化数据的一部分。《标识标准》中显式标识与隐式标识的有机结合、综合运用，使得通过技术检测机制识别人工智能生成合成内容成为可能，并在一定程度上具有确立主体行为性质的初步证据效力。

2.协同性、融贯性：多部门监管统筹协调，多制度衔接资源整合

在人工智能标识监管执法中，厘清相关主管部门管理职责，明确标识违规行为法律责任，强化标识管理与算法备案、安全评估等制度的衔接和程序协调至关重要。《标识办法》规定，服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享。《标识办法》明确，违反本办法规定的，由网信、电信、公安、广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

3.全流程、精细化：产业生态链治理，科学设定上下游主体义务

《标识办法》和《标识标准》从网络信息服务提供者这一整体视角切入，进一步明晰适用标识义务的主体。通过深入审视各主体在人工智能生态体系中的角色、定位、行为模式以及影响程度，精准区分为生成合成内容服务提供者、内容传播服务提供者这两大类主体。同时，针对其他关键参与方，如互联网应用程序分发平台主体的责任范畴等，也进行明确规定，基本实现对生成合成内容上下游主体的全覆盖。将行为主体作为抓手进行识别和义务分配，法律的追责机制和后果承担方得以落实。此外，《标识办法》体现出在数据内容创作与打击滥用间寻求平衡的考量，也表明在立法思路上对当前蓬勃发展的人工智能产业整体上的鼓励倾向，可理解为早期确立的平台避风港原则在新时代背景下的创新性发展。

专家解读｜从技术规则到技术标准：人工智能治理的标识管理

正文

请到「今天看啥」查看全文