专栏名称: 网信浙江

浙江省互联网信息办公室主办，围绕浙江网络安全与信息化工作，提供最权威、最前沿、最全面的信息服务，搭建有态度、有深度、有温度的发布平台，创建可思考、可体验、可分享的交流空间。

专家解读｜构建AIGC安全治理的“中国范式”

网信浙江 · 公众号 · · 2025-03-17 18:50

正文

生成式人工智能快速发展，迅速成为全球人工智能领域的焦点，在中央创新体制、创新路径的指引下，开放、自由的制度环境调动各种生产要素释放出巨大活力，以生成式人工智能为代表的新型技术在释放生产要素价值过程中发挥重要作用。同时，生成式人工智能强大的学习效率与数据处理能力也带来诸多挑战和安全风险。我国高度重视科技良性创新与安全有序发展，近日，国家互联网信息办公室联合多部门正式发布《人工智能生成合成内容标识办法》（以下简称《标识办法》）及配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（以下简称《标识标准》），标志着我国在全球范围内率先建立起人工智能生成合成内容专项治理框架，提供了生成式人工智能安全治理的“中国范式”。

一、破解“信任赤字”困局，促进人工智能高水平释放活力

在数字经济时代，人工智能生成合成内容（以下简称“AIGC”）技术的迅猛发展为内容创作和信息传播带来了前所未有的机遇，正在深刻地改变着我们的工作模式、生活习惯甚至生产方式。随其广泛应用的同时，AIGC因其不可追溯性、可能存在的误导性信息以及缺乏有效的监管机制，面临着“信任赤字”困局，公众对生成内容的真实性、可靠性和伦理性产生质疑。这将引发人们对技术的恐慌和负面认知，从而影响行业的整体活力，制约AIGC技术的发展。

《标识办法》和《标识标准》通过组合发力，具有政策标准通用性、技术实施可行性、标准承接符合性特点，强化主动合规方面的引导与指导，打破了人工智能生成合成内容“信任赤字”的困局。与人工智能系列相关技术标准配合衔接，有效地对《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》中相关标识要求进行了细化，规定了人工智能生成合成内容标识的方法和要求，适用于生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动。同时，针对中小企业覆盖领域面较宽，合规成本相对较高等情况，《标识办法》和《标识标准》给出了企业在合规框架下进行技术创新的指引，在保障安全性和可靠性的前提下促进新产品和新服务的快速落地，促进了AIGC技术的健康发展，为进一步释放技术价值提供了支撑。

二、深化“前瞻创新”布局，支撑人工智能高质量协调发展

人工智能技术快速发展、应用规模迅速扩大的背景下，世界各国纷纷开展安全政策和标准的相关工作。我国致力于创新型国家和世界科技强国建设，高度重视安全与发展的协调性并提前布局。2020年，国家标准化管理委员会联合多部门印发的《国家新一代人工智能标准体系建设指南》为《标识标准》提供了整体框架和指导原则。《标识办法》是编制《标识标准》的指导性政策文件，提出了实施人工智能生成合成内容标识工作的基本原则，对相关主体的责任和义务进行了明确，指导帮助企业和机构在人工智能生成合成活动中遵循法律法规，降低违规风险。《标识标准》对人工智能生成合成内容的标识方法提出规范，确保在技术研发和应用传播中遵循一致的规范，提高网络信息服务领域的整体水平，切实维护国家安全和公共利益。

三、打造“合规共治”格局，切实为全球治理贡献“中国范式”

在全球治理体系日益复杂的背景下，中国积极推动从合规到共治的协调，《标识办法》和《标识标准》及系列政策法规和标准文件不仅为国内外企业提供了明确的人工智能生成合成活动指引，还在国际标准化进程中发挥了重要作用，展现了“中国范式”的独特优势。

《标识标准》在标识形式、技术完备性和适用性方面具有显著特点。首先，《标识标准》在标识形式上更加明确，能够清晰地指引企业完成合规要求的实施操作，从而降低企业在实施过程中的不确定性，有效促进市场的健康发展。其次，从技术层面来看，《标识办法》和《标识标准》涵盖了更为全面的技术框架，确保人工智能技术应用的安全性、可靠性、可控性和公平性，为技术创新提供了必要的支持。

《标识办法》和《标识标准》的发布，不仅为中国的人工智能健康有序的发展奠定了基础，更为国际标准的编制和应用提供了重要的借鉴与支撑。通过相关国际标准化工作的参与，可进一步增强国际间的互信，有助于各国在技术交流与合作中实现共赢，推动全球人工智能治理水平的提升。中国的积极推动不仅有助于提升自身的国际竞争力，也为全球治理提供了新的思路与方法，为全球治理的创新与发展贡献了“中国智慧”。

随着《标识办法》和《标识标准》落地实施，我们将持续推动产业界人工智能安全治理的优秀实践，并加强国际间的合作与对话，为全球治理体系的完善提供新的动力。我们清醒地认识到，全球人工智能治理需要各国、各组织的共同努力和协作，构建一个开放、公正、有效的治理机制，在应对全球性挑战中实现更高水平的合作，确保技术进步与社会价值的和谐统一。

作者：郭晓雷　国家信息技术安全研究中心总师，全国网络安全标准化技术委员会WG1专家组成员

来源：“网信中国”微信公众号

专家解读｜构建AIGC安全治理的“中国范式”

正文

请到「今天看啥」查看全文