2022年以来，国内外生成式人工智能大模型快速迭代发展，改变了传统的内容生产与信息传播范式。与此同时，生成式人工智能带来的深度伪造、虚假信息等潜在风险进入国际社会规制视野，各国纷纷采取措施应对。
《人工智能生成合成内容标识办法》（以下简称《标识办法》）进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任，完善了我国生成式人工智能的治理框架。
一、人工智能生成内容标识的制度价值成为国际共识
第一，人工智能生成内容标识制度具备独特制度价值。
首先，标识能够有效区分出人工智能生成合成的信息，防范虚假信息的传播利用；其次，标识能够帮助用户快速了解生成式人工智能产品或服务的相关属性或参数信息；最后，标识能够协助监管部门对生成式人工智能产品或服务实施评估、追溯等监管，推进人工智能生成合成内容合法合规发展。
第二，标识制度的独特制度价值已经成为国际共识。
日前，世界各国以及国际组织纷纷采取措施推进生成式人工智能标识制度的建立。2024年3月，联合国发布《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》，鼓励开发和部署有效、可获取、适应性强、具有国际互操作性的内容认证和来源识别机制。2024年4月，美国国家标准与技术研究院发布的《降低合成内容带来的风险》列出了检测、验证和标记合成内容的方法，包括数字水印和元数据记录。2024年5月，新加坡政府发布《生成式人工智能治理模型框架》，提出数字水印和加密溯源两种标识技术方案。2024年8月1日，欧盟《人工智能法》正式生效，规定了生成合成音频、图像、视频或文本内容的有限风险AI系统应履行透明度与明确标识义务。2025年3月，英国《人工智能（监管）法案》通过一读，其中规定任何提供涉及人工智能的产品或服务的人，必须向客户提供“清晰明确的健康警告、标签”。
综合来看，不论是国际组织，还是有关国家，肯定人工智能生成内容标识的制度价值并已提出相应规范，价值层面均倡导真实性以遏制虚假信息、深度伪造，技术层面基本均采用水印、内容标签等标识技术进行规制。
二、生成式人工智能改变内容生产与信息传播范式
第一，生成式人工智能革新生产方式。
不同于传统的专业生成内容、用户生成内容形式，基于递归式生成模型，生成式人工智能可以通过与大量用户的对话和反馈，快速积累和更新内容；基于生成式对抗网络，生成式人工智能能够生成逼真的图像、音频和视频等内容。
第二，生成式人工智能赋能行业发展。
2025年《政府工作报告》在部署今年工作任务中强调，持续推进“人工智能+”行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用。生成式人工智能业已为各行各业注入新质生产力。
在科研领域，生成式人工智能可快速查阅并总结参考文献，拟定研究思路，进行统计分析，甚至生成学术论文。一项收集1600名科研人员调查问卷的研究结果显示，使用AI辅助论文写作比例达25%。在制造领域，2024年10月，世界经济论坛“灯塔工厂”评选结果显示，生成式人工智能的应用使工厂的劳动生产率平均提高了50%。在视听领域，网络音频平台通过与汽车厂商共建车联网、与家电企业合作打造智能物联家居等方式，加速推进网络音视频服务在车载娱乐系统、智能家居、穿戴设备等终端的整合应用。
第三，生成式人工智能存在潜在风险。
生成式人工智能给各行各业带来技术革新的同时，也带来了深度伪造、虚假信息的潜在风险。2024年1月，香港一家跨国公司经历了“变脸”诈骗，诈骗者通过公开渠道获取的媒体资料，利用深度伪造技术合成了该公司高管的形象和声音，并制作出多人参与视频会议的虚假视频，诈骗金额高达2亿港币。在某美国乘客起诉美国某航空公司的案件中，代理律师引用了人工智能生成的六个案例，然而法官发现六个案例的判决结果、引用出处均为虚构。不仅在事实信息上出现错误，甚至对知识类信息进行虚构。
