今天分享的是人工智能
专题系列
深度研究报告：
《人工智能安全作为全球公共产品研究报告》
出品方：
国际与公共事务学院
报告共计：
8页
本报告深入探讨了“人工智能安全作为全球公共产品”的理念、原则、全球价值以及在中国的探索和实践，并提出了一系列行动倡议。核心观点如下：
-
人工智能安全是全球公共产品，应具备非竞争性和非排他性。
-
人工智能安全面临新挑战，需要全球合作与多方参与。
-
中国在人工智能安全治理方面积累了宝贵经验，并提出了一系列治理创新。
-
提出行动倡议，推动人工智能安全知识、能力和资源的生产与积累。
引言
-
人工智能安全作为全球公共产品的理念
-
人工智能安全应被视为具有公共属性的知识、能力、资源。
-
政府、企业、第三方等主体需要在共商共建共享过程中共同探索。
-
人工智能安全的原则
-
公共原则：强调开放性、包容性、普惠性。
-
科学原则：遵循人工智能技术创新、应用的科学规律。
-
责任原则：形成多类型、具有不同约束力的责任治理框架。
-
敏捷原则：形成相互关联、相互依存的治理关系，及时回应安全风险。
-
人工智能安全的全球价值
-
人工智能安全风险具有“共同无知”和强外部性特征。
-
发展与安全并重原则要求人工智能安全治理需要动态演化、敏捷调适。
-
中国探索
-
中国在人工智能安全方面出台了系列治理规则和机构。
-
推动利益相关方对话，形成宽泛共识，并提出基本原则。
-
针对具体问题迅速反应，出台法律法规和安全治理机制。
-
调动科研机构、企业等一线力量，探索建设安全治理技术方案和资源库。
-
积极参与人工智能安全全球治理进程，提出推动国际合作的倡议。
全球价值
-
安全风险的不确定性与动态性
-
大模型安全风险的演化特征导致“共同无知”现象更为严重。
-
多边、多方主体需共同探索并积累安全知识与资源。
-
发展与安全的对立统一
-
政府与企业、不同政府部门、不同企业之间的诉求既有重合又有冲突。
-
安全治理不能忽视发展需求，需要在发展过程中解决安全问题。
-
治理机制的复杂性
-
现有治理机制存在定位不明确、标准碎片化、评估基准少公信等问题。
-
需要新的治理机制来应对人工智能技术迭代创新引发的一般性安全治理问题。
中国实践
-
治理创新
-
监管部门转变传统监管思路，成为安全治理知识的学习者、汇聚者、传播者。
-
创设跨部门协同机制，平衡发展与安全的诉求。
-
调动公共科研、技术机构的监管支撑能力，广泛纳入利益相关方参与。
-
治理经验总结
-
中国在人工智能安全方面的治理经验可为全球治理提供参考。
-
政府、企业、第三方等主体应将人工智能安全视为公共产品，共同推进安全知识、能力和资源的生产与积累。
行动倡议
-
引导人工智能安全知识、能力、资源的生产与再生产
-
成立具有公共属性的人工智能安全研究机构。
-
鼓励私人部门参与人工智能安全公共产品的生产过程。
-
建设稳定对话交流机制，在国际社会创造人工智能安全公共产品。
-
将人工智能安全治理根植于人工智能技术与产业发展规律
-
建设一系列人工智能安全公共产品资源库。
-
鼓励多边、多方主体加强人工智能安全治理研究，推动科学共识的逐步形成。
-
要求多边、多方主体保持对人工智能安全风险演化的开放性和敏感性，鼓励创设人工智能安全风险的协同、交流机制。
本研报强调了人工智能安全作为全球公共产品的重要性，分析了中国在人工智能安全治理方面的实践经验，并提出了一系列行动倡议。这些倡议旨在推动人工智能安全知识、能力和资源的生产与积累，构建多边、多方主体参与的治理关系，促进人工智能技术的可靠、可控、公平发展。
