中国信通院发布《人工智能治理蓝皮书（2024年）》

蓝皮书主要内容

1. 全球人工智能治理面临复杂多变新形势。 全球人工智能行业实现高速增长，在产业规模、投融资、企业数量等方面表现明显，具身智能、数字人等人工智能应用将驱动下一轮产业洗牌。通用人工智能技术飞速跃迁敲响安全警钟，幻觉难消除、场景难限定、责任难追溯等特性放大了虚假信息、隐私侵犯、网络犯罪等现实风险。同时，全新的人机交互模式开启了“人类外脑”时代，在未来发展中可能引发情感依赖、劳动替代、生存性风险等方面的人机伦理风险，不断挑战政府传统监管模式、加剧国际合作协调难度、考验供应链主体自治能力。

2. 报告提出人工智能治理框架体系。 本报告从新技术革命引发的经济社会发展变革和历史经验出发，在“以人为本、智能向善”理念指引下，基于供应链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了人工智能治理体系框架。在梳理人工智能概念分歧、人工智能风险谱系基础上，框架从安全和发展两个维度提出四组议题，提出“要素+场景治理”“基于风险的全生命周期治理”“包容性治理”等理念思路，力求框架的全面性、系统性和前瞻性。

来源：中国信通院

3. 总结提炼人工智能重点议题进展及趋势。 安全侧来看，安全可控是人工智能治理的底线基础，强调全生命周期逻辑下制度回应和技术治理并进的思路，亟需对透明度、监管沙箱、红队测试、评估评测等制度、技术工具细化落地；伦理先行是人工智能治理的价值导向，需关注通用人工智能等技术发展带来的人类主体性危机，提前研判人工智能对人类生活、生产乃至生存问题带来的冲击。发展侧来看，负责任创新是人工智能治理的源头根本，国际社会共同探索应对算力供给不平衡、高质量数据集建设、开源模型生态治理等问题解决方案，为人工智能创新发展提供要素支撑；可持续发展是人工智能治理的终极要求，应围绕经济、社会和环境三个维度，协力应对数字鸿沟、能源短缺等问题，支持发展中国家开展能力建设，推动联合国2030年可持续发展目标实现。

4. 多元主体协同推进人工智能治理进程。 主要经济体人工智能治理模式初具雏形，在监管模式、治理重点、实践策略等方面日益成熟完善。企业主体、专业机构、产业联盟等主体各展所长，在安全技术研发、资源共享等方面发挥关键作用。大国间围绕人工智能安全合作共识初建，各方在议程设置、规则塑造等多方面进程提速，联合国系统积极酝酿新的人工智能治理协调机制，各双多边机制推动高层次承诺向可执行政策落地。

蓝皮书目录

一、人工智能治理面临复杂多变新形势

（一）人工智能行业高速增长，商业生态分化形态初现

（二）人工智能技术深刻变革，挑战政府传统监管能力

（三）国际合作取得关键成果，各国治理共识差异并存

（四）人工智能技术风险加剧，亟需搭建完善治理框架

二、人工智能治理的核心议题进展及趋势

（一）基于产业链的治理：全要素推进负责任创新

（二）确保技术普惠共享：多维度促进可持续发展

（三）制度技术治理并进：全生命周期确保安全可控

（四）人机关系如何重塑：新型风险中推动伦理先行

三、多元主体协同推进人工智能治理进程

（一）主要经济体政府监管模式各异，规则落地取得实质进展

（二）企业和专业机构等主体创新探索，形成协同共治生态圈

（三）国际人工智能治理日益深化，三大维度热点持续深化

四、人工智能治理对策建议

（一）深化落地人工智能协同敏捷治理模式

（二）系统监测预警人工智能伦理社会影响

（三）围绕要素和场景细化负责任创新方案

（四）立足于全生命周期优化安全技术工具

（五）加速落地全球人工智能能力建设方案