华政学报 | 张欣 人工智能治理的全球变革与中国路径

作者简介

面对人工智能治理的复杂性挑战，以分类分级为核心的精准治理渐成国际共识。这一治理模式不仅体现了规制手段对人工智能技术和应用的精准捕捉，还反映了信息与治理工具的精准适配，其本质是将技术应用场景中各方利益和社会影响不断清晰化的过程。分类分级治理能够有效应对人工智能的动态性和不确定性，通过构建灵活的监管框架，实现对技术发展的全程跟踪和动态调整，从而保持治理的前瞻性和适应性。针对大模型等复杂人工智能的“黑箱”特性，分类分级治理还可从应用场景、模型功能和人类认知维度综合探索，构建多层次信息收集机制，弥补人工智能透明度的治理局限，为构建问责制奠定基础。此外，考虑到人工智能技术的高度迁移性和扩展性，分类分级治理可避免“一刀切”式监管可能带来的创新抑制和效率损失，实现监管资源的优化配置。

纵观全球监管实践，主要以三种进路展开：第一，从技术架构视角对人工智能模型开展分类分级，据此制定与之对应的治理规则。欧盟《人工智能法》的进路颇具代表性。该法深入模型技术层面，以模型参数量、训练数据集质量和规模、训练模型所使用计算量、模型输入和输出模式、模型能力基准和评估等技术指标划分通用人工智能模型和具有系统性风险的人工智能模型，制定差异化合规义务。

与之类似，美国通过评估人工智能模型所需的浮点运算能力、所依赖的计算集群规模以及训练数据的敏感程度，将人工智能模型划分为两用基础模型与一般人工智能模型，并据此实施差异化监管。

第二，从人工智能应用场景和影响维度进行分类分级。为保证有限监管资源的优化配置，以人工智能应用可能产生的风险维度及影响范围、程度与性质开展分类分级监管渐成核心趋势。欧盟《人工智能法》以人工智能应用对健康、安全及个体基本权利的风险为评估标准，构建了四级风险分类体系，并以此为据对应施策。加拿大《自动化决策指令》则以技术架构、影响维度和问责制为核心，通过系统评估自动化决策流程、数据和设计对社会、经济、环境及公民的影响，将风险影响划分为四个等级，匹配差异化监管方案。我国人工智能分类分级治理不仅考虑技术影响，还融入了对产业功能和技术应用的深层次思考。例如，我国《互联网信息服务算法推荐管理规定》（以下简称《算法规定》）在综合评估推荐算法核心应用场景和主流行业分布的基础上，以生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类为内容，横向构建五维分类体系。与此同时，鉴于具有舆论属性和社会动员能力的推荐算法可能具有更高的网络信息安全风险，在纵向上对该类推荐算法给予特别关注，施加额外的安全评估义务。

第三，聚焦人工智能技术设计、运行和部署主体并开展分类分级治理。这一进路反映了监管思维从技术本位向主体责任的重要转向。随着人工智能商业化和产业化进程加速，科技公司作为数字经济与社会各类活动的核心组织者与协调者，治理责任日益凸显。基于人工智能产业链条上各主体在规模、资源和市场影响力等方面呈现的层次性特征，越来越多的监管方案开始将科技企业纳入监管考量范畴。然而，如何从主体角度构建科学的分类分级体系，各方思路不一。例如，美国采取量化分类的思路。《美国算法问责法案》以年平均总收入、拥有或者控制个人信息的数量以及主营业务类型为指标，对覆盖主体进行分类分级，以此构建梯度性合规义务体系。基于主体特征的量化思维虽具有可操作性强、标准明晰等优势，但可能忽视了各主体在人工智能生态中的角色和影响力等定性因素。相比之下，欧盟《数字服务法》采用了更为全面的“定量与定性”相结合的方式。一方面，以用户数量、规模和平台年收入等指标为基准进行量化分级；另一方面，则从平台功能及其对信息传播的影响力维度，对平台设定差异化监管。与之类似，我国《互联网平台分类分级指南（征求意见稿）》亦是从平台企业的连接属性和主要功能视角，综合考虑用户规模、业务种类、企业市值（估值）、营业收入等指标开展分类分级治理。这一路径将人工智能治理与主体责任相结合，不仅兼顾人工智能技术本身的特性和应用风险，还为营造良性的人工智能治理生态提供了制度依托。

传统以法律法规为核心的监管体系跨部门、跨行业协调成本高企，应对人工智能跨域风险时力不从心，导致监管时滞且局限渐显。与之相比，人工智能软法凭借其独特优势崭露头角。人工智能软法是指一系列旨在规范参与人工智能技术开发、部署和运行的组织以及个人行为的非强制性规范。人工智能软法虽不具备强制约束力，但通过塑造行为规范、引导市场预期，依然可对治理客体产生间接而有效的影响。更为重要的是，软法的灵活性和适应性使其能够更好地应对人工智能风险的跨域性和全球广泛性，从而有效弥补各国国内法在跨域适用上存在的冲突与局限。因此，在全球人工智能治理体系中，软法举足轻重，成为与法律法规相得益彰、协同互补的治理工具。当前，全球人工智能软法治理主要通过四个层面展开：

第一，制定并颁布与人工智能技术和伦理规范相关的技术标准，作为先行规则引导人工智能技术设计、应用和部署。基于标准的人工智能治理主要从国际和国内两个层面推进。在国际层面，国际标准化组织与国际电工委员会共同创建的第一联合技术委员会（ISO/IEC JTC 1）专门设立了人工智能分委会（SC 42），近年来致力于构建全球人工智能标准化体系。该委员会的标准化工作涵盖了人工智能技术的主要方面，包括人工智能概念和术语界定、人工智能风险管理指南、人工智能道德和社会治理以及人工智能系统的可控性治理等，为实现人工智能技术的负责任使用以及跨国界协调治理提供规则支撑。在国内层面，各国高度重视人工智能标准化治理工作，积极构建本国的标准规则体系。例如，美国国家标准与技术研究院发布了一系列关于算法开发、设计及应用的技术标准，并专门针对生成式人工智能制定风险管理框架，形成美国人工智能软法治理的重要依托。我国则从基础共性标准、基础支撑标准、关键技术标准、行业应用标准、安全/治理标准方面明确标准化体系建设的重点方向，以标准体系为依托，加快形成引领人工智能产业高质量发展的软法治理机制。

第二，由各国监管机构发布人工智能合规指南，为企业合规实践提供明确指引。通过提供详细解释和操作性建议，合规指南有效弥补了硬法在技术细节和实施方法上的不足。例如，欧盟《人工智能法》颁布后，欧盟数据保护委员会以及多个成员国数据保护机构迅速发布配套指导文件，凸显了软法在增强监管一致性方面的重要作用。这些指导文件通过详细解释《人工智能法》与《通用数据保护条例》的关系、《人工智能法》与个人基本权利保护的关系，以及如何落实《人工智能法》核心合规义务等内容，为科技企业提供全面具体的合规指导。再如，新加坡于2019年发布了《人工智能治理 框架范本》，并在2020年推出更新版本，确立了早期人工智能治理的基础框架。随着生成式人工智能的快速发展，新加坡资讯通信媒体发展管理局与人工智能验证基金会深入研究了主要司法辖区、国际组织和学术界的先进治理经验，发布了《生成式人工智能的模范治理框架：培育可信赖的生态系统》，为企业开发和部署可信赖的人工智能系统提供了系统指引。通过将抽象的法律条文转化为具体的落地方案，这些指南性文件有效降低了企业的合规成本，在弥补硬法不足、促进监管沟通、增强法律实施效果等方面发挥了关键作用。

第三，通过优化公司治理结构、完善人工智能供应链管理、增加专利许可协议的伦理条款以及成立行业自治组织等多元化方式，发挥技术社群和科技企业的协同治理效能。目前，大多数头部科技企业已着手创建专门的人工智能伦理委员会，从公司内部治理结构入手，在人工智能研发与部署前对潜在的伦理影响和风险开展前置性评估，将伦理考量嵌入技术创新全过程。商业实践中，一些科技企业为确保人工智能技术的负责任使用，将人工智能伦理准则纳入销售合同条款，要求客户遵守企业制定的人工智能使用准则。通过合同约束增强软法执行力，将伦理要求转化为具有一定法律效力的义务，有效扩大了软法的影响范围。技术社群在人工智能软法治理中也发挥了独特作用。以电气与电子工程师协会为代表的专业团体紧密联结技术开发者，开发了人工智能伦理审计和认证程序。通过构建第三方审计和认证机制，为确保人工智能系统的伦理标准提供可量化和可验证的规范准则。例如，其构建的算法安全印章、算法标识和算法伦理认证制度，推动了法律法规在技术标准层面的实施，为软硬法的衔接提供了有益探索。

第四，通过人工智能伦理与法律的协同治理，实现软法与硬法有机结合，进而对人工智能开展系统性治理。伦理与法律的协同主要体现在三个维度：首先，伦理规范作为价值引领，为法律规制提供基础性指引和原则性框架。伦理规范蕴含的价值判断和道德共识，往往通过立法程序转化为具有法律效力的规范要求。例如，欧盟《人工智能法》的核心规范内容系基于欧盟人工智能高级专家组提出的伦理准则而展开，体现出从伦理原则向制度规范的转化进路。此种“伦理先行”模式确保了人工智能法律规制的价值基础与社会伦理取向的内在统一。其次，伦理规范凭借其灵活性，有效弥补了法律规制的滞后性局限。在人工智能技术快速迭代的背景下，伦理规范能够及时回应新型治理需求， 发挥柔性规制作用。典型例证如德国联邦交通和数字化基础设施部下属的道德委员会于2017年发布的《自动化和网联车辆交通伦理准则》。该准则在自动驾驶立法体系尚不完备之际，就核心伦理困境确立了基本立场，从伦理层面厘清了自动驾驶监管与事故归责原则，为自动驾驶设计研发和路测部署提供了实质性指引。最后，法律规范通过将伦理要求转化为强制性义务，形成“软法硬化”的制度路径。在推进人工智能立法过程中，各国立法机构普遍注重将既有伦理规范吸收转化为具有法律效力的制度设计。我国《科技伦理审查办法（试行）》即是典型范例。该办法通过构建伦理审查制度体系，明确了审查主体责任，设置专家复核机制，实现了人工智能基础伦理原则的制度化与规范化，使伦理风险评估与管控获得了法律保障。这种软硬兼施的协同治理模式既有助于治理体系的适应性，又保障了治理效能，为应对人工智能发展的复杂性与不确定性提供了系统性制度保障。

人工智能技术艰深晦涩，其衍生的应用动态多元，在部署和运行环节产生的影响复杂多变。传统监管架构面临信息孤岛、流程封闭以及监管革新受阻等障碍，在面对新技术、新应用带来的挑战时难以招架、疲于应对。更为严峻的是，传统监管架构呈现出碎片化、割裂化特征，致使监管重叠和监管漏洞并存。这种监管效能的双重缺失严重影响了人工智能监管的有效性和一致性。鉴于此，适时创建一个凸显独立性，具有跨学科、跨领域决策能力，善于施展跨域协调能力，具有较高应答效率的新型监管主体已成为当前人工智能治理的迫切需求和发展趋势。在全球范围内，多个司法辖区已在不同维度采取措施，以推进人工智能监管的协调性和一致性。

纵观全局，以人工智能监管架构改革为依托的一致性治理主要通过新设模式、强化模式及国际协调模式展开。新设模式以欧盟为典型代表，旨在通过创建具有跨部门协调能力的新型监管主体推进监管一致性。欧盟《人工智能法》作为全球首个面向人工智能的综合监管方案，其实效性在很大程度上依赖于强有力的监管机构和充足的监管资源。为此，该法构建了一套二元监管框架：一方面，要求每个欧盟成员国指定国家级监管机构负责法律执行，并定期向欧盟委员会报告监管情况，确保法律实施的一致性。另一方面，设立欧盟委员会人工智能办公室和人工智能委员会，作为《人工智能法》的执行主体、协调平台和咨询机构，确保法律实施的协调性。人工智能办公室作为新成立的欧盟级监管机构，其主要职责包括监测、监督和执行该法在成员国内开展通用人工智能模型和系统的监 管行动，分析新兴且不可预见的系统性风险，开展模型能力评估以及调查潜在侵权和不合规事件，等等。为推进监管一致性和协调性，人工智能办公室通过四个细分机制推进中央协调和监督：（1）建立中央数据库，支持对被禁止和高风险人工智能的协调执法，实现各监管主体之间的信息共享和风险预警；（2）依托人工智能委员会，支持成员国建立和发展监管沙盒，促进沙盒间合作与信息共享；（3）为市场监督机构的联合调查提供协调支持，尤其是在发现高风险人工智能系统对多个成员国构成严重风险时，增加监管机构的跨国协作能力；（4）以人工智能委员会秘书处为依托，构建成员国监管机构协调执法的政府间论坛，协助开展执法合作。此外，人工智能办公室还通过创建与开源社区合作的论坛、为通用人工智能模型和系统提供商提供交流平台等方式促进多方沟通，推进其在司法辖区内和全球范围内人工智能监管方面的前沿性和引领性。

强化模式以美国为典型代表。该模式在维持现有监管架构的同时，通过增设跨部门咨情机构、在各监管机构内部新设专职监管岗位等方式，构建多层次、多主体的协同机制，提升跨域监管的协调性、适应性和一致性。这一变革主要围绕三个关键机构进行：国家人工智能倡议办公室、国家人工智能机构间委员会和国家人工智能咨询委员会。国家人工智能倡议办公室隶属于白宫科技政策办公室，作为各方联络枢纽，通过信息交流与技术共享确保治理政策与实践紧密结合。同时，它为人工智能机构间委员会和人工智能咨询委员会提供技术和行政支持，协助制定统一的人工智能政策和标准。国家人工智能机构间委员会采用联合主席制，由涵盖科技、国防、情报等的多个联邦机构代表组成，负责协调人工智能研究、开发活动，定期更新人工智能战略计划，研究国家人工智能咨询委员会提出的各方建议，确保各联邦机构人工智能治理决策的全面性和代表性。国家人工智能咨询委员会与白宫科技政策办公室密切协作，组织架构和人员构成具有多元性和包容性。作为战略顾问，其持续评估美国在全球竞争中的地位，监督国家人工智能战略的实施，为政策制定和调整提供决策依据，在促进美国人工智能监管一致性与协调性方面发挥重要作用。此外，各联邦机构内部设立首席人工智能官，负责协调管控各机构内部使用人工智能的潜在风险，确保各机构在人工智能应用和管理层面有专人负责，推动更为高效一致的人工智能治理实践。强化模式体现了渐进式改革思路，通过在现有架构内增设协调机构和专职岗位，在保持监管体系稳定性的同时提高人工智能治理的协调性。