经合组织(OECD)人工智能原则倡导创新且可信的人工智能应用,同时尊重人权与民主价值。
该原则于 2019 年 5 月通过,为人工智能制定了既实用又灵活的标准,足以经得起时间考验。
@ 一、可信AI原则概览
经合组织 AI 原则最初于 2019 年通过,并于 2024 年 5 月更新。遵守方根据技术和政策发展对其进行调整,确保原则保持强健性和目标契合性。
这些原则指导 AI 行为体开发可信 AI,并为政策制定者提供有效 AI 政策建议。各国采用经合组织 AI 原则及相关工具制定政策、构建 AI 风险框架,为司法管辖区间的全球互操作性奠定基础。
目前,欧盟、欧洲委员会、美国、联合国等司法管辖区在其立法、监管框架及指南中采用了经合组织对 AI 系统及生命周期的定义(如下)。
上述原则、定义及生命周期均包含在《经合组织人工智能建议》中。
遵守方
经合组织《人工智能建议》是首个政府间人工智能标准。目前,共有 47 个遵守方签署了该原则。
AI系统定义
人工智能系统是一种基于机器的系统,它为了实现明确或隐含的目标,从接收到的输入中推断如何生成输出,如预测、内容、推荐或决策等,这些输出能够对物理或虚拟环境产生影响。
不同的人工智能系统在部署后的自主程度和自适应能力各不相同。
AI系统生命周期
AI 系统生命周期阶段包括
:
i) "
设计、数据与模型
":根据具体情境而定的顺序阶段,涵盖规划与设计、数据收集与处理,以及模型构建;
ii) "
验证与确认
";
iii) "
部署
";
iv) "
运行与监控
"。
这些阶段通常以迭代方式开展,不一定按顺序进行。AI 系统的退役决策可在运行与监控阶段的任意时间点做出。
本建议中术语定义如下:
-
AI 系统
基于机器的系统,通过接收输入推断如何生成输出(如预测、内容、推荐或决策)以实现明确或隐含目标,可能影响物理或虚拟环境。不同 AI 系统在部署后的自主性和适应性水平各异。
-
AI 系统生命周期
通常包括规划设计、数据收集处理、模型构建 / 适配、测试评估验证、部署使用、运行监控、退役淘汰等阶段。各阶段迭代进行,不一定按顺序开展。退役决策可在运行监控阶段任意时间点做出。
-
AI 行为体
在 AI 系统生命周期中发挥积极作用的组织或个人,包括部署或运行 AI 的主体。
-
AI 知识
理解和参与 AI 系统生命周期(包括风险管理)所需的技能和资源,如数据、代码、算法、模型、研究、专有技术、培训计划、治理、流程和最佳实践。
-
利益相关方
直接或间接参与或受 AI 系统影响的所有组织和个人。AI 行为体是利益相关方的子集。
@ 三、可信 AI 的负责任管理原则
二、建议
:成员国及非成员国(以下称 "遵守方")应推广并实施以下适用于所有利益相关方的可信 AI 负责任管理原则。
三、呼吁
:所有 AI 行为体应根据其角色推广并实施以下原则。
四、强调
:以下原则相辅相成,应整体考量。
1.1 包容性增长、可持续发展与福祉
利益相关方应积极推进可信 AI 的负责任管理,追求对人类和地球有益的成果,如增强人类能力、提升创造力、促进代表性不足群体的包容、减少经济社会性别等不平等、保护自然环境,从而推动包容性增长、福祉、可持续发展和环境可持续性。
1.2 尊重法治、人权与民主价值(包括公平与隐私)
a) AI 行为体应在 AI 系统全生命周期中尊重法治、人权、民主和以人为本的价值观,包括非歧视与平等、自由、尊严、个人自主权、隐私与数据保护、多样性、公平、社会正义及国际公认的劳工权利。同时需应对 AI 放大的虚假信息,同时尊重言论自由及国际法保护的其他权利和自由。
b) 为此,AI 行为体应实施机制和保障措施(如人类主导和监督能力),以应对超出预期用途、故意或非故意误用导致的风险,措施应与技术水平和具体情境相适应。
1.3 透明度与可解释性
AI行为体应对 AI 系统承诺透明度和负责任披露:
a) 促进对 AI 系统能力和局限性的普遍理解;
b) 使利益相关方了解其与 AI 系统的交互(如职场中);
c) 在可行且必要时提供清晰易懂的信息,说明数据来源、影响输出的因素、流程和逻辑,便于受影响方理解结果;