专栏名称: 网络法实务圈
探寻网络法实务,汇聚网络法精英。
51好读  ›  专栏  ›  网络法实务圈

OECD AI原则(全文翻译)

网络法实务圈  · 公众号  ·  · 2025-03-12 17:00

正文


简评:AI生命周期治理的基本原则
经合组织(OECD)人工智能原则倡导创新且可信的人工智能应用,同时尊重人权与民主价值。

该原则于 2019 年 5 月通过,为人工智能制定了既实用又灵活的标准,足以经得起时间考验。

@ 一、可信AI原则概览

经合组织 AI 原则最初于 2019 年通过,并于 2024 年 5 月更新。遵守方根据技术和政策发展对其进行调整,确保原则保持强健性和目标契合性。
这些原则指导 AI 行为体开发可信 AI,并为政策制定者提供有效 AI 政策建议。各国采用经合组织 AI 原则及相关工具制定政策、构建 AI 风险框架,为司法管辖区间的全球互操作性奠定基础。
目前,欧盟、欧洲委员会、美国、联合国等司法管辖区在其立法、监管框架及指南中采用了经合组织对 AI 系统及生命周期的定义(如下)。
上述原则、定义及生命周期均包含在《经合组织人工智能建议》中。

遵守方

经合组织《人工智能建议》是首个政府间人工智能标准。目前,共有 47 个遵守方签署了该原则。

AI系统定义

人工智能系统是一种基于机器的系统,它为了实现明确或隐含的目标,从接收到的输入中推断如何生成输出,如预测、内容、推荐或决策等,这些输出能够对物理或虚拟环境产生影响。

不同的人工智能系统在部署后的自主程度和自适应能力各不相同。

AI系统生命周期

AI 系统生命周期阶段包括

i) " 设计、数据与模型 ":根据具体情境而定的顺序阶段,涵盖规划与设计、数据收集与处理,以及模型构建;

ii) " 验证与确认 ";

iii) " 部署 ";

iv) " 运行与监控 "。

这些阶段通常以迭代方式开展,不一定按顺序进行。AI 系统的退役决策可在运行与监控阶段的任意时间点做出。

@ 二、定义

本建议中术语定义如下:

  • AI 系统

    基于机器的系统,通过接收输入推断如何生成输出(如预测、内容、推荐或决策)以实现明确或隐含目标,可能影响物理或虚拟环境。不同 AI 系统在部署后的自主性和适应性水平各异。

  • AI 系统生命周期

    通常包括规划设计、数据收集处理、模型构建 / 适配、测试评估验证、部署使用、运行监控、退役淘汰等阶段。各阶段迭代进行,不一定按顺序开展。退役决策可在运行监控阶段任意时间点做出。

  • AI 行为体

    在 AI 系统生命周期中发挥积极作用的组织或个人,包括部署或运行 AI 的主体。

  • AI 知识

    理解和参与 AI 系统生命周期(包括风险管理)所需的技能和资源,如数据、代码、算法、模型、研究、专有技术、培训计划、治理、流程和最佳实践。

  • 利益相关方

    直接或间接参与或受 AI 系统影响的所有组织和个人。AI 行为体是利益相关方的子集。

@ 三、可信 AI 的负责任管理原则

二、建议 :成员国及非成员国(以下称 "遵守方")应推广并实施以下适用于所有利益相关方的可信 AI 负责任管理原则。

三、呼吁 :所有 AI 行为体应根据其角色推广并实施以下原则。

四、强调 :以下原则相辅相成,应整体考量。

1.1 包容性增长、可持续发展与福祉

利益相关方应积极推进可信 AI 的负责任管理,追求对人类和地球有益的成果,如增强人类能力、提升创造力、促进代表性不足群体的包容、减少经济社会性别等不平等、保护自然环境,从而推动包容性增长、福祉、可持续发展和环境可持续性。

1.2 尊重法治、人权与民主价值(包括公平与隐私)

a) AI 行为体应在 AI 系统全生命周期中尊重法治、人权、民主和以人为本的价值观,包括非歧视与平等、自由、尊严、个人自主权、隐私与数据保护、多样性、公平、社会正义及国际公认的劳工权利。同时需应对 AI 放大的虚假信息,同时尊重言论自由及国际法保护的其他权利和自由。

b) 为此,AI 行为体应实施机制和保障措施(如人类主导和监督能力),以应对超出预期用途、故意或非故意误用导致的风险,措施应与技术水平和具体情境相适应。

1.3 透明度与可解释性

AI行为体应对 AI 系统承诺透明度和负责任披露:

a)  促进对 AI 系统能力和局限性的普遍理解;

b) 使利益相关方了解其与 AI 系统的交互(如职场中);

c) 在可行且必要时提供清晰易懂的信息,说明数据来源、影响输出的因素、流程和逻辑,便于受影响方理解结果;







请到「今天看啥」查看全文