人工智能技术的快速发展，引发了许多深刻的社会与伦理问题，受到社会高度关注。国家社科基金项目“机器人伦理问题研究”指出，要尽可能对人工智能技术伦理治理原则达成共识，并从理论与实践两个层面努力寻求体现治理原则的具体治理工具与治理机制。
原文：
《加强人工智能技术的伦理治理研究》
作者 |
上海交通大学科学史与科学文化研究院教授 杜严勇
图片 |
网络
近年来，许多国际组织与人工智能研发大国纷纷发布各种报告与政策性文件，试图为人工智能技术治理提供目标、原则与策略。
英国下议院科学技术委员会发布《机器人学与人工智能》报告，其中讨论了机器人与人工智能可能产生的伦理与法律问题，强调了适当的治理框架的必要性。
美国政府发布《为人工智能的未来做准备》报告，强调了对人工智能进行治理的重要性与紧迫性。
我国发布《新一代人工智能发展规划》，指出，在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。
欧盟委员会发布《可信赖的人工智能伦理准则（草案）》，为人工智能技术治理指明了方向。
世界各国对人工智能技术治理的高度重视，一方面说明了对人工智能技术进行治理的重要性与紧迫性，另一方面也折射出当前人工智能技术治理的薄弱与欠缺。
总的来说，对于如何对其进行治理，也就是具体的治理进路与机制，相关的研究与实践尚处于探索阶段。就技术治理的基本进路而言，至少有法制与伦理两大基本手段。
由于人工智能技术正处于快速发展时期，如果过早地从法制的角度进行强制性约束，可能会影响技术的发展与产业化。因此，从伦理的角度运用伦理的手段进行治理，可能更为重要与合理。
一般来说，人工智能技术的伦理治理，既包含了把伦理作为一种手段的工具理性，也包含了解决人工智能引发的伦理问题的价值理性。
因此，人工智能技术的伦理治理包含了“应用伦理道德去治理”与“对人工智能技术引发的伦理问题进行治理”两个层面的目标。
治理理论是近些年来学术界关注的一个热门话题，科技治理可以参考借鉴的至少有节点治理、协同治理与实验主义治理等治理理论。
节点治理理论是在当代网络理论的基础上发展起来的，它主要关注社会系统内不同的行动者如何顺着网络进行互动，从而实现治理的目标。
尽管所有节点并非都是平等的，但节点治理仍强调包容性、民主性等基本原则。协同治理明确要求所有的利益相关者都参与治理过程，把协同作为一种基本的治理手段，激励参与者发出自己的声音。协同治理具有以下一些基本特点，如强调所有参与者以问题为导向、共享信息、共同协商，利益相关者参与决策过程的所有阶段充分彰显民主，以及保证解决方案的多样性与灵活性，等等。实验主义治理强调目标设定与调整的反复性，要求赋予基层部门广泛的自由裁量权，强调同行评议的重要性，等等。
总结目前若干种比较有代表性的治理理论，结合人工智能技术伦理治理的目标，我们可以看出人工智能技术伦理治理具有以下基本特征：
第一，参与主体的多元性。
伦理治理要求所有利益相关者都应该参与治理过程，特别强调相关技术产品用户的利益，而不是技术的研发者与管理者主导治理过程。
第二，治理形式的多样性与灵活性。
由于人工智能技术应用的范围非常广泛，不同应用领域与不同文化背景产生的伦理问题差异巨大，因此从治理的目标设定到治理过程，从治理工具的选择到治理结果的评价等所有方面，均需要因地制宜，具体情况具体分析。
第三，治理过程的民主性。
伦理治理强调所有参与主体平等协商、互动合作，政府管理部门主要是提供服务与进行工作协调。
当前我国关于人工智能技术伦理治理的研究还主要停留在理论探讨的阶段，而技术治理是一项实践性非常强的工作，必须把理论与实践有机地结合起来。我们至少可以从以下几个方面入手展开具体的治理工作：
第一，成立由科技工作者、人文学者、政府管理人员共同组成的伦理委员会，负责从整体上协调、指导人工智能技术的伦理治理工作。
第二，创建科学家、工程师与伦理学家共同参与的联合实验室，对人工智能技术的伦理治理全过程进行模拟实验，为现实的伦理治理提供实践经验。
第三，对现有各个领域的人工智能技术进行全面的伦理风险评估，从而为不同领域的人工智能技术伦理治理的目标设定与重点划分提供现实依据。
事实上，我国已有学者深刻认识到了这些工作的重要性，并在某些方面取得了实质性的进展，我们相信这些努力会极大地推进我国人工智能伦理治理研究，也希望有更多的学者关注并参与到具体的工作中来。
第一，保证人的主体性原则。
从人与技术的关系角度来看，人是主体，技术是客体；人是目的，技术是手段。人类发展科技的目的是为了给人类提供更幸福的生活，提升人类的自由与尊严。在人工智能的各种能力越来越强大的历史背景下，人类的体力与脑力劳动在许多方面都可能被人工智能取代，使得其主体地位进一步提升。
在人工智能伦理治理过程中，强调人的主体性地位，就是强调人类在人与智能产品的关系当中的主导地位，强调人的能动性与选择性。从人类整体来说，主体性原则要求人类能够很好地控制人工智能，这也是实现安全性的前提。主体性原则要求我们不能过多地依赖人工智能产品，在某些重大决策上需要有人类的介入，当人工智能得出的结果受到质疑时，需要人类来分析裁决。
