华政学报 | 戴维 王锡锌 算法透明机制的局限性及其克服

算法技术已深度介入人类生活的方方面面，人类已然置身于算法支配的世界，但公众却“不知规则、不知理由”。弗兰克•帕斯夸莱（Frank Pasquale）教授将这种情形描述为“算法黑箱”。长期以来，学界将透明机制作为解决算法黑箱问题的首要方案，希望通过披露算法技术信息使公众了解算法运作逻辑，或者通过说明理由使公众理解和接受算法决策，进而构建出以“看透技术”和“理解决策”为核心的算法透明双线模式。从呼吁公开源代码、披露算法模型系统功能信息，再到事后解释具体算法决策，学者们不断尝试通过公开、披露和解释手段的拼接组合，寻求彻底打开“黑箱”以实现透明的方法。然而，与理论设想形成鲜明反差的是，这种双线模式在规范表达和制度实践中均陷入困境。学界也不乏质疑算法透明必要性和可行性的声音，甚至有观点直指算法透明无法满足人们对它的功能期待，既不可行，亦无必要。

本文认为，算法透明机制所面临的困境主要在于，沿袭传统透明度逻辑而建构出的双线模式忽视了“算法黑箱”与“权力黑箱”在成因及特性方面的根本差异，导致算法透明机制“目标—手段”的不匹配和功能失灵。目前，算法治理理念呈现出由技术中心向以人为本的转变，算法信任作为算法治理的统领目标已经成为共识，这可以为陷入困境的算法透明机制指引新的发展方向，使算法透明机制真正为公众服务。

近些年来，“可信任人工智能”（Trustworthy AI）已在全球范围内成为引领人工智能发展的核心要求和原则。2019年，欧盟委员会高级专家组颁布《可信人工智能伦理指南》率先将可信任人工智能作为基本目标。2021年，欧盟委员会发布《人工智能白皮书：通往卓越和信任的欧洲路径》，强调信任是接纳人工智能的先决条件，提倡构建一个让公众放心的人工智能“信任生态系统”。欧盟《人工智能法》在序言中明确其立法目标是促进以人为本、值得信赖的人工智能的发展，使欧盟成为可信人工智能的全球领导者。与此同时，美国人工智能战略和政策中“可信人工智能”的表述也大幅度增多。如：2020年，美国颁布行政令《促进可信赖人工智能在联邦政府的应用》，指出各机构应当以促进公众信任和信心的方式设计、发展、获取和利用人工智能；2023年，美国再次专门发布行政令，强调要以安全、可靠、值得信赖的方式开发和使用人工智能。2021年9月，我国新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》，将可信可控作为人工智能活动应遵循的基本伦理规范。2024年3月，联合国大会通过首个关于人工智能的全球决议，决心就发展安全、可靠和值得信赖的人工智能达成全球共识。

在算法治理中引入“信任”这一评判要素，展现了以用户/公众为中心的视角。信任是一种“受信任方有能力及意愿按照预期行动，同时信任方愿意承担不确定性”的双方关系。有学者认为信任是无论是否具有控制或操纵对方的能力，都预期对方会做出对自己而言重要的行动。有学者强调信任涉及一个对他人是否可信的评估过程，评估后判断对方会为一定的行为或基于品行对个体形成信赖。有学者用乘坐飞机时的心态类比，尽管不知道飞机制作和飞行的原理，但我们相信这一技术已经过充分的测试且符合严格的标准，因此我们是安全的。与之类似，算法信任是指即便存在一定程度的风险和不确定性，公众仍然愿意接受和使用算法，因为他们认为算法会按照预期运行。这种信任无比重要，“人工智能未来的任何开发、实施和使用都与公众的信任和支持立场密切相关”，它不苛求算法风险消减至零，只追求将算法风险控制在公众可接受的程度内，这种宽容为技术发展和创新创造了空间。

算法信任反映了人工智能以人为本的发展态势。它转变了过去技术中心（Technic-centric）的局限视野，强调关注技术与用户之间的互动以及公众感受。过去，公众常常被贴上外行和无知的标签而被排斥于算法治理之外。但算法治理不能沦为技术人员的独角戏，算法信任要求增强公众参与，改变他们在治理中的边缘化地位。毕竟公众才是算法风险的最终承担者，他们的充分参与是保障算法治理民主性和手段合理性的关键。

让公众相信他们处于安全的算法环境之中，以更轻松的心态享受先进技术带来的便利，是算法治理的重要目标之一。算法信任的提出并非一场概念游戏，它标志着算法治理理念的重要转变，并为算法透明机制重塑指引了方向。

信任理论认为信任的建立受信任方A的信任倾向（Propensity to Trust）与受信任方B的可信度（Trustworthiness）两方面影响。在算法信任语境中，个体对算法（及其产品和服务）产生信赖的难易程度不同，这种差异反映了他们的信任倾向。研究表示，用户对算法的信任倾向受到其固有特征（如性别、性格）、后天特征（如教育水平）、用户态度（如用户对人工智能的需求和期待）以及其他外部变量（如人工智能产品是否经熟人介绍）的影响，具有强烈的个体性。算法可信度则是算法是否值得信任的客观依据。欧盟《可信人工智能伦理指南》将人工智能的合法性、道德性以及稳健性作为衡量人工智能可信度的核心要素。总的来说，人机信任关系的影响因素可分为技术因素（如算法目的、性能和过程）、人的因素（技术提供者或责任人以及用户自身特点）以及制度环境因素（如算法治理体系）。

算法信任是用户基于对算法可信度的评估而形成的主观态度。理想状态下，用户信任应当与算法实际可信度相匹配，形成一种“有保证的信任”。信任的适度非常重要，因为盲目信任会使个体毫无防备地暴露于算法风险之中，过度警惕则会引发不必要的恐慌和抵制，这两种状态都不利于算法技术与人类社会的和谐共进。

算法信任产生于公众的信任评估。算法透明在此评估过程中发挥重要作用，因为公众的信任无法直接通过索取获得，而需要算法可信度的展示来赢得。透明机制能够成为算法可信度展示的窗口和渠道，帮助公众形成有保证的算法信任。因此，以信任建立为目标的算法透明机制，虽然本质上依然发挥着信息传递和沟通作用，但信息内容和沟通方式已大不相同。

信任评估包括直接和间接两种方式，算法透明据此呈现出不同的制度形态和内容。需要强调的是，在这里的讨论语境中，我们将算法透明机制的影响对象设定为普通公众，而非监管人员或技术专家。公众较难通过直接评估的方式建立算法信任。直接信任的建立依赖于信任方对受信任方直接的观察和评估，它与“看透”式透明具有相同的逻辑，即通过获取代码、数据集等算法技术资料而对算法本身的性能、运行状况与合目标性进行评估，从技术层面判断算法运行是否符合预期。由此可见，直接评估更适用于专家审议场景，因为一方面专家们具备直接评估算法的能力，另一方面专家审议可以通过控制人数和采取保密手段来有效平衡信息披露与商业秘密保护之间的关系。“间接信任”则是基于中介产生的信任，包括：（1）专家信任（或称知识信任），以算法领域的专家学者、科研机构、专业组织或科技企业为中介；（2）制度信任，以规范和监管体系为中介。经中介背书，即便公众不具备直接评估算法的专业能力，他们依然可以信任和使用算法。

就专家信任而言，这里的“专家”泛指研发、部署和评估算法系统的责任机构或个人。调查显示，研发主体身份影响算法信任，如相较于政府和企业，公众更倾向于信任由本国大学、科研机构或国防组织负责研发的人工智能系统。有学者指出，在人工智能信任的议题上，“信任的二元性”（对技术的依赖和对技术提供者的信任）特征尤为重要。因为公众通常对算法知之甚少，无法直接用“理性”判断技术是否可信，只能依靠对研发人员（或责任机构）的信任度来选择算法产品或服务。这种信任模式并不罕见，常见的例子如消费者因信赖某企业/品牌而优先购买其产品。因此，算法研发、部署和评估等环节责任主体的透明度至关重要，披露信息应当涵盖责任主体名称、研发团队成员组成及背景、机构资质等内容，这有助于公众形成自己的信任判断。此外，责任主体透明还有助于公众监督和问责。身份披露使隐于幕后的责任主体走向台前，接受公众审视和监督，社会声誉机制也会自然地发挥作用。在商业领域，企业会通过宣传其专家团队来塑造其可信的形象，争取公众对其算法产品的认可和信任。公权力机关在这方面显然不够透明。目前，政府部门使用的算法产品和提供的算法服务大多是公私合作的产物，由外部企业负责算法的研发、运行和维护。然而，公众对合作情况却知之甚少：他们既不清楚政府在何领域用了何种算法，也不了解公私合作过程是否合法合规；既不知道算法由谁研发和运行，也不清楚算法是否按照预期正确运行。有学者批评：“智慧城市（Smart City）的智能之处在于私人供应商无法穿透的大脑，而唯一对公众负责的政府却变得空洞、无知和黑暗。”对于公众而言，保障政企合作的透明比向他们披露算法资料更有实际意义。此外，专家对算法可信度的判断（即专家意见）也会影响公众判断。在算法这一高度专业化的领域，常识和直觉难以发挥作用，专家意见会成为公众判断的主要参考。这要求专家在给出专家意见时不能只抛出结论，还应当详细阐述其背后的依据，包括他们为此进行了哪些工作以及遵照何种规范、标准和流程。即便公众不懂技术，但若专家说理过于简略、含糊其辞或相互矛盾，自然无法获得公众的认可。

就制度信任而言，一个完善的算法治理体系对增强公众对算法的整体信任至关重要。当社会具备完备的规范框架（结构保障）并能够在此框架中正常运作（制度常态）之时，公众会对新技术保持更宽容和开放的态度，这种心态就是制度信任。相信政府可以有效地进行监管活动是公众接受技术风险的重要前提，这使技术风险不必被严苛地消减至零，为算法发展创造必要的空间。制度信任是一种默示信任（default trust），即公众可以假定算法产品或服务是可用的，除非有相反的证据出现。这种心态可见于食药品领域：在大多数情况下，公众会默认他们从正规渠道购买的、符合国家标准的食药品是安全的，无须时刻怀疑、一一检验。同样，在算法场景中，通过外部约束机制，公民知晓不论技术提供者主观意愿如何，他们研发和部署算法必须遵循一定的规范、标准和流程，这可以降低公众对算法的不安感。

目前，算法治理正在向着行政监管、企业自我规制以及社会监督三方协同的综合治理体系迈进。算法透明机制应与这一治理体系妥善衔接，以帮助公众形成整体的算法信任感知。

首先，加强行政监管中的信息披露，有助于提升公众对算法治理的认知。披露内容应当涵盖规范体系、监管机制及其执行情况。一方面，透明机制设计应与前端监管框架相匹配。例如，我国人工智能监管制度涵盖许可管理、备案审查、风险评估、算法审计等多种措施。相应地，算法透明机制也应当囊括算法市场准入信息、算法备案信息，风险评估报告、算法审计结果、算法合格认证以及算法相关处罚等重要内容。另一方面，为更好地服务于公众，算法透明要求整合信息沟通渠道，实现监管信息的系统性披露。具体而言，我国算法相关立法分散，监管事项繁多，增加了透明的难度。例如：算法备案信息公示于互联网信息服务算法备案系统平台；互联网企业和算法产品的处罚信息需要通过管理部门网站、企业信用信息公示系统或信用中国网站查询；公众则更依赖传统媒体的集中报道或微信公众号、抖音等新媒体推送和转载。碎片化的信息内容和分散的获取渠道，使公众如管中窥豹、雾里看花，不利于形成全面的、健康的算法认知以及建立适度的算法信任。因此，算法透明机制要求行政机关牵头建立统一的算法信息披露平台。欧盟《人工智能法》中的数据库制度，可以视为信息集中披露的一种尝试。尽管该制度在信息披露的全面性、深入性以及实时性方面有待优化，但它确实为公众提供了一个“串点成线”的机会，增强了高风险人工智能系统的透明度和可追溯性。算法透明还要求信息披露以“用户友好”的方式进行，积极采用先进的数据处理技术和创新性的可视化措施，如以颜色深浅直观展示算法风险等级、弹窗提醒用户注意高风险企业，或以进度条展示算法产品合规进展等。还可以积极借鉴商业平台的用户服务方式，引入智能助手和对话系统，为用户提供“定制化”的信息披露服务。最后，公众可能希望管理部门直接给出算法产品安全与否的答案，如欧盟采用的人工智能CE标志可以为公众提供直观的参考。我国应当积极推进算法认证服务，为合格的算法产品“贴标”，便于公众识别并选择可信赖的算法产品。