美国人工智能治理前沿

2024年3月28日，布鲁金斯学会发布了其治理研究高级研究员、技术创新中心主任、TechTank 联合主编Nicol Turner Lee撰写的文章《白宫人工智能行政命令如何确保有效的治理制度（How the White House Executive Order on AI ensures an effective governance regime）》。文章总结了美国白宫人工智能行政命令、其目标及其影响，深入研究其发布和制定的政府背景。蓝图发布后，有至少五个联邦机构开始负责任地使用自动化系统的指南，但联邦机构全面遵守这些活动的细节和范围在时间表和可交付成果方面仍然存在差异。而2023年初美国国家标准与技术研究院发布的人工智能风险管理框架（Artificial Intelligence Risk Management Framework, AI RMF）1.0版是一个供组织设计和管理值得信赖和负责任的人工智能的多功能工具，其在当年7月，白宫获得了七家领先的美国人工智能公司的自愿承诺，以确保先进人工智能系统的安全、保障和信任。

首先，作者对关于白宫行政命令的基本原则进行了介绍。2022年10月，白宫科学技术政策办公室发布了《AI权利法案国家蓝图》，提出了人工智能负责任使用的非约束性路线图。这份全面的文件（或蓝图），确定了五项核心原则，以指导和管理有效的人工智能系统的开发和实施：安全有效的系统、算法歧视保护、数据隐私、通知和解释以及人类替代方案、考虑和回退。该框架中的建议有：在部署前进行风险和歧视评估，要求就用户数据的“收集、使用、访问、传输和删除”获得同意，发布对自动决策的明确解释，以及在某些情况下提供人工审查自动决策的访问权。该蓝图的目的是概述消费者的权利，以在一定程度上掌握对其代表他们做出的自主工具和决策的控制。在发布蓝图后，至少有五个联邦机构制定了自己的负责任使用自动化系统的指导方针，一些机构还建立了自己的中心或办事处来实施这些指导方针，至少有十几个机构发布了关于在其管辖范围内的行业中使用自动化系统的某种约束性指导，但联邦机构全面遵守这些活动的详细程度和范围仍在各个方面有所不同。根据最近关于自愿和行政部门政府活动的更新，这些原则已帮助界定了AI模型风险管理的焦点，这是行业参与者普遍关注的问题。

其次，作者介绍了国家标准与技术研究所（National Institute of Standards and Technology, NIST）于2023年1月发布了的（AI RMF）1.0版本。这是一个用于设计和管理值得信赖和负责任的AI工具，旨在“自愿、保护权利、非部门特定、用例不可知”。AI RMF提供了两个角度来考虑平衡风险和利益的问题。第一，它提供了一个在AI环境中识别风险的概念性路线图，概述了与AI相关的一般类型和来源的风险，并列举了七个信任AI的关键特征（安全、安全和弹性、可解释和可解释、隐私增强、公平-管理有害偏见、负责和透明、有效和可靠）。第二，它提供了一组组织流程和活动，用于评估和管理将AI的社会技术维度与AI系统的生命周期阶段和涉及的参与者联系起来的风险。这些流程和活动的关键步骤是“测试、评估、验证和验证”，其四个核心功能——管理、映射、测量和管理。为此，NIST还将推出一个配套的“手册”，为AI RMF的“管理、映射、测量和管理”功能提供额外的建议行动、参考资料和文档。正如标题“1.0版本”所暗示的那样，2023年1月26日发布的文件并不是NIST在AI风险管理方面句点。该机构预计到2028年将进行全面、正式的审查，可能会产生2.0版本。最近几个月，NIST进一步推出了AI安全研究所联盟，以汇集行业、学术界和政府的利益相关者，共同制定和推广标准、最佳实践、基准等。该联盟支持AI安全研究所的更广泛倡议，该研究所也设在NIST内。