人工智能(AI)是人类发展新领域[1]。2017年以来,美国、欧盟、英国、日本、韩国、俄罗斯、加拿大等主要国家和经济体相继发布AI研发战略,结合本国国情谋划AI未来发展路线,对其发展方向及优先领域进行系统布局[2]。当前,全球AI技术快速演进,对经济社会产生深远影响。各国近期加快推出AI相关政策,积极提升本国在新一轮科技创新中的国际竞争力。
2023年10月30日,美国总统拜登签署总统行政令,为AI安全制定新标准。该行政令要求,美国最强AI系统的研发人员需与政府分享其安全测试结果及其他关键信息;完善相关标准和测试工具;制定严密的合成生物检查新标准,防范使用AI设计危险生物材料的风险;建立检测AI生成内容和验证官方内容的标准和最佳实践;建立先进的网络安全计划,开发AI工具查找和修补关键软件漏洞;研发制定“国家安全备忘录”,指导AI和安全方面的进一步行动[3]。
11月1日,美国商务部长雷蒙多在出席英国AI安全峰会期间宣布,美国将成立自己的AI监管机构。新成立的“AI安全研究所”隶属于美国商务部国家标准与技术研究院。雷蒙多称,“该组织的目标是与其他国家设立的AI安全组织密切合作,评估前沿AI模型已知和新出现的风险”[4]。次日,美国国防部发布《数据、分析和人工智能采用战略》,以整合2018年的AI战略和2020年的数据战略,继续推动国防领域数字化转型[5]。
2023年11月9日,美国国务院发布其首项AI战略,计划推动该部门在AI创新、基础设施、政策、治理和文化等方面的建设与应用。该战略提出四项有利于增强美国国务院AI能力行动目标和发展方向:(1)投资安全的AI基础设施;(2)培养接受AI技术的文化;(3)确保AI被负责任地应用;(4)促进创新。美国国务院方面认为,通过实现四项目标,其将“负责任和安全地利用可信赖的AI的全部能力,以推进美国的外交工作,塑造国家治理的未来。”[6]
今年2月8日,美国宣布成立美国人工智能安全研究所联盟(AISIC),旨在支持安全可靠的AI开发和部署。该联盟已获得200多位领先的AI利益相关实体的支持,如初创公司、社会组织和学术团队等,并将与来自志同道合国家的组织开展合作。美国商务部部长雷蒙多表示,制定安全标准、保护创新生态系统是该国AI发展工作的两个关键目标[7]。
欧盟在AI领域布局较早。2019年起,欧盟陆续发布AI伦理准则,出台《人工智能白皮书》,发布《人工智能责任指令》提案等[8]。2024年1月24日,欧盟委员会推出一揽子措施,支持欧洲初创企业和中小企业开发符合欧盟价值观和监管规则的AI。具体措施包括:使用并升级专用于AI的超级计算机,以实现通用AI模型的学习和训练;为企业提供一站式服务,支持算法开发、测试和评估;在委员会内部设立AI办公室,确保区域层面AI政策协调;通过Horizon Europe和Digital Europe项目为生成式AI提供财政支持等[9]。
2024年2月2日,欧盟27国代表投票一致支持《人工智能法案》文本,标志欧盟向立法监管AI迈出重要一步。该法案后续仍需要提交欧洲议会批准。如果获得批准,相关规则将分阶段实施,其中一些禁止性规则将在该法律通过六个月后生效,与通用AI模型相关的某些规则将从2025年起适用[10]。法案围绕AI系统的开发、投放及使用制定了监管框架,采用基于风险的规制思路,为不同风险程度的AI系统施加不同的要求和义务。其中,严格禁止对人类安全造成“不可接受风险”的AI系统,为“高风险”AI系统规定具体要求和相关主体义务,并为生成式AI制定透明度要求[11]。
2023年10月26日,英国首相苏纳克宣布将成立AI安全研究所。这一机构旨在提高对AI安全的认识,仔细检查、评估和测试新型AI,探索从偏见和错误信息等危害到最极端风险在内的各种风险[12]。11月1日,英国主办首届全球AI安全峰会。中国、美国、英国、日本、德国、印度等28国及欧盟签署《布莱切利宣言》。这是全球第一份针对AI这一快速新兴技术的国际性声明,关注对未来强大AI模型构成人类生存威胁的担忧,以及对AI当前增强有害或偏见信息的担忧[13]。
2024年1月18日,英国中央数字与数据办公室(CDDO)发布英国政府生成式AI框架。该框架旨在为政府和公共部门安全可靠地使用生成式AI提出指导,并提出应注意的十大原则:了解生成式AI及其局限性;合法、合乎道德、负责任地使用生成式AI;确保生成式AI工具的安全;在适当的阶段进行有意义的人工控制;了解如何管理生成式AI的整个生命周期;使用合适的工具;开放合作;在初始阶段与商业伙伴合作;构建和使用生成式AI所需的技能和专业知识;将这些原则与相关组织的政策结合使用,并提供适当的保证[14]。
新加坡政府曾于2019年推出全国人工智能策略(NAIS),在交通物流、智能市镇与邻里、医疗保健、教育,及保安与安全的五大领域里,大力推动AI科技的运用,促进经济转型并改善人民生活。2023年12月4日,新加坡发布NAIS 2.0,对2019年的战略进行升级。该策略目标有二:把AI运用于人民健康和气候变化等全球重要领域,以应对和克服这个时代的需求与挑战;以及让新加坡人民与企业具备能力和资源,在AI发达的未来能发挥所长与蓬勃发展。
同前一版相比,NAIS 2.0有三项改变,除了强调人民须懂得AI、而非仅视AI为一种机遇外,也强调人民与企业应有当全球AI领军者的远大抱负。根据NAIS 2.0,新加坡政府计划吸引与培养人才、强化AI起步公司的生态系统、培育本地的AI社群、确保监管环境切合AI发展所需等。特别地,新加坡政府计划将当地的AI从业员队伍扩大到1.5万人,并打造一个具标志性的基地,便利AI创作者和从业员的交流协作[15]。
2023年10月14日,印度发布《印度人工智能2023计划》报告。该报告阐述了印度政府设想的该国AI战略的支点,反映出印度政府对推动当地AI发展全面且积极的态度。报告还就印度如何利用人口红利,发挥其作为IT超级大国的优势,进一步推动AI技能在该国的渗透,加强印度的AI计算基础设施,通过公私伙伴关系(PPP)支持AI创新提出了建议[16]。
2024年3月7日,印度政府批准1,030亿卢比(约合12.5亿美元)投资,用于支持AI项目发展,包括开发计算基础设施和大语言模型,资助AI初创公司,以及为公共部门开发AI应用程序。印度政府表示,项目将着重提高数据质量,发展本土AI能力,吸引尖端AI人才,加强AI的伦理监管等[17]。