哈佛大学发布《人工智能与国家安全》报告

虽然美国军事和情报界计划在投资组合中纳入更多人工智能技术，但最具颠覆性的AI应用尚未实现。报告提出了制定人工智能和国家安全未来政策的三个目标：

①保持美国技术领先优势，为军事和情报能力优势提供砝码。

②支持AI用于和平和商业用途，帮助民事和商业部门享受新技术带来的好处。

③减少灾难性风险，防范或降低偶发/敌对事件带来的严重后果。

①AI技术发展迅猛。人工智能领域在过去5年取得了显著的技术进步，远远超出预期；这种形势还将会继续发展，甚至会进一步提速。推动AI快速发展的4个因素是：计算机性能在近几十年呈指数级增长、训练机器学习的大型数据集数量增加、机器学习技术不断进步、商业投资猛增。其中机器学习子领域的发展是主因。

▲2017人机大战三番棋第三局结束，柯洁执白209手中盘负于AlphaGo

②AI技术是给国家安全带来深刻变化的颠覆性技术。现有的AI技术能力在国家安全方面拥有巨大潜力，如机器学习技术可使卫星图像分析和网络防御等劳动密集型活动实现高度自动化。未来的AI技术有可能与核武器、飞机、计算机和生物技术一样，成为给国家安全带来深刻变化的颠覆性技术。AI的每一种技术都为美国国家安全机构的战略、组织、优先事项和资源分配带来重大变革，其未来影响力至少可与核武器比肩。

▲DARPA正在资助研究传感器和智能系统，这些系统甚至可以从未连接的设备中提取信息

③AI技术对国家安全的具体影响。在军事方面，AI的发展将产生新的能力，并使现有能力成本被更广泛的行为体所接受，AI催生的商业可用技术（如远程无人机包裹运送等）可能会使弱国和非国家行为体获得远程精准打击能力。在网络领域，目前需要大量高技能劳动力的活动（如先进持续性威胁行动等）未来可能会实现高度自动化，并在黑市上广泛出售。在信息优势方面，AI将大幅提升数据收集、分析以及建立数据的能力。在情报行动中，意味着有越来越多的信息源可供分辨真相；相应的，制造伪情报也变得更加便利。但同时，借助AI技术，伪造音视频媒体的质量迅速提升，同时成本迅速下降。在经济方面，AI的发展可能会带来一次新的产业革命，将重新塑造世界经济中的劳资关系。

④变革性技术案例带来的经验。该机构分析了之前的核、航空航天、网络和生物技术4个变革性军事技术案例，从中提取出以下几条可用的经验和教训：激进的技术变革催生全新的政府政策及思想，世界各国政府将考虑甚至部分国家将采取相当激进的政策措施；AI在战争和间谍活动上的扩展应用是不可避免的，但必须设立更加温和的目标，对AI技术进行安全有效的管理；必须认识到AI技术固有的军民两用性，对突破性技术进行保密和保护，扩展民用颠覆性技术的分类和认证流程，限制商业公司向海外出售技术；应考虑成立正式的研发管理机构；应考虑确立AI军事情报应用的技术投资组合，建立长久的技术优势。

▲DARPA近日宣布，在由AI驱动的机器人副驾驶的参与下，成功完成了一架波音737的模拟飞行和着陆

报告对美国政府有关AI技术的国家安全政策提出3项目标和11项建议。

①维持美国的技术领先优势：国防部应开展以AI为核心的军事演习，以甄别潜在的颠覆性军事创新；国防部应资助以人工智能技术及影响为主题的各种长期战略分析；国防部应优先考虑能够提供可持续优势并降低核心风险的AI研发投资领域；美国防情报界应大力投资“反AI”的进攻和防御能力。

▲DARPA开展网络挑战赛探索人工智能在网络安全领域的作用

②支持AI技术用于和平目的：DARPA、IARPA、海军研究办公室和国家科学基金会应增加与AI相关的基础研究经费；国防部应发布关于AI军民两用能力的信息征询书；向美国In-Q-Tel公司（专门服务于中央情报局）提供更多资源，促进国家安全机构和AI商业公司的合作。

③管理灾难性风险：国家安全委员会和国务院需研究美国应利用条约的形式限制哪些AI应用；国防和情报部门应设立专门的AI安全机构；DARPA应为AI系统自动防故障和安全运行技术研究提供资金；国家标准与技术研究院和国家安全局应探索防AI造假技术方案。

来源：国防科技要闻