美权威智库发布《人工智能与国家安全》报告

【据中船综合院综合报道】2017年7月12日，新美国安全中心发布《人工智能与国家安全》报告，分析了人工智能技术对国家安全的潜在影响，并提出了3点目标和11个发展建议，主要内容编译如下：

过去5年，人工智能（AI）领域研究取得了重大技术进展，远超出此前的预期，这主要得益于机器学习子领域的快速发展。大多数业内专家相信AI将持续甚至加速进步。当前，AI技术进展主要发生在民用企业或学术界，美国政府机构处于落后状态。然而，AI对国家安全起到至关重要的影响。如机器学习技术可使一些劳动密集型工作的自动化程度大幅提升，如卫星获取的图像分析和网电攻防领域等。报告认为，未来随着技术的持续进步，AI将像核武器、飞机、计算机和生物技术一样，日益成为可影响国家安全的变革性技术。主要结论如下：

（1）在军事优势方面，AI的进步将催生新的军事能力，同时使更多的军事行动参与者可应对当前的军事挑战。

（2）在信息优势方面，AI将极大提升数据收集与分析能力，并提升产生数据的能力。

（3）在经济优势方面，AI的进步将引发新的市场变革。

（1）突破性技术变革将引发激进的政府政策；

（2）军备竞赛有时不可避免，但可以设法控制；

（3）政府必须对相关的商业活动采取即促进又限制的措施；

（4）政府必须针对技术安全形成规范化的目标并提供适当的资源；

（5）在技术发生变化时，美国的国家也在发生变化。

报告以“整个政府”为框架，提出了关于AI技术的国家安全政策3个目标，包含11点建议。

（1）目标1：保持美国的技术领先地位

建议1：美国防部（DoD）应开展聚焦于AI的军事演习，以确定潜在的颠覆性军事创新。

建议2：DoD应资助多种形式的、长期的关于AI技术及其应用的战略分析。

建议3：DoD应有限考虑支持能带来持续利益和降低关键风险的AI研究与开发工作。

建议4：美国国防和情报机构应该重点投资在攻防两端“反AI”的能力。

（2）目标2：支持和平利用AI技术

建议5：DARPA，IARPA，海军研究署和国家科学基金会应增加与AI相关的基础研究的经费支持。

建议6：DoD应提出关于军民两用AI能力的信息需求（RFI）。

建议7：In-Q-Tel公司（负责为美国中央情报局做风投的公司）应提供额外的资源用于提升国家安全部门与商用AI公司间的合作。

（3）目标3：灾难性风险管理

建议8：国家安全委员会、DoD与国务院应清楚AI应用对美国的潜在影响，并制定限制条款。

建议9：DoD和情报部门应当建立专门的AI安全组织。

建议10：DARPA应针对AI系统的失效保护及安全使用技术提供研究经费支持。

建议11：美国国家标准技术研究所（NIST）和美国国家安全局（NSA）应探索应对基于AI的伪造技术的方法。