当地时间2024年6月13日（周四），网络安全和基础设施安全局(CISA)与私营部门进行了联邦政府首次桌面演习，重点关注人工智能(AI)安全事件。由联合网络防御合作组织(JCDC)牵头的人工智能网络桌面演习旨在获取超出传统网络安全事件的信息，以帮助确定信息共享机会、公私合作协议以及人工智能安全事件的运营合作领域。CISA将把从这次演习中得到的经验教训纳入AI安全事件协作手册，为政府、行业和国际合作伙伴之间的运营协作提供指导。第二次桌面演习将与在其运营环境中集成AI的AI公司和关键基础设施实体一起测试和验证手册。
演习背景
美国联邦政府为了在人工智能技术成为更大的网络安全威胁之前增强应对能力，于当地时间周四（6月13日）举办了首次针对这一新兴技术的桌面演习。此次演习由网络安全和基础设施安全局（CISA）主导，属于联合网络防御协作组织（JCDC）的一系列活动。JCDC是CISA的运营部门，专注于与工业界的合作。参与演习的有来自15家公司和多个国际网络防御机构的50名人工智能专家。
这是拜登政府近几个月来为降低人工智能技术潜在风险所采取的多项措施之一。目前，包括微软在内的大型科技公司正在推动快速发布人工智能产品，但这些产品可能被网络犯罪分子利用。
2024年4月，CISA发布了针对关键基础设施所有者和运营商的人工智能安全指南。
国土安全部还成立了一个人工智能安全委员会，重点关注人工智能对关键基础设施的影响。
参演机构
在周四的桌面演习中，CISA与FBI、NSA、国防部、国家情报总监办公室和网络国家任务部队合作。参与的科技公司包括
微软、OpenAI、IBM、Palantir、思科（Cisco）和Palo Alto Networks等15家私营机构。
观察此次演习的还有
澳大利亚信号局的澳大利亚网络安全中心、英国国家网络安全中心、新西兰国家网络安全中心和加拿大网络安全中心
。
主要目标
1、探索涉及人工智能系统的网络事件的信息共享机会。
2、检查行业参与者在处理多阶段AI事件时的响应程序和最佳实践。
3、确定在重大AI事件期间和之后行业和政府AI事件响应计划、信息共享和整体组织弹性方面需要改进的领域。
4、评估跨部门政府合作伙伴、行业和国际参与者之间在涉及人工智能系统的网络事件方面的运营协作的信息共享能力、需求和优先事项。
演习内容
CISA没有公开演习中三个模块的具体细节，但重点是与业界共同了解人工智能或与人工智能相关的网络安全事件的构成要素，确定需要哪些类型的信息共享，以及如何实现业界与政府之间的最佳合作。
据演习资源中披露的信息，涉及的三大模块共列出了25个需要关注的问题。
最终目的
据悉，这次为期四小时的人工智能桌面演习是CISA即将发布的人工智能安全事件协作手册的一部分。
CISA联合网络防御合作组织副主任克莱顿·罗曼斯（Clayton Romans）表示，网络事件可能意味着人工智能系统本身受到威胁，或者是人工智能创建的另一个系统受到威胁。
“关键在于，人工智能可能存在多种潜在漏洞，”罗曼斯说。“我们正在做的是与新进入该领域的公司建立交流和理解，并与我们已经在JCDC合作了一段时间的其他公司建立联系，共同构建基本的相互理解和技术。”
