【马里兰大学Soheil教授】深度学习鲁棒性:对抗攻击的有效防御研究，42页ppt

专知 · 公众号 · · 2019-10-26 12:02

正文

【导读】深度学习鲁棒性是当前AI研究关注的焦点之一。马里兰大学计算机科学系助理教授Soheil Feizi日前做了关于对抗攻击有效防御的报告《Certifiable Defenses against Adversarial Attacks》，讲述了关于(1) 针对额外攻击引入基于曲率的证书，(2)针对Wasserstein攻击引入“Wasserstein平滑”两方面工作，Feizi教授发表了对抗学习与鲁棒性的论文，可以上作者主页观看。

请关注专知公众号（点击上方蓝色专知关注）

后台回复“CRA” 就可以获取《对抗攻击的有效防御》PPT下载链接~

Soheil Feizi

Soheil Feizi是马里兰大学帕克学院计算机科学系的助理教授。他的研究兴趣是机器学习和统计推理。在加入UMD之前，他是斯坦福大学的博士后研究学者。他在麻省理工学院(MIT)获得了EECS的博士学位，并获得了数学的辅修学位。他在麻省理工学院完成了EECS的理科硕士学位，在那里他的论文获得了Ernst Guillemin奖，以及Jacobs总统奖学金和EECS伟大教育家奖学金。他是2019年西蒙斯-伯克利深度学习基金会研究奖学金的获得者，并在2019年获得了IBM和高通教员奖。他是UMD计算机科学系2018年秋季和2019年春季教学奖的获得者。他在极大关联方面的工作获得了IEEE《网络科学与工程学报》2017-2019三年的最佳论文奖。

个人主页

https://www.cs.umd.edu/~sfeizi/

对抗攻击的有效防御研究

虽然神经网络在不同的学习任务中取得了很高的性能，但在输入端存在微小的对抗性扰动时，其准确性会显著下降。在过去的几年里，人们提出了一些基于正则化和对抗性训练的实用防御方法，这些方法往往伴随着更强的攻击会被击败。为了避免这种恶性循环，新的工作重点是开发可靠的健壮分类器。在这些模型中，对于给定的输入样本，可以计算一个鲁棒性证书，这样对于鲁棒性半径内的输入的“任何”扰动，分类输出将“可证明地”保持不变。在这次演讲中，我将提出两种可验证的防御方法:(1)Wasserstein平滑法，用于防御非加性的Wasserstein对抗攻击;(2)基于曲率的鲁棒训练，用于通过网络的全局边界曲率值来抵御L2攻击。