AI换脸全球引争议 Facebook联手微软发起检测挑战赛

北京时间9月6日早间消息，Facebook周四表示，该公司与微软、Partnership on AI以及多所大学的学者共同发起了一场竞赛，希望能更好地检测深度伪造技术。

这家社交媒体巨头将向“深度伪造检测挑战赛”投入1000万美元，旨在激励检测研究。作为该项目的一部分，Facebook还委托研究人员生成逼真的深度伪造内容，通过这些数据集来测试检测工具的效果。

该公司表示，即将于12月发布的这些视频将以付费演员为特色，不会使用任何用户数据。

一些研究人员正在研究一套通过数字水印在拍摄点验证视频或图像的系统。但是，深度伪造技术的迅速发展在制作者与检测者之间引发了军备竞赛。

“这是一场猫捉老鼠的比赛。如果我设计一个深度探测器，就会给攻击者一个新的鉴别器进行测试。“纽约大学坦登学校计算机工程助理教授西德哈斯·加格（Siddharth Garg）说。

上周，一个名为ZAO的中国应用允许用户在电影或电视剧的片段中与明星换脸。虽然引发广泛批评，但该应用还是迅速蹿红。

一些在线的深度伪造创作者也在开拓这种易于制作的深度伪造市场。位于波兰和日本等国家的机器学习爱好者正在方便人们获得定制的深度伪造内容。他们还向YouTube中上传指导教程，有的还针对50个单词的假冒特朗普演讲收取30美元，也有一些运行自助服务网站来制作深度伪造内容。

“深度伪造检测挑战赛”并非Facebook第一次资助类似的学术研究。

Facebook表示，为了应对这一威胁，它正在为加州大学伯克利分校、马里兰大学和康奈尔大学的团队投入750万美元。

其中一支由加州大学伯克利分校教授韩迪·法里德（Hany Farid）负责的团队正在构建“软生物识别模型”，它将真正的政治家的面部怪癖映射出来，从参议员伯尼桑德斯的眉毛跳跃到参议员伊丽莎白沃伦的头部转弯，以检测新视频是否为假冒视频。