向 Deepfake 宣战！

AI开发者 · 公众号 · AI · 2020-01-14 18:37

正文

点击上方“蓝字”关注“AI开发者”

做得不够好总比什么都没做要好。

作者 | Rachel

编辑 | Camel

Deepfake，这一 AI 领域的“大毒瘤”，正在引起越来越多来自行业的反击。

当地时间 2020 年 1 月 6 日，Facebook 全球政策管理副总裁 Monika Bickert 在博客中表示，Facebook 将删除满足其标准的 Deepfake 视频。这是 Facebook 打击平台上「操纵媒体」（Manipulated Media）的最新动作。

图片来源：华盛顿邮报

Monika Bickert 表示：

虽然 Deepfake 视频当前在互联网上仍然很少见，但其数量的增加将会对行业和社会构成重大挑战。

1、何为 Deepfake？

Deepfake，大家可能或多或少听过名字。

2017 年底，美国社交新闻网站 Reddit 的一位用户 Deepfakes 运用人工智能技术，制作了一段“假”色情视频，把《神奇女侠》女主角 Cal Gadot 的脸嫁接到一个成人电影女星身上，一时间引起轰动。

实际上，换脸在计算机视觉领域颇为常见，提到 AI 换脸的方法，一个绕不开的话题便是 Cycle GAN——人脸转换在早期的一个重要尝试。Cycle GAN 由深度学习模型 GAN（Generative Adversarial Networks，即生成对抗网络）衍生而来，可以便捷地学习两个类别之间的转换关系，因而天然地适用于「图像到图像转换」。

不过，Cycle GAN 保证了语义上的转变，却没法保证一些细节问题，而最主要的两点便是表情无法一一对应、会出现混杂无意义的像素。

不同于 Cycle GAN，Deepfake 是一种深度自动编解码器模型（Autoencoder-Decoder），通过用源人物和目标人物的至少几百张照片，训练模型分别识别、还原两人面部的能力，最后用源人物的照片搭配目标人物的解码器，从而完成转换。

图片来源：GitHub

当然，Deepfake 也有局限——无法在小样本上工作，也就是说无法凭一两张照片就替换两张脸，模型的训练过程也需要消耗大量资源。

AI科技评论了解到，由于用户 Deepfakes 制作并上传的换脸视频涉及色情内容，且侵犯了他人隐私，Reddit 官方将其封号，而作为报复，Deepfakes 也将换脸视频的 AI 代码免费公开。

潘多拉的魔盒一打开，Deepfake 开始凭借着惊人的发展速度、逼真的换脸效果，并最终造成了恶劣的社会的消极影响。荷兰网络安全初创公司 Deeptrace 曾于 2019 年 10 月发布了一份关于 Deepfake 现状的报告（详见AI科技评论此前报道），并指出网络上现有的 Deepfake 视频中有 96% 涉及色情，各大色情网站上流传的 Deepfake 视频中，所有受害者均为女性；同时，娱乐圈名人成为 Deepfake 视频的主要恶搞对象。

另外，Deepfake 对政局的影响也不容小觑，其中最为典型的两个例子是：

2018 年，由 Deepfake 合成的加蓬总统 Ali Bongo 新年致辞视频曾引起了兵变；
2019 年，马来西亚经济部长 Azmin Ali 与男性发生性关系的视频搅动了马来西亚政局（注：同性性关系在马来西亚属违法行为，Azmin Ali 声称视频是由 Deepfake 技术伪造，属政治阴谋）；

正如荷兰网络安全初创公司 Deeptrace 创始人兼首席科学官 Giorgio Patrini 所说：

无论是视频、音频还是文本，我们一直以来依赖和信任的多个数字通信渠道都已遭到了颠覆。

2、政府、企业、学界联合发力

Deepfake 视频的发展自然而然引发了人们的恐慌与深思。因此，各大科技企业也开始联合学术界做出行动，避免造成更深的负面影响。

正如纽约州立大学工程与应用科学学院吕思伟教授所说：

解决这一问题需要技术人员、政府机构、媒体、公司以及每一个在线用户的共同努力。

2019 年 9 月 5 日，Facebook CTO Mike Schroepfer 宣布，Facebook 正与微软公司联合包括麻省理工学院、牛津大学、康奈尔科技校区和伯克利大学在内的多所大学研究检测 Deepfake 的方法，同时非营利性研究组织 Partnership on AI 也参与其中，该组织的成员包括 Google、苹果、亚马逊、IBM 等大型科技公司。

另外，Facebook 投入了 1000 万美元发起“Deepfake 检测挑战赛”（Deepfake Detection Challenge，DFDC），竞赛于 2019 年末在温哥华举行的 NeurIPS 2019 上正式启动，并于 2020 年春季结束，进而激励研究人员以及业余爱好者寻找解决方案。

当月，Google AI 开源 Deepfake 视频检测数据集，该数据集共包含来自 28 个不同场景的由真人演员历时 1 年现场拍摄的 3000 多段视频。

2019 年 10 月初，美国参议院情报委员会的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和领英在内的 11 家科技公司负责人，旨在加快制定行业标准，规范 AI 合成内容的分享、移除及存档。月末，Twitter 发布了平台拟将执行的草案，并公开征集用户意见。

正如本文开头提到的，Facebook 近日发布博客，公开了针对 Deepfake 视频的新政策。

向 Deepfake 宣战！

正文

请到「今天看啥」查看全文