“换脸”争议：ZAO是否打开了潘多拉之盒？“赛博人”该如何自保？

新京报传媒研究 · 公众号 · 社会 · 2019-09-05 10:18

正文

自8月30日上线以来，ZAO迅速刷屏爆红，随即陷入舆论质疑。直至9月4日，面对众多争议，工信部约谈了孵化ZAO的公司陌陌，要求其开展自查整改。 ZAO面临争议的核心问题是什么？“换脸”是否打开了一个潘多拉之盒？现代“赛博人”该如何自我保护？

8月30日晚间，一款名为“ZAO”的换脸APP在朋友圈和微博爆红刷屏。如APP宣传语所说，“仅需一张照片，出演天下好戏”，用户可以秒变影视作品明星脸，很难不让人心动。

▲换脸软件“ZAO”火了三天就要黄？评分暴跌。视频来源：新京报|我们视频

上线短短两天，ZAO就登上了App Store免费榜第一名。但随即质疑声接踵而至，有法律专业人士指出，该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题，甚至可能造成完全失控的“生物识别信息”安全问题。

9月3日，ZAO的运营团队在其官方微博发布声明致歉。声明称，ZAO不会存储个人面部生物识别特征信息，不会产生支付风险，公司非常重视个人信息保护和数据安全。

面对众多争议，9月4日，工信部约谈孵化ZAO的公司陌陌。

ZAO面临的争议

“ 生物识别信息 ”失控等风险

ZAO引发舆论争议的焦点是隐藏在用户协议中的“霸王条款”，有人士认为，其一方面过度攫取用户授权，另一方面涉嫌侵犯肖像权。

在最初的用户协议中，第6条第1款规定： “在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑。 ”其中的“可转授权”和“可再许可”的权利就很值得商榷，用户同意将自己的肖像授权给ZAO，即便有一天肖像被再次转卖也无能为力。

随后，ZAO多次修改用户协议。在9月3日更新后的用户协议中，ZAO在特别提示中表示，真人验证环节仅为验证上传的照片是否为用户本人，ZAO不会存储个人面部特征信息，并且完全删除了之前被声讨的“ZAO及关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”的内容。

但北京达晓律师事务所主任林蔚认为，该类条款在司法程序中被判无效的可能性极大，用户协议也并非根本问题。他强调，落在用户身上真正的风险是用户一旦提供或让渡，即可能产生完全失控的“生物识别信息”的安全问题。

生物识别信息是指，基于人体固有的生理特性（如指纹、脸象、虹膜等）和行为特征（如笔迹、声音、步态等），可用于个人身份识别和鉴定的信息。而ZAO收集的静态和动态的脸象即是典型的生物识别信息，属于敏感的个人生理特征信息。正因为其难为一般人所更改，所以被广泛用于身份认证、交易和支付环节，如该信息一旦泄露，势必给用户带来持久和难以消除的影响。

深度伪造技术

“ 换脸 ”打开的潘多拉之盒

ZAO所用的深度伪造（Deepfakes）技术是AI深度学习应用于脸象识别和应用领域的一个分支。 “换脸”常被应用于电影特效制作，在美国好莱坞已经存在了20多年，本身并不新奇。将“换脸”推到风口浪尖的是近年来出现的一系列融合了深度伪造技术的“假视频”。

2017年12月

美国论坛Reddit上的用户“Deepfakes” 发布多段伪造名人色情视频，其中包括“神奇女侠”盖尔·加朵和“赫敏”艾玛·沃森。Deepfakes借由AI技术近乎完美地实现动态换脸，引发了大量讨论和抨击，最后以账号被封告终。

2018年01月

可实现“一键换脸”的FakeApp的软件上线，其制作的视频内容千奇百怪，包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星上。

2019年02月

B站Up主“换脸哥”通过Deepfake修改了94版《射雕英雄传》的视频片段，将朱茵的脸换成杨幂的脸，视频蹿红网络。随后，“换脸哥”发布微博称“及时下架了相关视频”。

2019年06月

一款名为DeepNude的App宣称能实现“一键脱衣”，只要给它一张人像照片，等待30秒，就能得到一张裸照。由于风险超出可控范围，其开发者在上线几天后便匆忙下架了该产品。

法国哲学家鲍德里亚认为，“仿真”是被代码主宰的当下时代的主要方式，通过一系列的仿真技术，人们在缺席于某种场景时，能够获得临场的感官享受和神经的快感。 ZAO这类“换脸”娱乐软件正是迎合了现代“赛博人”在虚拟世界获得廉价感官刺激的需求。

由一系列的“假视频”风波看来，“换脸”已然打开了一个潘多拉之盒，人工智能技术的伦理问题再次被广泛关注和讨论。过度收集数据、侵犯个人隐私、危及财产安全……科技在拓展了人类可能性的同时，无疑也能够让人们作茧自缚。

可能的防范对策
“赛博人”该如何自我保护

“换脸”争议：ZAO是否打开了潘多拉之盒？“赛博人”该如何自保？

正文

请到「今天看啥」查看全文