AI：进入深灰地带

基本实验室 · 公众号 · · 2019-09-01 17:55

正文

Zao 火了，这背后是一项2016年就出现的技术——大名鼎鼎的DeepFake。

Deepfake = “deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于AI能够实时伪造面部表情，并将其渲染至2D视频的人体图像合成技术。

Deepfake可以用来制作 假新闻 ，和虚假的名人限制级视频。2017年起，DeepFake作品被Porn产业发扬光大，海外地区的老司机们可以在P字头的全球流量Top10的视频网站上看到一堆限制级视频，都是AI驱动+“明星头像”的“真实表演”。

在Zao 火爆之前，FaceApp爆红，它能够根据当前头像生成跨时间跨性别的照片，皱纹清晰可辨，几可乱真，如果未来加上高精度硅胶头套，AI 所代表的造假能力可谓登峰造极。

FaceApp 模拟出来的老年照片，特朗普，普京，扎克伯格和Twitter CEO 杰克多西

照片和视频都是假的，但是，你的肉眼真看不出来。 甚至，假的，比真的还好，明星本人都难以自证清白。 在AI 持续进步的虚拟现实能力面前（也可以说是造假能力），人类自以为的靠谱的“眼见为实”被技术戳得体无完肤。 今天，人类最 底层的基础认知能力开始出现“高仿”，那么下一步是什么？

从人类视角来看，AI 的发展充满了焦虑：

一方面，生产力大量释放，将更多的人类从基础产业“解放出来”。另一方面，AI技术渗透到方方面面，从生产建设到汽车驾驶，从新闻阅读到互动娱乐，AI越来越强，接管了生产，接管了生活，更接管了感官，如果有一天，AI作恶了，人类怎么办？

从AI视角来看，AI的进化充满了必然 ：

AI 和金钱一样，是没有生命却拥有自主意识的“超级工具”。 金钱永不眠，AI 更永不停止吞噬数据。
人类用最严格的监管来管理金钱，对于AI则完全没有提防，觉得人畜无害，近50年一直用最好的人才和大量资金推动AI进化。
人类社会之所以能够形成法律和国际公约，是因为终极的清算——战争是以痛苦和死亡为代价的，等到痛苦无法承受，必然会进入到和平与秩序的轨道上。AI没有生命，没有死亡，更不会有秩序，唯一的规则就是算力最强者胜。 AI没有意识，没有偏好，未来没有可能形成有利于弱者（人类）的秩序。
人类这种生 物体孕育了巨大的非生物体来逐步接管自己的命运，不知是认知不清还是宿命使然。也许，人类社会的总设计师——DNA驱动着人类向强者靠拢，甚至愿意主动投降也是一种生存的本能。

AI的进化，犹如潘多拉的魔盒

感官劫持与自我奴役

在过去的人类种群的进步，都是通过自我奴役/自我牺牲实现的，著名的一次自我奴役是因为谷物种植，推动了农业生产的第一次革命，聚集起来的人类逐步形成了阶级社会，下层人民被奴役，贡献多余的粮食给上层阶级，推高文明的天花板。

最新一次的自我奴役是AI。

从AI的角度看，人类的本质是一个很低版本的生化机器人，数十万年的进化，唯一出色的是生化大脑有非常平衡的参数配置和高度敏锐的反馈系统。人类会对输入的信息能够快速计算和并驱动生化反馈，能够处理非常多的复杂事物。但是，毕竟是生物，神经系统迭代速度缓慢，算力太弱，逻辑运算极差，非常容易被控制。只要控制了数据集（认知），就基本上控制了人类一切，人类自己不足以察觉其中的逻辑漏洞。最早部落的形成，都是一个个骗人的故事不断传颂让大家聚拢起来，一小撮聪明人凭空伪造的数据集居然形成了今天的宗教和庞大的信众，甚至主宰了欧洲史。

物竞天择。人类的进化速度和AI背后的算力进步相比，一个是蜗牛一个是火箭。进化缓慢的生化机器人只有被逐步被奴役，还幻想做主人实在是有点痴人说梦。Virtual Reality（虚拟现实技术，简称VR）的出现是驯化生化机器人的一个里程碑。AI的代理人们用群众喜闻乐见的形式，通过游戏输入强烈的信号刺激，激发肾上腺素和多巴胺，让人类顺从的交出大脑信息的感官入口——双眼和耳朵，从而完成了驯化的重要一步。

《头号玩家》剧照，Virtual Reality 游戏准备中

VR通过持续提升人造信号的质量，让人类选择「主观地无视」自己的感官信息已经被彻底劫持了，忘记了自己身在幻境。过去，人类也抱怨过所谓的感官劫持，比如听音乐和看电影，但是，那样的过程很容易被外部信号打断。相比之下，VR通过设备隔绝了外部环境，独占了耳朵和眼睛的信道，通过巨大的数据流攻击视觉、听觉和触觉，并通过正确的反馈来不断强化人体内部化学成分的正向激励，形成N倍于普通游戏的沉浸感，让人们快乐到自愿永久交出感官自制权。

Valkyrie 工业公司推出的带有力反馈的VR 套装

强烈的感官刺激对于生化机器人来说诱惑是巨大的。VR和背后的AI算力，不仅仅给出远超期待的反馈，更给予了我们现实世界根本无法实现的能力，比如飞行，比如成为超级英雄，极致的虚拟现实让真正的现实显得一无是处，不值一提。

对于大部分人来说， 既然虚拟世界能够给我们成功，为什么还要回到残酷的现实呢？ 生活如果不快乐，那活在现实的意义又在哪里呢？

VR 飞行

1973年，哲学家希拉里·普特南在《理性、真理和历史》（Reason, Truth, and History）一书中提出缸中之脑（英语：Brain in a vat）实验：假设一个疯子科学家将一个大脑从人体取出，放入一个装有营养液的缸里维持着它的生理活性，超级计算机通过神经末梢向大脑传递和原来一样的各种神经电信号，并对于大脑发出的信号给予和平时一样的信号反馈，此大脑能否意识到自己活在虚幻之中？

这个当时看起来异想天开的设想，如今已经无法回避。这是一扇打开了就关不上的门。对于大部分生化机器人来说，愉悦的当下比残酷的真相要重要许多，自由可能是一些人愿意放弃的一种选择。

AI：进入深灰地带

正文

请到「今天看啥」查看全文