人类将会失去这些力量 | 尤瓦尔·赫拉利今日最新演讲

尤瓦尔 · 赫拉利 | 耶路撒冷希伯来大学历史系教授，现象级畅销书《人类简史》、《未来简史》作者。

活动来源：7月6日，“未来进化”首届 XWorld大会，由中信出版集团、百分点主办。笔记侠作为合作方，经审阅授权发布。中信出版集团供图，摄影师：朱方刚 。

  责编 | Even

第1561篇深度好文：7989字 |10分钟阅读

今天我要跟大家介绍的可能是我们这个时代最著名、重要的科学发现，或者可以说是整个21世纪人类历史上最重要的一个演变，我们称之为“人工智能”。

人工智能不仅仅是21世纪最重要的科学进化，也不只是我们人类历史上最重要的科学进化，甚至是整个生命创始以来最重要的原则。有机生命根本的规则没有发生变化，与过去的40亿年当中都是保持一致的。过去40亿年当中，所有生命都是按照优胜劣汰的原则进行演变，所有的生命完全按照有有机化学的规则进行了演化。

因为我们的生命是有机化合物组成，不管你是巨大的恐龙还是一个阿米巴虫，还是一个土豆，还是一个人，都是按照物竞天择的规则，都是有机化合物组成的，我们完全遵守过去40亿年有机化学规律的演变。

这样一个40亿年的规则将会随着人工智能出现而发生根本变化，人工智能将替代物竞天择自然选择的结果终止。我们的生命将根据计算机智能设计，脱离原先有机化合物的限制，脱离原先有机化学的限制，突破原先的限制而进入一个无机的世界。

在我们有生之年，有可能看到有机生命会逐步被无机生命所替代。我们会逐步看到有机化学规律和无机智慧性的生命形式并存。原先我们是碳基的，未来生命形式当中，硅基会成为主要的生命形式。这是我们有生命以来的40亿年当中第一次出现的一个重大变局。

在过去的40亿年当中，大家想象一下，所有生命都是局限在地球这样一个行星上面，没有一个生命、阿米巴虫或者任何一种生命形式有能力突破我们这样一个行星（地球），去其他的星系进行殖民。这是因为自然选择规律让所有有机物、有机体局限在地球中，一个非常独特的环境——温度、气候、阳光、重力。

一旦我们从原先有机的生命形态转变成为无机的生命形态，比如机器人，人工智能计算机等，那么环境就没有限制了。机器人在火星上面也可以生存，而人类不可以。我们在科幻小说或者电影当中看到的一些场景，现在对于人类来说仍然是非常困难的。因为我们这样一个有机生命体在地球以外的外太空是很难生存的，但是计算机机器人、人工智能相对而言，比较容易能够在地球以外的其他星球和星系中生存。

因此，在地球出现生命以来的40亿年，我们有可能突破地球的限制而进入到其它星系，不是人类，而是人工智能可以做到这一点。另外一个重大突破性的演变，也是在我们有生之年可以看到的，事实上大家已经从某种程度上经历了这样一种变革。

什么样的变革呢？我们人类上万年以来在演变过程当中获得了越来越多的力量，在21世纪的时候人类将会失去这些力量，这些力量将逐步从我们这个物种让渡给人工智能。比如世界上在发生什么，甚至我们自己生命在发生什么，这些权力或者我们掌控的力量，不管重要的还是不重要的，将会逐步拱手让给计算机或者人工智能的这些算法。

1、人工智能可以了解你的喜好

举一个很简单的例子，比如你下一个月读哪一本书，这是我们生活当中很简单的决定，我们可以有很多的选择。以前很多人会依赖自己的感觉、喜好、口味，或者依赖朋友、家人的推荐。选择哪一本书阅读，目前取决于我们自己的感觉、喜好、口味，但是进入21世纪以后，我们逐步把阅读什么书，购买什么书这样的权力让渡给了电脑、计算机、算法、让渡给了亚马逊网站。

所以当我们进入到亚马逊未来的书店中，有一个算法告诉你：我一直在跟踪你，我一直在收集你的数据，你喜欢什么书、不喜欢什么书，我都知道。亚马逊的算法会根据它对你的了解，以及它对于上千万读者的了解向你推荐书籍。

但这个仍然处于初级状态，这只是人工智能迈出的一小步，亚马逊网站对你的算法仍然非常有限。进入到下一个阶段，今天已经发生，我们看到这样的算法越来越了解你。今天越来越多的人看书不是看纸版书，而是阅读电子书，在手机看书或者一些电子阅读器上面看书。当你在这个设备上读这些书的时候，这个设备也在“读”你。

这是有史以来第一次不仅仅只是人类在阅读一本书，当你在读一本书时，书同时也在“读”你。你的智能电话、智能平板在跟踪你，监测你，搜集你的数据，这些设备可以了解到哪一页你会很快地翻过去，哪一页你是慢慢阅读的。

这些数据会给出一些结果：哪些对你来说是无趣的章节，哪些是你喜欢的章节，它也知道哪一页你不读了。当我购买了别人推荐的书，读后虽然不喜欢了，但我还是会告诉每一个人这本书非常好。为什么？因为我不想丢脸，别人都说这本书很好。要知道这样只能骗了别人，计算机这个算法是不会被你骗的，它知道你读到第五页不读了，或者读到第42页的时候不喜欢了。

2、人工智能可以体会你的情绪

以上是非常初步的功能，下一步它的设备可以连接面部识别的一个软件。今天面部识别的算法很初级，但是慢慢地，它会学会通过看你脸部的表情判断你喜好。这就跟我们看别人一样，我知道你的表情背后掩盖着什么样的感情，什么样的感觉。通过观察你的面部表情，肌肉的变化就会知道你是在笑还是在生气，或者只是无聊了。

这是人类用来认知情绪的方式，今天计算机也在学会、提高对于情绪的识别能力，甚至比人类做得更好。他们能够找到面部活动的规律，并且用这种规律来分析和评判一个人目前的情绪状态是怎样。我们把这样的一个软件和kindle这样的电子阅读器结合在一起，kindle能够判断你正在阅读的书对你产生的情绪影响。

你在看书的时候笑了，这时候它知道你笑了；你看到某一章生气了，它知道你生气了。我作为一个作者，经常想象书中的哪一章哪一节，读者会看着看着就笑了，他们会不会理解我埋在文中的笑点，能不能看出我写这段文字是表达讽刺。我不知道，但是亚马逊会知道。如果87.3%的读者在读到这一段的时候，这个笑话没有笑说明这不是一个有效的笑话。

3、人工智能可以提出适合你的建议

最后一步把设备和生物识别传感器结合在一起，这些生物识别传感器是植入在体内，这不是科幻小说，已经实实在在用了。生物特征传感器能够持续不断地监控我身体各种生物指征。我现在给大家做讲演，我的血压心率是多少，血糖水平或者我的激素水平是多少。

但是你不知道，计算机通过刚才讲的这样的技术能够知道我每一刻血压的变化。根据这样的数据，我们大家想象一下你正在读一本非常长的书，比如托尔斯泰的《战争与和平》，当你读完的时候，实际大部分情节都忘了，但是亚马逊、腾讯或者百度任何一家公司，它的电子阅读器通过生物识别传感器记录了你阅读这本书的状况。

在我读完《战争与和平》之后，这个设备就知道我是一个怎样的人以及性格特点是什么。根据这样的一种知识和了解，设备不光能够向我推荐书籍，而且也能够围绕着我生活中更加重要的决策，向我做出建议。比方我应该学什么，该生活在哪，应该在哪儿上班，甚至和谁结婚。

人生当中最重要的决定之一，可能就是你的一生要和谁度过——伴侣的选择。在选择伴侣这件事上，很多人犯过糟糕的错误，我们主要赖于自己的感觉以及亲友家长的建议。现在有对情侣，该结婚还是分手？二三十年以后，你可能可以问亚马逊百度、腾讯这样的问题，今天你得靠自己的感觉和亲友的意见。

那时候，亚马逊等公司对于我个人、和我相处的人已经如此了解，你可以问它们的建议。你迄今为止所有的邮件、微信消息、手机通话它都在追踪，看书、看电影时，它在监控你血压心率的变化；你每次约会的时候，它也在监控你约会水平的变化。

它对于你个人所有信息的了解以及伴侣的了解，对几百万人的成功或不成功的伴侣关系的理解，可以告诉你：现在你和你的男朋友或者女朋友结婚的概率是90%。因为在你一生当中找不到更好的伴侣了，因为它如此地了解你，你心里想的可能是：我有能力找到一个更好的伴侣，更好看更漂亮的伴侣。它会知道你这样想的错误来源所在：你对外表太看重了。

你在选择的时候，考虑的因素还是五万年前我们的远祖祖先在非洲的大草原上择偶的标准。现在机器会告诉你：根据我的统计数据，即使外表对于关系的成功与否具一定的重要性，但是这个重要性是比较小的，可能只占整体权重的10%，也就是在一个成功的关系当中只有10%是取决于外表、美貌。

机器会告诉你：我已经看到了这样的现实。从长远来看，你和现在这个人在一起会是最幸福的，你应该和他结婚。

在这样的一种设想当中，决策的权威、权力已经转移了，从人类手中移交给了算法。我们在这需要理解的是：做出决定的能力就像一组肌肉一样，这样的肌肉你不用的话就会退化，你对计算机信任越多，依靠人工智能来做决定越多，你就会失去自己做决定的能力。

活动现场

给大家举一个简单的例子：找路。在北京找一条路，去一个地方，比如火车站，过去我们怎么找路？基于自己的本能知识经验，到一个十字路口该左转还是右转，你会依赖于自己的经验。今天我们越来越多的人依赖智能手机、各种各样的GPS、地图的应用。

你的本能告诉你应该右转，但是智能手机告诉你左转，你越来越多地相信智能手机，而不是直觉。经过一段时间之后，你的认路、找路能力就丧失了，即使你还想这样做。在北京这样的空间找路、认路，今天我们靠机器，二十年以后我们在自己的人生当中碰到了这样的十字路口要做决策的时候，很多人会用智能手机、人工智能来做决定，他们会告诉你该怎么做。

随着人工智能变得越来越好，有可能人工智能会把人从就业市场当中挤出去，对于整个社会的经济和政治都产生革命性的影响。

1、减少交通事故

十年前，如果说计算机驾驶的技术比人更好，大家会觉得这是一部科幻小说。但是今天所有专家都达成了共识。可能再过一两年时间，计算机就能够比人类驾驶员的平均水平要好得多。届时数以百万计的出租车、卡车、公交车司机会失业，让位于自动驾驶汽车。

它不仅开起来好，安全性要高得多。今天世界上汽车事故造成的死亡人数比战争暴力还要多一倍。战争、恐怖主义犯罪，每年造成60-70万人死亡，汽车每年造成130万人死亡。大部分汽车事故都是由于人为造成的，比如酒驾，开车的时候打电话，或者睡着了，或者发信息。

今天交通事故当中人是主要的因素，有了人工智能就不会有这样的问题。自动驾驶的汽车永远不会喝酒，自动驾驶的汽车也不会在开车的时候睡着了，也不可能在开车的时候接打电话，这样自动驾驶汽车就能替代人员驾驶员的作用。

2、解决道德伦理上的难题

除此之外，人工智能也能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中，突然前方有两个孩子在踢球，这个时候负责自动驾驶的计算机通过算法可算出避免撞死这两个孩子的办法是快速转向另一条车道；另一个解决方案可能就是让客户、车厂来决定。

比方丰田让客户决定自己要选用哪一款车，有一款车碰到这样的情况会决定让你死，那么另外一款车会决定刹车但是仍然会撞死前面两个孩子，你会买哪一款车，选哪一种算法？世界上最优秀哲学家先把这样的程序做好，我们在理论上考虑的所有东西有各种各样的理论，但是这些理论对于遇到危机时的作用甚少。

大家可以说道德的选择是牺牲自己的生命救前方的孩子，但是一旦你真正上路了，在几秒内必须做出这个决定时，你就会忘记刚才的结论，会根据你的本能情绪来采取行动。

那些理论哲学上的行为之间和人类实际行为是有巨大差距的，但是有了计算机人工智能，我们就能解决这个问题。我们可以把世界上最优秀的哲学家集合在一起，让他们坐在一个房间，给他们一年时间讨论道德上的难题，不管最终拿出了什么方案，就把这个方案写到自动驾驶汽车的程序当中。

谈到伦理道德决策，人工智能也有可能是平均意义上比人类更好，因为这意味着这样的自动驾驶汽车，假设每一辆车里面驾驶员都是孔子，这样对于人类驾驶员来说他们被人工智能替代之后，当然一方面会带来很多优势：更加安全、更加便利。

与此同时另一方面会使决策权从人民大众手中转向人数很少的一批精英的手中。过去这样的权力和福利是由数以百万计出租车司机，公交司机，卡车司机来分享，现在不是，现在都交给了人工智能，他们就掌握了世界上所有的出租车、卡车、公交车。

3、做更优秀的医生

不光是公交车司机，甚至是医生这个工作都会发生变化，在人工智能当中这样的事情已经开始发生。人工智能在疾病诊断方面能够做得更好，提出治疗方案比平均水平的医生更好，普通医生的知识和能力是有限的，不可能每天都在更新知识，不可能一个人知道全世界所有的疾病药物和研发结果。

对于一个医生来说拥有的数据是有限的，但是对于人工智能来说这都是无可限量的，可以收集信息分析信息，熟知全世界所有疾病，能够24小时不间断地跟踪一个患者。

今天我的私人医生在以色列每年给我做一次体检，他和我报告我的健康状况。有了人工智能之后相当于你身边就有一个医生，随时追踪你的血压，即使我现在在中国，人工智能应用也会像一个医生一样随时了解我的健康状况，每0.5秒了解一下我血液的状态。

这不再是每年做一次体检，意味着对于癌症这样的疾病不是等到癌细胞扩散时再去医院检查，而是在刚刚出现癌细胞的时候就能够被发现。即使我没有不好的感觉，但是人工智能已经发现了。

因此，人工智能会发现癌症早期的症状提出诊疗方案，一个好医生不仅仅是了解你病情，还需要一些情感方面的了解：病人是不是害怕了，或者生气了，愤怒了等等。所以有人认为人工智能做不到，事实上人工智能比人类医生还能够抚慰病人心灵。

活动现场

人类医生怎么判断呢？可能看你的面部表情，某一个声音语调的变化，但是人工智能可以更加精准地分析你的面部表情，说话的语调变化。它能更加精准地比人类医生了解病人情绪的变化，监控某一个病人内部身体情绪的变化。有时候病人自己都不知道自己是什么状态，但是人工智能可以，因为他在不断监控你的心跳血压状况等等。当然想要创造出这样一个人工智能医生，还有很多问题需要去解决，很多技术难题需要突破。

我们技术上只要实现一次突破，就可以解决一切的问题。人工医生怎么培训？可能需要八年大学硕博连读，临床实习之后才会培训出一个合格的医生来。十年之后，我们花了这么多资源只不过培养出了一名人类医生，这时候培养第二名又需要花十年时间。

但人工智能只要技术上实现一次突破，你拿到的不是一个机器医生而是无穷多的人工智能医生，他们可以被复制。这个比培训人类医生要效率高得多，虽然一开始要花数百万亿美元研发，但是一旦研发出来就可以无穷复制。

随着技术发展我们可以用机器替代出租车、司机、医生其他职业，人工智能逐步都可以替代，这时候出现一个非常大的人类社会学问题。

正如第一次工业革命使得城市无产阶级出现，人工智能的出现会出现一个新的阶层，就是无用阶层。数以亿计的人将找不到工作，他没有办法和计算机人工智能竞争，对这些人来说他已经丧失了经济的价值，没有经济价值也就没有政治权力，这会对社会、政治、经济方面产生巨大的问题。

当然大家说会出现一些新的职业，但你没有办法确定会出现哪些新的职业替代那些正在消失或者被机器抢走的职业。我们可以说人会自己不断地学习，不再需要卡车司机、出租车司机，会有新的职业设计未来的事业，设计3D计算机游戏。

你想一下一个50岁的出租车司机失业之后，他有多大能力去培养自己？对于50岁的出租车司机来说，他要重新培养自己的能力，这样就太晚了。这样的革命非常危险，它会从根本上改变我们的教育体系。

今天，你会教孩子什么？今天在学校里我们应该教孩子什么？大学里面应该教孩子什么？让他们能够在二三十年之后适应当时的就业市场。

事实上我们没有人能够描述三十年后、二十年后的就业市场，换句话说我们现在的教育系统没有办法了解今天应该教我们的孩子什么。今天我们的孩子在学校里面学到的所有知识二三十年后完全无用，我们不知道现在应该教他们什么，才能够让他们在二三十年后找到工作。

即使我们会产生新的工作，二三十年后可能产生新的工作，但是今天孩子到那天是不具备那些新工作的就业能力的。那么这个时候出现了数百万、数千万甚至上亿失业人口，他们丧失了经济价值，这会产生进一步威胁。人类未来的精英阶层是否还会有动力照顾那些弱势群体？

活动现场

现在，世界各地的政府还会投资于那些弱势群体，为什么？因为政府精英群体需要这些弱势群体，即使是德国的纳粹希特勒，他也要投资这些弱势群体。他要变大，需要有强大的军队，需要普普通通的数以百万计的德国人去给他当兵，成为工厂的工人才能支撑他打这样的战争，所以投资大量的资金用于教育和医疗。

但是未来如果人工智能替代人类，他可以替人去打仗、去做工，这样国家精英阶层就没有动力去投资医疗教育，帮助弱势群体。

人类社会会分成两大阶层，一个是非常少的精英阶层，就像上帝一样，他们在创造大量的人工智能，绝大部分人将变成没有任何经济价值任何无用的阶层。这是21世纪最大的风险。

最后一点在我结束演讲之前，这也是非常重要的一点：有很多关于人工智能的讨论，但是也有很多关于人工智能究竟意味着什么的迷惑和疑问。智能和意识之间究竟有什么区别，很多人迷惑。

智能是解决问题的能力，比如我们诊断一个疾病，或者找到某一个疾病的治疗方法，这是智能。但是人类的意识是感受某一种外界的能力，你的情绪、你的感情、你的痛苦、愉悦、爱等等。人类和其他的哺乳动物，大猩猩猴子等，他们的意识和感情是合二为一的。

但是计算机不一样，随着水平越来越高，他们也能产生意识，很多科学的科幻小说或者其它科幻电影中，我们经常看到人工智能逐步产生了意识，机器人计算机变得非常智能，同时获得了意识和情感，机器人会变得非常愤怒，他想杀掉所有的人类。

我们在科幻小说电影中都看到过，它不是科学只是科幻。科学告诉我们智能和意识是完全不一样的两个东西。到目前为止，我们计算机或者人工智能发展到今天，智能水平在不断提高，但是人工智能的意识还是零。

换句话说：我们现在没有任何指标证明或者任何迹象表明，计算机和人工智能在未来能获得这种意识。计算机只是以一种完全不同的方式在工作，和人类其他的哺乳动物完全不一样，这是我们面临的风险，或许是最大的风险。

计算机会比我们智能得多，比人类水平高好多，他会控制这个世界，开始向宇宙其它星系去扩张，但是他们仍然没有意识。我们会有一个充满智能机器的宇宙，但它们却丧失意识和情感。大家可以想象生命过去的演变在逐步向更高的智能发展（无论是人类或者其他哺乳动物），在演变过程当中是非常慢的。

上亿年的生命通过我们的意识不断摸索，慢慢演变到今天的智能状况，速度是非常慢的，演变需要数百万年的时间。突然有一个计算机突然杀出来，他们用完全不同的路径、方式，完全不同的发展模式，超级的智能在赶超有机的生命体。他们智能的进化和演变速度比我们快得多，他们的发展演变比我们快得多，他们会控制整个世界甚至宇宙，但是没有意识。

我讲的东西不是一个寓言。没有人会知道未来是什么样，一切还悬而未决，同样一个技术你可以创造出完全不同的社会和世界。我们在21世纪曾经看到过这一幕，我们的技术、汽车、广播、电视、计算机，可以利用相同的技术创造出社会主义的国家，资本主义的国家、法西斯国家也都是利用同样的技术。

同样，人工智能的技术毫无疑问会改变我们的世界，但是我们未来的社会究竟怎么样？这会有很多选择，而不是完全由技术来决定的，一切都悬而未决。如果大家不喜欢我刚才描述的这个世界，大家仍然可以用自己的行动去改变决定未来世界的形态，去消除风险，发挥技术好的那一面。

最后我想讲的就是：当你作为一个个人，一家企业、政府部门，或者作为精英阶层，我们在做人工智能的时候，做各种各样决定的时候，一定要注意人工智能不仅仅是单纯的技术问题，同时也要注意到人工智能以及其它技术的发展，将会对社会、经济、政治产生深远的影响。

我们一定要注重人工智能技术层面的问题，还要严密关注人工智能的发展对社会可能产生的影响。因此，我们在投资与技术发展的时候，还要投入于社会影响的研究，谢谢。

点击阅读原文

即可带走《未来简史》