别在奇点论上浪费时间了，十分钟看懂《智能的本质》

作者：皮埃罗•斯加鲁菲

现在讨论奇点，其实是在浪费时间

盲目的乐观可能是最致命的大规模杀伤性武器。 ——皮埃罗·斯加鲁菲

雷·库兹韦尔的系列著作让“奇点”的概念得以普及，并引爆了这一轮人工智能的热潮。奇点理论认为，我们即将迎来机器时代：机器的智能程度远远超过人类，以至于人类既无法控制机器，也无法理解它们的想法。

面对奇点论的未来预言，人们分成了两派：乐观的憧憬与悲观的恐慌。而本文所关注的则是，我们如何从奇点宗教预言式的理论回归到人工智能技术的现实中来。

奇点论正在成为人工智能时代的新宗教吗

奇点论的信众与当今世界三大宗教的相似之处非常明显，却被很多人所忽视。根据奇点论的预言，世界末日将以奇点的形式到来，不过，不用担心，我们都将通过意识上传复活，奇点论中所称的超级计算机将使之成为可能。

那些赞成奇点理论的论调和（非常微弱的）论证的确很容易让我们想起宗教预言，只不过这一次来拯救人类的弥赛亚不再是受外在神圣力量差遣而来的，而是我们自己制造的产品。所以，从某种意义上说，这是一门信仰人类自己创造的神的宗教。

奇点理论的魅力之处在于它用倒叙法讲述了宗教的历史。传统意义上的宗教会力图从源头上解释神秘的宇宙复杂性，生命的奇迹，以及意识产生的目的。甚至当今一些非常杰出的科学家也赞成“神创论者”的观点，相信世界是由超人类智慧创造出来的。这种理论通常被称为智能设计（intelligent design），但其更合适的叫法应该是超智能设计（super-intelligent design），因为智能（intelligent）一词仅仅指人类智能。宗教的重点恰恰在于相信人类智能永远无法制造的东西存在，它会设想人类能够发现的所有自然法则都不足已解释宇宙、生命、以及灵魂所蕴含的奥秘。任何可以借由数学规律解释的事物人都能完成，因此也不需要超自然力量的存在。相反，上帝是一种先于人类智能产生、并创造人类智能的奇点，而且无限优于人类智能。

幸运的是，这个至高的神有能力，同时也愿意给予我们永生的机会。通常意义上，这种永生就是信徒最终希望从其信仰中得到的东西。而目前奇点论所提出的假设——由于超智能机器的发展即将出现奇点——几乎就是这个故事的翻版。 过去的奇点（神）被用来解释那些令人费解的问题，而新的奇点（智能机器）却无法解释。人类智能既无法理解过去上帝在创造人类智能时的方式，也无法理解将来人类智能创造超智能机器的方式。

因此，奇点分为两个阵营：乐观派和悲观派。乐观派认为机器最终会将人类带入永生，而悲观派则认为机器可能会将人类带向毁灭。我至今还未曾听说有人在这个问题上与大多数宗教人士持相同的观点：好人去天堂，坏人下地狱。显然，奇点理论不会去区分好人和坏人：它要么会杀死所有人，要么将每个人都带入永生。（所以，将来金钱可能比善举更容易让人得到永生，因为就我的理解，永生终将成为一种待价而沽或是可租可借的服务，就像目前的云计算服务一样）。

计算机的运算速度会影响人类的智能水平吗

奇点论过于乐观的预测建立在计算机运算速度的指数增长以及体积的不断缩小的基础之上。 1965年戈登·摩尔（Gordon Moore）预测，计算机的处理能力将每18个月提高一倍（“摩尔定律”），到目前为止他的预测不断得到事实的验证。今天，智能手机的魅力并不在于它们可以完成20世纪60年代电脑不能完成的事情（它们几乎可以做同样的事情），而在于它们体积小、价格便宜、速度快。只花很少的钱就可以下载手机应用，意味着更多的人可以使用手机应用。这会带来巨大的社会效应;但它并不意味着软件技术已实现概念性的突破。很难说现存的哪个软件程序是五十年前Fortran语言无法编写的。如果当时没有编写这一程序，其原因可能是成本过于高昂或者一些所需的硬件尚未问世。

诚然，目前计算机的发展的确很快，速度更快、体积更小、价格也更加亲民。即便假定这种趋势会继续“以指数速度发展下去“（正如奇点专家们即将宣称的那样），就理所当然地认为这种（硬件）进步能够支撑机器智能领域产生令人震惊的差异，无疑是基于一种非直接的假设：计算机在速度、体积、价格上的巨大进步将首先影响人类水平的智能，然后才是更高水平的智能。毕竟，假如你将很多很多很多的愚笨的神经元组合在一起，也许可能会得到像爱因斯坦那样聪明的大脑。如果将上百万块的超高速GPU组合放到一块，也可能获得超人类智能。但这只是可能。

无论在何种情况下，我们都最好为摩尔定律可能失效的那一天做好充足的准备。虽然摩尔定律被公认在可预见的未来还会继续发挥作用，但它看起来并非前途无量。这不仅仅因为即将遇到技术瓶颈。摩尔定律背后的本意是要表明晶体管设备的制造“成本”将持续下降。即使这个领域找到了一种可以继续在芯片上蚀刻数量翻倍的晶体管的方法，这种方法的成本也会很快开始增长：毕竟处理微晶体管的技术本身就造价不菲，更何况散热也已成为超密集电路上亟待解决的主要问题。2016年，英特尔的威廉·霍尔特（William Holt）宣布英特尔将不再生产超越7纳米技术的芯片产品，并警告说将来为了节约能源，降低热量（即成本），处理器可能会变得更慢。虽然近70年来计算机的体积不断缩小，但是2014年，它们又开始向更大发展（例如iPhone 6手机）。如果摩尔定律不再有效，那么“暴力型人工智能“---例如深度学习---还会不会继续发展？2016年，硅谷人工智能创初创企业CEO斯科特·菲尼克斯（Scott Phoenix）宣称：“在15年内，最快的计算机每秒的运算速度将超过所有在世的人类大脑的神经元总和。”如果这种假设没有实现会怎么样？

从某种意义上说，今天的奇点预言家们认为机器“智能”是一个发展永远保持加速且不会变缓的学科。

同样，我认为除了小型化以外， 机器的“智能”并没有什么长进（它们的智能与阿兰·图灵发明的“通用机”的智能毫无二致）。摩尔定律（它的确保持了指数发展的态势）与机器智能没有任何关系，它仅仅表示了人类究竟能在一块微小的集成电路上“挤进”多少个晶体管。其实，现在机器能完成的工作（就智能任务而言），一点也不比1950年图灵发表机器智能论文时多多少。真正发生改变的就是今天人们以低廉的成本将异常强大的计算机作成手掌大小的智能手机，也就是所谓的小型化。而将小型化等同于智能就好像将改进的钱包等同于财富。

人类变成机器，还是机器变成人类

目前，我们最应该担心的不是机器智能的迅速提高，而是人的智力可能会下降。

通常我们对图灵测试的解读为：什么时候我们可以说机器已经和人类一样聪明？但是图灵测试还有另外一面，即人类智能，换句话说，机器还有另一种方式通过图灵测试：让人类变笨。我们把图灵点看作机器和人类一样聪明的点。机器智能提高到人类的水平或者因为人类智能下降到机器的水平，都可以到达图灵点。

人类总是非常依赖他们发明的工具。例如，当他们发明了文字，人类的记忆力下降。另一方面，他们收获了一种存储更多知识和更快传播知识的方法。 人类历史上的所有其他发明都不例外：使人类丢掉一种技能，同时也让人类get一个新技能。我们无法让历史倒退重演，我们永远不会知道如果人类没有丧失记忆技能，世界会变成什么样子。我们间接地假设， 现在的世界是它可能拥有的最好的样子。事实上，在过去几百年里人类记忆技能下降，大量弥补羸弱记忆力的工具应运而生。反过来，每个工具又导致新的技能下降，书法的发明是否值得人类损失这么长一串技能链，这个问题还有待讨论。整个人类社会都在经历“变笨”的过程，电器与现在的数字设备极大地加快了这一过程。计算机导致书法的衰落，语音识别将奏响书写的哀歌。从某种意义上说，技术递给笨人工具，让他们变得更笨，但仍然可以幸福地生活。

悲观主义者可以将整个人类文明史写成人类变得越来越笨，只好发明越来越聪明的工具以弥补自身缺憾的历史。

为什么现在的机器可以做到50年前的机器做不到的事情？机器只是变得比原来更快，更便宜并且信息存储量更大。只因为这三点，机器变得无处不在。有什么事情是人类50年前可以做但现在不能做的？问问你的爷爷奶奶，你一定能得到很长一串答案，从生儿育女到辨认方向，从车水马龙中开车到修理坏掉的鞋。或者可以去一个不发达国家旅行，在那里你也能找到答案。那里的人们仍然过着你祖辈一样的生活，你会发现对于他们来说是家常便饭的生活，而你却无所适从。我们什么时候才能看到一个机器人能够在没有红绿灯的帮助下过马路？ 可能还需要几十年。我们什么时候能够看到正常人不看红绿灯就不能过马路？可能这一天会来得更快。从简单的日常琐事来看，我们可以得出结论人类智能不是“爆炸” （exploding），而是内爆（imploding）。基于事实，我们可以说，机器没有变得更聪明（只是速度变得更快），而是人类越来越笨;因此，很快就会出现比人类更聪明的机器，但原因不仅仅在于机器变得更聪明。

在数字时代，普通人只需动动手指，就可以获取各种知识。原来知识的来源是特定领域的“聪明”人。现在，即使不是该领域的专家，也能轻松运用知识。因此，用户缺乏深入学习知识的动力，他可以 “借用”别人的“聪明才智”。用户“智能”不升反降（当然，操作设备的才干除外，但是，设备越来越易用，到最后用户只要会按下开机键就万事大吉）。不可避免的，人类对机器的依赖性越来越高，而机器对人类的依赖性恰好相反。

我经常主持/组织湾区的会议，投影仪是会议必不可少的一个设备。我很怀疑如果演讲人的电脑不能正常连接到房间的音频/视频设备，导致他/她不能播放准备好的幻灯片，他/她是否还能发表演讲。过去的几千年，人类在没有任何技术的帮助下发表演讲。显然这样的时光已经一去不复返了。你能想象苏格拉底对柏拉图说“对不起，如果你的笔记本电脑里没装PowerPoint，我就不能和你对话”吗？

或许图灵测试是一个自我实现的预言： 我们（声称）打造“聪明”机器的同时，我们也在把人变笨。

总之，人们以及媒体的宣传对人工智能技术或奇点论的过分乐观并无道理可言，因为A.I.尚不能解决很多现实中的问题。过分的乐观主义不能替代切实可行的解决方案。从历史上来看，对罗马“永恒之城”的狂热盛赞以及对威尼斯“最平静的共和国”的坚定信心，并没有阻止这些帝国的坍塌。盲目的乐观可能是最致命的大规模杀伤性武器。

文章选自《智能的本质——人工智能与机器人领域的64个大问题》，作者 【美】皮埃罗∙斯加鲁菲（Piero Scaruffi）。

十分钟看懂《智能的本质》

作者：王飞龙

皮埃罗•斯加鲁菲（Piero Scaruffi）

作者毕业于意大利都灵大学数学系。20 世纪 80 年代初来到硅谷，创办奥利维蒂公司的人工智能中心，并曾作为访问学者在哈佛大学做人工智能研究。20 世纪 90 年代中期，皮埃罗作为访问学者在斯坦福大学人工智能实验室深造心智论。后来还曾在硅谷第一家人工智能初创公司IntelliCorp任职高级工程师。其研究项目涉猎自适应系统、认知科学、专家系统、神经网络、自然语言处理等。2003 年之后成为独立研究人员，曾在加州大学伯克利分校、斯坦福大学和加州大学圣何塞分校兼职讲授认知论、心性学和艺术史等课程。研究范围包括哲学，意识论和硅谷史。他兴趣广泛，其著述包括了认知模型到音乐史的广博学科。他还是北京他山石智库首席科技顾问，中国美院客座教授。

在书中，作者从常识出发，对人工智能和机器人表达了很多“令人惊讶”而又让人深思的观点。

• 如果机器可以打造一个更美好的世界，这个世界为什么还需要我们？

• 深度学习是学习人类做过（过去时）的事情的技术。

• 在陪伴老年人方面，迄今为止最先进的机器人都不如狗做得好。

• 永生终将成为一种待价而沽或是可租可借的服务，就像目前的云计算服务一样。

   ……

历史学家、科学家、哲学家和诗人都曾记载了人类对无限性的追求。这在过去（或多或少）意味着他/她努力追求与创造和主宰世界的神融为一体。后来，随着无神论在西方文明中逐渐占有一席之地，亚瑟·叔本华将此概念重新定义为“权力意志” （will to power）。弗里德里希·尼采（Friedrich Nietzsche）认为西方社会的神已死，他们对于无限性的追求从神秘存在转向数学以及科学研究。大约一个世纪以前，伯特兰·罗素（Bertrand Russell）和大卫·希尔伯特（David Hilbert）等欧洲数学家建立了一套逻辑程序，基本意在简化对事物的可能存在的证明和发现过程。因而人类转变了看待事物的视角：无限不再是人类必须努力获得的目标，转而变成了人类可以通过创造实现的事物。

人类对无限论的一系列研究产生了诸多影响甚广的成果，其中一项就是数字电子计算机的出现，它是英国数学家阿兰·图灵（Alan Turing）的实验思想的具体实践。阿兰·图灵随后发表了他在机器智能领域的经典论文《计算机器与智能》（Computing Machinery and Intelligence，1950 年）。几年之后，“人工智能”一词开始在科学家及哲学家的圈子中流行开来。

此后，有关人工智能的研究分化为两个流派：一个是以二进制和数理知识为基础的逻辑派，另一个是以神经元突触的物理层面为基础的神经网络学派。

随着计算机硬件技术的指数级增长，逻辑派逐渐式微，而神经网络学派不断兴起。

在硅谷进行了 30 年人工智能研究的皮埃罗认为，时至今日，人工智能领域的主流技术，在本质上仍然是图灵机的架构（我们现在使用的智能手机和笔记本电脑都还是这一结构）。经过几十年的发展，其最大的变化是硬件速度与性能的提升，在算法逻辑上并没有根本性的革新与改变——人们取得的进步在本质上只是将更多的高性能处理器连结起来，给了神经网络更大的空间来模拟大脑的思维。

暴力型人工智能

暴力型人工智能是指依靠高性能的硬件设备，依靠简单加总或穷举的方式来找到解决方案的计算方法。其在目前在人工智能领域独占鳌头。如果放到 30 年前，以当时计算机的成本、体积和速度，几乎没有人会考虑制造一个系统来识别猫脸或与人对弈。从那时发展到现在，变化最大的恐怕就是现在的人工智能领域的科学家可以利用成千上万台强大计算机来完成他们想要实现的东西。最为典型的例证就是谷歌的AlphaGo。

人类大脑每小时大约消耗 20 瓦能量；而以AlphaGo 1920 块CPU以及 280 块GPU的配置，每小时的耗能可以达到 440 千瓦的水平（这其中还不包括训练过程中消耗掉的能量）。但除了下围棋，AlphaGo还能做些什么？答案是什么事都做不了。而人类除了打游戏之外，还能完成做饭、洗车等无数的事情。AlphaGo消耗 440 千瓦能量只能完成一件事，而人类只消耗 20 瓦能量则能做无限多的事情。如果一个人使用比你多 20000 倍的资源，却仅仅做了一件事， 你到底该怎样定义这类人？

奇点论

奇点专家热情洋溢地预言“机器进化”：很快机器将变得非常智能，接下来它们将超越人类智能，获得一种人类完全无法理解的智能形式。但是，这种奇点预言与技术现状之间是明显脱节的。

奇点论的乐观预测有两个前提：计算机运算速度的指数增长以及体积的不断缩小。诚然，目前计算机的发展的确很快，速度更快、体积更小、价格也更加亲民。即便假定这种趋势会继续“以指数速度发展下去“（正如奇点专家们即将宣称的那样），就理所当然地认为这种（硬件）进步能够支撑机器智能领域产生令人震惊的差异，无疑是基于一种非直接的假设： 计算机在速度、体积、价格上的巨大进步将首先影响人类水平的智能，然后才是更高水平的智能。毕竟，假如你将很多很多很多的愚笨的神经元组合在一起，也能得到像爱因斯坦那样聪明的大脑。如果将上百万块的超高速GPU组合放到一块，也可能获得超人类智能。但这只是可能。

不管怎样，我们都最好为摩尔定律可能失效的那一天做好充足的准备。2016 年，英特尔的威廉·霍尔特（William Holt）宣布英特尔将不再生产超越 7 纳米技术的芯片产品，并警告说将来为了节约能源，降低热量（即成本），CPU可能会变得更慢。虽然近 70 年来计算机的体积不断缩小，但是 2014 年，它们又开始向更大发展（例如iPhone 6 手机）。

毫无疑问，电动工具的出现加快了技术的进步，而计算机的发明使之如虎添翼。而这些新生事物能否最终成为一种不同类型的“智能”，很可能取决于你对“智能”的定义。

所以，奇点论所称的奇点何时会到来，或者是否在很久以前就已到来，这都取决于我们如何来回答：什么是智能？

媒体预测人工智能将被广泛应用于所有经济领域。到目前为止，我们看到的事实与媒体的观点大相径庭。 2016 年，彭博预测有2600家创业公司投身A.I.技术，但IDC统计得出，2015 年所有A.I.软件公司的销售总额勉强达到十亿美元。 A.I.话题很热门，但到目前为止，人们愿意花钱买的A.I.产品少之又少。

A.I.的头号应用现在是以及将来仍然是……（此处应有鼓点）……让你买下你不需要的东西。所有主流网站都在通过应用简单的人工智能形式，跟踪你、研究你、了解你，然后再向你卖东西。你的私人生活对他们来说暗藏商机，人工智能帮助他们找到从你身上赚钱的切入点。看到这一切，人工智能的创始人或许在九泉之下也不得安宁。

2014 年以来，最复杂的（或至少广泛使用）的人工智能系统是Facebook的机器学习系统FBLearner Flow。这一系统由候赛因•米汉那（Hussein Mehanna）团队设计开发，目前在成千上万个计算机上运行。这一系统被应用于Facebook的各个模块，用于快速训练部署神经网络。神经网络可以通过几个参数进行微调。优化这些参数绝非一个小工程 。它需要大量的“试错”。但是，机器学习精度仅提高 1％ 就意味着Facebook增加数十亿美元收入。所以，Facebook正在开发Asimo机器人，用来进行上万次的试验以便找到每个神经网络的最佳参数。换句话说，Asimo正在做负责深度学习系统开发的工程师所做的工作。

尽管杰夫•哈梅巴赫的叹息不无道理，但我们必须承认深度学习的发展一直由谷歌和Facebook等公司的资金驱动，这些公司的主要商业收入来源为说服人们买东西。如果全世界都禁止在网络上做广告，深度学习学科很可能会再次重返它的发源地—幽闭的大学实验室。

神经网络的进步将带动语音识别（例如，苹果的Siri）和图像识别（例如，Facebook的Deep Face和微软的CaptionBot）的发展。

在医疗领域，深度学习技术将帮助放射科、心脏科和肿瘤科医生实时了解他们拿到的所有图像。Googlebot（谷歌用来扫描全世界所有网页的“爬虫”）在医疗图像领域也将会有相似应用。

2015 年，美国推出精准医疗计划，收集和研究一百万人的基因组，然后将这些基因数据与他们的健康状况匹配，使医生能够针对每个人的情况给出正确的药品和剂量。如果没有机器在庞大的数据库中进行模式识别，该计划几乎不可能实现。

无人驾驶汽车可能永远无法完全实现，但“司机助手”即将成为现实。谷歌的第一台无人车的工程师安东尼·莱万多斯基（Anthony Levandowski）创建的Otto公司不打算让人工智能取代卡车司机，而是协助货车司机，特别是在高速公路上的驾驶过程。

人们对机器人的需求非常旺盛。建筑和钢铁行业有一些危险工种，每年因公死亡的工人达到上万人。据国际劳动组织统计，每年煤矿事故造成10,000名以上矿工死亡;这个数字还不包括由于恶劣的工作环境寿命被大大缩短的矿工人数。

我们还需要机器照顾日益壮大的老年人群体。寿命延长以及生育率下降，正在重塑社会的人口结构。除去青少年和儿童，日本和德国已没有足够的人来照顾 46 岁以上的人。这个数字每年还在上升。日本 90 岁以上的老人达到 100 万，其中 6 万人是百岁老人。2014 年，欧盟 65 岁以上的老年人占总人口的 18%，数量达到 1000 万人。我们没有足够的年轻人来照顾老年人，从经济角度考虑，太多的年轻人投入这一非生产性任务是一种浪费。我们需要机器人来帮助老人锻炼身体，提醒他们吃药，到门口帮他们取快递，等等。

我不怕机器人的到来。我怕机器人姗姗来迟。

我们今天的机器人能提供的服务还很有限。主要的机器人制造商，包括ABB（瑞士），库卡（德国，2016 年被中国的美的收购）和四大日本公司（发那科，安川，爱普生和川崎）的主营业务或者专营业务是工业机器人，而且是智能不高的机器人。绝大多数的机器人都在流水线上工作，在我们生活中能真正帮上忙的机器人还很罕见——带有计算机视觉的机器人非常罕见，带有语音识别的机器人非常罕见。换句话说，今天几乎不可能在市面上买到自主机器人，让它在工厂或库房等严格可控的环境之外给人类提供切实的帮助。

如果机械外骨骼可以算作机器人的话，那它是机器人的一个成功案例。机械外骨骼是可以穿的机器人。该技术最初由美国国防高级研究计划局（DARPA）开发，用于帮助士兵搬运重物；现在有些康复诊所用它来帮助脑损伤和脊柱损伤的病人。目前这类产品的价格不菲，但可以设想一下在不远的未来，我们在硬件商店就可以租到机械外骨骼，帮我们收拾花园修理房屋。穿上机械外骨骼后，你就能轻而易举地抬起重物，抡起大锤。

意识上传与人类永生

迄今为止所有假设的生命延长技术中，也许没有什么比意识上传更能引起机器智能粉丝的遐想。由此奇点与数字不朽之间产生了某种联系：到了某个时刻超级智能机器将能为我们完成一项伟大的任务，上传我们整个的自我，并“变成”我们。与“云”的不朽相结合，你的“自我”将成为不朽。从一个奇点到下一个奇点，意识可以上传下载。

这种想法引起了宗教式的崇拜／运动，“超人类主义”。这方面最早的预言家可能是弗里敦·艾斯范德里（Fereidoun“FM-2030”Esfandiary），他的代表作是《你是超人类吗？》（Are You a Transhuman?，1989年），并预测，“ 2030 年，我们将成为永恒，每个人都会有永远活下去的机会。”他死于胰腺癌（但很快被安置于低温悬浮液中）。

到了科学发展到可以将意志上传到网络空间的那一天，我们大多数人， 连同我们的大脑，可能都不在人世了。这一令人不安的想法早于我们正在讨论的这门科学。罗伯特·艾丁格（Robert Ettinger）的书《不朽的展望》（ 1962 年），是公认的“人体冷冻”宣言，它是通过冷冻保存大脑的学科。实际上是人体冷冻开启了“生命延续”运动。1964 年这门学科的另一位创始人埃文·库珀（Evan Cooper）成立了生命延长协会（LES）。1972 年喷气推进实验室的空间科学家弗雷德·张伯伦（Fred Chamberlain）成立了阿尔科固态低温协会（ALCOR），现名阿尔科生命延续基金会，加入这一行业。

它与西方世界的最成功的宗教的相似之处因为太明显而被忽视。世界末日将以奇点的形式到来，不过，不用担心，我们都将通过意识上传复活，正是奇点的超级计算机使之成为可能。它与古代西方宗教的唯一区别是以前的人无法复活：我们无法上传他们的大脑。但也许那些超人类机器以后会找到一种方法让死人复活的办法。

谁为机器的行为负责

2000 年 ～ 2010 年间，无人机和机器人战争走出科幻电影的大银幕，变为现实。 据大卫和伊莱恩·波特（Elaine Potter）于 2010 年成立的独立非盈利组织新闻调查局统计，美国无人机已在至少七个国家夺去了 2500～4000 人的性命 （阿富汗、巴基斯坦、叙利亚、伊拉克、也门、利比亚和索马里）。其中约 1000 位平民，约 200 名儿童。

这些武器是比较极端的例子，说明机器是如何缓解我们的负罪感的。如果我不小心杀了三个孩子，我将在内疚中度过余生，也许会自杀谢罪。但是，如果无人机误杀了三个孩子，5000 公里以外的使用谷歌地图、巴基斯坦情报和人工智能软件的一个团队负责编程，将军或总统亲自下令袭击，在这些人中，谁会对这三个孩子的死感到内疚？给机器分配任务的美妙之处在于，行凶者不用亲自动手——责任被淡化，“扣动扳机”比不扣动扳机更加容易。如果错误是软件故障造成的，会怎么样呢？软件工程师会感到内疚吗？他甚至可能不知道软件中有“错误”，就算他知道，可能他永远也不会知道这个错误会导致 3 名儿童死亡。

“借刀杀人”并不是新鲜事物。至少可追溯到第一次世界大战中的第一次空中轰炸 （因为当时这种做法骇人听闻，后来被毕加索永远的定格在他的画作“格尔尼卡”中），人们使用机器（飞机）向看不见的市民空投炸弹，而不是向可见的敌人投掷手榴弹或开枪射击。凶手将永远不会知道也不会亲眼看到他杀死的人。

其他的所有事情与战争同理。使用机器进行某个行动基本上使机器的设计者和操作者免于该项行为的责任。

同样的概念适用于其他情景，例如，手术：如果由机器执刀的手术失败，导致病人死亡，是谁的错？操控机器的团队？生产机器的公司？ 确定这个手术方案的医生？我怀疑这些人都不会感到特别内疚。最多不过就是机器的计数器机械化地在手术失败的统计数据中加一。“哎呀呀，你死了。”这将是社会对可怕事件的反应。

我们生活在一个半自动化的世界：我们乘坐机器出行（汽车、公共汽车、火车、飞机），厨房电器帮我们做大部分的家务，包括电视机和电脑在内的机器为我们提供娱乐。

我们与其他人的互动越来越少，因为机器替代了人类原有的许多功能。你在银行取钱谁把钱交给你？自动取款机。在停车场谁递给你停车卡？机器。

我们单纯地从经济角度看待那些取代人类的机器：24/7 服务成为现实，机器的价格低廉甚至免费; 一个工种被淘汰；我们可以在其他地方创造更多的就业机会，因为我们节约了原来的人工成本;等等。但是，但在机器当道的背后还隐藏着更重要的故事：如果我周围的人都被机器取代，这意味着我与人的互动减少。每多一个人被机器取代，我与其他人互动的机会也相应地减少。我们谈了很多关于人机交互，并轻易地忽视了一个事实：人机交互带来的后果是人与人之间的交往减少。

这种趋势已经持续了至少一百年。曾经有大批的接线员转接电话，曾经有大批的秘书打文件，曾经有大批的销售员服务于广大客户，等等。今天，这些人已经消失，我们在机器世界里越来越孤单。

这种趋势将持续到人工智能时代，那时许多人，尤其是老人，将只与机器打交道。机器会看管我们的家，为我们跑腿，照顾我们的身体，丰富我们的娱乐生活。这将极大地减少我们与其他人交往的必要性，甚至我们与自己家人也渐渐疏离，因为家人的支持变得越来越不必要。

未来你的同事将是机器人，你的朋友将是机器人，也许你的恋人也将是机器人。亲眼看着你离开这个世界的朋友也将是机器人。世界各地的多家医院已采用机器照顾病危病人。

你不再与人来往后，人性会发生什么变化？

了解及购书，请点击原文

我愿意以我全部的科技换取跟苏格拉底待一个下午
每天一杯咖啡吸收宇宙能量！
重构思维方式，
AI+时代，读互联网思想（wanging0123)
联系方式：投稿及内容合作｜[email protected]