点击上方“
CSDN
”，选择“置顶公众号”
关键时刻，第一时间送达！
作者丨
Rodney Brooks
译者丨无阻我飞扬
摘要：
作者比较理性和冷静地分析了AI预测，阐述了AI预测的七宗致命罪恶，文章其实也是表明人类真的不擅长预测。以下是译文。
错误的推断，有限的想象力，以及其他通常会犯的错误，都会使得我们很难更富有成效地思考未来。
我们都被有关人工智能和机器人的未来的歇斯底里包围了
——这种歇斯底里体现在它们会多快变得有多强大上，以及它们会对工作造成什么影响上。
我最近看到MarketWatch网站上一篇文章说：在10到20年内，机器人将取代目前一半的工作。网站甚至还用一张图形来证明这些数字。
这种说法是荒唐可笑的。（我尽量保持专业的语言，但有时…）比方说，这篇文章似乎说：在10到20年内，美国的地面维护工人将会从100万缩减到只用5万人，因为机器人会接管这些工作。在这些工作领域，目前有多少个机器人在运行？ 零。机器人在这些领域应用的实际展示案例有多少呢？ 零。类似的故事适用于文章展示图形中的所有其他的工作类别，我们将看到目前超过90%的工作在某些特定的地方还是需要人类有形的存在。
错误的预测会导致大家对那些不可能发生的事情感到恐惧，无论是对工作大规模的破坏，奇点，或者说AI的出现，它的价值观与我们背离，可能会毁了我们。我们需要扭转这些错误的观念。但是为什么人们要制造这些错误的观点呢？以下我概括出了7种导致错误预测机器人与人工智能未来的思维方式。
1、高估和低估
Roy Amara是Palo Alto未来研究院的创始人之一，Palo Alto是硅谷的智慧中心，他最著名的是他的格言，他的格言现在被称为Amara定律：
我们往往会高估技术的短期影响，而又低估了它的长期影响。
在这寥寥数词中包含了太多东西。乐观主义者可以这样解读，悲观主义者也可以那样解读。
一个反映Amara定律两面性很好的例子是美国全球定位系统（GPS）。自从1978年以来，一个有24颗卫星组成的星群（现在包括31颗卫星）被放置到了轨道上面。GPS的目标是为了给美军的炸弹提供精准的制导。但是这个计划在上个世纪80年代一次又一次地几乎面临夭折。第一个作战用途是在1991年的沙漠风暴（海湾战争）行动期间，军方由于使用GPS的定位功能取得了更多的胜利。今天的全球定位系统（GPS）是Amara定律所谓的长期的效用，将会如何使用它，在最一开始是无法想象的。我的二代Apple Watch在我外出跑步时，使用GPS，准确地记录我的位置，足以看出我是沿着街道的哪一边在跑。现在GPS接收器的尺寸之小、价格之低，对于早期的GPS工程师来说是不可思议的。该技术在全球范围内同步着物理实验，在同步美国电网并保持其运行方面发挥着直接的作用。它甚至还能使得真正控制股市的高频交易商基本不会陷入灾难性的计时错误中。所有的飞机，无论大小，都是用GPS来导航，它也被用来跟踪假释出狱的犯人。它决定着应该在全球的哪一块地种植哪一个种子变种。它追踪卡车车队，报告司机的表现。
GPS从一个目标开始，但让它达到原先期望的效果却需要一个漫长而艰辛的过程。现在它已经渗透到我们日常生活的方方面面，如果没有它的话，我们不仅会走丢，还会挨冻受饿，甚至可能都活不了。
在过去的30年里，我们在其它技术身上也目睹了类似的模式。一开始是很大的预期，然后慢慢地加大信心，超出了我们原先的预计。计算、人类基因组测序、太阳能、风力发电、甚至日用百货的送货上门都是如此。
在20世纪60年代和80年代，人工智能一再被高估，我相信现在又一次被高估，但长远的前景也可能被低估了。问题是：长期有多长？接下来要讨论的六个错误有助于解释为什么人工智能的未来被严重低估了。
2、想象的魔力
在我十几岁的时候，Arthur C. Clarke是科幻小说家的“三巨头”之一，还有Robert Heinlein和Isaac Asimov。但Clarke不仅是一位科幻小说家，他还是发明家，科学作家，同时也是未来学家。在1962年到1973年之间，Clarke提出了三条格言，也被称为Clarke三定律（他说牛顿也只有3条定律，所以3条对于他来说也足够了）：
如果一个年高德劭的杰出科学家说，某件事情是可能的，那他可能是正确的；但如果他说，某件事情是不可能的，那他也许是非常错误的。
要发现某件事情是否可能的界限，唯一的途径是跨越这个界限，从不可能跑到可能中去。
任何非常先进的技术，初看都与魔法无异。
就我个人而言，我会对他第一条定律的第二句话比较提防，因为对于AI的发展速度，我要比其他人保守得多。不过目前我来先讲Clarke第三定律。
想象一下，我们有一台时光机，可以让牛顿从19世纪末穿越到今天，把他安置在一个他熟悉的地方：剑桥大学的三一学院小教堂。
现在给牛顿看一个苹果（不是砸在他头上的苹果，而是一个苹果手机），从口袋里掏出一部iPhone手机，开机，屏幕亮了起来，然后把屏幕布满图标的手机交给他。牛顿揭示了白光是由不同颜色的光线组成的，用棱镜把阳光光线分开，然后再把它聚在一起，毫无疑问，在黑暗的教堂中，这样一个小小的物体发出如此鲜艳的色彩，一定会令他感到惊奇。现在再用iPhone手机播放一部英国乡村场景的电影，然后再播放一些他熟悉的教堂音乐。再给他看500多页他的巨著《自然哲学的数学原理》的个人注释副本，教他如何利用手势操作来放大文字。
牛顿能不能开始解释这小小的设备究竟是怎么做到这些的呢？虽然他发明了微积分，并且对光学和重力做出了解释，但牛顿永远也无法分辨化学与炼金术。所以我认为他会感到不知所措，对这台设备究竟是什么东西，哪怕连一点思路都没有。对于他来说，这设备与神秘学的化身没有什么不同——神学是他非常感兴趣的事。在他看来，这与魔法是分不开的。记住，牛顿可是非常聪明的家伙。
如果有什么东西是魔法的话，那就很难知道它的局限是什么了。假设我们进一步向牛顿展示这个设备是如何照亮黑暗的，它是如何拍摄照片、电影以及录音的，如何将它用作放大镜和镜子的。然后我们再向他炫一下这个设备如何以惊人的速度进行算术运算，并可以精确到到小数点以后很多位的。让他随身带着手机，我们甚至还可以给他看看他的走路步数是多少，并向他表明，他可以用手机与世界各地的人们立即进行交谈，就在他的教堂里。
牛顿还会猜测面前的这个东西会做哪些事情呢？棱镜可以永远工作下去。他会不会猜想iPhone也能永远像现在一样工作下去，而不会理解这个玩意需要充电？要知道我们是从迈克尔·法拉第出生前的100年时间将他召来，电的概念还没有出现，所以他缺乏对电力的科学认知。如果iPhone可以成为没有火的光源，那么它是否也能将铅转化为黄金呢？
这是我们大家想象未来技术的时候都会出现的一个问题。如果它离我们今天所掌握和理解的技术足够遥远的话，那么我们就不知道它的局限性了。如果它变得与魔法难以区分，任何人说的关于它的说法都不再是可以证明真伪的。
这是我经常遇到的问题，当试图与人辩论关于我们是否应该担心通用人工智能，或者AGI——我们将在这个世界上创造一种可以像人类一样自治的机器人的想法。我说我不了解AGI会如何强大。那不是一个论点。我们甚至都不知道这样的东西是否存在。我希望它存在——这一直是我自己在机器人和人工智能领域工作的动力。但现代的AGI研究做的不够好，无论是在通用性方面还是支持一个持续存在的独立实体方面。它似乎主要停留在同样的问题上，AI在推理和常识方面存在的问题已经至少存在了50年。我所看到的所有证据表明我们还没有真正有效的想法。它的特性是完全未知的，所以说它很快变得神奇，强大到无极限。
宇宙中没有什么是没有限制的。
要小心那些有关具有魔力的未来科技的论点。因为这些论点你永远也无法反驳。因为它以信念为基础，而不是科学依据。
3、表现与能力
