![]()
机器人在乐园里最不该有的便是自我意识；人类都自视甚高，想当这个世界的主宰。
文｜宇多田
“我们唯一的任务是制造出比我们更聪明的东西，除此以外都不是由我们考虑的问题”。
这是上世纪90年代信息技术专家埃里泽的观点，也是一部分敢于征服未来的科学家的集体意志——没有人类克服不了的难题，即便是再造一个凌驾于人类之上的物体，或许是机器人，或许是更高级的一个物种。
如果更高级的物种出现，或者是人类自己就是这个更高级的物种，继续掌控这个世界；或者是人类看着对方进化为高级物种，呈现出一个更加复杂多样化的世界。这种情况下，你会做出怎样的选择？
有意思的是，HBO本季度的大热剧《西部世界》（对这部剧的基本介绍已经在我的上一篇文章《不只是科幻与AI ，来看HBO大热剧《西部世界》带给科技圈的自我觉醒》中提到过）非常隐晦地探讨了这个问题。
但主角之一福特博士给出的结论却与现实学术界的狂热产生了背离：在该剧中，这个想法自始至终是人类讳莫如深的，是站在整个人类的对立面上提出的。
引起机器人觉醒的两个关键人物：
很显然，建立这个乐园的目的在于满足于人类的各种欲望。无论是作为一个尊敬“机器人游乐场”各类设定的“和平主义参观者”，还是带着枪支与性欲前来找乐子的残暴的享受主义者，他们不希望看到任何反抗的存在，至少需要保证自己在乐园中永远不会遭遇危险。
因此，几乎外表与人类无异的仿真机器人只需要一种“游戏设定”——服从。但在建机器人乐园的30年期间，一批又一批的机器人在逐渐的迭代后，却开始越过“自我意识”这条关键红线。
是的，他们开始具有“自我意识”，而这原本是人类的独有属性。
导致这一结果的缘由较为复杂，但关键却是剧中两位技术指导者的不明指引：
1、 乐园的最大领导者（创始人）福特博士，在最近开始为一些机器人嵌入“冥想”功能。通过这一功能，机器人们触碰到了存在于体内的记忆碎片，从而产生了回忆与“自我意识”。
2、 另一位年轻技术规划负责人伯纳德的有意“放水”。他最先发现了机器人的怪异行为，却一直在纵容这一行为。在第三集他与机器人女主角多洛莉丝的对话，就已充分说明他很早就发现了机器人自我意识的觉醒，但却与多洛莉丝约定“谈话保密”。
无论如何，他更像是与科学家埃里泽（在文章开头已提到）持有类似观点的角色——执迷于让机器人更像人类，甚至超越人类。
![]()
左为福特博士，右为伯纳德
但你会发现，这里面存在一些有意思的问题：既然福特明知道这些机器人体内可能有记忆碎片，为何还要在最近为他们添加“冥想”功能？也许这会在未来的剧情延伸中得到解释（有网友认为，福特博士有双重人格，而下面就要提到的关键人物阿诺德其实是福特的另一个内在。只不过在福特博士的世界，或许“超我”压制了“本我”）。
此外，伯纳德为何会选择放任机器人继续做出怪异行为？第三集给出的隐晦解释是，伯纳德希望能让死去的儿子查理”死而复生“。怎么死而复生？将人类的记忆、思维与意识移植到仿真机器人身上，或许是伯纳德认为可行的复生方法。而这也可能是人类在未来获得永生的方法之一。
如果假设伯纳德的儿子复生，那么就会涉及到另外一个问题：机器人与人类可以共同生活吗？他们究竟存在何种关系？但剧中福特博士目前给出的解释是：它只是我们人类的一个乐子而已。
第三集的重要对话：引发机器人觉醒的源头与人类欲望的冲突
《西部世界》剧情进行到现在，唯一离解开“为何机器人会进行自我觉醒”这一秘密最近的理论性阐释就是第三集中福特博士与伯纳德的那段对话。在两人的私密交谈中，福特博士口中的另一位联合创始人——阿诺德或许将是接下来了解乐园中一切矛盾的关键突破口之一。福特博士这样描述这位工程师：
「在建园最初，我有一个联合创始人，他叫阿诺德（即便后来商业合伙人让我把他的名字给彻底删掉）。一开始，没有宾客与董事会，我们只有纯粹的创作（没有各种忧虑）。而一年之后，我们的机器人开始通过图灵测试进入西部世界。但是，阿诺德觉得还远远不够。他对这些表面的智能行为并不感兴趣。」
福特博士眼中的阿诺德想要一种更真实的洞悉，想为机器人创造意识。这位脑洞大开的创始人把“意识的进阶”设计成了一个金字塔理论：
![]()
阿诺德的金字塔理论：意识的4层进阶
机器人最先实现的应该是“记忆”，然后便是下意识的“即兴反应”（如果你看过这部剧，你会发现多洛莉丝已经有了这种反应：当苍蝇飞到脸上时会不由自主地去拍打它，这在纯粹的机器人身上不可能看到），随后便是人类具备的本性——“利己主义”（这时候的机器人基本与人无异，这是人的“本我”，是人类社会的初始形态所具备的），最后便是Top（最高层，未知），但从未实现过。
而阿诺德这一套理论的基石来自上世纪70年代心理学家朱利安·杰恩斯的“二分心智”理论（在人类未形成自我意识之前，他们基本依赖于二分心智——一个半脑会听见来自另一半脑的指引，这种指引被视为神的声音）。类比之下，最初乐园中的机器人其实都在把阿诺德的声音当成上帝的声音来看待。
因此，我们是否可以这样认为：
创始人阿诺德最初的设计理念是让机器人具备意识，具备与人类无差异的同等思维模式，甚至想让机器人融入人类生活（可以从下面阿诺德的私生活窥探出）。但这样做的结果是什么？人类与机器的分庭抗礼？
至少在剧中，这种取决于个别科学家的“脑洞”显然与现实中的人类与商业思维是完全背离的。就像福特博士所说的，如果作为一个理论（仅存在于学术界）去理解人类的思想，完全没有问题；但如果以此为蓝图来构建服务于人类的人工智能，就是无稽之谈：
「“阿诺德的确希望构建一种让机器人将自己的程序当作是内心独白的认知功能，也希望假以时日由他们自主产生感知。但他忽略了两个事实：一、机器人在这里最不该有的便是自我意识；二、除却机器人以外的人类都自视甚高，想当这个世界的主宰。」
因此，鉴于这个乐园建立的根本目的就是赚钱，取悦游客，满足人类恶趣味，福特博士在最后警告伯纳德，控制这些机器人的内心独白”是目前的唯一选择，机器人必须经过升级来清空所有记忆，阻止机器人体内声音的再现。“一定要记住，机器人一定是无意识的，千万不要犯阿诺德的错误”。
此外，尽管福特博士表示阿诺德已死，但却又说了一些意味深长的东西：
「“他死了，就在这乐园之中。他对意识的追求完完全全吞噬了自己。而他的私生活简直是惨不忍睹——在生活中，除了机器人，他几乎不与人类沟通。在他看来，自己已经看到了这些机器的未来，还看到了一些还未实现的东西。”」
这里“未实现的东西”是什么？刚才阿诺德阐述的“意识的4个阶段”理论中的最高级“未知”又是什么？
让我们来大胆设想一下：这里的“未知”指的就是那种未来“完全可以与人类媲美，甚至可以凌驾于人类之上”的机器人。除了意识的进阶，这些机器人还可以进入人类社会，甚至在未来能具备超越人类的智能水平。
此外，阿诺德的肉体或许已死（假设他不是福特博士自己），但“他的意识曾植根于所有早期机器人”的事实告诉我们，阿诺德的所有记忆与意识也许仍然被封存在这个乐园的某个机器人身上，等待某一刻的“解印”。但这仅是猜想，我们要随着剧情的发展才能获知结果。
人类或许有能力创造一个超越自己的新物种，但然后呢？
至此，《西部世界》又引出了两个可以充分发挥我们想象力的问题：
1、人类是否有能力创造出全方面超越自己的机器人？
2、即便有能力，人类是否愿意这样做？或者说，创造出这样一个物体后，人类将要如何掌控他们，怎样和平共处？它们是否会进行反击？
对于第一个问题，除了埃里泽，奇点大学校长、Google工程总监雷.库兹韦尔很早就给出了自己的设想，而且是令人难以置信的胆大：
到21世纪20年代中期，人类将会成功地逆向设计出人脑。甚至在未来某一个时间点，电脑智能与人脑智能将得到奇妙融合，而这一结果将会颠覆人类社会，但却只会让社会更好。
在他《奇点临近》一书中，库兹韦尔从生物与技术角度将人类进化的历史概念分为六个纪元：物理和化学纪元；生物与DNA纪元；大脑纪元；技术纪元；人类智慧与人类技术的结合纪元；宇宙觉醒纪元。
他认为，我们正处于第五纪元（人类智慧与技术结合纪元）。而在下一阶段，人类将与机器人融合在一起，无论是更高端的技术嵌入人脑（斯嘉丽约翰逊主演的《Her》与汤姆克鲁斯主演的《明日边缘》都有涉及），还是人的思维意识嵌入更加智能的机器内核中（譬如威尔史密斯主演的《I，Robot》与《西部世界》中未来可能觉醒的机器人们），都将超越人类目前的极限。
如果我们到达这个“奇点”，这将等同于我们的身体部件被重新设计与制造，人类也能够克服生物进化的限制；同时，更有意思的是，如果人的智能与意识可以完全转移到计算机上，那么死亡将变得毫无意义。这也就是为何我们会猜测《西部世界》中的阿诺德正在以另外一种方式活着——移植记忆与思维。
这样一来，人类与智能机器人之间的边界也将逐渐模糊，甚至不复存在。
或者进一步来讲，如果人类与自己生产的机器进行结合，那么我们的世界也将面目全非。从进化的角度来看，这将代表着库兹韦尔“奇点理论”中提到的一个新物种——“奇点人”将在未来出现。
再从时间上来看，库兹韦尔认为，奇点将在人工智能比人类还要聪明还要有能力的时候才能到来，初步预测将在2045年以后。那时候，人体3.0已经诞生，人体器官也将由性能优秀的人工器官接管……（库兹韦尔的“脑洞”水平与《西部世界》的编剧不相上下）。
那么问题又来了：在假设第一个猜想成立的前提下，我们在某个“奇点”阶段都能顺利且同时变身为拥有完美人体与机械相融合的新物种吗？
如果在纯人类、机器人以及新物种同时存在的情况下，第二个问题，特别是“人类该如何掌控”这个问题，我们应该如何来作答？
![]()
推荐阅读
点击下方图片即可阅读
![]()
![]()
