“从石器时代的原始狩猎，到21世纪的信息爆炸，人类在历史的长河中不断进化、发展，而这一切，都被一位杰出的
历史学家、哲学家尤瓦尔·赫拉利
以独特的视角记录在了他的
《人类简史》三部曲
中。
这三部作品不仅在全球范围内引发了关于人类历史与未来的深刻思考，更在中国读者中掀起了一股关于人类文明史的讨论热潮。
在《人类简史》中，赫拉利提出人类文明最重要的特点是“讲故事”。在如今这个正在开启的AI时代，当制造、传播信息的主角变成人工智能后，
“讲故事”的主动权还在人类手中吗？“故事”的未来写法人类还能左右吗？
作为沉淀六年后的新作，
在《智人之上》中，
赫拉利深入探讨了信息网络如何重构了我们的世界，以及在未来社会中，信息与权力、智慧与自由之间的复杂关系。
他指出信息网络的演变不仅推动了社会的进步，也可能导致新的分裂与不平等，他也发出警示，在算法日益主导世界的今天，人类文明的走向正面临着前所未有的挑战。
黄竞欧：
尤瓦尔·赫拉利在这本新书《智人之上》中，他谈到我们已然处于一个人工智能的时代，比如我们使用聊天机器人，各种各样的翻译软件等。所以
他提出一个观点：每个人在使用AI的过程中都肩负着重大的责任，那就是正确地引导AI向着一种积极的、有利于人类发展的方向
。他认为每个人都负有这个责任，因为每个人都处在跟AI交流的信息节点上。
两位老师认为无论是从伦理的层面，或者从有利于人类发展的层面，我们应该如何跟AI打交道，或者说如何使用它、引导它？
刘擎：
这里面有好多层次可以谈。最直接的就是《智人之上》这本书是以信息网络作为主干来分析的。他认为印刷术和计算机发明的信息网络，看上去都是技术，但它们有一个本质的不同。印刷术是无法摆脱人独自存在的，印刷术印的任何书籍、纸张文件等等，哪怕文官系统总是要从文件到人、人到文件，人在整个的网络当中它是不可缺少的一环。
而计算机新时代它有
两个特点
，
一个是它可以独立做出决定（make decision）
。做这个决定它只要智能就可以，它不需要情感，不需要意识。第
二，它在做决定的时候，通过计算以后可以有新的想法
，于是可以只从一端构成信息网络，它中间没有所谓人的环节，计算机连一个计算机，再连一个计算机，再连一个计算机。
他在书里举了个例子。比如在股票里，有一个信息传达了虚假新闻，一个计算机分析认定可能是一场政治危机的开端，觉得很危险，就要把那些高风险的股票全部抛掉；有的地方听到之后它自己做个决定要购买风险更低的国债。在这个过程中，计算机就自己决定了，马上在几秒钟里边操纵金融市场。它具有一个由机器或者非人作为能动者的自动的网络，这是极大的不同。
在这种情况下，他谈到我们在使用它的时候，怎么叫恰当地使用呢？就是说让它能够为我们人的目标来服务，而不是被它所操纵，这就变成了一个很重要的问题。但正是在这一点上，我一直觉得赫拉利自己有一个没有办法完全解决的内在矛盾。
他很早就在《未来简史》和《今日简史》里面说，我们有主要的共同故事，从宗教到科学到人文主义。但
今天由于AI的挑战，人文主义这个故事已经讲不下去了，我们需要一个新的故事
。我们人的目标是在共同的故事当中，但是如果这个新的故事还没有出来，在什么意义上能说我们要让它为人的目标服务？
我认为，虽然赫拉利一直说自己是中立的，他仍然有一个立场，
他是一个人文主义者
，而且他是一个自由民主主义的支持者，是一个民主派。他是一个比较在乎社会、正义、平等的一个民主派。他仍然怀着这个立场，只是他感到了危机和挑战。
同时他在这本书里面我觉得最深的一个洞见，就是他对西方民主政治的危机感是很强的。他认为现在的这样一种信息网络，会煽动仇恨，煽动民粹主义。因为
计算机虽然没有情感，但它知道它要什么。它要大家参与度更高，它要流量更高，所以它认为推送什么信息是最有效的？仇恨。
仇恨是非常原始的，结合了人的那种本能。它在经验的大数据下知道仇恨性、煽动性的言论，最容易让人involve、engage，所以它就会做出这样一个决定。它是一个没有情感的机器，没有内在意识的机器，做出来这样的决定，它就改变了我们网络信息的立场分布。他认为这对于民主政治是致命的。
总的来说，我认为
这本书有敲响警钟的功能
，让我们在使用计算机的时候意识到我们是被算法所操纵的。
有意思的一点是我为什么觉得它还是有用的呢？大家想想这样两种状态：一种是我被算法推送，我不知道有算法这回事；第二种是有人告诉你，你接到这么多仇恨言论的信息，或者你接到这么多同一类商品，或者接到这么多同一类小视频，是由于算法在操纵你，我处在这两个状态是不一样的。正像你不知道存在魔术的时候，你看到魔术是一个惊喜，然后有人告诉你这是魔术，是一种特殊的伎俩，是里边有一种诡计造成的结果，你在认知上是处于不同的状态的。
像赫拉利这样的文章，不仅是他，还有其他很多人揭示的底层算法，这有点像什么？像古代的戏剧，我们只在前台看到演员在演，现在有人一方面在给你演戏，一方面把后台怎么操纵的全部给你揭示出来。我认为现在的观众是可以，哪怕在这个信息时代，处在一个反思的立场。
只要你愿意，你可以抵达这个反思的立场，来开展自己的主体性行动。这就是这一类写作带给我们重大的启示。
许纪霖：
我看了赫拉利这一年多的很多访谈，他深刻表达出ChatGPT诞生以后，人工智能可能会给人类社会所带来的伤害。
所以在今天技术加速主义和对齐主义两大立场之间，他显然是对齐主义的
。
他不完全否认技术依然有必要发展，但他的立场是很鲜明的，我也是比较赞成这样的立场。用他的一个非常通俗的比喻，假如你在上一架飞机的时候，有一半的飞机设计者和工程师告诉你，飞机有10%的失事的危险，你还会上这架飞机吗？因为一旦发生了，这是人类付不起的代价。
在这点上我是赞成赫拉利的，人工智能的发展怎么和人类文明对齐，因为这是人类文明第一次出现的这样一个人类的创造物，最终
有可能摆脱人类本身，它摆脱造物主，成为人类无法控制的一个新的物种，就是所谓的硅基生物
。硅基生物有没有可能以后会建立、形成一个对碳基生物的统治？
因为你想象一下，赫拉利讲的都是链接，这个链接过去讲的都是自然人、文明社会他们自身所建构的这套链接。但是当这样一个高级人工智能产生以后，无数台计算机之间可以产生无数的链接，不需要人就可以形成另外一个世界。这个世界一旦出现以后，我们是无法操控它的。
好几个人工智能的专家，都是做研发的，不是做理论研究的。他们对我说：“许老师，我到现在还没搞清楚，人工智能是怎么获得最后的结果的，它整个一套逻辑，我们是不清楚的。”也就是说它们自身所形成的一套逻辑，甚至它最后慢慢形成自己的一套算法，已经超越了我们的想象。这就像当年围棋Alpha Go，它可以下出这种漂亮的新的下法，我们过去想都想不到。
刘擎：
Alpha Zero。Alpha Go是模仿大师的，Alpha Zero是自己搞的。
许纪霖：
对，这个是一个非常典范。在《智人之上》里面，赫拉利说
人工智能会形成一个硅幕，就是硅基生物最后建立了一条铁幕，这个铁幕把硅基生物和我们碳基生物隔离了，那个世界是我们无法理解的，甚至它具有自主性，它自己可以运作
。
自主性，这是真正让我们恐惧的地方。
如果它是它的世界，我是我的世界，那也就罢了，大家在一个平行世界里面。但是
很有可能出现硅基生物对我们人类世界的殖民化
。它可以释放出足以乱真的虚假信息，我们根本无法辨别。虽然我们的法律可以要求，凡是AI创造的，你必须打水印，必须注明，但是最后当它不再听我们指挥的时候，它释放给我们的信息不打水印，你何以辨别？这种殖民化，不是一个天方夜谭的故事，恐怕三、五年以后就成为一个现实。
我想说赫拉利的担忧不是杞人忧天，我是赞成赫拉利的立场——人本主义，
人本主义依然以人为本，这个人是自然人，并不是我们说的人创造的异类、异种生物
。就像过去《左传》《春秋》里面说的，“非我族类，其心必异”，这个族不是我们自然人所说的异族，而是一个完全和我们不一样的另类的物种，其心必异，你无法想象它在想什么，它是一套什么算法，它以后会干什么。
如果我们依然还有这样一种人本立场的话，我们不能凭一厢情愿我们以后就得和谐相处对吧？这个和谐相处建立在一个前提下，那就是我还在对你可控。我们可以给你一个指令，你必须和我和谐相处。当然我们希望它的本性为善，但是历史经验往往告诉我们，人性往往都是趋向于恶的，这个恶当然不是要作恶，
而是从欲望推动，这种欲望就是主宰力、控制力。
我甚至相信硅基生物也同样具有这样一种欲望，这种所谓控制、占有、主宰的欲望，那么你怎么来应对它？
所以从这个意义上来说，赫拉利的立场也是我非常赞同的立场，它的发展要向人类文明对齐。
黄竞欧：
在赫拉利的这本书里面，他不仅从宏观层面去讨论人工智能时代给整个人类发展带来的挑战，他还从微观上注意到当计算机学会了使用人类的语言之后，能够通过跟人类沟通的方式来跟人类建立亲密关系，对个体所造成的影响。
在两位老师看来，
人跟人工智能或者跟计算机建立的这种亲密关系是真实的吗？
而在现在日渐老龄化的社会里，它又是否有存在的必要性？
刘擎：
这是一个有意思的问题。当我们问我们跟计算机建立这种亲密关系是否是真实的时候，
需要先回答什么是真实？
有人问，我们真实的人和人之间建立的亲密关系，那种爱情是真实的吗？好多年轻人不相信真的爱情，“哪有什么真爱？都是博弈，都是利益互换，是交易。”好多情感故事都是在用所谓博弈论的逻辑来给大家一些忠告和策略，说你怎么来处理亲密关系。
所以当真的亲密关系这个问题本身变成问题的时候，我觉得很多人愿意说，只要人工智能的机器人的伴侣发展得更真切一点，它完全可以做一个所谓的平替。或者说，现代人有对爱情的幻灭感。好多年轻人认为真爱要么不存在，要么存在也轮不到我。我们先要学会把自己看护好。但人会有情感需求，有亲密的、归属感的需求，所以如果AI机器人能发展出一种方式带给我们亲密感，它确实有很大的吸引力。
虽然现在AI还不是发展得特别健全，特别成熟，但
已经有一部分人跟它也就发展出一种伴侣的关系、问答的关系
。有一次我在讲课的时候遇到一些海外留学生，那时候我还没用过ChatGPT，他们就是在ChatGPT 3.5的时候，三、四个女生还有一个男生，他们说，
我每天晚上睡觉前有20分钟跟ChatGPT3.5（那个时候是很低的版本）对话。有的时候是吐槽，向它说今天一天的沮丧、不安或者是问题，它应答特别体贴。
过了一段时间他们就觉得它像一个伴侣一样，离不开它，对它有感情了。赫拉利在新书里也引入了这样一个例子，谷歌公司里有一个人就发现他自己对机器人有了感情。
而最近有一些网站提供了虚拟伴侣的服务，好像前段时间网络发生问题上不去了，大家就一片哀嚎，有的人觉得失恋了。还有一个人用了一个特别生动的语言，说像你的未婚夫出去旅行，但是飞机失事了。甚至有几天这个人是沉浸在这种哀悼之中。
在我看来，机器人的亲密关系是没有办法取代的。我在做一个关于爱情哲学的课程，我给出一个思想实验。你说现在交友、谈恋爱太难了，那我们就发明了一种机器人伴侣，出厂设置全部按你所愿，它是百依百顺的。或者如果我觉得百依百顺太无聊了，我让它有点小脾气，脾气你是可以调程度的，有低级、中级、强力。你特别喜欢好斗的，你觉得两个人的冲突会造成激情的，你就调一个强脾气模式。你要喜欢温柔的，你就调一个弱脾气模式。这一切都如你所愿，跟这个人生活在一起，你感到很舒适。但是你会感到爱情，你能相信这是真的爱情吗？
有一个麻烦就在于，当我们在爱情当中的时候，
我们是相信有一种主体间的关系的，因为我得到一个人的赞美或者体贴，哪怕是顺从，当他是一个具有主体和自由意志的人的时候，这份承认才是值得的，才是有价值的
。正像黑格尔在讲主奴辩证法的时候，当你完全变成主人，奴隶对你的承认虽然是100%彻底的，但他没有价值，因为他是奴隶。所以你不知道他的承认是由衷的，还是出于他的奴隶地位。
在你对机器人伴侣感到十分美好的时候，你知道所有它顺应你的那些都是你设计的，所以仍然有一个巨大的缺失和空虚感
。在某种意义上，我们知道我们愿意自欺欺人。当我们自己知道自欺的时候，它仍然是有一种挥之不去的遗憾，我认为它是没有办法替代的。
