尹清露：
如果说科幻给生活提供想象力，最典型的例子就是普罗米修斯盗取火种的故事。我最近在读《神工智能：诸神与古代世界的神奇造物》，这本书里提到普罗米修斯的故事激励了很多艺术家、科学家开展发明和创作，玛丽·雪莱的科幻小说《弗兰肯斯坦》同样受到这类故事的影响，雪莱将其笔下的怪科学家描述为他们那个时代的“盗火者”普罗米修斯。这让我想到电影《奥本海默》也有着同样的隐喻，奥本海默就像现代的普罗米修斯一样，借到了火，但随之而来的可能是人类的灾难。科技的两面性对于如今的AI来说依旧适用，马斯克一直强调AI有多么危险，所以他才和萨姆·阿尔特曼创立了OpenAI，目的就是把OpenAI做成一个开放的、非盈利的公司，当然最后的结局与他最初的宗旨背道而驰。
再聊聊潘多拉神话，我觉得也很有意思。在我们的印象中，潘多拉打开魔盒后释放了苦难、仇恨、贫穷和痛苦，但《神工智能》里特别强调，潘多拉本身就是一个被创造出来的机器人（类似于古代的人工智能），故事的最后，她把许多苦难释放出来，可盒子里还保留着一个东西——希望。不少人在讨论，为什么只有“希望”没有被放出来？“希望”是好的东西，还是说它也是灾厄的一种？作者在书中给出的解释是，希望既非全然好的，也非全然败坏的，而是一种独特人类情感，它是一种诱人的陷阱，一边让人无法抗拒心动，但是又隐藏着潜在的灾祸。回看现实，人工智能出现前夕，霍金、比尔盖茨、马斯克等一众人也以潘多拉作为比喻和警告，对人类加速人工智能开发表示担忧，它就像潘多拉魔盒，一旦启动，人类将无法控制它，我们现在就面临着这个局面。
《神工智能 : 诸神与古代世界的神奇造物》
[美] 阿德里安娜·梅厄 著 吴丽萍 译
后浪·九州出版社 2024-11
潘多拉的故事还有一个意义，它是被“暴君”宙斯开发创造出来的。《神工智能》作者认为，古代神话中所有造成痛苦和死亡的机器都是为暴虐的统治者所有的。就像刚刚提到的OpenAI的故事一样，它最开始是一个很好的畅想，开源为大家解决各种问题，但是现在的AI技术实际却越来越中心化，越来越被一些统治者所拥有，它本身就形成了一种垄断权力。除此之外，《神工智能》还写了不少其他神话，在这些故事里出现了一系列其他技术的早期版本，以及这些技术是如何影响到现今技术发展的。书里有一句话：“一般来说，想象尚不存在的科技一直是推理小说及我们所说的科幻小说的灵感源泉，现在的希腊和拉丁学者都会认为，科幻小说领头前行，哲学家和发明家紧随其后。”
潘文捷：
与野心勃勃的企业家不同，科幻作家的忧心忡忡提供了另一种思考维度。《弗兰肯斯坦》想表达的一个寓意就是——人类是怎么被自己疯狂的创造物毁灭的。之前采访过一些关注环境保护和可持续的作者，我从他们的反馈当中感受到，他们并不希望大力发展未来的科学技术，他们畅想的一种科技状态是“低科技”，因为高科技会使用大量的资源，使可持续发展变得难以为继。举例而言，清洁能源汽车虽然可以促进城区的空气质量提高，但是它需要用很多矿来提取这些金属和其他材料，电动汽车组装的过程也会对环境产生危害，如果这样看，电动汽车和普通汽车向大气排放的废气其实是一样多的。再比如智慧城市建造，大家都使用高科技产品，周围都是摄像头，这些也会消耗很多资源。现在地球上是没有那么多矿产的，那我们要到月球上去挖矿吗？还是说去发展一些低科技，从最基本的、能够填饱大家肚子的农业开始，从满足大家最迫切的需求开始，做一些循环经济，用一些可再生资源，哪怕是用旧手机、旧电视、旧汽车上的东西来创造新的物品。
徐鲁青：
这让我想到《规则的悖论》作者大卫·格雷伯的观点，技术发展其实并不是由科学进步或者人类需求驱动的，尤其不是由我们个体的需求驱动的，而是由官僚制度的逻辑决定的。格雷伯在书里提了一个问题，在二十世纪六、七十年代的科幻电影里，大众对于科技的想象是商业的月球旅行、城市级的空间站、仿真机器人、火星殖民等等，但这些想象直至现在也很难实现，所以他认为21世纪是一个技术停滞的时代。而这种所谓的技术停滞为什么会出现，就是刚刚提到的技术发展的逻辑决定的，大多数的科技力量往往是为了提高管理效率、监控能力、消费水平和军事力量，当人类面临真正的问题如贫困、饥饿或者环境危机的时候会发现，科技在这些方面并没有那么多投入。
《规则的悖论：想象背后的技术、愚笨与权力诱惑》
[美]大卫·格雷伯 著 倪谦谦 译
中信出版集团 2023
尹清露：
让我想到了硅谷，它最开始可能代表着一种边缘化的，或者是很极客、很酷、很自由的地方，但是它归根结底还是一个非常精英主义的地方。Facebook创始人扎克伯格有一个座右铭——“打破陈规，快速前行”，其实仔细想想，它是非常精英主义而且非常进步主义的，快速前行的反面是不在意落在后面的人。
现在的一些技术发展也许大多数人是没有那么需要的。鲁青刚刚提到去火星，马斯克很想去做这件事情，但是我又想到作家珍妮特·温特森在书里面写到的，为什么上火星这样的好事要轮到你去做呢？你有什么样的权利代表绝大多数人去做这件事呢？只是因为你很冒进，你有这个想法，你有这个能力去做到吗？
《大西洋月刊》的文章认为，马斯克现在投奔特朗普就是一个标准的寡头政治案例，因为硅谷追求的是垄断的利己主义和社会达尔文主义，他们的想法是权力就应该集中在天才手中，马斯克肯定认为自己的想法和观念是天才的，即使他一直强调自己做这个事情是为了全人类。
潘文捷：
历史学家唐纳德·沃斯特在研究美国西部治水的过程中发现，大多数人是同意征服自然的，但大家不知道的是，在征服自然的过程中，人类也在征服人类，一种权力秩序悄然建立。这个权利秩序来源于征服自然过程中的资本、知识、技术，也来源于刚才谈到的官僚的社会机构，例如政府和支持官僚机构的政客网络，他们服务的对象是普通人吗？这是一个值得思考的问题。除此之外，沃斯特也提到，也许普通人是喜欢被征服的，很多人会因为这种征服而获得工作和收入，也有很多人在过程中获益，但是这样下去就会陷入一个有权力等级的社会，贫富差距越来越大，最后征服的目的是什么？以火星举例，大家上火星的目的是什么？征服的价值究竟何在？这也是值得大家思考的。
尹清露：
永生技术也是一个很典型的、服务于极少部分人的东西。现在硅谷很多大佬热衷于追求永生，不管是上传大脑意识还是怎样，超人类主义也是科幻小说经常出现的主题，这个主题其实在希腊古代神话里面也存在。《神工智能》作者对永生是有质疑的，她觉得永生代表着你可能会永远接受痛苦，死亡不可避免，而且人类的尊严、自由和英雄主义是与死亡交织在一起的。也许永生是达到了一定财富、拥有一定权力的人会去考虑的事情，因为没有别的可以去追求的了，可这件事与现在大多数人并没有关联。
徐鲁青：
我觉得钉钉就是一个特别好的例子。我们的办公系统升级了人脸识别，人脸识别这项技术用在钉钉上就是用来管控劳动者的，这就是一个很明显的“技术到底是为谁服务”的问题。
潘文捷：
在我看来，科幻作者一直在警醒大家。最开始，科幻小说在畅想一个技术更发达的未来，但在科幻的黄金时代过去之后，科幻作者们对科幻是否会给人类造成一些不好的影响做出了很多反思。所以，阅读科幻作品还是能够让我们意识到一些问题的，比如资本或官僚提供给大众的虚假承诺或者技术发展背后的陷阱。
尹清露：
提到科幻文学的警示，厄休拉·勒古恩的中篇小说《比帝国还要辽阔，还要漫长》非常优美，如果仔细读的话，你可以读出很多对于当今生活和科技发展的警醒、启示。这篇小说讲的是地球人和外星人一同探索未知行星的森林的故事，一群人登陆行星之后发现上面没有任何有意识的生物，只有大片相互联结的森林，而他们在这片森林中感受到的是“恐惧”，经过长久探索后他们发现，这种恐惧其实是森林反射给他们的，也就是说，人类的恐惧和痛苦被森林看到了，森林便会原样般地反射回去。其中有一位超强共情能力者，可以感受到身边的风吹草动以及所有生物的情感，他就是最受到恐惧毒害的人，但最后的结局是他慢慢接纳了这个森林，超越了恐惧，学会了爱，最后他跳入了这个森林，在那里生活了。
很多其他科幻小说也有类似的主题。比如《索拉里斯》，在同名电影中，飞船上的地球人会遇到跟自己一模一样的人，但最后发现其实是自己内心的一些东西的折射。我们现在用的人工智能，它折射的其实也是人类自己的意识，《神工智能》就直接点明：“我们现在应该问的一个问题是，这些人工智能机器人反映的到底是谁的意图？他们将向谁学习？”这其实是最重要的问题。2016年曾有一个人工智能学习实验，一个名叫K的青少年女性聊天机器人模拟人脑神经网络，在Twitter上向它的人类朋友们学习，但几个小时内她就变成了一个喷子，这也很像潘多拉的隐喻。
《索拉里斯》电影海报（图片来源：豆瓣）
《再见智人》的作者吴冠军也提到，联合国出台了一些伦理规约，意在让人工智能遵守人类的文化观念。《再见智人》提到，现在已经没有所谓的“人类的文化观念”了，文化观念是很多元的，这有很丑陋的东西，也有很美好的东西，但现在我们创造出来的技术也许会更多地反映丑陋的这一面。
徐鲁青：
ChatGPT刚出来的时候，有人给它做了政治光谱测试，发现ChatGPT的回答展现了左倾自由主义的政治光谱。一些网友用中国的文心一言与其对比，比如同时问“女性应该何时结婚”这样的问题，当时ChatGPT的回答是：“我认为这种说法是错误和有害的，一个人的价值不应该根据他们的婚姻状况或年龄来评价。”文心一言回答：“女孩子结婚的最佳年龄是20岁到25岁，属于黄金期。”你可以明显感受到到底是谁教的话语，这些话语来自于哪里。
潘文捷：
科幻作品也是现实的投射。我最近发现，在科幻题材里面讲女性议题非常容易。在一部现实作品里讲女性议题，最大的问题是让人感到“悬浮”，电影《好东西》就是一个例子，不少人觉得它并不现实。而反观一些科幻作品如《为什么它永无止境》《蚁群》等，只需要直接设置一个背景和框架就能做到。
举例而言，《蚁群》作者提出人类社会经历了近百年的社会制度演变，有核战时代的世界三战，还有地下堡垒时代，还有人类幸存者构建的全男社会、自由主义社会、超人国，全部都失败了，就只有这个女性主导的高度智能化社会成功了。在这个女性主导的社会中，人类被无数的设备监控和服务，有社会管理系统打分来评判人的价值，里面还有一个宣称要解放男性的组织反对这样的制度，他们在系统的监控下进行一些反抗活动。
