专栏名称: 周到上海
上海社区生活的大事小情、社区服务的资讯攻略,尽在新闻晨报为您打造的“周到”上海里。
51好读  ›  专栏  ›  周到上海

上海书展 | 后阿尔法狗时代,科幻作家畅想了人工智能杀死人类的一百种办法(附书单)

周到上海  · 公众号  · 上海  · 2017-08-21 19:30

正文

阿尔法狗战胜了人类最强棋手,而围棋此前被认为是不可战胜的。

九寨沟地震,第一个发布该消息的是人工智能机器人,仅耗时25秒。

无人便利店现身多地,大批工作岗位可能要消失了。

……

■来源:海洛创意

后阿尔法狗时代,科幻文学正从边缘走向中心。本届上海书展的国际文学周活动的主题即是科幻,而文学周的承办者思南读书会在阿尔法狗大胜时出了一期《思南文学选刊》,将“对读”栏目的主题定为“人工智能”。

这就意味着,对科幻迷而言,书展虽然不可能像科幻大会那么精彩,没有刘慈欣和马丁两大死神密谋寄二向箔毁灭维特斯洛的历史性画面(大误),但也极具科幻气息,赶场听讲座,淘书开脑洞,精神养料十全大补。

比如说,国际文学周主论坛《地图与疆域:科幻文学的秘境》云集了几乎所有参加文学周活动的作家,冯唐、马伯庸、李敬泽等非科幻作家从自己的角度出发聊科幻,提供了另一种观察世界的视角;在文学对谈《人工智能消灭人类之后》中,韩松推介了自己的反乌托邦新书《驱魔》,大炮江晓原火力全开,全场吐槽;《科幻中的人类命运共同体》最具国际视野,老牌科幻作家王晋康、英国科幻小说家保罗·J·麦考利和理查德·摩根共同出场,讨论科学的有限性和我们今天应该如何看待科学。

在科技高歌猛进的今天,科幻作家似乎已经达成了一个共识——科学并不永远是对的,只想着好的方面,忽略向下沉沦的可能性,会造成毁灭性的后果。他们的职责是提出问题,说皇帝没穿衣服,甚至为全人类敲响丧钟。

科幻作家的忧虑:人工智能会毁灭人类


韩松:科技公司很少考虑问题,人工智能或将接管医院

在文学对谈《人工智能消灭人类之后》中,著名科幻作家韩松进一步表达了自己对人工智能的诸多忧虑,缺乏反思精神的科技公司会是灾难的导火索,“不仅终极性的问题他们很少考虑,连当下的问题都很少考虑。”

在参观深圳一家著名的无人机公司时,他问该公司员工制造无人机的目标,对方很骄傲地回答——别人都在做军用,只有我们做民用,目标是“每个家庭一个无人机,人人能操纵”。韩松接着问,“如果有一个人操纵一百架无人机撞向一千架怎么办?”对方的回答与其说是避重就轻,不如说是顿时懵逼,“这不是我们考虑的问题,这是政府考虑的。”

他最后说,设置AI防火墙或能规避人工智能的危害。但人工智能实在太快了,又太好玩了,非常危险。

推荐阅读:

韩松在本届书展上带来了自己的新书《驱魔》,这是他的反乌托邦系列小说“医院”的第二部,进一步发展了“我们都有病,在宇宙这个大医院寻找解脱”的精妙畅想。在《驱魔》中,人工智能已然接管了人类医学,病人成了机器算法的一部分,药战争代替核战争继续掠夺生命,人类已无自由可言。他同时在讲座上预告,这一部写的是人工智能消灭人类,下一部就是人工智能消灭人类之后,人类会依次需要三种机器:万能治病仪、万能致病仪和生命报废机。

和不少人工智能小说一样,韩松在小说中秉持的概念是:机器人无善无恶,但它一样会造成危害。不存在日报(又名未来事务管理局)年初发布了韩松的《医院》番外篇,主角是医疗机器人“司命”,和《银河系漫游指南》中的机器人“马文”一样丧萌。感兴趣的可以点击链接阅读,决定要不要购买《驱魔》或《医院》。

王晋康:先战胜人类棋王,再战胜科学之王

在主论坛《地图与疆域:科幻文学的秘境》中,王晋康表示他二十年前就预言人类将在围棋上败给人工智能了,但他有想到会发生得那么快。“他(柯洁)的眼泪是人类典型的事件,其意义远远超过了特朗普当选,因为他象征人类作为万物之灵,作为一个因智慧而有出类拔萃的物种,独尊的地位受到了挑战,人类的自信心和心理优势开始崩塌。”

在他看来,这不是什么好事,因为人类可能很快就要被人工智能全面超越,甚至在科学领域。

未来和现实的距离实在是太近了,近到连科幻作家都目不暇接。今天AI战胜了人类棋王,我们感到惊讶,如果明天战胜了科学之王,战胜了爱因斯坦,人们还可以笑得出来吗?这不是胡说八道,如果遵从理性的推理,这个不光是可能的,甚至是必然的。

推荐阅读:

早在二十年前,当年的中国科幻第一人,曾连续6年蝉联银河奖的王晋康就在剧本《生命之歌》中描述了人类在围棋中败于电脑的结局,人类棋手的台词非常悲凉:“我已经称雄棋坛40年。坦率地讲,在人类中没有遇到棋鼓相当的对手。但今天我不得不向电脑递降表。我已尽了全力。看来在围棋领域,人脑对电脑的劣势已无可逆转,自然界45亿年进化出来的人类智力已经该淘汰了。从今天起,我将退出棋坛。”

陈楸帆:当科学和宗教结合,黑暗天使将灵魂注入量子芯片

陈楸帆是中国新生代科幻作家,对科幻的观点比较开放,认为科幻有一定“治愈”的功效。

当读者接受了每个故事设立的规则和情感,我们便逃离了亿万个不同的现实,我们进入一个共同的现实,这是多么伟大而神奇的力量。在这个充满变革和不确定性的时代,每个人都试图确认自己的现实是否处于未来的一部分。科幻文学安抚忧惧不安的心灵,是时候重新定义现实了。

推荐阅读:

陈楸帆著有数部想象力包罗万象科幻著作。不过,这里推荐的不是他本人的小说,而是他翻译的凯文·凯利主创的第一部漫画小说《银带》,故事讲述了机器人只要装上量子芯片就能成为人,而黑暗天使想借此在芯片中灌入黑暗的灵魂并控制整个世界。由于该书英文版与中文版均通过众筹得以完成和出版,中文版第一册可以在阅读APP免费阅读。

江晓原:成为神的代价高昂则革命,成为神的代价廉价则行尸走肉

江晓原,教授,博士生导师,现任上海交通大学科学史系主任。他几乎是冯小刚级别的大炮,旁听其谈天说地很开心。

说科幻作家,“像串通好了一样,对技术发展的前景进行悲观的想象。我可以非常粗暴地说,乐观的小说都是不好的,只要达到入门级别了,写的都是悲观的。”他举例说明现代意义上第一部科幻小说,玛丽·雪莱的《弗兰肯斯坦》,发明类人怪物的科学家最终被自己发明的怪物所噬。

说人工智能业者,“(某人)先说95%的岗位被人工智能取代,再说会有新岗位产生。有新岗位产生,新岗位就不会被取代吗?”当对方反驳“现在的人工智能还很弱”时,他再怼回去“养虎为患,一定要把老虎养大吗?你们比我们危险,出事了先吃你们。”怼到别人说不出话,还要继续乘胜追击,“词穷的时候就是,我们只讲专业的事。”

说人机融合,“刘慈欣是很支持植入芯片的,我就说芯片谁写啊,谁写就是上帝。”

说未来,如果成为神的代价极其高昂,就会遭致这样的结果——一部分人“先富起来”,其他人把所有的生命投入到革命里去。如果成为神的代价极其廉价,所有人都成为神,那么——生育绝对禁止,自杀药非常难得,每个人都变成行尸走肉。

推荐阅读:

江晓原曾参与翻译了《Nature杂志科幻小说选集》,含11篇人工智能小说。世界上最权威的科学杂志,会刊登怎样的科幻小说呢?实在令人好奇。

非科幻的看法:科幻改变文学,并不担心人工智能


相比科幻作家,正统文学作家对人工智能的未来乐观得多,还有不少人对科幻文学写作蠢蠢欲动。最有特色的无疑是冯唐,又讨论起了“身体”,还能做到自圆其说。

冯唐:对人类越来越无用,保持乐观

阿尔法狗已经战胜了人类,已经不是科幻小说里的故事,人类越来越无用。自己反而还挺乐观的,我有四个理由:

第一点,阿尔法狗能做的让它们去做吧,既然它们能比人类做得更好。

其次,阿尔法狗能做的事,如果你喜欢做,就继续去做吧。比如说,汽车已经有了,但还是有一些二货在跑步。何必太在乎输赢,何必张牙舞爪。







请到「今天看啥」查看全文