我在上周讨论了人工智能可能让人类面临
“终极失业”
的困境。其实，这只是未来人类社会所面临的众多风险中的一种。很有可能，还等不到人工智能来消灭我们，人类通过一场大规模核战争就自己把自己消灭了。要知道，现在整个地球就是一个炸药桶，全世界现存的核弹如果全部爆炸，足可以把地球毁灭50次。
随着现代社会的技术迭代越来越快，全球化游戏越卷越深，人类面临的风险呈几何级增长。这就是由社会学家贝克提出、吉登斯进一步论证的“风险社会”的基本特征。
贝克发现，
“风险社会”与传统社会的最根本区别，不在于风险水平的高低，而在于风险的来源。
传统社会中，人类面临的最大风险来自自然界，各种天灾（洪水、干旱、蝗灾、瘟疫等）是造成重大灾难的最主要原因。传统社会里唯一能造成重大损失的“人祸”，是大规模战争。不过，冷兵器时代的战争，规模再大，其破坏性都比不上现代战争的一个零头。
与传统社会不同，“风险社会”的最大特征，就是“人祸”的比例越来越高。
人类社会面临的主要风险，不再是自然风险，而是人类活动自身所造成的不确定性。
其中最重要的风险源，一是技术，二是制度。
由于篇幅原因，本文只讨论技术风险，制度风险以后再聊。
技术风险源于现代社会的一个根本难题：
人类自身的智慧增长赶不上技术增长的速度。
一种新技术一旦被发明，就有自我演进、自我生长的倾向，其演化速度可能大大超过人类智力进化的速度，比如著名的“摩尔定律”。也就是说，科技进步天生就具有“失控”的趋势。一旦人类智慧驾驭不了这些新技术，就会引发难以预料的可怕灾难。
目前最热门的科技领域如人工智能、克隆技术、基因工程等，全都具备这样的高风险特征。
具有讽刺意味的是，人类中最富有远见的头脑并不是没有意识到这些问题。早在1818年，世界公认的第一部真正意义上的科幻小说《科学怪人》问世，而它的主题，恰恰就是“反思科技”。要知道，当时工业革命正在如火如荼地进行，人类正在为自己拥有的科技“魔法”而欢欣鼓舞。就在人类大规模征服自然的“雄性力量”爆发之际，小说作者玛丽·雪莱却以女性的敏锐直觉，遇见到了潜在的危险。
她笔下的主人翁科学家弗兰肯斯坦，为人正直、充满激情、全身心投入科学追求，完全符合现代社会的理想人格。然而，正是他的科学狂热，为社会和自己制造出了巨大的灾难。小说的结局，是弗兰肯斯坦终于反思到自己的错误，选择与自己亲手制造的巨人怪物同归于尽。
这无疑是对未来人类命运的一个悲剧性隐喻。
对于技术可能给人类带来的负面冲击，一般我们的想象是“黑天鹅”式的，是一些遥远的、不可测的突发重大事件。除了能提供更多的科幻电影题材以外，技术风险和我们的日常生活基本无关，更不是普通人能够去考虑的问题。真的是这样吗？
事实上，潜在的技术风险正在温水煮青蛙般悄悄改变着人类社会。
其中最值得警觉的风险之一，就是技术不再仅仅是改变物质条件的工具，而是正在改变人类的心智。
吴伯凡老师曾提出一个问题：互联网是使人变得更开放，还是更封闭？他的回答是后者。他指出，像今日头条、手机百度这样具有智能推送功能的应用，它们为你提供信息的方式，是典型的“投其所好”。
你想看什么，它就给你什么，而它为你推送的这些信息，反过来又会引导你的偏好。久而久之，这些应用变得比你还了解你自己，能轻而易举地抓取你的注意力（这是现代社会中最稀缺的资源）。同时，你的认知越来越狭隘，离世界的真相越来越远。这些智能推送就好像古代的佞臣，他的最大本事就是让君主感觉很爽，须臾不能离身，其结果是君臣关系倒置，奴才变成了实际上的主子，后患无穷。对此，
吴伯凡老师提出严重警告：信息有毒。
这种趋势如果进一步发展，就很可能让赵汀阳老师的预言一语成谶：
技术成为新的专制力量。
想象一下，未来每个人身上都植入一个携带全部个人信息的芯片，无论你走到哪里，都有感应器随时随地读取这些信息；不等你开口，它就主动为你提供资讯、购物、娱乐、医疗等你所需要的一切服务，让你感到无比舒服和便捷。——这样不是很好吗，危险何在？
表面上看，这种服务人人都可享受，并且为每个人提供足够多的自由选项，因此是“平等”和“自由”的。
但实际上，所有的自由选项和权利空间都被预先规定了，它提供的只是虚幻的自由。
就好像当我们坐在拥挤不堪的经济舱内，被笑容迷人的空姐问起“鸡肉饭还是牛肉面”时，恍然间也有了做上帝的感觉。
于是，
技术和服务通过提供这种排除了创造性的“自由选项”，实际上严格规定了每个人的生活方式和思维方式，从而成为一种全新的专制。
新专制与旧专制最大的不同，就是普通人根本意识不到它的存在，通常还乐在其中。就像孙猴子为自己一个跟头可以翻十万八千里而沾沾自喜，殊不知根本没翻过如来佛的手掌心。
