马斯克和霍金都在预警人工智能对人类的极大威胁，马斯克还宣称有了应对措施：先把人脑与人工智能融合。他还说干就干，成立了新公司。

但我的预警却是：马斯克要做的事对人类的威胁，比人工智能的威胁要大得多。我们要联合起来，坚决抵制！

埃隆·马斯克（Elon Musk）成立的新公司Neuralink要把人脑与计算机直接融合。马斯克宣称，人类社会即将全面进入人工智能时代，为了避免被新物种——超人工智能威胁甚至消灭，人们唯一的出路就是将自己的大脑与AI融为一体。

无独有偶，我最近在很多场合做演讲谈到VR（虚拟现实）的未来发展，期望头盔越来越小越来越轻变成一般眼镜的样子，就经常有业界人士接茬说，以后哪里需要眼镜，接到脑中枢就是了。

马斯克希望“脑机界面”能进行人类意识的实时翻译并将之转化为可输出的电子信号，从而可以连接并控制各种外部设备，用他的话说就是“当你的念头一闪而过时，电视机或车库门便自动打开了”。初一看，这里说的是人脑控制信号的输出，但是所有的控制都需要信号的反馈，也就是说，在设计输出的接口时同时还要设计输入的回路，才能实施控制。

但是，无论是马斯克之流的AI脑机接口派还是VR领域的直接输入派，都没回答过这样一个致命的问题：“你们知道如何防止人类的自我意识被彻底抹除吗？”

我们的自然感官，主要是让我们接受认知性的信息，而不是让外来的控制信号随便侵入，这就为保护和维持我们每个个体的主体地位打下了基础。有鉴于此，我们必须要坚持如下三条初始状态的“非对称原则”：

• 从客体到主体这个方向，信息越通畅越好，控制信号阻滞度越高越好。

• 从主体到客体这个方向，控制信号越畅通越好，信息密封度越高越好。

• 以上两条的松动调节，以最严苛的程序保证以各个主体为主导。

那么，如果现在放开搞“脑机连接”，危险在哪里呢？对照以上原则，我们可以归纳出以下几方面的可能风险。

其一，由于现今人类对自己的大脑与自我意识的关联的认识还非常有限，也对认知性智能与自由意志之间的关联的认识基本为零，在这样无知的前提下贸然实施大脑直接干涉，很有可能将人类的自我意识（或曰“灵魂”）严重破坏甚至彻底抹除。

其二，就算没有抹除，在作为认知材料的“信息”和控制人的行为的“信号”之间不能做到基本分离的社会和技术条件下，有了绕过人的自然感官直接刺激脑中枢的技术手段，将给一部分人控制另一部分人提供极大的方便，对人的自由和尊严构成严重的外来威胁。

其三，当人们还没达成法律共识将脑机接口的信息和信号的流向设置权完全赋予同一主体之前，一个人由于可能直接被外来意识控制所带来的损失，比他可以直接控制外部设备所带来的方便，或许要大得多。

以上几条不同层面的风险，哪一条都足以构成我们联合抵制马斯克等人的“脑机融合”项目的充足理由。

当今，渗透到人类生活各个层面的互联网、飞速运转的计算机、海量储存能力的云储存以及时下大热的虚拟现实与人工智能等新兴科学技术，将人类抛进一个既似熟悉又还陌生的环境中。人们熟悉的是，以往传统生活模式中的基本事务的处理在这些技术的协助下变得更为方便快捷，而陌生的是，在如此快速的技术迭代下，人们对现实与虚拟之间的界限的感知变得越来越模糊、对人类与机器的关系的把握越来越恍惚、对人类社会既定的规范制度的有效性的判定也越来越迷茫。以2016年阿尔法围棋（AlphaGo）与李世石的博弈为例，围棋世界冠军、职业九段选手李世石以4：1的总比分落败于一款人工智能围棋程序，过后不久，AlphaGo更以Master为账号横扫所有人类顶级对手。这样的结果，让不少观者开始忧心忡忡，甚至担心发展到具有“人类意识”的人工智能会不会统治甚至毁灭人类社会。马斯克、盖茨、霍金这些偶像级的大人物，都在发出警示。

而马斯克还即刻付诸行动，要将人类每个个体先用AI全面武装起来，以对抗垄断AI的假想的邪恶势力。但是，从上文我们已经看到，如此具有行动力的人，却有着一个思想力上的致命伤，对人的自我主体意识问题缺乏思考，从而成为了一个危险人物。

马斯克在哲学界有个同道，这就是尼克·博斯特姆（Nick Bostrom）教授。他相信无论只有智能的AI还是具有自主意识的AI，都完全是由计算来实现的。由此他还做出了一个逆天的判断：我们人类的意识，在接近100%的概率上，不是真实存在的意识，而是被计算机模拟出来的“假意识”。但是，第三人称世界的对象可以分真假，第一人称世界中的意识何以分真假？博斯特姆基于自然主义的计算主义使他陷入到虚妄的境地之中。更为严重的是，大企业家马斯克之流也循着这个思路前行的话，就会彻底忽略“脑机连接”项目最致命的危险。

笔者经过多年的独立研究，加上近来与美国量子物理学家亨利·斯塔普（Henry Stapp）的讨论，笔者已经得出结论，物理主义和计算主义对人类意识的解释是误入歧途的，因为这些解释者都不可避免地陷入了“整一性投射谬误”（Fallacy of Unity Projection）之中不可自拔（见《哲学研究》2015年第6期笔者发表的论文）。笔者得出的结论是，以计算机模仿神经元网络的方式造出来的人工智能不可能具有真正的自我意识，只有按照某种非定域原理（比如量子力学）建造出来的人工系统，才有可能具有第一人称视角的主观世界和自由意志。所以，除非有人以确凿的证据向我们证明如何按照非定域原理把精神意识引入某个人工系统，不管该系统的可观察行为与人类行为多么相似，我们都不能认为该系统真的具有了精神意识，该系统都还是属于工具性的“弱人工智能”。

弱人工智能是在特定领域类似、等同或者超过人类智能/效率(不具备自我意识)的机器智能。就目前已广泛应用的人体识别、机器视觉、自动驾驶、机器深度学习等AI技术而言，都属于擅长单一活动的弱人工智能范畴。可以“战胜”李世石一百次的AlphaGo也不例外。AlphaGo的工作原理是训练多层符号化的人工神经网络进行“深度学习”，这种“学习”，实质是将大量矩阵数据作为输入，通过非线性激活方法取权重，再产生另一个数据集合作为输出，调整权重分配，反复迭代逼近期望值，直至满意，就把权重矩阵固化下来，从学习状态转到工作状态。本人与斯塔普的研究表明，这样的学习过程，从头到尾都没有任何机会让“自我意识”涌现。

以雷·库兹韦尔为代表的未来学家认为“智能爆炸”正在发生，但他们并没有论证过人类的自我意识和人类的智能的分别在哪里，也就无法揭示这种所谓的“智能爆炸”到底是福还是祸，从而所谓的“乐观”还是“悲观”的区分都显得肤浅和不得要领。虽然我们在这里没法展开系统的论证，分析一下这种威胁论的直接起因，还是可行的。

首先，人工智能可以通过“学习”无穷迭代改进其“能力”，而这种权重分配为何能达到这个能力，却是一个无人可以破解的黑箱内的矩阵状态。这样的事态，听起来就会引起大家的心理恐慌。此种危机意识是人类自己将“对未知领域的不确定和不可控性”“对未知领域可能产生的巨大影响”与“缺乏学理根据的科幻想象”糅合之后的产物。也就是说，这种危机感类似于被迫害妄想症，而问题症结不在于人工智能这项技术，而在于有这种意识的人群本身。因为在没有完全弄清楚人工智能与自主意识的问题之前，将人工智能拟人化或主观赋予其行为动机都是出于人们臆想的焦灼和恐惧，所以这种威胁实属“人为”而非“机为”。

其次，以马斯克为代表的一部分人担忧，如果怀有恶意的个人/组织/集团/政府率先掌握了超人工智能技术并用其实现自己的邪恶计划，那么人类的处境将会变得岌岌可危。这类危机来源围绕的仍旧是人的动机，关涉的依然是人与人之间的操纵与被操纵的“政治”问题，而无关乎人工智能是否具有“征服”的意图。只要不脱离人际间的关系，看似由人工智能所导致的控制危机实质上就仍然属于人类自古以来一直都在面对的统治与被统治的话题。这与黑幕后的政客或极端恐怖分子掌握大规模杀伤性武器本质上是一样的，也与我们造了大坝却对其后果难以预测和把控的情况相差无几。所以，人工智能这项新型技术可能会对我们过往经验构成严峻挑战，但并不会产生完全不同类型的新问题。也就是说，人们担心的“智能爆炸”所引发的后果并不是一个新难题，而是一系列老问题的叠加。

再次，对于人工智能技术的焦虑还来自另一类认为它将取代人类劳动力，从而造成大量人类失业的威胁。这类忧虑,实则是对人类内在价值的误读。其实，“不劳而获”只是在有人“劳”另有人“获”时才是坏事，而使得所有人都可以“不劳而获”，正是所有技术进步的应有目的。人类谋生所需的体力劳动和脑力劳动被机器替代是必然的趋势，而这正是我们所有经济发展技术创新所谋求的主要目标。由此看来，人工智能取代人类劳动，我们应该拍手叫好才是。只要我们的分配制度与人类劳作的关系理顺了，人类并不会因为失业就丧失了生活的意义，反而这让人们有更多的机会去使其内在价值大放异彩，直接谋取生活的意义。

所谓人类生活的内在价值，是与其外在价值或工具价值相对而言的。比如，单从一个人来说，为了购买食物让自己生存下去而不得不从事一份枯燥乏味的工作，这种工作并没有任何独立的价值，其价值完全是工具性的、附属于生存需要的。另一方面，内在价值却是非工具性的。或许哲学家们在几千年的争论中还未能将具体哪些是人类的内在价值给出一个精准的划分和描述，但诸如幸福、自由、正义、尊严、创造等这类基本内在价值是鲜有否定的。这些价值不是为了其他价值或目的而存在，它们本身就具有至高无上的价值，失去这些价值诉求，人们生活所欲求的全部内容将不复存在。而人工智能取代人类劳动力从事基础工种的劳动，恰恰是将人类从劳作谋生的桎梏中解放出来，让人们投身到艺术、认知、思想、情爱、创造等实现人的内在价值的活动中去。

最后，正如最近大热的科幻剧集《西部世界》和《黑镜》系列所隐喻的那样，部分人认为人工智能的“觉醒”才是对人类最致命的威胁。他们害怕人工智能发展到具有自由意志和自主意识的强人工智能阶段后，会拥有跟人类一样的“人性”腹黑面而与人为敌。但是，正如以上所说，现今冯·诺依曼框架下的二进制计算机的工作原理依赖经典物理学的“定域原则”，永远不可能“觉醒”，而只有以“非定域原则”为构架的计算机(比如量子计算机)才有可能产生自我意识。所以，在现今神经网络人工智能独领风骚的情况下，这种担心完全多余。

那么，如果基于量子力学我们真的制造出了具有自我主体意识的强人工智能呢？这时我们就要彻底转变思路了，此时有意识和情感的人工智能也具有与人类对等的人格结构，在社会地位与权利尊严等方面应与人类一致。拿它们去买卖，相当于法律上的贩卖人口。进一步地，我们必须将它们看成是我们的后代，与我们在实验室培育试管婴儿并无本质上的差别。自古以来，我们都希望自己的后代超越自己啊，“强人工智能”比我们强，我们庆贺都来不及，还焦虑什么呢？

总之，按照人文理性的要求，面对自己创造的具有自我意识的强人工智能存在体，我们的基本态度应是接受并认可他们是人类进化了的后代。正如经过上万年的演变后，躲在山洞里的智人成为穿梭于摩天大厦里的现代人的历史进程一样，人类以崭新的方式繁衍出一种新面貌的超级智能人，这不是灭世的劫难而是人类的跳跃式进化。

但是，目前以Neuralink为代表的科技公司所试图做的脑机互联,却极有可能将人类个体变成徒有人形的机器人，亦即行走的“僵尸”，彻底终结人类文明。如若仅仅出于害怕人类在超人工智能时代到来时不能与AI在劳动力市场相匹敌甚至被淘汰而企图将人类变成AI，这将是对人类最紧迫且最严重的威胁。就像上文所说的那样，人脑是迄今为止我们所知的最为复杂精巧的东西，在我们还没有基本摸清其运作原理之前，对其进行任何加工改造都是极端危险的行为。

著有《未来简史》的哲学家赫拉利最近在英国的《卫报》发表了一篇文章，题为“无需就业就实现人生意义”，宣称人工智能的发展将大多数人变成“不可就业”后，虚拟现实让人们直接实现生活的意义。他还把人们在VR世界中与生产力脱离的活动类比于古往今来的宗教活动，试图说明人们从来都是在生产活动之外才找到深层意义的源头。

赫拉利认为劳作不是生活意义的源头，与我们以上的观点不谋而合。但他将人们在虚拟世界中的活动与宗教类比，却忽略了一个最重要的问题，那就是，在宗教中，人一般被当成被造的存在，而在虚拟世界中，每个人都可以是世界的“造物主”。他没注意到，“创造”与“被造”，是相反的。

在VR与物联网整一起之前，VR只是一个体验的世界，很多东西并不会在真实社会中直接造成实质性后果。VR和物联网整在一起就不一样了，那就是ER，扩展现实，我们此时就可以从虚拟世界操作现实世界中的物理过程，完成生产任务了。这方面我们界定完了以后，就可以讨论，到底在现实世界不能干的事情，是否可以允许人们在虚拟世界中去实现。

有人认为现实世界不许干的事都是坏事，那可不一定。因为，现实中的自然限制不一定符合人的需求，人为的规矩也不一定是最合理的规矩。比如说孙悟空，还有《山海经》那种古代传说中的很多东西，我们在现实中就干不了。但是如果我们看不出这种神仙般的能力有啥不好，或许很好，我们就让大家high起来啊。再比如说，现实生活中有国界，而虚拟世界中可以没有国界，没国界到底是好事还是坏事？没有进一步讨论之前，我们先不要轻易下结论。一下子从管制角度看，它好像是坏事，但是终极来看也许并不是坏事。是我们制度要适应这种东西，而不是倒过来，让我们适应已有的制度。这就需要非常严格的逻辑思维，对人类社会本性有一种透彻的理解，对我们的生活的内在价值，都要有一些比较深刻的理解，才能想清楚这些我们必须面对的新问题。这就有很多思想资源，有两千多年来哲学家讨论的东西，平时人家不关心这些。现在虚拟世界和人工智能等东西来了，那些东西就变成任何人都要面对的事情。我们立法，和人建立关系打交道，都变成要思考最抽象的哲学问题了，这就要激活大家的人文理性。

VR领域真正的问题，其实是与马斯克的“脑机融合”项目类似的问题。虚拟现实行业的不少人与马斯克有类似的危险想法，就是绕过人的自然感官直接刺激脑中枢来给人输入虚拟世界的信号。经过我们以上的分析，我们知道，这是万万使不得的。

不同的是，这边形势更加紧迫，却少有人关注。虚拟现实与物联网的结合是不久后几乎必然要发生的事情，我已在实验室中做出了可操作的原型了。做出这个，就是要警示大家，弄好了我们接近神仙，弄不好呢，马斯克还没来得及做的事，被虚拟现实大牛抢先了。一旦大家脑部被插，无论是在VR还是AI领域的人干的，可能结果就是人类文明终结。

脑机合一  对抗人工智能？

那个要实现火星移民计划的特斯拉CEO马斯克又有大动作了：最近，他成立了一家新公司Neuralink，而这家新公司的主要工作是把一个叫做“神经织网”的东西嵌入人类的大脑，实现人类和电脑的“脑机合一”。

如果这个梦想成真，将意味着人类从此可以随意地“上传”和“下载”思想、自如地修复和增强大脑功能，甚至实现人类的精神永生。在马斯克看来，这条和人工智能合二为一的道路，蕴藏着人类打败人工智能的唯一可能性。

研究动力：

人类有可能沦为人工智能的宠物？

“神经织网”（neural lace）这个概念，最早由英国已故科幻小说家伊恩·班克斯首次提出。伊恩·班克斯在英国有“当代狄更斯”之称，被认为是“英国最有想象力的作家”。他在系列小说《文明》中， 假想人类的大脑皮层质中存在半有机体的神经网络，可以帮助人脑与人工智能系统无缝对接。

而今天，马斯克想把这个幻想的情节变为现实。他刚刚成立的新公司Neuralink的研究重点是目前炙手可热的人脑——计算机交互接口 （BCI）技术。说白了，就是要在人类的大脑中植入线路并将其与电脑连接。而最终的目标则是要借个技术帮人类与人工智能“合二为一”，实现思想的任意上传和下载，人类将因此“进化”成为超越人工智能的、更高级的人类智能（HI）。

马斯克一直非常担心在未来AI会变得比人类更加聪明和智能。“或许它们能帮助我们更好地救死扶伤和解决一些全球性难题，但这也意味着总有一天，它们会把我们看做一无是处的居家宠物。”马斯克说。

而“神经织网”就是为防止这个结果而生的。因为只有如此，才能保证人类的智力不落后于人工智能，甚至可以超越它们。

马斯克深信，这是人类在未来不会沦为人工智能的“小猫咪”的唯一选择。

难关：

如何听懂脑细胞的“语言”？

“脑机接口”是最近十几年发展非常快的脑科学技术。2015年，荷兰一名渐冻症女病人成为了第一个装配新型大脑植入体的人，科学家在她的大脑运动皮层控制左手的位置植入电极，这根电极可将信号传导到埋在胸部的信号放大器、发射器，并有体外信号接收器接收信息。

美国康奈尔大学神经生物与行为学系博士生陈睿东告诉记者，现有脑机接口技术的主流是植入式的，就是插电极到大脑里记录神经元活动信号。但它有可能造成组织损伤，以及发炎反应引起的信号衰退。而且这项研究也很难找到人类被试——要不是像“渐冻人”这样别无选择，谁也不愿意让人无缘无故在自己的脑袋上开个洞。

但马斯克的“神经织网”构想则是通过微创方式将电极放入人脑里。要做到这一点，首先得发展出一种新型的电子材料，它得足够小、足够软，可以注射到人类大脑中，然后在大脑中展开成为一个电极网络，成为记录神经元活动的多个电极。

这听上去简直像天方夜谭。但事实上，已经有科学家在此方面取得了突破性进展，比如哈佛大学的纳米专家Charles Lieber，他的团队在去年就声称发明了一种网格电极，可以用针头注射到小鼠的大脑中，同时还不会发生免疫排斥。

陈睿东说，这项新技术的确提供了一种可能性，但目前还没办法大规模使用或替代传统的电极。“而且它也面临很多问题：比如记录到的信号来自哪个神经元？信号采集效率如何？使用寿命有多长？”

而电极还不是现阶段最大的挑战，横亘在马斯克面前最大的障碍是破解神经元的语言。“要和大脑沟通，就必须要知道脑细胞彼此是如何沟通的。人机交互的理想状态，是我们可以‘监听’脑细胞之间的交流，以此来控制外部设备；又或者通过电刺激等方法‘向脑细胞说话’，以产生虚拟的感觉。这一切的前提是我们的设备能‘听懂’并且‘会说’脑细胞的‘语言’。我们知道神经元交流所用的语言载体是神经冲动：神经元会向它的下游伙伴们发出离散的脉冲。我们的电极再厉害，也只能记录这些代码。但记录到的代码是什么意思，只有初步的认识和猜想，还远远没有破解。”陈睿东说。

未来：

增强智慧遥不可期 治疗疾病更加切实

这几年，经常会有同“脑机接口”技术有关的科技新闻见诸报端，除了帮助“渐冻人”进行书写，还有“让瘫痪的猴子重新行走”等等。而这些突破主要是在脑机接口的“信号输出”方面；相形之下，“信号输入”的进展则更加滞后。陈睿东告诉记者，这恰恰是因为信号输出能够在一定程度上忽视前面提到的那些困难。“比如，用‘脑机接口’技术让瘫痪的猴子重新行走，并不需要我们理解运动系统的语言，只要将大脑的输出记录下来并用于控制外部设备，让大脑来学习输出正确的指令就可以了。”

而且，“信号输入”还有另一个巨大难题是输入手段本身：我们目前的主要手段是通过电极刺激大量神经元，而无法精确地修改一个个神经元的活动状态。这类似于我们只会用大喇叭发出轰鸣，而缺少精细的发声器官以产生有意义的语言。

综上所述，陈睿东认为，利用脑机接口技术实现“意识上传”、增强人类智慧，甚至实现人的意识永生，从目前来看都是遥不可及的。但有限的输入和输出，比如增强的虚拟实境技术，或瘫痪、帕金森症病人等的运动辅助方面，倒有可能在未来5～25年商业化。“根据新闻报道，Neuralink的首个目标也的确是聚焦于医学：通过脑机接口改善癫痫和抑郁等神经系统疾病的症状。这一短期目标要现实得多，更能直接改善病人的生活。相对于‘增强人类的智慧’，这些才是现阶段脑机接口技术发展的主要推动力。”陈睿东说。

而在陈睿东看来，马斯克“因为担心人工智能有一天会打败人类，所以要大力发展‘脑机接口’技术”的声明，本身在逻辑推演上就存在问题。“如果他真的对人工智能的发展有所忧虑，那应该专注于人工智能技术本身的安全才是正途。”

文章来源：南方周末，作者： 翟振明 朱奕如 中山大学人机互联实验室，如有侵权请告知删除谢谢！

往期精彩回顾

1.未来十大趋势，你准备好了没？

2.涨见识的动图（化学反应如此有趣）

3.数学系和物理系的学生有什么差别？

 4.你知道到底是什么导致我们近视的吗？

5.300年后的人类，看完直接目瞪口呆！

6.没有牛顿、爱因斯坦，物理学将会怎样？

7.你问探索太空有何用

本期编辑|雾里人

参加物理集训营拨打咨询电话，短期高效提高物理！欢迎拨打咨询电话：13581994719