点击上方“
腾讯科技
”,选择“置顶公众号”
关键时刻,第一时间送达!
【AI世代编者按】美国《连线》杂志创始主编凯文-凯利(Kevin Kelly)日前撰文,阐述了当今社会对人工智能的五大误解,并对背后的逻辑和理论展开了详细论述。
以下为文章全文:
我听到这样一种说法:未来,计算机主导的人工智能将比我们聪明得多,甚至会夺走我们所有的
工作
和资源,人类则会走向灭亡。果真如此吗?
每每谈起人工智能,我总是难免听到这样的问题。提问者都很认真,他们的担忧一定程度上源自各路专家的自问自答,其中包含很多当今世界上最聪明的人,例如史蒂芬-霍金(Stephen Hawking)、伊隆-马斯克(Elon Musk)、麦克斯-泰格马克(Max Tegmark)、山姆-哈里斯(Sam Harris)和比尔-盖茨(Bill Gates)。
他们都相信,这番场景很有可能变成现实。而在最近的一场关于人工智能问题的研讨会上,一个由9位大咖组成的委员会一致认同,这种超人类人工智能已经不可避免,而且并不遥远。
然而,那些认同超人类人工智能最终将会接管世界的人,内心其实都有5个假设。然而,如果对这5个假设展开细致分析就会发现,这其实都是“无稽之谈”。这些说法未来或许会成为现实,但目前还没有获得证据支撑。关于超人类智能将快速崛起的5大基本假设如下:
1、人工智能已经开始超越人类,而且正在以指数级速度发展。
2、我们可以开发出像自己一样的通用人工智能。
3、我们可以把人类的智能集成在硅片上。
4、智能可以无限强化。
5、一旦开发出超级智能,它就可以为我们解决多数问题。
与这些似是而非的说法相对的是,我反而认为以下5种看似异端邪说的观点能够获得更多的证据支撑。
1、智能并非单一维度,所以“比人类更聪明”这种概念本身就没有意义。
2、人类并没有通用思维,人工智能同样不具备这种能力。
3、在其他媒介上模拟人类思维将会受到成本因素的制约。
4、智能的维度并不是无限的。
5、智能只是推动科技和社会进步的诸多因素中的一项而已。
如果关于超人类人工智能接管世界的预期,完全基于5个没有证据支撑的关键假设,那么这种想法也就无异于宗教信仰。也就是说,这只能算是一种“神话”。我针对这5项假设提出的5种针锋相对的说法都有充分的依据,接下来的段落中将会详细展开。我将以此证明,超人类人工智能的说法只不过是一种“神话”。
关于人工智能最常见的误解其实来自对自然智能的普遍误解。
很多人认为,智能是单一维度的,这种理解其实并不正确。多数技术人员往往会像尼克-博斯特罗姆(Nick Bostrom)那样绘制智能进化图谱——他曾在《超级智能》(Superintelligence)一书中把智能描绘成一种单一维度、呈现线性发展的东西。
例如,一端是低智能的小动物,另外一端则是高智能的天才——感觉智能就像是可以用分贝来量化的声响一样。当然,如果认同这种观点,自然就可以对其进行扩展,认为智能的强度还会进一步增加,并最终超过我们自己的高智能状态,成为一种超强智能,甚至最终爆表。
这种模式就像阶梯一样,一层一层逐级递进,每一个层次的智能都比前一个层次更加进步。低等动物位于我们之下,而智能更高的人工智能必然位于我们之上。具体发生的时间并不重要,重要的是等级——也就是衡量智能优劣程度的指标。
但这种模型的问题在于,这只不过是一种像进化阶梯一样的错误观念而已。在达尔文进化论诞生之前,人们也认为自然界是呈现阶梯化发展的,低等动物低于人类。即便是在达尔文进化论诞生后,这种阶梯化进化理论仍然十分盛行。这种理论认为:鱼类进化成爬行动物,然后进化为哺乳动物,再进化为灵长类动物,最终进化出人类,每一级都比上一级进步一点(自然也会更聪明一些)。所以,智能阶梯与物种阶梯相互平行。但实际上,这两种模型都不符合
科学
观念。
上图这种由内向外发散的圆盘可以更为精确地描述物种的自然进化过程,这是美国德克萨斯大学的大卫-西里斯(David Hillis)率先根据DNA绘制出来的。这种深入的系谱学分类模式以最中央的原始
生命
形态为起点,然后向外发散。随着时间的推移,逐步形成了如今地球上的生命形态,也就是最外面的一圈。
这张图强调了进化过程的一个基本事实:当今世界的所有物种都是平等进化的。人类与蟑螂、蛤蜊、蕨类、狐狸、细菌共同位于最外面的一圈。每一个物种都经历了长达30亿年的繁衍生息,成功进化到今天。这就意味这当今的细菌和蟑螂与人类拥有同样的进化水平,并不存在所谓的阶梯。
类似地,智能同样不存在所谓的阶梯。智能并不限于单一维度,而是多种认知类型和模式组成的复合体,每一种类型或模式都是一个连续统一体。先来谈谈衡量动物智能这个简单的任务。如果智能是单一维度的,那就可以对鹦鹉、海豚、马、松鼠、章鱼、蓝鲸、猫、大猩猩按照顺序进行排列。但目前没有科学证据支撑这样一种排序方式。其中一个可能的原因在于,动物的智能没有差异,但我们同样没有看到这种证据。
有很多迹象都可以说明动物之间的思维存在显著差异。但它们是否都拥有相对的“通用智能”?可能如此,但并没有一个指标来衡量这种智能。相反,我们可以通过很多不同类型的指标评估不同类型的认知能力。
也就是说,没有一个类似于分贝的统一指标来衡量智能水平,所以更精确的智能模型应该是绘制它的“可能性空间”(possibility space)。上图是使用理查德-道金斯(Richard Dawkins)编写的算法生成的可能性表格。智能是一系列连续统一体的集合。各种节点(每个节点都是一个连续统一体)共同组成了一个多维度、多样化的复合体。
有的智能或许非常复杂,包含很多象征各种思维模式的子节点。还有的或许较为简单,但却非常极端,处在可能性空间的角落位置。这些被我们称作智能的复合体就像是各种各样的交响曲,由许多不同类型的乐器共同演奏。它们之间的差异并不仅仅是响度,还体现在音高、旋律、音色、节拍等因素上。我们可以将其视作一套生态系统。从这个意义上讲,不同思维模式的节点相互依赖、共创共生。
用马文-明斯基(Marvin Minsky)的话说,人类思维是“由思维组成的社会”(the society of mind)。我们在思维构成的生态系统上运行,其中包含多种认知能力,它们就像不同的物种一样构成了一个个的生态系统,而且可以完成种类各异的思考方式:包括演绎、
归纳
、符号推理、情商、空间逻辑、短期记忆和长期记忆。我们体内的整套神经系统也是一种具备其自身认知模式的大脑。我们思考时并不仅仅使用大脑,而是用整个身体来思考。
不同个体和不同物种之间的认知能力都存在差异。即使在几年之后,松鼠依然可以精确记住几千个橡子所在的具体位置,这种技能甩下人类好几条街。所以在这种认知能力上,松鼠超过了人类。要形成松鼠的思维,需要将这种“超能力”与其他在人类面前相形见绌的思维模式融合在一起。动物世界还有很多其他远超人类的认知能力,但同样要融合到不同的系统之中。
人工智能也很类似。人工智能已经在某些维度上超过人类。你可以把计算器当成算数天才,
谷歌
(
微博
)的记忆也已经在某些维度上超过人类。我们正在开发在特定模式上具备卓越能力的人工智能技术。其中一些模式是人类可以做到,但人工智能表现更好,例如概率统计或数学计算。还有一些能力是我们根本不具备的——例如,记住60亿个网页的上的每一个单词,而这恰恰是搜索引擎的用途所在。
未来,我们还会发展人类所不具备的新型认知模式,有的甚至是整个生物界都不曾出现过的模式。当我们发明人造飞行器时,受到了
生物
飞行模式的启发,主要是不停扇动的翅膀。但我们所发明的飞行器却在尺寸更大的固定翼上安装了推进器,这是一种生物界前所未有的飞行模式,是一种异形飞行模式。
类似地,我们今后也将开发自然界不曾出现过的全新的思维模式。在很多情况下,这都是针对具体任务而设计的专用模式——可能是一种仅在统计和概率上能够奏效的推理形式。
在其他情况下,这种新思维可能会是一种复杂的认知,可以帮助我们应对那些无法利用自己的智能独立解决的问题。商业和科学领域碰到的最困难的问题可能需要通过两个步骤来解决:第一步:发明一种新的思维模式与我们的思维进行配合。第二步:将二者融合起来,最终解决问题。
由于我们正在解决之前无法解决的问题,所以才会认为这种认知比自己“更聪明”,但实际上,它只是跟我们“不一样”而已。这种思维差异才是人工智能的主要优势。我认为,看待人工智能时,真正可取的方式是将其视作一种异形智能(或人造异形)。它与我们之间的差异性才是它真正的价值所在。
与此同时,我们还将把这些不同的认知模式融合到更加全面而复杂的“思维社会”中。其中有些复合体比我们更复杂,而由于它们可以解决我们无法解决的问题,所以有人会将其定性为“超人类”。但我们不会将谷歌称作超人类人工智能,即便它的记忆能力远超我们,这是因为我们能在很多事情上比它做得更好。
这些人工智能复合体肯定可以在很多维度上超越我们,但没有一个实体能够在方方面面全面超越人类。这跟体力方面获得的进步有些类似。工业革命至今已有200年历史,虽然所有机器作为一个整体可以在体力上超越人类的个体(奔跑速度、举重能力、精确切割),但没有一台机器能够在所有事情上全面超越一个普通人。
即便人工智能中的“思维社会”变得更加复杂,目前也很难用科学方法衡量这种复杂性。我们并没有一套可行的复杂性指标来判断黄瓜是否比波音747更加复杂,或者判断它们之间的复杂方式是否存在差异。
想要确定思维A是否比思维B更加复杂,是一件非常困难的事情。同样地,要确定思维A是否比思维B更聪明,也非常困难。我们很快就会明确意识到,所谓的“聪明”并不是单一维度的问题。我们同时也会意识到,我们真正关注的其实是智能的其他运行模式——也就是我们尚未发现的其他所有认知节点。
第二个关于人工智能的误解是,我们认为自己拥有通用智能。
正由于秉承了这种被人反复提及的观念,使得人工智能研究人员经常阐述一个目标:开发通用人工智能技术(AGI)。然而,如果我们以上文的“可用性空间”来看待智能,那也就没有通用一说了。
人类智能并不处在中心位置,其他专项智能也并不是围绕它发展的。相反,人类智能只是一种非常具体的智能形式,经过了数百万年的进化后,使得我们这个物种在地球上生存下来。如果对所有可能的智能类型所处的空间进行了解后,便会发现人类这种智能只是“偏居一隅”,就像我们的世界处在浩瀚的银河的边缘一样。
我们肯定可以想象,甚至发明一种类似于瑞士军刀的多用途思维。它可以完成很多事情,但却没有一种能够做到极致。人工智能也会无法突破这种极限:不可能针对所有维度进行优化,只能进行权衡,做出妥协。不可能开发出在每项具体的功能上都表现优异的多功能通用人工智能。
一个庞大的“全能”思维,不可能在所有事情上都像专用人工智能一样表现出色。由于人们认为人类的思维是通用思维,所以往往也认为认知不必受限于工程师的权衡妥协,认为完全可以开发出一种在所有思维模式上都做到极致的智能技术。
但我没有看到任何证据支撑这一论调。我们并没有开发足够多样的思维模式,因而也就无法看到可能性空间的整体状况。
人类之所以认为可以在通用思维上做到极致,其实一定程度上源自通用计算的概念。
这个概念之前在1950年被称作丘奇-图灵假说(Church-Turing hypothesis)。这种假说认为,达到特定门槛的所有计算都是等价的。因此所有的计算存在一个通用的核心:无论组成一台机器的零件速度是快是慢,甚至就算发生在生物体的大脑中,都会遵循相同的逻辑过程。这就意味着你可以在任何一台能够进行“通用计算”的机器上模拟任何的计算过程(思维)。
奇点论者利用这套理论来支撑自己的预期:他们认为,我们可以制作一种具备人类思维的“硅脑”,甚至可以开发能像人类一样思考的人工思想,而且远比人类更加聪明。我们应该对这种期待心存怀疑,因为他们误解了丘奇-图灵假说。
这项理论的出发点是:“如果拥有无限的磁带(存储)和时间,所有的计算都是等价的。”问题在于,在现实世界中,没有一台计算机拥有无限的存储和时间。当你在现实世界中进行实时操作时,这甚至会产生天壤之别。没错,如果忽略时间因素,所有的思维都是等价的。的确,你可以在任何一个矩阵中模拟人类思维,前提是你要忽略时间维度,或者存储及内存等实实在在的局限因素。
然而,如果把时间考虑在内,就必须重新阐述这条定律:在两个差异巨大的平台上运行的两套计算系统不可能实时等价。还可以这样来说:想要让不同的思维模式等价,唯一的方法就是让它们在等价的基底上运行。你的计算究竟能够实时处理好哪些类型的计算,很大程度上取决于它所依赖的物理因素——随着复杂度的提升,这种现象也会越发明显。