讨论人工智能的威胁为时尚早

来源：学习时报,作者：刘晓青

我们期待对人工智能的理解能够包含一些社会性因素（诸如社会交往、文化网络等），走向基于大数据的共享式信息文明，这也是未来人工智能发展的一个重要方向。

4E认知未来的发展可能会走向人工智能与人类智能的长期博弈。然而可以明确的是，当前讨论人工智能对人类智能构成威胁为时尚早。

　　当今社会，信息充斥着宇宙的每一寸空间，摩尔定律犹如一只看不见的手在预测着计算能力的增长，人工智能呈现出势如破竹的发展态势，机器可以代替人类完成不同层级的认知任务，表现出较强的“深度学习”能力。霍金、比尔·盖茨、马斯克等人更是宣称人工智能的发展会危及人类安全，对人类智能构成严峻威胁，甚至认为人类终将被人工智能所奴役。对此，我们应该如何评判呢？一方面，人工智能领域正在蓬勃发展；另一方面，“人工智能威胁论”却甚嚣尘上。矛盾的背后可谓困惑迭生。

　　我们的心灵本质上是形式化的计算机吗？

　　人工智能作为大数据时代的技术产物，我们应如何看待其与人类智能的关系呢？这需要从大家熟知的图灵机讲起。在“人工智能之父”艾伦·图灵看来，计算就是由人或机器完成的符号变化的机械过程，其本身与表征无关，信息通过二进制的形式规则运算加以处理。作为一种数学模型，图灵机磁带上的方格从左向右可以无限延长，读写头可以在任何时间处于磁带的任意方格处，存在有限的内在状态和带有符号标识的有限字母表。机器读出磁带移动格子上的符号就可以按照程序进行下一步操作，使其进入新的计算状态。1950年，图灵进一步提出了著名的图灵测试。这个测试通过“模仿游戏”表明，如果在相当长时间的问答交流后，审问者无法通过问答手段判断对方是人还是机器，我们就可以说这个机器通过了图灵测试，进而推断计算机具有与人相当的智能，是可以思维的。换言之，在人工智能发展的初期，如果一台计算机能与人类聊天，我们就应该认为它是有智能的，我们的心灵就是一台计算机。这样的结论可靠吗？反观当今社会，随着人工智能技术的不断进步，计算机（比如Facebook、JD上的智能机器人等）变得越来越“健谈”，可以与用户进行无障碍地问答交流，但从本质上来说这一疑问依然存在。

　　从功能机制来看，人工智能主要依赖于扩展性因果模式，试图说明内含的因果功能状态，而并不关注系统的内部构成，输入—输出等效的两个系统可以表现出相同的智能行为，但其内部并不能被赋予相同的心灵。心灵是生物体特有的结构之一，具有物理现象、化学现象所缺乏的自主性特征，如果仅仅诉诸人工智能研究心灵问题，势必会遗漏心灵的自主性特征。具体而言，史蒂芬·平克主张“心灵被组织成模块或心理器官，每一个模块都经过专门设计，成为与外在世界互动过程中某一方面的专家。模块的基本逻辑是由遗传程序决定的。它们的活动方式是自然选择的结果，是我们的祖先在进化的过程中解决采集和狩猎生活中的问题而形成的”。正是在此意义上，达尔文的《物种起源》犹如第一个千年的《圣经》为科学思想史带来了彻底变革，使得人工智能与生物学紧密结合。

　　概括来说，心灵是进化的产物，其中包含语义内容，不能直接等同于形式符号化的计算机程序，机器所能模拟的只是人类的部分思维。也就是说，尽管计算机是一个信息处理系统，它可以在一定程度上模拟人类的生理与心理状态变化，解释主体经验的认知机制，但是迄今为止我们仍不可能建立全面复制人类心灵的超级智能机器，人工智能与心灵解释之间依然存在着鸿沟。

　　我们心灵以外的世界始于何处？

　　随着时代的发展，20世纪末期第二代认知科学开始不折不扣地大显身手，在其范式引导下的4E认知纲领为人工智能带来了“崭新的春天”，引发了一系列认知哲学问题，成为智能最新研究的重要基石。与笛卡尔式的认知科学相比，第二代认知科学将研究视域从心灵转向外部世界，主要表现为情境化的涉身认知（embodied cognition）、嵌入认知（embedded cognition）、生成认知（enacted cognition）、延展认知（extended cognition），突出强调心灵以外的身体结构及其外部环境的重要作用，阐明有机体与身体、外在环境之间形成了互动耦合关系，共同构成了一个认知动力系统，该系统可以突出认知主体的系统性和整体性，动态地再现认知过程的实时性与非线性，弥合人与自然之间的鸿沟，使得人的生物性与社会性实现统一。

　　具体来说，涉身认知将大脑之外的身体视为认知过程的调节者，嵌入认知依赖于身体之外的社会文化过程，生成认知离不开环境与有机体之间的互动，延展认知将环境作为认知系统的构成要素。顾名思义，情境是伴随认知过程的重要因素，有机体在与大脑、身体和外部世界的关系中总是表现出一种情境化色彩，“心灵与社会是互补性的解释观念，而不是竞争对手”。我们期待对人工智能的理解能够包含一些社会性因素（诸如社会交往、文化网络等），走向基于大数据的共享式信息文明，这也是未来人工智能发展的一个重要方向。

　　心灵的功能是充分运用身体和外部环境控制来指导行为，也正是在此意义上可以将情境交互性看作认知能力的基本遵循。一方面，社会文化在语言、记忆、想象发生的过程中扮演了推动者的角色，就这一点而论，情境对主体理解认知关系有着限制作用。另一方面，社会文化是交互隐喻与4E认知的核心要素，是保障主体完成认知任务的必要条件，当然也是实现这一过程的重要手段。没有社会文化环境，人的认知能力将不复存在；没有社会文化环境，人的生活将不成其为生活。

　　人工智能会走向“技术奇点”吗？

　　4E认知未来的发展可能会走向人工智能与人类智能的长期博弈，但是谁也不知道结局会怎样。然而可以明确的是，当前讨论人工智能对人类智能构成威胁为时尚早，我们尚未陷入智能机器的隐忧中。客观地说，人工智能的目标太过宏大，目前可能正处于一个快速上升的阶段，其对产业转型与社会形态发展产生了巨大影响，表现出泛中心化特点和不确定性。以机器大规模代替人力，必将提高生产效率，突显标准化、模块化、专业化、批量化，这与工业革命期间机器制造的高效化一脉相承，但同时也会给劳动力市场带来巨大的冲击，出现“无用阶层”的隐忧。然而，当前人工智能的发展水平与最初设定的目标相比，还有较长的一段距离，更多停留在“弱人工智能”的范畴之中，而人脑的“遗传算法”要比现在理解的更为复杂，其在神经网络上的应用存在着极大的概率性和或然性，所以希冀人工智能在短期内突破人类智能水平是不太现实的。

　　究竟何为人类智能？人类智能是大自然用最简单但也最有效的试错法设计出来的自然智能，当然自然并不在意试错的时间和成本。人类智能遵循自然进化法则，创作了不同时期的智慧文明，正如恩斯特·迈尔所认为的那样，人类是地球上所有物种中唯一发展出文明的智能物种，人类社会的中心概念是文化，文化的出现促使人与人之间相互整合、协作，并且逐步形成了独特的意义系统。从我们的经验可以得知，人脑作为一个精密仪器，有着高度复杂的结构，可以凭借进化出来的认知资本有效处理信息、创造性地操控目标。身体和外在环境的构成要素即使能够像人类一样表现出认知能力，也不会出现真正能够与人平起平坐的思维机器。

　　从功能意义上说，尽管对认知的社会性认识处于起步阶段，但是人类未来仍然有可能会被智能机器所奴役，也就是说，仅就生存威胁而言，如果有人设计出具有破坏性功能的程序并被执行的话，那么人工智能就有可能威胁人类智能，现代社会的单个人完全有可能会被其他物种取代，到那时人类社会也许会表现出悲剧式的生存方式和生活状态，带来难以诠释的伦理问题。然而，如果将威胁理解为超越人类理性的创造能力，虽说原则上具有超越的逻辑可能性，但实则并非一件易事，在遥远的未来这样的情况只能出现在科幻小说和电影中。人类的进化过程极为复杂，人工智能的发展水平尚处于功能模仿阶段。人们没那么容易被自己设计的二级智能打败，毕竟二级智能在一定程度上会继承人类智能的局限性；换言之，人类认知能力有其局限性，基于这种有限能力设计的二级智能肯定会表现出同源的局限性，在可见的未来似乎很难达到人工智能超越人类智能的奇点时刻。

“远望智库”聚焦前沿科技领域，着眼科技未来发展，围绕军民融合、科技创新、管理创新、科技安全、知识产权等主题，开展情报挖掘、发展战略研究、规划论证、评估评价、项目筛选，以及成果转化等工作，为管理决策、产业规划、企业发展、机构投资提供情报、咨询、培训等服务，为推动国家创新驱动发展和军民融合深度发展提供智力支撑。