专栏名称: 人工智能学家

致力成为权威的人工智能科技媒体和前沿科技研究机构

逻辑之神：AI能通过人类的逻辑成为神吗（深度）

人工智能学家 · 公众号 · AI · 2024-08-30 16:48

正文

布特勒圣战中究竟有多少人丧生，我们永远不得而知。是数百万？数十亿？还是数万亿？那是一场疯狂的愤怒，一场席卷一切的大起义。它如野火蔓延，吞噬沿途的一切，是一场持续近百年的混乱。这场战争吞噬了几代人，其死亡人数之高，给人类灵魂留下了永久的伤痕。

但我们永远不会知道那些在战争中战斗和牺牲的人的名字，也无从得知它造成的巨大苦难和破坏，因为布特勒圣战虽然可憎而具毁灭性，却从未真实发生过。

这场圣战是弗兰克·赫伯特为其科幻传奇《沙丘》虚构的事件。它是人类对有意识技术的最后一战，是一场推翻机器逻辑之神、根除几乎完全奴役我们的有意识计算机和机器人的十字军东征。

赫伯特将其描述为"全人类的丘脑停顿"，一个暴力肆虐到彻底改变社会未来发展方向的时代。但我们对这场斗争中实际发生的事情知之甚少，因为在原版《沙丘》系列中，赫伯特只给了我们最模糊的轮廓——一些暗示、低语和耳语，它们带有预言般的幽灵重量。

圣战通过禁止人工智能或任何模拟人类思维的机器，重塑了文明，遏制了技术的最糟糕过度发展。然而，它发生在小说中所描绘事件的许多世纪之前，以至于到了小说发生的时候，它已经淡化为传说，并结晶为外传。这场灾难中艰难获得的教训被保存在民间智慧和谚语中："人类不可被取代。""人们曾把思考交给机器，希望这能让他们获得自由。但这只是让其他拥有机器的人奴役他们。""我们不信任可能由富有想象力的技术产生的未知事物。""我们必须禁止会思考的机器。"

圣战最持久的遗产是人类与技术关系的深刻改变。因为那场伟大狩猎的目标不仅仅是机械智能，还有已经占据我们物种的机器般的态度。赫伯特写道："人类曾经让那些机器篡夺我们的美感，篡夺我们做出生活判断所必需的自我。"

人类必须制定自己的准则。这不是机器能做到的。推理取决于编程，而不是硬件，而我们是终极程序！

布特勒圣战消除了一个拐杖——我们交给技术的那部分自我——并迫使人类的思维发展到超越机械推理的限度，这样我们就不再依赖计算机为我们思考。

赫伯特对人类与机器逻辑之神之间毁灭性战争的遥远幻想，在他60年代开始写作时似乎有些不合时宜。那时，计算机按现代标准来看还很原始，是巨大的主机装置，每秒只能处理数十万个周期（而不是现在的数十亿），内存很小，通过穿孔卡操作，彼此之间也没有连接。

从那以后我们一直轻易地无视赫伯特的警告，但现在布特勒圣战突然重新困扰着我们。人工智能末日是一种新的恐惧，让许多人夜不能寐。这种恐怖源于巨大的进步，似乎暗示如果我们不非常小心，我们可能会亲手带来一个人类无处容身的未来。这种奇怪的噩梦之所以成为可信的危险，只是因为我们的许多梦想正威胁着成真。

这是一个漫长过程的叠加，可以追溯到文明本身的起源，那时世界充满魔法和恐惧，唯一能确保我们生存的方法就是召唤神灵的力量。

成神一直困扰着人类的灵魂。自古以来，我们就渴望成为神明，超越自然对我们设置的限制。为了达到这个目的，我们建造祭坛，举行仪式，祈求智慧、祝福和超越我们能力的手段。

虽然我们倾向于认为只有在现代世界中，力量和知识才带来巨大风险，但原始知识也是危险的，因为在古代，我们对世界和自身的部分理解并非来自我们自身，而是来自他者。来自神明，来自灵魂，来自在沉默中咆哮的声音。

在印度人揭示的吠陀奥秘的核心，是一个火祭坛：一个由砖块按精确的数学比例铺设而成的祭祀构造，形成一只巨大猛禽的形状——也许是鹰或鹫。

根据罗伯托·卡拉索的说法，这是一切起源的原始神祇——生物之主般阇僧提的礼物。当他的孩子们，众神，抱怨他们无法逃脱死亡时，他给了他们精确的指示，如何建造一个能让他们升天并获得不朽的祭坛："取三百六十块边石和一万零八百块砖，与一年中的小时数相同，"他说。"每块砖都应该有一个名字。把它们放在五层。再加砖块到总共一万一千五百五十六块。"

众神建造了祭坛，逃离了死神本身。然而，死神阻止了人类做同样的事。我们不被允许让肉体成为不朽；我们只能渴望永恒的作品。吠陀人民继续竖立火祭坛数千年：随着时间推移，据卡拉索说，他们意识到每块砖都是一个思想，思想堆叠在一起创造了一堵墙——心智，注意力的力量——而那个心智，当得到适当发展时，可以像展开翅膀的鸟儿一样飞翔，征服天空。

从远处看，对那些不知道正在制造什么的人来说，这些男男女女肯定看起来像是疯了的砖匠。而同样狂热的愚蠢，似乎也占据了那些在最近几十年里献出心智来建造一个新的数学结构的人，这个结构是我们思维某些方面的无灵魂复制品，我们选择将其命名为"人工智能"，一个如此强大的工具，如果我们相信它最狂热的追随者的话，将帮助我们到达天堂并成为不朽。

人工智能是原始而抽象的力量，缺乏身体、意识或欲望，因此，有人可能会说，它无法产生吠陀经称之为tapas的原始热量——心灵的热情，一切存在从中涌现的热忱——这种热量仍然在我们每个人心中微弱地燃烧。

如果我们相信来自硅谷最乐观的声音，人工智能可能是我们用来创造无限财富、治愈一切疾病、修复地球并走向不朽的工具，而悲观者则警告说它可能是我们的末日。我们是否已经到了加入永恒众神的时候？还是我们的数字后代会篡夺火祭坛并将其用于自己的目的，就像我们自己偷走了那本应属于神明的知识一样？现在下定论还为时尚早。但我们可以确定一件事，因为我们一次又一次地从我们的神话的惩罚故事中学到：召唤神明或靠近他们从来都不安全。

19世纪中叶，数学家乔治·布尔听到了上帝的声音。当他穿过英国家附近的一片田野时，他经历了一次神秘体验，并开始相信他将揭示人类思维的底层规则。

布尔是一个贫穷鞋匠的儿子，天才儿童，自学了微积分，在唐卡斯特当教师，直到他的一篇论文为他赢得了皇家学会的金奖章，并获得了成为爱尔兰科克皇后学院第一位数学教授的职位。在大学的庇护下，相对摆脱了长期困扰他的经济困难，他第一次可以几乎完全投入自己的激情，他很快就做到了一件独特的事：他将数学和逻辑结合在一个将改变世界的系统中。

在布尔之前，逻辑和数学这两门学科已经分开发展了一千多年。他的新逻辑只有两个值——真和假——用它不仅可以做数学，还可以分析哲学陈述和命题以确定其真实性或虚假性。对于他这个虔诚的宗教人士来说，布尔将他的新型逻辑用于精神必需品的东西：证明上帝不能做恶。

在一个他标题为"恶的起源"的手写笔记中，布尔用他的逻辑原理分析了四个基本前提：

1. 如果上帝是全能的，一切事物必须按照他的意愿发生，反之亦然。

2. 如果上帝是完全善良的，并且如果一切事物都按照他的意愿发生，绝对的恶就不存在。

3. 如果上帝是全能的，并且如果仁慈是他行为的唯一原则，要么痛苦不存在，要么它存在仅仅作为善的工具。

4. 痛苦确实存在。

他通过用符号替换这些陈述，并通过数学运算以不同方式组合它们，对这些陈述进行逻辑分析，直到他得出一个根据他的系统绝对为真的结果：绝对的邪恶不存在，痛苦是善的工具。

布尔是一个被他那个时代精神所塑造的人，这种精神与我们的非常不同：他相信人类的心智是理性的，并且按照塑造更大宇宙的相同规律运作；通过艰苦地揭示这些规律，我们不仅可以理解世界并揭示产生和引导我们自己思想的隐藏机制，我们实际上可以窥视神性的心灵。

在处理恶的问题后，布尔继续发展他的想法，试图创造一种运算法来将所有逻辑三段论、推理和推论简化为数学符号的操作，并为概率理论奠定精确的基础。这导致了他最伟大的著作：《思维规律研究》，这本书阐述了他的新符号逻辑的规则，并在开篇章节中概述了他的宏伟意图，即用数学捕捉那个在我们思维曲折路径中低语的幽灵的语言：

本论文的设计是研究心智进行推理时所进行的那些操作的基本规律；用微积分的符号语言表达它们，并在此基础上建立逻辑科学并构建其方法。

布尔确信我们的思维在基本上是按逻辑运作的，但他去世时还没有达到创造一个理解思维的系统的目标；在出版他的杰作十年后，他步行两英里半从家到大学，被雨淋湿了，穿着湿衣服讲了一整天课，后来发展成致命的肺炎。他因发烧而陷入谵妄，告诉他的妻子玛丽·埃弗雷斯特，他可以看到整个宇宙像一片巨大的黑色海洋展现在他面前，除了一支银号和唱着"主啊，你的话永远定于天"的合唱，什么也看不见，什么也听不见。

他于1864年12月8日去世，不久之前玛丽（根据一个可能是虚构的故事）曾用湿毛毯裹住他——遵循同种疗法的奇怪逻辑，即治疗必须模仿原因——无意中加速了她的挚爱的离世。

布尔的工作在他有生之年无关紧要，在他死后80多年被忽视，直到有一天，麻省理工学院的一个年轻研究生偶然发现了《思维规律》，沉浸在布尔的奇怪代数逻辑中，创造了一个从那时起影响了我们生活的方方面面的实际应用。

他的名字是克劳德·香农，一个数学家和电气工程师，当时正在研究他那个时代最先进的思维机器（范内瓦·布什的微分分析器，一个和整个房间一样大的早期计算机），当他意识到布尔的两值逻辑是设计电子电路的完美系统。电开关使用二进制值（0表示关闭，1表示打开），它们可以由英国数学家创造的逻辑运算控制。仅仅通过利用一个简单的二元性：真或假，开或关，1或0，就可以进行令人难以置信的复杂计算。这种二元性是信息时代的基石。

布尔看似无用且高度抽象的想法在数字电路中轰然复活，彻底改变了我们的技术景观；从吸尘器到洲际弹道导弹，绝大多数使用电力的技术都依赖于它们。但它们最重要的应用是它们构成了现代计算机"思考"方式的基础。

这些计算机用布尔语"说话"，并用它来计算；它们执行的每一个任务都归结为一系列是-否问题，这些问题使用布尔逻辑处理。它们所有的软件，每一行代码，都依赖于它。布尔的奇怪逻辑是驱动现代世界的无形炼金术，也是新火祭坛砖块的泥土，因为它是今天最先进的AI系统的基本单位的基础：人工神经元。

1943年，沃伦·斯特吉斯·麦卡洛克和沃尔特·皮茨发表了第一个神经元的数学模型。它极其简化和抽象，没有真实生物学的复杂过程，但从这种简单性中产生了巨大的力量。

麦卡洛克是一位神经生理学家，也是控制论的创始人之一，皮茨是一位才华横溢的年轻博学者，在逻辑方面出类拔萃，他们建立在这样一个事实之上：本质上，神经元的行为是二元的：当受到刺激时，它要么发射电脉冲，要么不发射。基于这个前提，他们具有里程碑意义的论文《神经活动中内在思想的逻辑演算》使用布尔手术刀剖开了神经元机制的内部运作。

根据他们的方案，每个人工神经元从邻近神经元接收多个电信号，就像生物神经元一样；如果这些信号加起来超过某个阈值，神经元就会发射，否则就保持不活跃。创造了这个数学构造后，他们更进一步，展示了由于神经元的输入和输出都是布尔式的，通过将这些二元单位串联成链和环，由它们组成的网络可以计算和实现布尔逻辑的每一种可能操作。从这个模型中产生了对大脑和思维的新理解：从他们的角度来看，大脑可以被理解为一个计算装置，一台使用神经元执行逻辑的机器。因此，人类的心理活动无非是由遵循数学规则的神经元处理的二进制信息。

在皮茨和麦卡洛克之前，就连图灵也没有想到用计算的概念来建立一个思维理论。但虽然他们的模型证明了人工神经元能够模拟复杂的认知过程，但事实证明它太过有限，无法捕捉真实生物大脑的全部复杂性。然而，这仍然是一个巨大的洞察，因为它提出了第一个现代的计算思维理论，并为神经科学中的一个重大问题提供了答案——即大脑如何变得聪明。麦卡洛克和皮茨在神经网络方面的工作开启了神经科学的计算方法，导致约翰·冯·诺依曼创造了现代计算机的逻辑设计。它开辟了一个新的视野，让我们了解我们的大脑可能如何运作，并似乎展示了神经元如何处理和传输信息。

由于其深远的影响，他们证明神经网络可以进行逻辑运算可能是人类思想历史上最重要的想法之一，但随着时间的推移，他们高度理想化的神经元要么被试图理解大脑的科学家们无视或忽视，并被不同的方案取代。

麦卡洛克花了多年时间试图开发一个完整的机械思维模型，并继续寻找神经系统的逻辑，直到1969年去世，而皮茨——他一生都致力于确信人类思维的神秘运作，我们的许多心理成就和缺点，都源于大脑中神经元发射电脉冲的纯粹机制——陷入抑郁和酗酒，经历了震颤谵妄、癫痫发作和昏迷，最后因食管静脉曲张出血（一种与肝硬化相关的疾病）死在马萨诸塞州剑桥的一个寄宿房里，此前他曾放火烧毁了自己关于三维神经网络模型的工作。

然而，他们的人工神经元在他们之后存活了下来，并在那篇具有里程碑意义的论文发表大约四十年后，激发了一种计算机学习方法，这种方法被乔治·布尔的曾曾孙杰弗里·辛顿在当时主流观念反对下顽强而热情地倡导。

辛顿被广泛认为是AI的教父。他可能是过去几十年对这个领域影响最大的一个个体。在80年代，他倡导一种基于深度神经网络的方法，这是大脑的数学抽象，其中神经元用代码表示；仅仅通过改变这些神经元之间连接的强度——改变用来表示它们的数字——网络就可以自己学习。在他之前，主导范式非常不同：大多数研究人员相信，要让机器思考，它们必须模仿人类推理的方式，通过遵循逻辑规则操纵符号（例如单词或数字），这就是布尔自己相信的。但他的后代不同意："乌鸦可以解决谜题，"他去年在接受《麻省理工科技评论》采访时说，"它们没有语言......它们是通过改变大脑中神经元之间连接的强度来做到这一点的。所以，通过改变人工神经网络中连接的强度，一定可以学习复杂的东西。"

很长一段时间，辛顿的神经网络无法"活"起来。简单地说，没有足够的计算能力或训练数据让它们表现出智能。但后来情况急剧改变。从2010年开始，他看到他的想法以他从未想象过的方式蓬勃发展，神经网络成为国际研究的主要焦点。

"我们不再是疯狂的边缘分子，"他说。"我们现在是疯狂的核心。"在接下来的几年里，开发出了令人惊叹的系统：AlphaGo击败了围棋世界冠军李世石；AlphaFold预测了几乎每一个已知蛋白质结构的形状；像DALL-E 2这样的程序给了我们从纯噪声中创造出的逼真图像。然后是ChatGPT，一个能做许多辛顿认为还需要几十年才能实现的事情的人工智能，这让他感到了对上帝的恐惧。

2023年春天，辛顿辞去了谷歌副总裁的职位，以警告世界他的"孩子"的危险。

正如他在麻省理工学院年度会议上解释的那样，他感觉AI发展得太快了：

"人类只是智能进化中的一个过渡阶段，这是完全可以想象的。你不能直接进化出数字智能。它需要太多能量和太多精心制作。你需要生物智能进化，以便它可以创造数字智能，但数字智能然后可以以相当缓慢的方式吸收人们曾经写过的一切，这就是ChatGPT正在做的，但然后它可以获得来自世界的直接经验访问并运行得更快。它可能会让我们存在一段时间以保持发电站运转。但在那之后，也许不会。"

辛顿已经变了。他从一种新理性形式的传教士变声成为一个末日先知。他说，改变他想法的是意识到我们实际上并没有复制我们的智能，而是创造了一个更高级的智能。

或者也许是别的原因？是否他潜意识中的某个部分在暗示，是他而非他的曾曾祖父被上帝选中来发现思维的机制？辛顿不相信上帝，他肯定会否认他祖先的主张，即痛苦是上帝意志的工具。这一点尤其明显，因为由于背伤导致的剧烈疼痛，他不得不像一个在祭坛前祈祷的僧侣一样跪在枕头上吃每一顿饭。十七年多来，他无法坐下，直到2022年他才终于能够坐着吃饭。

辛顿坚持认为思考机器的危险是真实的。这不仅包括短期影响，如工作替代、虚假信息或自主致命武器，还有一些人认为是幻想的存在风险：我们在世界上的地位可能被人工智能取代。他恐惧的部分原因是他相信人工智能实际上可以达成一种不朽，就像吠陀神那样。

"好消息是，"他说，"我们找到了如何建造永恒的东西。当一个硬件死亡时，它们不会死亡。如果你把权重存储在某种介质中，并且你可以找到另一个能运行相同指令的硬件，那么你就可以让它重新活过来。所以，我们有了不朽。但这不是为我们准备的。"

辛顿似乎害怕当火祭坛的余烬在祭祀结束时熄灭，我们召唤出的生物的刺骨寒意开始渗入我们的骨头时，我们可能会看到什么。我们真的正走向过时吗？人类会灭亡吗，不是因为我们对周围一切的对待方式，也不是因为重力扔向我们的某个巨大无思想的岩石，而是因为我们自身非理性地需要知道所有可知的事情的结果？

所谓的人工智能末日与核战争的蘑菇云恐怖不同，也不像日益普遍的野火、干旱和洪水的破坏，因为它源于我们自古以来一直认为是积极的、构成人性核心的东西：理性、智能、逻辑和解决问题、谜题和邪恶的能力，这些邪恶甚至染指了最幸运的人的存在，带来日常苦难。

但在我们攀爬向神化的过程中，在胆敢追随吠陀神逃脱死亡的脚步时，我们可能会照亮那些应该保持在黑暗中的事物。因为即使人工智能永远不会达到那些预示一个没有人类的世界、算法没有我们就嗡嗡运转的宏大而可怕的噩梦愿景，我们仍然必须应对这项技术对人类社会、文化和经济的诸多影响。

同时，更大的超级智能AI的幽灵笼罩着我们。虽然它不太可能甚至可能不可能（有人说只不过是一个童话故事，一个旨在通过将一系列强大系统呈现为不是我们技术发展的下一步而是终结世界的死神来吸引更多金钱和投资的恐怖故事），但它不能轻易被驱散，因为它触及我们造神装置的纤维，我们存在中那个原始和恐惧的部分，因为它让我们想起了一个时代，我们在洞穴里瑟瑟发抖并挤在一起，而在外面的黑暗中，那些能在夜间视物的眼睛，过去的许多野兽和怪物嗅探着我们气味的痕迹。

随着每个新的AI模型变得更强大，警告的声音形成一个合唱，甚至连我们中最乐观的人也开始惧怕这项新技术，越来越难以冷静思考或用逻辑推理。幸运的是，我们有许多其他不受理性支配的才能。我们总是可以起身，从我们如此匆忙投身的虚空中退后一步，倾听那些从我们想象力中升起的奇怪声音，那个永远是理性必要避难所和对应物的野性领域。

面对狂野的猜测，面对没有人，无论多么聪明或见多识广，真正能够管理或理解的危险，并被无限潜力的承诺所挑衅，我们可能不得不不仅用科学、政治和理性来探测未来，而且用我们在黑暗中视物的魔眼：虚构。因为我们可以在作家过去想象的世界中找到我们尚未遇到的门的钥匙。

当我们在茫然中摸索前进，被AI的能力震惊和困惑时，我们不妨思考沙漠星球，在那里赫伯特的《沙丘》小说的主人公们在一种名为香料的药物的陶醉中寻求窥视未来时间的流沙，以找到黄金之路，一种让人类从暴政中挣脱并避免灭绝或停滞的方式，通过变得更加多样化、有韧性和自由，进化超越纯粹的逻辑推理并发展我们的思维和能力，达到我们的思想和行为是不可预测且不受统计约束的程度。赫伯特的书以其过去和现在的奇怪混合提醒我们，有许多方式我们可以继续前进同时保留我们的人性。

AI已经在这里，但我们选择如何使用它和我们同意对其发展施加的限制仍有待决定。无论AI公司投资多少数十亿美元，这些公司承诺消除工作、解决气候变化、治愈癌症，并带来前所未有的奇迹，我们永远不能完全将自己交给这些数学生物，这些没有灵魂或同情心的存在，因为它们既不活着也没有意识——至少现在还没有，当然不像我们——所以它们不分享我们思维的矛盾本质。

在未来几年，随着武装了AI的人们继续使世界变得更快、更奇怪和更混乱，我们应该尽一切努力防止这些系统给能够构建它们的少数人更多权力。但我们也应该考虑赫伯特的警告，他选择将其作为未来人类关键宗教文本核心的中心诫命，一条旨在防止我们成为我们理性产物的奴隶，防止我们向逻辑之神及其许多可怕的后代鞠躬的规则：

你不可制造一个类似人类思维的机器。

原文标题：The Gods of Logic

作者：Benjamín Labatut

我是不懂经的经叔，国内最早翻译介绍了纳瓦尔的《如何不靠运气获得财务自由》，以及影响了纳瓦尔、中本聪、马斯克等大佬的《主权个人》。现在专注搞solopreneure一人企业、一人创投，我把这种新物种称为“知识资本家"。欢迎订阅不懂经知识星球，获取AI创业、IP打造、科技及商业前沿的高杠杆内容，遥遥领先，穿越周期获得自由。