大模型向通用意识机器进化的关键——自指的启示

1. 自指——一条永恒的金带

自指是一个非常古老的话题，它通常与古代奥义以及各种神秘哲学有关。例如佛教中所提倡的“观身无常、观心无我”，以及古希腊的“认识你自己”，都在劝解人们能够将心智的观察箭头指向自己。中国道家所倡导的“无”，正是一个最简单的一字悖论。

自噬的蛇

一幅最能体现自指深邃含义的图画莫过于这条正在吞噬自己的蛇。此蛇作为一种图腾曾广泛出现在北欧神话、基督教神学、印度教和非洲宗教之中。这条蛇将自指那种深刻的自我毁灭性体现得淋漓尽致——我们可以想象一下当它把自己吞噬完毕会产生怎样怪异的情景。

将这种自我毁灭性的古代奥义应用到现代科学中已经产生了一系列深刻的结论。 首先，在19世纪末，著名数学家康托尔 （George Cantor） 将“对角线删除”法则应用到集合论中，从而证明了实数的个数比自然数多。紧接着，罗素 （Bertrand Russell） 提出了著名的“罗素悖论”而摧毁了弗雷格 （Gottlob Frege） 的数学大厦。年仅25岁的哥德尔 （Kurt Gödel） 巧妙地应用同样的破坏性自指一举摧毁了数学大师希尔伯特 （David Hilbert） 的完备一致性的数学体系梦想。图灵 （Alan Turing） 则利用同样的技巧进一步发现任何超级计算机都不可能求解的图灵停机问题。

《纽约时报》曾将哥德尔不完备定理评价为20世纪最伟大的数学定理。自指可以用来构造破坏性的悖论已经是众人皆知、司空见惯了。然而，这种认识其实很片面。自指包含了比自指悖论更宽泛的内容，因为在自指大家庭中，还包括另外一类构建性的成员。

全文请参考：集智百科 | 系统中的观察者(5)——自指
https://wiki.swarma.org/index.php/系统中的观察者(5)——自指

实际上，早在1938年，与哥德尔共同奠定递归函数论基础的数学家克林尼 （Stephen Kleene） 就证明了递归函数论中的一个著名定理：递归定理 （更精确地说，应该叫Kleene第二递归定理） 。根据它，人们可以很轻松地得到一个数学推论，系统的自我复制是可能的。

证明递归定理的核心技巧，是一个被称为“蒯（kuai3）恩”的特别技术。 蒯恩（Willard.V. Quine）是美国的哲学家，终身致力于哲学、数理逻辑、集合论的研究。 他创造了一种称之为蒯恩的方法，使得人们可以不通过使用“我”或者“这句话”等词语就能创造出可以谈论自身的句子来。

有趣的是，蒯恩构造恰恰就是那条“黄金对角线” （这一方法正是当年康托尔最早提出证明实数比自然数多的方法，也是哥德尔定理构造哥德尔句子的关键技术） 。只不过，康托尔、哥德尔等人的对角线与蒯恩的对角线方法稍有不同。我们会在第6节中详细地讨论这些技术。

2. 语言中的自指

我们不妨将这个句子记为 ，其中的 就是一个空穴，可以往其中添放任何一个句子。例如，如果我们让 =“小明起床了”，那么原句子 就成为了一个完整的句子：

按照 的意思对 进行操作就得到了新句子 ：

在这个例子中， 显然与 没有什么关系。

进一步，如果去除句子 中的空穴 ，我们可以得到：

它也是一个句子（尽管它不完整），我们记它为 。最关键的时刻来临了：我们让 并代入 之中会怎样？也就是将除去空穴的句子部分 放到 这个句子的空穴 之中：

我们不妨把这个句子记做 ，因为我们把空穴 换成了残句子 。之后，我们再按照这个句子所给出的使役动词进行操作，就能得到新句子 ，也就是：

令人惊奇的是，经过动词操作之后创造的句子 与原来的句子 竟然是一模一样的！所以句子 利用使役动词完成了“自复制”过程，也就是 。

注意，这个句子与前面的句子稍有不同，这就是在后面加上了一个判断“得到的句子是假的”。我们不妨记 “得到的句子是假的”，并且把：

这句话记为 ，其中 符号表示将两个句子粘合在一起形成新的句子，于是 就是：

我们可以验证，经过 句子所描述的操作之后得到的句子跟 是一模一样的。所以这句话就相当于：“这句话是假的”。我们没使用“这句话”指代词就实现了自指。

3. 建构性的自指

Print(‘helloworld!’)

Print(‘Print(\’helloworld!\’)’)

Print(‘Print(\’Print(\\\’helloworld!\\\’)\’)’)

S(x){ q=’S(x){\\n  q=\\\’\’+q+\’\\\’;\\n 
 Print(\\\’\’+p(q)+\’\\\’);\\n}’;
 Print(‘S(x){\n  q=\’’+q+’\’;\n  Print(\’’+p(q)+’\’);\n}’); }

A

B

这个自打印程序调用了一个简单的解码函数 ， 的作用是将字符串 变换成更浅一层次的字符串。 例如，如果 是“\\\’\\’\\n\\”，那么 这个函数就会计算输出“\’’\n\”。也就是说 完成了一组映射：它把“\\”映射成“\”，把“\’”映射成“’”，而把“\n”映射成回车符。显然 是可以写出来的。我们知道，由引号的引用可以形成更加深层次的虚拟世界 （参见上一小节） 。所以 的作用就是让字符串 弹出一层虚拟世界。由于 的作用很简单，我们假设它是一个系统自带的函数，因此就不在源代码1中给出 的实现代码了。

让我们来分析一下这个程序是如何运作的。首先，看程序的最后一行，即Print(‘S(x){\nq=\’’+q+’\’;\nPrint(\’’+p(q)+’\’);\n}’);这句话的作用是让程序在屏幕上打印出一个字符串。注意观察，这个被打印出的字符串其实是由“+”号被分割成了5个部分， 第一部分 是“S(x){\nq=\’”， 第二个部分 是q这个字符串的原封不动的拷贝， 第三部分 是字符串：“\’;\nPrint(\’”， 第四部分 是函数 作用到 上面的结果即 ； 第五部分 还是一个字符串：“\’);\n}”。然后当我们把q字符串的数值代入第二部分和第四部分，并进行运算 之后，就得到了和源程序一模一样的结果。你不妨在计算机上运行这段程序，就会发现这段程序会在屏幕上赤裸裸地把自己的源代码打印出来。

我们不妨把这段程序的5个部分进行归并，写成由下面的三部分构成的： ，其中Copy就是5部分中的第二部分，即相当于一个拷贝字符串的程序，你输入 给Copy什么字符串，Copy就会把那个字符串再原封不动地吐出来；Popup这部分就是原来的5部分中的第四部分，即函数 ，它的作用相当于一个弹出操作，也就是为输入的字符 串脱去一层引号。如果输入的字符串原来是在第 层虚拟世界，则Popup的作用就是让字符串跳到第 层；最后Control这部分就相当于原来的第1、3、5这三部分以及最一开始的语句Print的总合，它的作用就相当于是为Copy和Popup制造出来的字符添加适当的连接词，使得最后的字符串能够拼接成与原来的程序一模一样的源程序，并将其打印到屏幕上。所以这句“Print(‘S(x){\nq=\’’+q+’\’;\nPrint(\’’+p(q)+’\’);\n}’);”就可以改写成 。其中“о”表示将不同的程序连接为一体。

如果我们把一个计算机程序 的描述（或者称源代码）写为 ，则自打印程序的第一条赋值语句就相当于给 赋予了 ，即 这三个程序连在一起的源代码。最后我们可以将自打印程序简写为：

S(x){ 
q= λ (Copyo  Popupo  Control) 
(Copyo  Popupo  Control)(q); }

我们可以进一步地把它简写为： ，其中 表示( )这三个程序的联合程序，而 则表示联合程序的源代码。 这个程序的作用是输出一个特殊的字符串“ ”即程序 调用自己的代码x的源程序，我们称这个 为蒯恩函数。

那么，自打印程序不是别的，正是将蒯恩函数 自己的源代码再喂给它自己，这样就产生了 " "的效果。 等式左边是 对 的计算，是一个动作，它的结果产生了等式右边的字符串" "，而这个字符串恰恰就是 作用于 的源代码。我们看到，第2节中的蒯恩方法与这里的 是一模一样的。仔细想想不难发现，其实自打印程序的逻辑与蒯恩语句的逻辑是相通的。因此，自指恰恰就隐藏在了这段自打印程序之中了。