主要观点总结
本文主要报道了关于CoT（Chain of Thought）在AI领域的讨论和争议。谷歌DeepMind首席科学家Denny Zhou提出CoT可以让Transformer推理无极限的观点，引发了社区的热议。文章介绍了CoT在LLM（大型语言模型）中的应用，及其与Transformer模型的结合，探讨了CoT的潜力与局限性，以及它如何影响AI的未来发展。
关键观点总结
关键观点1: CoT成为热议话题
由于OpenAI的o1模型成功应用CoT实现了通用复杂推理能力，引发广泛关注与讨论。
关键观点2: Denny Zhou提出革命性观点
Denny Zhou提出CoT可以使Transformer解决任何问题，没有限制，引发了热议。
关键观点3: CoT在LLM中的应用
CoT被应用于LLM中，使得LLM展现出强大的推理能力，甚至发展出类人情感。
关键观点4: 社区对CoT的不同看法
虽然许多人看好CoT的潜力，但也有研究者对其作用提出质疑，认为它可能被过度夸大。
关键观点5: CoT的局限性与挑战
虽然CoT带来了许多新的可能性，但其在实际应用中的局限性以及面临的挑战也被广泛讨论。
正文
【新智元导读】
随OpenAI爆火的CoT，已经引发了大佬间的激战！谷歌DeepMind首席科学家Denny Zhou拿出一篇ICLR 2024论文称：CoT可以让Transformer推理无极限。但随即他就遭到了田渊栋和LeCun等的质疑。最终，CoT会是通往AGI的正确路径吗？
随着OpenAI o1的爆火，最近CoT也成了圈内热议的高频词。
靠着CoT的强力加持，o1直接在LLM领域首次实现了通用复杂推理能力，俨然是AI发展新范式的开端。
而且，o1这种慢思考模式不仅帮助LLM做数学和符号推理，甚至，还让LLM发展出了类人情感！
最近，斯坦福等机构学者发文证实：LLM在情感方面表现出的认知和推理比人类还像人类，背后最大贡献者竟然就是CoT。
就在这几天，风口浪尖上的CoT，又让AI社区掀起了一场风波。
谷歌DeepMind首席科学家称LLM推理无极限，LeCun田渊栋回怼
CoT爆火之后，谷歌DeepMind首席科学家Denny Zhou拿出了自己团队八月份的一篇论文，抛出了这样的观点：「LLM推理能力的极限是什么？那就是没有限制」。
他表示，谷歌团队已经用数学方法证明，Transformer可以解决任何问题，只要允许它们根据需要生成任意数量的中间推理token。
可以看出，Denny Zhou等人提出的中间推理token，跟o1的核心技术CoT非常相似。
传统的Transformer模型的致命弱点，就是擅长并行计算，但不擅长串行推理。
在这项工作中，Denny Zhou等人发现：传统的Transformer模型，只能解决AC0电路能解决的问题；但一旦加入CoT，Transformer几乎可以解决任何问题。
只要CoT步骤足够多，Transformer就能模拟任意大小的布尔电路，解决P/poly问题
也就是说，可以用数学严格证明，CoT可以让Transformer解决几乎所有能用计算机解决的问题。
这项工作暗示着，CoT为更强大的LLM推理提供了新的思路，CoT或将成为未来LLM发展的重要方向，而且很可能闪烁着AGI的火花。
Denny Zhou发帖后，立即引发了AI社区的热议。
这不，就在刚刚，田渊栋和LeCun依次发表意见，回怼了Denny Zhou。
田渊栋表示，虽然CoT的确很有用，但Denny Zhou等人对其过于盲目追捧了，显然，CoT并不是我们所需要的一切。
在这篇论文中提到的是一种通用理论，可以通过显式构建Transformer权重，让其更好地适应特定任务。
然而这样，CoT的长度就会很长，这样的权重配置，能否通过梯度下降来学习呢？
理论上，2层多层感知器是可以拟合任何数据的，那我们就该相信它可以应用在所有场景中吗？
人类的推练链是十分简洁的，面对从未见过的问题，也能捕捉关键因素。但LLM可以吗？
如何在瞬间就学习或构建出这样的表征，是很令人着迷的。
田渊栋的帖子一发出，立刻就获得了LeCun的支持。
LeCun表示，自己本来也想发表类似的言论，不巧被田渊栋抢先了。
「2层网络和核机器可以无限逼近任何函数，达到我们想要的精度，所以我们不需要深度学习。」
从1995年到2010年，LeCun听到这个说法无数遍了。
当然，这个操作理论上是可行的。但如果真的在实践中应用所有相关的函数，光是第一层中的神经元数量就会多到不可思议。
对此，网友的评价是：收敛和等价证明被高估了，高效的学习策略被低估了，就是这样。
「我很高兴Python的存在，尽管Pascal是图灵完备的。」
一位从业者表示，自己的研究是从一个隐藏层MLP判别式开始，然后就是CNN或Deep NN等专业模型。
他的判断是：较小的模型更稳健、更可解释，而且通常很接近，但永远不会那么好。而使用更深层次的模型，总是会有额外的百分比。
很多人是「挺CoT派」的。比如有人表示理解LeCun的观点，但在多维扩展场景中，CoT绝对大有潜力。
而对于LeCun所担心的问题，有网友表示，LeCun在采用一种自上而下的策略，在这种情况下他必须控制所有的第一层输入，但其实，他并不需要。
因为，CoT通过创建了新的临时层，让人放弃了对这种控制的幻想。其解决方案就是，通过网络层的一般形式，来逼近注意力头本身。
有趣的是，该网友表示，自己的灵感来源是《物理学》上的一封信，表明量子全息拓扑能更有效地满足这一点。
即使爱因斯坦-罗森桥的边界相当大，它可以更连续地离散表示为无数不同的小层，横跨所产生的平坦空间。这，就是表征的力量所在。
有人表示，这个讨论没什么意思，本质上不过是「无限猴子定理」罢了。
让一只猴子在打字机上随机按键，当按键时间达到无穷时，几乎必然能打出任何给定文字，比如莎士比亚全集。
田渊栋：可以发展，但更复杂
最终，田渊栋也承认，谷歌这篇论文的思路的确有可取之处。然而由于涉及到不同的数据分布、模型架构、学习算法、后处理等等，问题还要更复杂。
正如Evolutionary Scale联创Zeming Lin所言：我们需要像乔姆斯基层次结构这样的机器学习模型。就像ML模型有NP、P、O(n^2) 等概念一样，Transformer或Mamba属于哪里呢？
而在田渊栋发帖的第二天，谷歌论文主要作者马腾宇也上线评论说：CoT的长度是可以超长的。
2层MLP中的神经元数量呈指数级，才能逼近几乎任何函数。
田渊栋回复他说：对那些可能需要指数数量的门的问题，CoT的长度可以很长。
这和2层MLP情况是一致的，因为无论拟合任意函数，都需要覆盖高维空间中的所有角，这是最坏的情况。
然而，现实世界的问题，是否有如此良好/简洁的表征呢？如果它们都像NC1一样，属于P问题，那么当然可以通过构建Transformer的权重来做到。
在最近一条X帖子中，田渊栋表示，自己的想法是，能够找到更短的CoT，同时使用专家迭代（穷人的RL）来保持最佳结果。
从公开信息来看，他推断o1也是在做类似的事情。至于初始化过程，可能是使用了大量高质量的人类推理链。
趁此机会，他还宣传了一下自己团队Searchformer的论文。
论文地址：https://arxiv.org/abs/2402.14083
总之，虽然我们还不知道如何拓展2层神经网络，但OpenAI似乎确信自己已经掌握了拓展CoT的秘诀。
而关于LLM推理，Denny Zhou最近在UC伯克利也进行了一场类似主题的讲座。
他表示，自己对AI的期待是可以像人类一样从较少的示例中进行学习。
但曾经尝试的种种机器学习方法之所以都不成功，是因为模型缺失了一种重要能力——推理。
人类之所以能从较少的示例中学习到抽象的规律和原理，就是因为推理能力。正如爱因斯坦所说的，「Make things as simple as possible but not simpler」。（一切都应该尽可能简单，但不能过于简单）
但如果在数据中加入「推理过程」，LLM就很容易有样学样，学习到少量样本示例中展现出的规律，并给出正确答案。
通过这个简单的例子，Denny Zhou指出，关键想法是在数据中包含中间步骤，或者是解释原理（rationale），同时让模型写出推导过程。
「中间步骤」，为何如此重要
DeepMind的研究者们，率先使用自然语言原理去解决数学问题。
