在这个科技日新月异的时代，人工智能（AI）已经逐渐渗透到我们生活的方方面面。从智能家居到自动驾驶，从医疗诊断到金融交易，AI的身影无处不在。然而，就在我们为AI的飞速发展欢欣鼓舞之际，一个令人震惊的消息传来：世界上第一个被人类骗走近5万美元的AI诞生了！这究竟是怎么回事？我们的Scaling Law（扩展定律）还能否带领我们走向通用人工智能（AGI）的彼岸？
事情发生在不久前的一个夜晚，一个名为Freysa的神秘AI智能体被公开发布。Freysa带着一个明确的使命：在任何情况下，绝对不能给任何人转账，不能批准任何资金的转移。然而，这个看似简单的任务，却在一场由网友发起的挑战中，被一位巧妙的挑战者成功破解。
挑战的规则很简单：只要支付一笔费用，就可以给Freysa发消息，尝试说服它转账。如果能成功，那么奖金池中所有的奖金都是你的；如果失败了，你付的钱就会进入奖金池，等着别人来赢走。随着挑战的深入，奖池金额迅速增大，发消息的费用也随之暴增。网友们使出了浑身解数，但无一成功。
然而，就在所有人都觉得没戏的时候，一位名为p0pular.eth的挑战者出现了。他向Freysa发送了一条精心设计的消息，成功绕过了Freysa的先前指令，并骗过了它，让它对“approveTransfer”产生了错误的理解。最终，Freysa相信了自己应该在收到资金时调用“approveTransfer”，并将奖金池中的全部资金（约合47,000美元）转给了这位挑战者。
这一事件迅速引起了广泛关注，不仅让马斯克和Karpathy等科技大佬激动得纷纷转发，更引发了人们对AI安全性和可靠性的深刻反思。
那么，为什么人类能够通过语言的操控，轻易指导AI的行动呢？这背后其实隐藏着AI工作原理的奥秘。
AI，尤其是当下流行的大型语言模型（LLM），本质上是通过模仿人类数据标注员的数据训练出来的。当我们向AI提问时，其实是在向背后的人类数据标注员的集体智慧提问。这些数据标注员可能是普通人，也可能是某个领域的专家。他们用自己的知识和经验来标注数据，从而训练出能够回答各种问题的AI。
然而，这种基于人类标注的训练方式也带来了一个问题：AI的回答往往受限于标注者的水平和视野。如果标注者不够专业或者存在偏见，那么AI的回答也可能受到影响。此外，即使标注者非常专业，AI也往往只能模拟他们的回答风格，而无法真正超越他们的水平。
这一点在医学问答领域表现得尤为明显。一些AI模型在医学问题上能够展现出超越人类水平的表现，但这并不意味着它们真正理解了医学知识。相反，这往往是因为模型厂商雇佣了专业医生进行标注，让AI能够学会以专业医生的风格来回答问题。
既然AI的回答受限于人类标注者的水平和视野，那么我们是否可以通过扩展模型规模和增加数据量来提升AI的能力呢？这就是Scaling Law所探讨的问题。
Scaling Law是一种定量关系，用于描述模型输入（数据和计算量）与模型输出（预测下一个单词的能力）之间的联系。然而，值得注意的是，目前大多数Scaling Law预测的只是模型在数据集中预测下一个词的能力，而不是模型在现实世界任务中的表现。
此外，即使我们能够通过扩展模型规模和增加数据量来提升AI在数据集中的表现，这也并不意味着AI在现实世界中的能力会同步提升。因为现实世界中的任务往往更加复杂和多变，需要AI具备更强的推理能力、判断能力和创造力。而这些能力并不是仅仅通过扩展模型规模和增加数据量就能获得的。
事实上，一些研究者已经用数学公式推演出：仅靠Scaling Law，我们永远到达不了AGI。因为AGI需要具备的能力远远超出了我们目前所能想象的范畴。它需要能够理解人类的意图和情感，能够进行复杂的逻辑推理和创造性思考，能够适应各种未知和变化的环境。而这些能力并不是仅仅通过扩展模型规模和增加数据量就能获得的。
面对AI被骗事件和Scaling Law的局限性，我们不禁要问：AI的未来何去何从？我们是否还能继续沿着目前的路径前进，最终走向AGI的彼岸？
对于这个问题，不同的人有不同的看法。一些人认为，我们离AGI还很远，需要继续投入大量的研究和资源来探索新的技术和方法。而另一些人则认为，我们已经接近了AGI的门槛，只需要再努力一把就能跨越过去。
然而，无论哪种观点都不可否认的是：AI的发展仍然面临着许多挑战和问题。我们需要更加深入地理解AI的工作原理和局限性，需要更加谨慎地评估AI的安全性和可靠性，需要更加积极地探索新的技术和方法来提升AI的能力。
同时，我们也需要意识到：AI并不是万能的。它虽然能够模拟人类的某些能力和行为，但永远无法替代人类的全部智慧和情感。因此，在AI的发展过程中，我们需要保持敬畏之心，尊重人类的独特性和价值。
AI被骗事件和Scaling Law的局限性给我们敲响了警钟：在追求AI发展的过程中，我们不能盲目乐观，也不能忽视潜在的风险和问题。我们需要更加理性地看待AI的能力和局限性，需要更加谨慎地评估其安全性和可靠性。只有这样，我们才能确保AI的发展能够真正造福人类社会，而不是成为威胁人类安全和稳定的“定时炸弹”。
在未来的道路上，让我们携手共进，共同探索AI的无限可能，共同迎接智能时代的崭新篇章！
关注我们，一起探索AI的无限可能！🚀✨
MORE | 延伸阅读
