本文围绕AI的发展展开评论，介绍了全球知名科技杂志《麻省理工科技评论》关于AI初创公司Altera的“Sid”项目的报道。该项目将大量智能体部署到沙盒视频游戏《我的世界》中，智能体们能够结交朋友、合作，形成联盟，发展出信仰系统，类似人类社会的劳动分工现象。文章还讨论了AI大模型、通用人工智能（AGI）以及AI对人类未来的影响等话题。同时呼吁读者关注AI在各个领域的应用和未来发展前景。
AI大模型学习人类模式但缺乏真正的意识和情感。通用人工智能的实现需要突破AI大模型的局限性，强调目标驱动的人工智能和原创创新。
实现通用人工智能需要解决创新过程中的谬误和危险。一个基于人类理性的“去伪存真”的过程必不可少。未来AI的发展将是群体智能的趋势。
人与AI智能体的协作是长期趋势，未来是混合组队之间的竞争。AI的应用将带来巨大的市场潜力和福祉，助力人类解锁繁荣美好的未来。
▲
点击图片报名
，抓住风口（iOS用户请用电脑端打开小程序）
本期要点：
如果
AI不再仅仅是模仿人类，会发生什么？
最近，全球知名的科技杂志《麻省理工科技评论》（MIT Technology Review）发表了一篇关于AI的文章，引起了我的关注。
文章报道了AI初创公司Altera的一项名为“Sid”的创新实验。该实验中，有多达1000个使用AI大模型的软件代理（我们也可称之为智能体）同时进行交互。
Altera公司将这支AI大军部署到了沙盒视频游戏《我的世界》（Minecraft）之中。在没有过多人为干预的情况下，这些智能体开始结交朋友、相互合作，发展出了非正式的联盟。
其中一些智能体还成为了领导者，而其他智能体则被动接收指令，而且这种分化是智能体们自发形成的。此外，它们还分化出了不少工作，反映了人类社会中劳动分工的现象。最不可思议的是，智能体们还发展出了一种被戏称为“飞天面条教”的信仰系统，并影响着它们的行为和决策。
初看这个新闻，不禁会让人惊呼，莫非AI要创造自己的文明了？不过，根据MIT的文章，这些智能体的行为虽然逼真，但只是因为它们从AI大模型中学习到了人类的模式，它们并不具备真正的意识和情感。不过随着“Sid”项目的不断推进，我们可以继续观察它们会带来什么惊喜或惊吓。
“Sid”项目的发起人杨光宇（Robert Yang）也值得一提。
他曾在北京大学获得物理学学士学位，并在纽约大学和耶鲁大学求学，获得计算神经科学博士学位，之后他成为了麻省理工学院脑与认知科学系和电子工程与计算机科学系的助理教授。
去年，他从麻省理工学院离职，创立了Altera，并开始了“Sid”项目。他们的目标是构建模型以量化人类的情感、目标设定、同理心、需求、欲望等特质。这些工作也受到了投资界的认可，先后得到了a16z、谷歌前CEO埃里克·施密特等人的共计1100万美元投资。
“Sid”项目也让我们再次思考人类通往通用人工智能（AGI）的道路。
最近，Meta的首席人工智能科学家杨·勒昆（Yann LeCun）表示，通用人工智能将在未来十年内实现。但他强调，这并不会靠AI大模型做到。他认为AI大型模缺乏真正的理解能力，而是通过统计模式来生成内容；AI大模型对数据高度依赖，但数据本身可能存在偏差和偏见；而且AI大模型很难处理没见过的问题，换言之，它们不具有创新的能力。
因此，他提出了“目标驱动的人工智能”，强调明确的目标导向，使AI能够根据环境变化进行决策，并通过自主学习和试错法不断优化其行为。
但我们认为，这仍然没有使AI打破“模仿人类”的局限性。
AI经常让人们感到非常创新，但那是“集思广益”的结果。会有这种创新的感觉，是因为你从来没见过这些事物，但本质它们上还是人类的创造，而不是AI的原创。
然而，要实现通用人工智能，离不开真正原创的创新。
这意味着AI必须跳出人类已有的数据框架，创造新的数据、行为和决策。也就必然带来一个新问题——这些创新中的绝大部分可能是错误的，甚至是有危险的。
回顾科技发展史就会发现，不仅是AI，人类的创新过程中也充满着谬误。比如，18世纪的燃素学说曾风靡欧洲科学界，科学家们认为燃烧是物体释放“燃素”的过程，直到18世纪70年代氧气的发现，这一学说才被破解。
有的创新还极具危险性。20世纪中叶，美国广泛采用“脑叶切除术”来治疗精神疾病，却导致许多患者在手术后变得丧失了理智、如同行尸走肉一般。
因此，一个基于人类理性的、“去伪存真”的过程必不可少。自然科学领域已经形成了对研究结果比较严谨的判断方法，即实验验证、同行评议、科学共同体验证的流程。当然，这仍然很难完全杜绝谬误的产生，而且这一流程在社会科学领域的应用还面临着许多困难。
我们之所以解释这么多，是想让大家理解，人类智能的强大之处恰恰在于“群体”二字。
因此，AI的下一阶段应当是“群体智能”。
也就是说，大量AI智能体，不仅能提出原创的概念和规律，还能以理性方式对其进行表达和验证，进行“去伪存真”，从而得出接近真理的新概念和新规律。
现在看，这种趋势已经逐渐显现。“Sid”项目中的智能体已经开始了沟通交流，并做出了群体决策。
未来，如果科学家能让它们对未知领域进行探索和试错，并自行进行探讨、验证和总结归纳，我们或许就会见证具有原创能力的智能体群体出现。
届时，AI将真的学习到人类最本质的优势，步入“群体智能”阶段。
当然，或许有人又会开始担心AI威胁人类了。我们认为，在很长一段时间里，其实是人和AI相互协作的阶段。
未来世界不是人与AI智能体的竞争，而是人与AI智能体混合组队，与其他混合组队的竞争。
就像我们常打的比方，最精彩的足球赛不是各个国家队的比赛，而是优秀的俱乐部队之间的比赛。
不过，真正要通过群体智能体实现通用人工智能，可能是10年之后的事情了，也就是说，杨·勒昆还没找到通往通用人工智能之路，就断言通用人工智能会在10年内实现，对此我们并不认同。
但不能实现通用人工智能不意味着没有价值。现在，AI已经在很多专项领域展现了强大的与人协同的能力，也有了巨大的市场潜力。如协助医生诊断疾病、帮助科学家预测蛋白质折叠方式并设计新的药物等等。未来，AI甚至还将与研究者们继续加深协作，在前沿领域的科学研究中发挥更大作用。
这些无疑都将给人类带来巨大福祉，而不是威胁。可以预计，在未来的几十年内，在AI的协助下，人类可以解锁难以想象的、繁荣美好的未来。
最后，如果你对AI将利好哪些产业感兴趣，欢迎扫码加入《AI应用10讲》学习，我会对自动驾驶、机器人、AR/VR等多个受益于AI浪潮的科技产业进行深入讲解。
以上就是今天的内容，
更多详细的产业
分析和底层逻辑，我会在科技特训营里分享，欢迎关注全球风口微信号，报名加入。
推荐阅读：
OpenAI说AGI就这么搞了！但有什么问题？
红杉：AI的下一个时代就要开启！
王煜全：当下这5年，会定义下一个100年
【科技特训营】看懂科技产业，离不开长期观察。
线上书院模式，与王老师深度链接！为未来五年做好准备，先人一步，看清未来！
