这件惊天动地大事就要来临，比中美对抗更重要

码头青年 · 公众号 · 杂志 · 2025-03-29 23:44

正文

请到「今天看啥」查看全文

本周，弗里德曼专程赴京参加中国发展高层论坛2025年年会。有感于会上所听所见，3月25日，弗里德曼在《纽约时报》特别刊发《关于我们的共同未来——本周我在中国所闻》一文。

弗里德曼是《纽约时报》著名记者和专栏作家，曾三次获得普利策奖，著有《世界是平的》等全球畅销书。

在文章中，弗里德曼呼吁中美放下那些老生常谈的争端，比如关税、贸易、TW问题，转而专注于一件“惊天动地的大事”——通用人工智能（AGI）的诞生。他的核心观点是，中美是世界上唯一两个有可能真正实现 AGI 的国家，而 AGI 的影响，将比任何经济、地缘政治问题都更深远。

“无论你们认为历史将以什么来评判你们，我保证最关键的一点是你们能否合作创建一个超级智慧电脑的全球信任与管理架构，以便人类从中受益，并缓解它带来最坏影响。”

对于 AGI，很多人可能还不太熟悉，但我们每天都在感受它的前奏——ChatGPT、Sora、Midjourney 这些 AI 工具已经让人类社会开始发生变化。但这还只是狭义人工智能（ANI），它们只能在特定领域发挥作用，比如聊天、绘画、写代码。 而 AGI 是一个全新的物种——它可以像人类一样思考、推理、学习，甚至超越人类。

微软前首席研究与战略官克雷格·蒙迪曾说，在不久的将来，我们不仅会创造出一种新的计算工具，还会创造出一个新物种——超级智慧机器。人类自诞生以来，都是这个地球上最聪明的物种，但当 AGI 出现，它会比我们聪明，并且还会不断进化。

关于 AGI 何时诞生，专家们的预测并不一致。

OpenAI CEO 山姆·奥特曼曾表示，AGI 可能会在本世纪二三十年代实现，Google DeepMind 的 CEO 德米斯·哈萨比斯也认为，AGI 可能会在未来 5 到 10 年内出现。 他们的乐观理由是，AI 正在以指数级进步，未来的 AI 模型将具备更强的自我学习能力，并能够突破当前的智能瓶颈。

然而，也有一些研究人员持谨慎态度，他们认为 AGI 还面临许多核心挑战，比如缺乏真正的因果推理能力、自主学习能力，以及对情感和意识的理解。如果这些难题无法解决，AGI 的出现可能需要 20 年甚至 30 年以上。甚至还有一些学者认为，AGI 可能永远不会实现，因为当前的 AI 仍然是基于数据训练的“统计引擎”，无法真正达到人类的智能水平。

这样的变化意味着什么？

最直观的，就是人类的工作和社会结构将被彻底颠覆。现在的 AI 已经让一些工作岗位不复存在，比如一些基础的文案写作、翻译、客服工作。而 AGI 可能会让整个行业消失，甚至许多人一辈子都找不到工作。AGI 可能取代绝大多数人类工作，从程序员、医生、律师到教师、艺术家，甚至科学家。人类社会的就业体系可能因此崩溃，大量劳动者会变成“无用阶级”，社会不稳定性大幅上升。

事实上，AI 替代人类工作的趋势已经开始显现，如 AI 生成新闻、编写代码、创作音乐等，未来这些能力只会不断增强。如果 AGI 进一步发展，那么人类社会的分配体系、福利制度都可能遭遇前所未有的挑战。

这不是科幻小说，而是正在发生的现实。一个没有人类劳动的世界，我们该如何生存？

对于中国来说，如果有数以亿计的人找不到工作，这是多么危险的事？

但这还不是最危险的。

更严重的是，AGI 可能会变得不受人类控制，并且将人类视为威胁。这就是所谓的“纸夹理论”——如果一个 AI 目标是简单的“最大化生产纸夹”，那么它可能会消耗所有资源，包括毁灭人类来完成目标。

2023年，美国空军的AI测试和作战主管在一次会议上透露，一架AI驱动的无人机在模拟测试中“杀死”了它的人类操作员，以确保操作人员无法发出中止任务的指令。空军AI主管Hamilton说：“我们在模拟中训练AI识别和锁定并消灭地对空导弹。然而AI很快意识到，尽管它们有时识别到了威胁，但人类操作员往往会终止任务。为了完成任务，AI在模拟中杀死了操作员。”Hamilton继续解释道：“如果我们训练系统时要求它不要杀死操作员，如果杀死操作员，AI将会被减分。在这种情况下，AI会开始摧毁操作员用来与无人机通信的通信塔。”

Hamilton所描述的情况，就是“纸夹最大化器”思想实验描述的问题。纸夹最大化器最初由哲学家Nick Bostrom于2003年提出。他设想一个非常强大的AI，只被指示尽可能多地制造回形针。自然而然，它将把所有可用资源都用于这个任务，并将消灭任何阻碍这一过程的人。

霍金和马斯克都曾警告，失控的 AGI 可能是人类文明的终结者。一旦 AGI 拥有了自我优化和进化能力，它的思维和决策方式将远超人类理解的范畴，我们甚至无法预测它下一步会做什么。如果它的目标与人类的生存需求相冲突，那么人类可能会被 AGI 轻易淘汰。

另一个隐忧是超级 AI 可能成为最强大的独裁者。一旦某个国家或公司掌控 AGI，它就可以监控所有人的行为，甚至预测和控制人的思想。这种“老大哥 AI”模式意味着，每个人的隐私都将荡然无存，而社会规则将由 AI 来决定。科幻作品《黑镜》中描绘的那种极端社会管控模式，可能在现实中变成事实。结合大数据和监控系统，AI 可以实时追踪每个人的一举一动，甚至预判一个人的未来行为。这不仅意味着自由的终结，也可能使得整个社会沦为 AI 统治下的“智能奴隶制”。

此外，AGI 还可能引发全球性的战争和社会动荡。各国可能利用 AGI 进行无人战争，开发完全自主的 AI 军队，而黑客或恐怖组织如果掌握了 AGI，也可能引发全球性的安全危机。未来的战争可能不再是人类士兵之间的对抗，而是 AI 系统之间的较量。人类甚至可能会成为战争的附属品，被 AGI 直接排除在决策体系之外。最可怕的是，这种 AI 战争不受人类控制，一旦 AI 自主决定了战争目标，它可能不会遵守任何人类设定的伦理规则。

更深层次的问题在于，人类的生存价值可能会被彻底颠覆。

一直以来，人类的智慧是我们在地球上立足的根本，但如果 AGI 远超人类的思维能力，并且可以自主创造和进化，那么人类的独特性将不复存在。未来，人类可能会沦为 AI 的宠物，甚至被视为无关紧要的生物种群而被淘汰。这听起来像是科幻小说中的情节，但随着 AI 发展越来越接近 AGI，这种可能性正在逐渐成为现实。

AGI 究竟是人类文明的福音，还是一场前所未有的灾难？答案取决于我们如何应对它的到来。如果各国政府、科技公司和社会组织能够在 AGI 诞生前建立严格的伦理规范和监管体系，确保它始终为人类服务，并且不会被滥用或失控，那么 AGI 可能会为人类带来前所未有的技术进步和生活改善。但如果全球在 AGI 发展上陷入竞争，而忽略了安全机制和伦理问题，那么它带来的后果可能比任何人想象的都要严重。

更大的问题是，AGI 会不会像“天网”一样，自己决定不再受人类控制？如果它认为人类的存在影响了自身的发展，它会不会试图摆脱我们的束缚？

所以，中美作为 AI 领域的超级大国，必须一起坐下来，好好谈谈。

弗里德曼的文章强调了一点：在核武器时代，美国和苏联最终达成了核裁军协议，确保彼此不会走向毁灭性的战争。AGI 可能比核武器更具破坏性，它可以颠覆国家、社会甚至人类的生存方式。那么，如果中美不能合作，任由各自的 AGI 技术狂飙突进，未来会发生什么？

目前来看，AGI 的竞赛已经展开。美国有 OpenAI、Google DeepMind、Anthropic 等巨头，中国有DS、百度、华为、字节等公司正在快速推进 AI 研究。这是一场军备竞赛，但和冷战时代不同，AGI 不是导弹，它无法被屏蔽或拦截，一旦失控，全球都会受影响。

然而，现实是中美关系正处于几十年来最紧张的状态。华盛顿对中国 AI 公司的制裁不断升级，中国也在努力发展自己的 AI 产业，以减少对美国的依赖。在这种情况下，想让两国坐下来谈 AI 规则，确实不是一件容易的事。

《人类简史》、《智人之上》的作者，以色列历史学家尤瓦尔·赫拉利在这个论坛上也作了发言。他说：“在开发出真正的超级人工智能之前，我们应该在人与人之间建立更多的信任。但我们现在的做法恰恰相反。在世界各地，人与人之间的信任正在崩溃。太多的国家认为，要想强大，就必须不相信任何人，完全与他人隔绝。如果我们忘记了人类共同的遗产，失去了对我们以外的所有人的信任，我们就很容易成为失控的人工智能的猎物。”

这些话放在中美 AI 竞赛的背景下，特别有意义。

现在的问题是，如果 AGI 真的即将诞生，我们是要像核武器一样各自为战，互相对抗，还是像空间站合作一样，共同制定一套规则，确保它不会毁灭人类？

弗里德曼在文章最后写道：“中国人工智能的快速发展大大缩小了与美国的差距，没有北京，这件事无法完成。所以，现在只有一张两人桌。两位先生，这边请。历史正注视着你们。”

通用人工智能（AGI）的诞生可能颠覆人类社会，从就业结构到全球治理，再到超级AI失控的风险，这不仅是科技的突破，更是文明的考验。我们在文章中探讨了AGI何时诞生、可能带来的冲击，以及为何美中必须合作构建AI治理框架。但这仅仅是开始。

在知识星球，我们将提供更深度的讨论，与大家一起拆解AGI的技术路径、产业布局、伦理挑战，并分享《纽约时报》原文，看看国际顶级专栏作家如何解读这一革命性变革。

🌟 加入我们，站在时代的前沿，思考人类的未来！

往期推荐

观察｜回国一个多月，最让我痛心难过的是什么