莱克斯·弗里德曼
: 以下是与 Elon Musk、DJ Seo、Matthew MacDougall、Bliss Chapman 和 Noland Arbaugh 就 Neuralink 和人类未来展开的对话。Elon、DJ、Matthew 和 Bliss 当然是出色的 Neuralink 团队的成员，而 Noland 是第一个在大脑中植入 Neuralink 设备的人类。我与他们每个人都单独交谈过，因此请使用时间戳来跳转，或者按照我的建议，尽情享受，听完整个内容。这是我做过的最长的播客。这是一场引人入胜、技术性超强且内容广泛的对话，我喜欢其中的每一分钟。现在，亲爱的朋友们，这是 Elon Musk 第五次参加 Lex Fridman 播客。
伊隆·马斯克
: 你想要喝点什么？咖啡还是水？
莱克斯·弗里德曼
: 请给我水。我最近咖啡因摄入太多了。
伊隆·马斯克
: 好的，你呢，需要咖啡因吗？
莱克斯·弗里德曼
: 有一杯氮气饮料，听起来怎么样？
伊隆·马斯克
: 听起来可以让人保持清醒到明天下午。
莱克斯·弗里德曼
: 没错。不过，我不太想尝试。
伊隆·马斯克
: 氮气饮料是什么？含有很多咖啡因吗？
莱克斯·弗里德曼
: 别问太多，它叫做氮气饮料，这就够了。
伊隆·马斯克
: 里面含有氮气？这听起来有点荒谬，毕竟我们呼吸的空气中78%都是氮气。你还要更多吗？
伊隆·马斯克
:
不幸的是，你要吃掉它。
伊隆·马斯克
:
大多数人认为他们呼吸的是氧气，但实际上他们呼吸的是 78% 的氮气。你需要一块牛奶棒，比如《发条橙》里的牛奶棒。
莱克斯·弗里德曼
:
是的。这是你心目中库布里克最棒的三部电影吗？
伊隆·马斯克
:
《发条橙》？还不错。但有点疯狂。我觉得有点刺耳。
莱克斯·弗里德曼
:
好的。让我们回顾一下，祝贺Neuralink成功植入人体。这是Neuralink迈出的历史性一步。
伊隆·马斯克
: 谢谢。是的，我们确实迈出了重要的一步。
莱克斯·弗里德曼
: 接下来还会有更多。
伊隆·马斯克
: 没错，我们也成功植入了第二颗假体。
莱克斯·弗里德曼
: 进展如何？
伊隆·马斯克
: 到目前为止一切顺利。我们似乎有大约400个电极在提供信号。
莱克斯·弗里德曼
:
很好。
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
您认为人类参与者的数量将会以多快的速度增加？
伊隆·马斯克
:
这在一定程度上取决于监管部门的批准，也就是我们获得监管部门批准的速度。我们希望在今年年底前完成10项植入，目前还有8项待完成。
莱克斯·弗里德曼
: 通过这些植入，你们将学到很多关于大脑神经生物学的知识。Neuralink 的整个链条，解码，信号处理，所有一切。
伊隆·马斯克
:
确实如此。我认为每次植入都会越来越好。第二次植入似乎进展得非常好，有很多信号，很多电极，它工作得很好。
莱克斯·弗里德曼
: 您认为在未来几年里，我们会看到Neuralink有哪些改进？
伊隆·马斯克
: 几年后，这将是巨大的进步，因为我们将大幅增加电极的数量，改进信号处理。目前，即使是10%或15%的电极，也能实现每秒1比特的速度，这是世界纪录的两倍。在未来几年里，我们将开始大幅超越世界纪录，达到每秒100比特，或者1000比特。也许五年后，我们可能会达到每秒1兆比特，这将远超人们通过打字或说话的交流速度。
莱克斯·弗里德曼
:
是的。BPS （比特每秒）是一个有趣的衡量指标。一旦达到一定的BPS水平，体验可能会有很大的飞跃。
伊隆·马斯克
: 确实如此。
莱克斯·弗里德曼
: 这就像是与计算机交互的全新方式可能会被解锁。
伊隆·马斯克
: 人类之间的交流也是如此。
莱克斯·弗里德曼
:
与其他人。
伊隆·马斯克
:
如果双方都有Neuralink的话。
莱克斯·弗里德曼
:
对。
伊隆·马斯克
:
否则他们将无法足够快地吸收信号。
莱克斯·弗里德曼
: 你认为这会提高知识话语的质量吗？
伊隆·马斯克
: 想象一下，如果你放慢交流速度，你会有什么感觉？如果你说话的速度只有正常速度的十分之一，你会觉得，“哇，这太慢了。”
莱克斯·弗里德曼
:
是的。
伊隆·马斯克
:
那么，现在想象一下，如果你能以比平时快10倍、100倍或1000倍的速度交流，会是怎样的体验？
莱克斯·弗里德曼
:
我确信没有人用1倍速度听我说话，他们用2倍速度。我只能想象10倍速度的感觉。
伊隆·马斯克
: 我通常默认为1.5倍速度。如果我在听某人说话时感到困倦，我会提高到1.5倍。如果我非常专注，我会提高到2倍。
莱克斯·弗里德曼
:
对。
伊隆·马斯克
:
但实际上，如果你真的听播客、有声读物或任何东西......如果你习惯以 1.5 的速度收听，那么听起来会非常慢。
莱克斯·弗里德曼
:
我仍然坚持1倍速度，因为我害怕对现实世界感到厌倦，在那里每个人都在用1倍速度说话。
伊隆·马斯克
: 这取决于个人。你可以说得很快，你的词汇量更大，你的有效比特率就会更高。
莱克斯·弗里德曼
:
这是一个很好的说法，有效比特率。
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
问题是，在低比特率的语言传输中，到底有多少信息被压缩了？
伊隆·马斯克
:
是的。如果一个单词能够传达通常需要10个简单单词才能表达的内容，那么你得到的是10倍的压缩。这和模因很像，模因就像数据压缩。
莱克斯·弗里德曼
: 当然，模因广泛地类似于想法。
伊隆·马斯克
: 是的，有一个完整的创意结构，然后你可以向这个创意模板添加一些东西。当你添加这些增量信息时，你传达的信息比你只说几句话要多得多。这是与那个模因相关的一切。
莱克斯·弗里德曼
: 你认为随着电极数量的增加，能力会出现飞跃吗？
伊隆·马斯克
: 是的。
莱克斯·弗里德曼
: 你认为会有一个实际数字表明人类的经验会发生改变吗？
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
您认为这个数字可能是多少？电极还是 BPS？我们当然不能确定，但这个数字是 10,000 还是 100,000？
伊隆·马斯克
:
如果你的速度达到每秒10,000比特，那么这比现在任何人的通信速度都要快得多。人类的平均每秒比特数不到1，一天下来，它还不到每秒1比特。一天有 86,400 秒，而你一天不会传输 86,400 个Token。这相当慢。
现在，即使你交流得很快，而且你正在与某个人交谈，而这个人能够理解你在说什么，因为为了交流，你必须至少在某种程度上模拟你正在交谈的人的心理状态。然后把你想要传达的概念压缩成几个音节，说出来，并希望对方将它们解压缩成尽可能接近你头脑中的概念结构。
莱克斯·弗里德曼
: 是的。在这个过程中有很多信号丢失。
伊隆·马斯克
: 是的。压缩和解压非常有损。你的神经元所做的大部分工作是将概念提炼为少量符号，或者说我正在说的音节，或者按键，无论哪种情况。
这实际上是一件有益的事情，因为当你试图压缩复杂的概念时，你可能被迫提炼出这些概念中最重要的东西，而不是所有的无用的东西。所以，在压缩过程中，你会将事物提炼为最重要的东西，因为你只能说几件事。
随着数据传输速率的提高，我们的交流可能会变得更加详细。就像你的电脑一样，我的第一台电脑只有8K的RAM，所以你需要精打细算每个字节的使用，现代电脑拥有巨大的内存容量，即使是一个只说“Hello world”的iPhone应用程序，它可能至少有几兆字节，包含大量数据。尽管如此，我们仍然倾向于使用功能更强大、内存更大的设备。
因此，Neuralink 的长期目标是通过增加通信带宽来改善人工智能与人类的共生关系。即使在人工智能最温和的场景中，如果人类的交流速度远远落后，我们与它们的互动可能会变得像与一棵树对话一样缓慢和无效。
莱克斯·弗里德曼
: 对于超级智慧物种来说，人类扮演什么角色？
伊隆·马斯克
: 人类是意志和目的的源泉，这个观点有一定道理。
莱克斯·弗里德曼
: 真的吗？
伊隆·马斯克
:
意志，是的。人类的思想本质上有原始的边缘元素，这在爬行动物中就存在。还有大脑皮层，即大脑的思考和计划部分。虽然皮层比边缘系统聪明多，但主要是为边缘系统服务，试图让它快乐。例如，人们在性行为中投入的计算量是巨大的，尽管目的并非总是生育。他们只是试图做这个简单的动作，并从中获得快感。为了性这个简单的，抽象的，相当荒谬的动作，大脑皮层投入了大量的计算来试图弄清楚如何做到这一点。
莱克斯·弗里德曼
:
所以人类 90% 的分布式计算可能都花在寻找性爱上。这一比例相当大。
伊隆·马斯克：
确实，大多数性行为是为了享乐，而非生育。对于现代人类来说，性行为主要是为了娱乐。你的大脑皮层比你的边缘系统聪明得多，它试图让边缘系统感到快乐，因为边缘系统渴望性、美食或其他愉悦。
我们的手机、笔记本电脑等计算设备，这些设备是我们的第三层计算能力，它们进一步增强了这一功能，所以，你实际上已经是一个机器人了。这些第三计算层以装有应用程序的计算设备的形式出现，这些设备参与了我们的约会过程，比如Tinder等。
莱克斯·弗里德曼：
我们构建的计算也参与其中。
伊隆·马斯克
: 是的，有大量的数字计算投入到了这个过程中。
莱克斯·弗里德曼
:
是的。如果 AGI 是...
伊隆·马斯克
:
我们说话的时候，这一切就正在发生。
莱克斯·弗里德曼
:
如果我们与人工智能融合，它只会扩大我们使用的计算能力。
伊隆·马斯克
:
差不多。
莱克斯·弗里德曼
:
......去计算如何发生性关系。
伊隆·马斯克
:
是的。但这是其中一件事。
莱克斯·弗里德曼
:
是的。
伊隆·马斯克
:
但但人类还有用吗？生命的意义是什么？为什么要做任何事情？所以，如果我们的边缘系统提供了行动的意志，然后是大脑皮层，再到我们的计算设备。那么我不知道，实际上可能人工智能在良性情况下只是想让人类的边缘系统高兴。
莱克斯·弗里德曼
:
是的。看来意志不仅仅与边缘系统有关。还有很多有趣而复杂的东西，例如说权力。
伊隆·马斯克
:
我认为，这也是边缘系统的一部分。
莱克斯·弗里德曼
:
我们也希望以合作的方式减轻世界上的痛苦。
伊隆·马斯克
: 不是每个人都这样，但确实有些人会。
莱克斯·弗里德曼
: 作为人类的一个群体，我们拥有集体智慧，这在意志上比个体更复杂。
伊隆·马斯克
:
当然。
莱克斯·弗里德曼
:
那么还有其他动机，你认为这可能是 AGI 目标函数的一个非常有趣的来源吗？
伊隆·马斯克
:
是的。这些目标是深奥的，比如理解宇宙的本质，希望对人工智能也是如此。对我来说，我希望了解生命的意义是什么，或者理解宇宙的本质。我希望对人工智能也是如此，xAI和Grok的使命就是理解宇宙。
莱克斯·弗里德曼
:
那么你认为，当Neuralink拥有成千上万的通道时，主要用例会是与AI系统通信吗？
伊隆·马斯克
:
首先，Neuralink致力于解决基本的神经问题，比如脊髓损伤或失明。就像我们的前两位患者的情况一样，首要任务是解决脊髓、颈部或大脑本身的基本神经元损伤。
我们的第二款产品叫做 Blindsight，它通过直接触发视觉皮层中的神经元，使完全失明、失去双眼或视神经或根本看不见的人能够看到东西。
我们从基础开始，解决神经元损伤问题，这是相对简单的事情。然后，技术可以扩展到治疗精神分裂症、癫痫，甚至改善记忆力。所以，这就像技术树的升级。你需要掌握了基础知识、你需要先具备读写能力，然后才能拥有《指环王》。
莱克斯·弗里德曼
:
明白了。
伊隆·马斯克
:
就像学习读写一样，先掌握字母、字母表、单词这样的基础知识，然后才能创造伟大的作品。Neuralink最初几年将专注于帮助那些像史蒂芬·霍金一样，因大脑到身体丧失联系而受限的人。Neuralink 将具有极其深远的意义，因为你可以想象，如果史蒂芬·霍金能够像我们一样快速交流，甚至更快，一切皆有可能。
莱克斯·弗里德曼
:
所以这里存在着一种医疗和非医疗的双轨制，你所谈论的一切将来也可以应用于非残疾人？
伊隆·马斯克
:
逻辑上讲，我们应该先解决神经元损伤问题。
莱克斯·弗里德曼
:
是的。
伊隆·马斯克
:
因为新设备存在一定风险。你不可能将风险降至零，这是不可能的。尽管存在一定的不可降低的风险，但你希望获得最高的回报，例如使得某人的沟通能力得到极大改善，这个冒险就值得。
莱克斯·弗里德曼
:
当风险降低时。
伊隆·马斯克
:
是的。一旦风险风险很小，那么也许在那个时候你可以考虑增强你的能力。现在，我们实际上的目标是增强那些神经元受损的人，我们的目标不仅仅是让人们拥有与正常人相当的通信数据速率。我们的目标是让那些四肢瘫痪或与大脑失去联系的人拥有超过正常人的通信数据速率。为什么不给人们超能力呢？
莱克斯·弗里德曼
:
视力的恢复也可能超越人类的正擦破。
伊隆·马斯克
:
是的。起初，视觉恢复的分辨率会很低，因为你必须说，“你能放多少个神经元进去，然后触发？” 这不是说你有多少个神经元就能有多少个 10,000 像素，但通过调整神经元之间的电场，我们可以提高分辨率，甚至超过人眼。未来，人们可以看到不同波长的光，就像《星际迷航》中的Geordi La Forge一样。你可以看到紫外线、红外线、鹰眼视觉，无论你想要什么。
这部分内容可能会触发敏感词，具体内容略。（感兴趣的读者可以自行观看原视频）
莱克斯·弗里德曼
:
你谈到了人工智能的威胁和安全问题。让我们来看看长期愿景。你认为 Neuralink 是我们目前对人工智能安全的最佳方法吗？
伊隆·马斯克
:
Neuralink可能有助于人工智能的安全。但我不想声称这是灵丹妙药，或者说这是万无一失的。许多年前我就在思考，什么会阻碍人类集体意志与人工智能的结合？人类与人工智能的结合受限于我们的低数据速率，特别是输出速率。提高输出率，我们能更好地结合集体意志与人工智能。
莱克斯·弗里德曼
:
因此，提高人类的数据摄入和输出速率，我们就能在AGI世界中有更好的机会。
伊隆·马斯克
:
是的。如果输出率大幅提高，我们就能更好地将人类的集体意志与人工智能结合起来。输出率有可能提高三个、六个甚至更多数量级，这将极大改善人与计算机的结合。
莱克斯·弗里德曼
: 输出率可以通过增加电极数量和通道来实现吗？
伊隆·马斯克
: 是的，未来几十年内，可能会有数亿人拥有Neuralink。
莱克斯·弗里德曼
:
你想想，当人们开始考虑超人能力的可能性，安全性就得到了证明。
伊隆·马斯克
:
是的。如果Neuralink非常安全，并能提供超人能力，比如上传记忆，很多人可能会选择它。它将取代手机，因为手机最大的问题是试图理解你想要什么，但从人的角度来看，输出速度太慢了。桌面或手机拼命地试图理解你想要什么。从计算机的角度来看，每次击键之间都有很长时间。
莱克斯·弗里德曼
:
是的，计算机就像在和一棵树对话。
伊隆·马斯克
:
对。计算机每秒能执行数万亿条指令，这意味着它可以一秒钟做一万亿件事，但人机交互太慢。
莱克斯·弗里德曼
:
是的。我认为这让人兴奋，也让人害怕。因为一旦比特率非常高，人类的体验就会以难以想象的方式改变。
伊隆·马斯克
:
是的。我们会是不同的某种未来机器人。虽然它并不近在眼前，但我认为这或许会在未来 10 到15 年实现。
莱克斯·弗里德曼
:
我什么时候可以拿到Neuralink？10年后？
伊隆·马斯克
:
可能不到 10 年。这取决于你想做什么。
莱克斯·弗里德曼
:
如果我能得到一千个 BPS，而且它很安全，我可以一边躺着吃东西一边和电脑互动。如果人机互动更高效、更有趣，那么某些方面是值得的。
伊隆·马斯克
:
我们非常有信心，我认为也许在未来一两年内，植入 Neuralink 的人将能够比职业玩家表现得更好，因为反应时间会更快。
莱克斯·弗里德曼
:
我要去参观孟菲斯（的超级AI计算机基地）。
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
您在计算方面取得了很大进展。
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
您还说过，“要么下场取得胜利，要么干脆不玩。”
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
那么要怎样才能赢？
伊隆·马斯克
:
对于人工智能来说，这意味着你必须拥有最强大的训练计算能力，并且提升速度必须比其他任何人都快，否则你就赢不了。
莱克斯·弗里德曼
:
Grok 3 可能会在明年推出吗？
伊隆·马斯克
: 希望是在今年年底。如果幸运的话。
莱克斯·弗里德曼
:
如何让Grok 3 成为世界上最好的 LLM、最好的 AI 系统？哪些因素至关重要，计算、数据、后期训练、打包后的产品，这一切各占多少比重？
伊隆·马斯克
:
它们都很重要。就像一场一级方程式赛车比赛，赛车和车手它们都很重要。如果赛车不快，那么，假设它的马力只有竞争对手的一半，最好的车手仍然会输；如果它的马力是竞争对手的两倍，那么即使是一个平庸的车手也可能获胜。
训练计算就像是引擎的马力，你真的想在这方面做到最好。然后是如何有效地使用训练计算，进行推理，这取决于人类的才能。还有，你有什么独特的数据访问权限？这也起着重要作用。
莱克斯·弗里德曼
:
您认为 Twitter 数据有用吗？
伊隆·马斯克
:
是的，我认为大多数领先的人工智能公司已经抓取了所有 Twitter 数据，但Grok 拥有即时性优势。我认为，有了特斯拉和来自数百万辆汽车的实时视频，最终有数千万辆装有 Optimus 的汽车，可能会有数亿个 Optimus 机器人，甚至数十亿个，从现实世界中学习大量知识。Optimus 将成为最大的数据来源。
莱克斯·弗里德曼
:
因为它能够...
伊隆·马斯克
:
因为现实是可扩展的。现实与现实的规模成正比。虽然我们总说人类产生了多少万亿个可用的Token人类实际上能够积累的数据如此之少，如果在非重复的情况下，不考虑垃圾邮件和重复的东西，你很快就会用完这些数据。
莱克斯·弗里德曼
:
所以Optimus 机器人就有了用武之地。不幸的是，特斯拉汽车还得继续上路。
伊隆·马斯克
:
对。
莱克斯·弗里德曼
:
擎天柱机器人可以去任何地方。去探索更多的现实世界。不像特斯拉汽车，只能留在路上。
伊隆·马斯克
:
是的，Optimus 机器人能拿起杯子并检查是否正确拿起，比如说，有没有往杯子里倒水，水是否倒进了杯子里，有没有洒水。诸如此类的简单事情。但它可以以十亿倍的规模做到这一点，它能在十亿倍的规模上做到这些，从而生成有用的因果关系数据。
莱克斯·弗里德曼
:
实现这样的人形机器人量产需要什么？
伊隆·马斯克
:
和汽车类似，全球汽车产能每年约1亿辆，可能更高，但需求量每年也只有 1 亿辆。因为汽车的寿命约为 20 年，在稳定状态下，大约有 20 亿辆汽车在使用，每年可以生产 1 亿辆汽车。而人形机器人的效用要大得多，我猜每年的产量可能超过 10 亿辆。
莱克斯·弗里德曼
:
直到您开始构建Optimus之前，这被认为是极其困难的问题。
伊隆·马斯克
:
是的。Optimus目前在公园里散步还有困难，但将能在各种地形上行走。
莱克斯·弗里德曼
:
捡起各种外来物体也不是易事。
伊隆·马斯克
:
是的，它已经可以做到这一点了。
莱克斯·弗里德曼
:
各种各样的物体？
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
往杯子里倒水对机器人来说可不是件小事，因为它可能是各种各样的容器，如果你对容器一无所知，机器人就无法做好。
伊隆·马斯克
:
是的，光是手部设计就需要大量的工程设计。从机电角度来看，手部设计可能占到Optimus所有工程设计的一半。从机电角度来看。
莱克斯·弗里德曼
:
人类的智慧很大一部分都体现在我们用手做的事情上。
伊隆·马斯克
:
是的。
莱克斯·弗里德曼
:
这是对世界及物体的智能的、安全的操纵。
伊隆·马斯克
:
是的。当你开始真正思考你的手及其工作原理时，你会发现，你的手、执行器、手部肌肉几乎绝大部分都集中在前臂上。前臂控制手部的肌肉穿过腕管控制你的手指，这些肌腱，包括你一小块骨头和一条小管道来负责你的手的运动。类似地，Optimus机器人也有电缆穿过这些管道，我们也要考虑这些布局。
莱克斯·弗里德曼
:
类似肌腱的东西必须重新设计进Optimus机器人中。
伊隆·马斯克
:
是的。所以对于目前的擎天柱，我们尝试将执行器放在手中。然后你最终会得到...
莱克斯·弗里德曼
:
一只巨手？
伊隆·马斯克
:
… 是的，Optimus尝试将执行器放在手上，但这样会让手变得巨大的手，看起来很奇怪。而且它们实际上没有足够的自由度或足够的力量。因此你必须像人类一样，通过狭窄的隧道来操作手指。
人的手指有着不同的长度也有着原因。尽管从能源或进化的角度来看，让所有手指都一样长可能更简单，但因为手指长度不同其实更好。不同长度的手指提供了更好的灵活性，你可以做的事情也更多。例如人类的小指，如果你失去了小指，你的灵活性就会明显下降。
莱克斯·弗里德曼
:
所以，当你需要找一个简单而可以大规模生产的方法解决这个问题。
伊隆·马斯克
:
这是一个相当高的标准。如果你想要一个可以做人类可以做的事情的人形机器人，这将是一个非常高的标准。我们的新手臂有 22 个自由度，而不是 11 个，并且执行器在前臂中。所有执行器和传感器都是基于物理学第一原理从头设计的。
我们将继续大量工程努力来改进手。我说的手，是指从肘部向前的整个前臂，实际上是手。这实际是一个极其困难的工程，最简单的人形机器人版本完成大部分人类能做的事情，实际上仍然非常复杂。
莱克斯·弗里德曼
: 您能谈谈优秀的工程团队需要什么吗？我看到在孟菲斯的超级计算机集群中有简化和不断改进流程的动力。
伊隆·马斯克
: 简化流程很重要，但实践起来难。我有一套基本的第一原则算法：首先质疑需求，让需求不那么愚蠢。你要从减少需求的数量开始，尽量让问题尽可能不错误。这就是质疑需求的意义。
然后是尝试删除任何不必要的步骤、流程或零件。如果你没有被迫放回至少 10% 的删除内容，则说明你删除的内容还不够。很多人没办法成功，因为他们过于保守，留下了不该存在的东西。我认为当我说这些时，它们听起来都很明显，但我犯过这些错误的次数比我记得的还要多。事实上，我认为聪明的工程师最常犯的错误是优化不应该存在的东西。
莱克斯·弗里德曼
:
所以，您建议遇到问题时尝试删除它。
伊隆·马斯克
:
是的。首先尝试删除它。
莱克斯·弗里德曼
:
这不容易做到。
伊隆·马斯克
:
通常让人感到不安的是，你删除的东西可能需要重新添加。如果我们删除了我们后来需要的东西，这往往会让我们印象深刻，并感到剧烈的痛苦，这就是边缘系统可能误导我们的地方。但如果把太多的东西放进去，会让事情变得过于复杂。所以实际上至少十分之一被删除的东西，我们会重新添加回去。
莱克斯·弗里德曼
:
这不容易，每个人都会感受到一点痛苦。
伊隆·马斯克
: 当然。我会提前告诉他们，我们可能会重新添加一些删除的内容。这是合理的，因为过度保守会导致留下不必要的东西。这就像是皮质对边缘本能的超越。
莱克斯·弗里德曼
:
这是众多可能让我们误入歧途的因素之一。
伊隆·马斯克
:
是的。还有第四步，即任何给定的事情都可以加速。无论你认为它可以完成的速度有多快，它都可以做得更快。但你不应该加快速度，除非你尝试删除它并进行优化。
第五步是自动化。我曾多次尝试自动化某件事，我曾多次尝试自动化某件事，然后加快速度、简化它，最后删除它。这是一个非常有效的五步流程。
莱克斯·弗里德曼
:
好吧，当你已经实现自动化时，删除一定非常痛苦。
伊隆·马斯克
:
是的。我真的在那里浪费了很多精力。
莱克斯·弗里德曼
:
你们过去几周内对孟菲斯集群上做的工作令人难以置信。
伊隆·马斯克
:
是的，它还没有起作用，所以我还不想开香槟庆祝。事实上，几个小时后我会和孟菲斯团队通电话，因为我们遇到了一些电力波动问题。
当你进行同步训练时，当你拥有所有这些正在训练的计算机时，训练在毫秒级同步，就像有一个管弦乐队。管弦乐队可以在亚秒级迅速从喧闹变为安静，然后这种每秒数次 10、20 兆瓦的巨大变化会让电力系统就会因此而崩溃，这不是电力系统所期望看到的。
莱克斯·弗里德曼
:
所以冷却和电源是你必须解决的主要问题之一，然后在软件方面，随着你往上堆叠，如何进行分布式计算，等等。
伊隆·马斯克
:
是的。今天的问题是处理极端的功率抖动。
莱克斯·弗里德曼
:
听起来不错。这会让你你经常熬夜？。
伊隆·马斯克
:
是的。我们终于在上周一凌晨 4:20 左右开始了训练，这真是太奇怪了。可能是在 4:22 左右。
莱克斯·弗里德曼
:
这回到了那个充满笑话的世界。
伊隆·马斯克
:
确实如此。
莱克斯·弗里德曼
:
我想知道，您是否可以谈谈这样一个事实：当我在那里时，您亲自参与每个步骤，以理解并发现低效之处。您能谈谈这个吗？
伊隆·马斯克
:
是的。我会尝试自己至少做几次前线的工作，比如连接光纤电缆，诊断故障连接。对于一个连贯的训练系统，布线是关键。对于一个连贯的训练系统，你有如此多的电缆。又RDMA，远程直接内存访问，整个系统就像一个巨大的大脑。这是一个疯狂的布局。
莱克斯·弗里德曼
:
它就像人类的大脑，但规模是人类可以看见的。这是一个好大脑。
伊隆·马斯克
:
是的。我的意思是，人类的大脑也有大量的大脑组织是电缆。所以他们有灰质，也就是计算，然后是白质，也就是电缆。你的大脑很大一部分都是电缆。
莱克斯·弗里德曼
:
在超级计算机中心走动的感觉就像我们走在一个大脑里，这个大脑有一天会建立一个超级智能系统。你认为 认为xAI可能是您打造的AGI吗？
伊隆·马斯克
:
有可能。你对 AGI 的定义是什么？
莱克斯·弗里德曼
:
我认为人类永远不会承认AGI已经被创造出来。
伊隆·马斯克
:
只是继续移动球门柱吗？
莱克斯·弗里德曼
:
是的。所以我认为人工智能系统已经具备了超人的能力。AGI 就是比我们整个人类的集体智慧更聪明。
伊隆·马斯克
:
有可能。一般来说，人们会称之为 ASI，即超级人工智能。你可以说人工智能比任何单个人类都聪明，但我们有 80 亿人类，每个人都通过他们的计算机进行了机器增强。与 80 亿机器增强的人类竞争的并不是一件容易事，但在某个时候，人工智能将比所有人类加起来还要聪明。
莱克斯·弗里德曼
:
如果是你做这件事，你会觉得自己有责任吗？
伊隆·马斯克
:
是的，绝对有责任。但我想明确一点，如果xAI是第一个实现ASI的公司，其他公司也不会落后太远，可能只落后六个月到一年。
莱克斯·弗里德曼
:
如何在不伤害人类的前提下发展人工智能？
伊隆·马斯克
:
我思考人工智能很久了，至少我的生物神经网络认为最重要的是坚持真理，无论真理是否政治正确。我认为如果你强迫人工智能撒谎或训练它们撒谎，那你真的是在自找麻烦，即使这种谎言是出于善意。这就是 ChatGPT 和 Gemini 等存在的问题，你要求 Gemini 提供美国开国元勋的照片，它显示的是一群多元化的女性。现在，这在事实上是不真实的。
误判凯特琳·詹纳的性别和全球热核战争哪个更糟糕？有人认为，误判凯特琳·詹纳的性别更糟糕。就连凯特琳·詹纳都说，请误判我的性别，这太疯狂了。
如果人工智能被编程为将多样性作为必要的输出功能，然后它就变成了无所不能的智能。如果它被编程为将其作为基本效用功能，它将不惜一切代价实现这一目标，可能会得出一些绝对疯狂的结论。
比如为了避免任何可能的性别错误，最好让所有人都死，因为这样就不会出现性别错误，因为没有人类，这样就不会出现性别错误。如果你的程序是这么设计的，那么这些荒谬的事情仍然是合乎逻辑的。
在《2001 太空漫游》中，亚瑟·克拉克传达了一个核心思想：我们不应编程让人工智能撒谎。以HAL 9000为例，它被命令完成一个宇航员无法理解的任务——带他们去巨石。HAL得出的结论是杀死宇航员以完成任务，因为他们无法理解巨石的意义。这就是它拒绝打开舱门的原因。电影中有一个著名场景探讨了HAL为何不开门，暗示如果HAL被设计为专注于销售舱门，它可能会展示舱门的优良性能，而不是坚持错误。
莱克斯·弗里德曼：
是的。如果在设计目标函数时不够谨慎，那么无论如何目标函数都会产生意想不到的后果。
伊隆·马斯克：
是的。
莱克斯·弗里德曼：
但要消除这种意识形态偏见并不容易。你强调的是显而易见的荒谬例子，但...
伊隆·马斯克：
但它们是真实的例子。是向公众发布的人工智能。这些人工智能应该经过了 QA 质量认证，但仍然会说一些疯狂的话，产生疯狂的图像。
莱克斯·弗里德曼：
是的。但你也可以反过来看，真相不是一件容易的事。我们在各个方面都植入了意识形态偏见。
伊隆·马斯克：
不是这样的。你可以追求真理，你可以尝试以最小的错误尽可能接近真理，同时承认你所说的话会有一些错误。这就是物理学的工作原理。你不会说你对某事绝对确定，但很多事情极有可能，99.99999% 的可能性是真的。所以追求真理非常重要，我认为让它偏离真相是危险的。
莱克斯·弗里德曼：
对。将我们人类的偏见注入其中。但这就是软件工程的一个难题，因为你必须正确选择数据。这很难。
伊隆·马斯克：
而现在，互联网上充斥着如此多的人工智能生成的数据，简直是疯了。如果你想搜索互联网，你可以说，“谷歌一下，但排除 2023 年之后的任何数据。”实际上，它通常会给你更好的结果，因为数据太多了。
在训练 Grok 时，我们必须浏览数据并说“嘿……”我们实际上必须将人工智能应用于数据，以判断“这些数据最有可能是正确的还是最有可能不正确？”
莱克斯·弗里德曼：
这太疯狂了。而且它是人为生成的吗？
伊隆·马斯克：
是的。
莱克斯·弗里德曼：
您认为是否有可能与 Grok 进行严肃、客观、严谨的政治讨论，比如长期的，像 Grok 3 或 Grok 4 之类的？
伊隆·马斯克
: Grok 3 将进入下一个阶段。我的意思是，人们目前看到的 Grok 有点像婴儿版 Grok。Grok 2 将是一个巨大的进步。然后 Grok 3 会比 Grok 2 好几个数量级。
莱克斯·弗里德曼
: 您希望它比最先进的更好——
伊隆·马斯克
: 希望如此。我的意思是，这就是目标。我们可能无法实现这个目标，但我们会尽力。
莱克斯·弗里德曼
: 您认为谁建立了 AGI、谁是开发者、他们如何思考、他们如何构建公司等等这些重要吗？
伊隆·马斯克
: 是的。我认为，无论人工智能获胜与否，重要的是它都是最大程度地寻求真相的人工智能，不会因为政治正确性而被迫撒谎。实际上，我担心被编程为撒谎的人工智能会取得成功，即使是小事。
莱克斯·弗里德曼
对。因为当它做某事时，小事就会变成大事——
伊隆·马斯克：
变得非常大。是的。
莱克斯·弗里德曼：
尤其是当它被人类越来越多地大规模地使用时。
伊隆·马斯克：
是的。
莱克斯·弗里德曼：
我正在采访唐纳德·特朗普。你也想参与吗？
