转发微博
#模型时代# 黄仁勋：英伟达会有5万名员工，加上1亿个AI智能体。以及，英伟达真正的护城河是什么？
BG2 PoD是两位硅谷投资人Bill Gurley和Brad Gerstner的一档播客节目。前几天，BG2采访了黄仁勋，这可能是黄仁勋今年以来，接受采访，关于英伟达自身，谈得信息量最大的一次。所以虽然不是第一时间，但还是做了一个整理发出来。
我觉得整期视频，最重要的一部分就是关于英伟达的护城河问题。大家知道，虽然英伟达的GPU是现在AI算力当之无愧的NO.1，但是英伟达不是没有对手，近的有AMD和英特尔这样的老牌对手，远的有Grok、Cerebras Systems这样的创业公司，甚至英伟达的客户也在和它竞争，谷歌、AWS等云厂商都有自己的训练和推理芯片。所以，英伟达如何稳固自身地位，不成为下一个被赶超的恐龙，并继续维持3万亿美金的市值？
对于这个问题，黄仁勋做了正面回答，不过他不是完全从英伟达自身竞争力角度，而是从AI算力的特点角度。他引用了阿姆达尔定律来解释，在并行加速计算中：即使你大幅加速了某个部分的计算，如果系统中还有其他部分没有被加速，整体性能的提升仍然是有限的。因此，整个系统的效率取决于不可加速部分的大小。
一个简单的例子：
假设你在一个任务中，有**80%的部分可以通过某种方式加速，剩下的20%**无法加速。即使你将那80%的部分加速得很快（比如提升10倍），因为剩下的20%无法加速，整个任务的速度提升不会达到你期望的程度。
自然，黄仁勋想表达的是，英伟达是具有全栈加速能力的计算公司，并非是只有一颗GPU芯片的公司。
节目最后，黄仁勋谈到了公司的管理问题，有两个信息量比较重要。一个是他认为英伟达的员工规模还会增长，但是幅度有限，可能是从3万到5万，但是与此同时，英伟达内部会运行超过1个亿的AI智能体（或者说代理）。而对黄仁勋自身而言，他有60个直线汇报的员工，但是他也是重度的AI使用者，几乎每天都会从模型中学习，和进行讨论。所以，某种程度上，英伟达这家AI公司的最高管理者，是“老黄+AI”。
时间轴：
***
00:00介绍
1:50 AGI 和个人助理的演变
06:03 英伟达的竞争优势
15:51 人工智能推理和训练的未来
19:01 构建人工智能基础设施
31:35 在人工智能的未来发明一个新市场
38:40 OpenAI的影响
43:25 人工智能模型的未来
46.44 X.ai和孟菲斯超集群
51:21 分布式计算和推理扩展
55:54 推理时间及其重要性
01:00:46 人工智能在发展业务和提高生产力方面的作用
01:08:00 确保安全的人工智能开发
01:12:31 开源与闭源人工智能的平衡
一些核心观点：
1、AI正在重塑整个计算堆栈
黄仁勋开篇就强调了AI对计算领域的革命性影响："在60年的计算历史之后，我们重新发明了整个计算堆栈。"他详细阐述了这一变革的方方面面：
软件编写方式：从传统编程转向机器学习
处理方式：从CPU为中心转向GPU加速
应用形式：从固定功能软件到灵活的AI应用
为了证明这一观点，黄仁勋举例说明了英伟达如何通过创新来推动这一变革："我们通过多种方式做到了这一点。我们引入了加速计算，将在CPU上效率不高的工作转移到GPU上。我们发明了新的数值精度。我们通过新的架构，发明了张量核心，重新设计了系统的构建方式。"
这一论述不仅展示了AI对计算的深远影响，还凸显了英伟达在这场变革中的核心角色。
2、AI基础设施投资的巨大潜力
在讨论AI的经济影响时，黄仁勋提出了一个令人瞠目结舌的预测："我们有价值万亿美元的数据中心必须进行现代化改造。此外，未来几年还将建设一个价值万亿美元的全新AI工作负载基础设施。"
为了论证这一观点，黄仁勋进行了一个思想实验：
"假设你有500亿美元的资本支出要花。方案A是为未来建立资本支出，方案B是像过去一样建立资本支出。现在，你已经拥有了过去的资本支出。它就在那里，而且也不会变得更好，摩尔定律已基本终结。那么，为什么要重建它呢？让我们拿出500亿美元，投入到生成式AI中。"
这个比喻展示了企业在资源分配决策中面临的战略选择。
3、英伟达的护城河：全栈解决方案
当被问及英伟达的竞争优势时，黄仁勋强调了公司的全栈方法："英伟达真正擅长的是算法。上层科学与下层架构之间的融合，这才是我们真正擅长的。"
他进一步解释道："我们有一个名为cuDNN的特定领域库。没有cuDNN，就没有人会谈论PyTorch和TensorFlow。"这一点突显了英伟达在AI软件生态系统中的关键作用。
黄仁勋还提到了英伟达在并行计算方面的优势："并行处理需要大量的晶体管，因此成本效益更高。我宁愿晶体管多10倍，速度慢20%，也不愿晶体管少10倍，速度快20%。"这种方法与传统的追求单线程性能的方式形成鲜明对比，体现了英伟达在AI计算方面的独特视角。
这些解释揭示了英伟达的核心竞争力不仅仅在于硬件，更在于其垂直整合的全栈解决方案。通过构建从底层硬件到上层软件库的完整生态系统，英伟达在AI领域建立了独特的优势。
4、AI推理的爆发性增长
在讨论AI的未来发展时，黄仁勋做出了一个惊人的预测："推理即将增长十亿倍。这就是我们所说的产业。这就是工业革命。这就是智能的生产。"
为了支持这一大胆预测，黄仁勋解释道："现在，你知道，我们今天40%以上的收入都来自推理。但由于推理链的存在，推理即将增长十亿倍。这就是大多数人还没有完全内化的部分。"
他进一步阐述了这种增长的原因："我们过去常说的是预训练模型，并在这个层面上进行扩展。我们是如何将模型规模扩大一倍，并将数据规模适当扩大一倍的。因此，每年所需的计算能力都在以四倍的速度增长。这可是件大事。但现在我们看到了后训练的扩展，也看到了推理的扩展。"
5、开源与闭源模型的共存
在讨论开源和闭源AI模型时，黄仁勋表达了一个平衡的观点："封闭与开放二选一是错误的。它应该是封闭的，也应该是开放的。"
他进一步解释了这种平衡的必要性："开放是许多行业激活的必要条件。现在，如果我们没有开放源代码，所有这些不同领域的科学能否在人工智能上激活？因为他们必须开发自己的特定领域人工智能，而且必须开发自己的人工智能、使用开源模型，创建特定领域的人工智能。"
同时，黄仁勋也认可了闭源模型的价值："使用封闭源代码模型绝对没有错，这些模型可以是维持创新所必需的经济模式的引擎。我衷心地为此庆祝。"
6、AI安全和监管的多层次方法
在讨论AI安全和监管时，黄仁勋强调了多层次方法的重要性："不要误解，也不要忽视压倒性的监管数量在这个世界上，人工智能必须被激活。不要仅仅依靠一个通用的银河系人工智能委员会，它可能能够做到这一点，因为所有这些不同机构的成立都是有原因的。"
黄仁勋认为，有效的AI监管需要结合现有的行业监管框架和新的AI特定规则。他指出："人工智能是一种可以应用的能力。对重要技术进行监管是必要的。但同时也要注意，不要越俎代庖，以至于有些监管工作不得不做、大部分监管应在应用时进行。"
他举例说明："美国联邦航空局（FAA）、美国国家公路交通安全管理局（NHTSA）、美国食品和药物管理局（FDA），你说得出来吧？所有已经对技术应用进行监管的不同生态系统现在都拥有以规范目前已注入人工智能的技术的应用。"
7、AI对生产力的革命性影响和未来工作模式
黄仁勋对AI提高生产力持乐观态度，同时也描绘了一幅未来工作场景的蓝图。他说道："当公司利用人工智能提高生产力时，这很可能表现为更好的收益或更好的增长，或两者兼而有之。当这种情况发生时，首席执行官的下一封电子邮件很可能就不是裁员公告了。"
他进一步解释道："因为我们有更多的想法，我们无法探索。在实现自动化之前，我们需要有人帮助我们进行思考。因此，人工智能可以帮助我们实现自动化。显然，这也有助于我们进行思考。但这仍然需要我们去弄清楚我想要解决什么问题。"
更引人注目的是，黄仁勋描绘了英伟达未来的员工结构："我希望有一天英伟达能成为一家拥有5万名员工、1亿AI助理的公司。" 这一大胆预测揭示了他对未来工作环境的设想，其中人类员工将与大量AI助理协同工作。
黄仁勋认为AI将创造新的机会和增长点，最终导致更多的就业和经济繁荣。同时，这种人机协作的模式也将极大地提高工作效率和创新能力。
8、AI在科研中的应用
黄仁勋强调了AI在各个科研领域的广泛应用："你去问电子游戏设计师、制造工程师、机器人专家，选择你最喜欢的、无论你想选择哪个行业。你要深入其中，与重要的人交谈，问他们，人工智能是否能解决这些问题？彻底改变了您的工作方式？"
他特别提到了一些具体领域："农业技术、材料技术、气候技术，你选择你的技术，你选择你的科学领域。他们正在前进。现在，人工智能正在帮助他们推进工作。每一个行业、每一家公司、每一所大学。"
9、AI模型的互动和进化
黄仁勋提出了一个有趣的观点，关于AI模型如何通过互动来进化："我的脑海中浮现的画面有点像你找来一个超级聪明的人，把他关进一间密室、关门一个月左右。出来的可能不是一个更聪明的人。但你可以让两三个人围坐在一起，我们有不同的人工智能、我们有不同的知识分布，我们可以来回进行质量保证，所有三个我们都能变得更聪明。"
他进一步解释了这一概念在AI中的应用："因此，你可以让人工智能模型进行交流、互动、来回穿梭、例如，辩论、强化学习、合成数据生成等，都是一种直观的表明这是有道理的。"
10、AI作为个人学习和工作助手
最后，黄仁勋分享了他个人使用AI的经验："我每天都在使用它。我没有一项研究与人工智能无关。没有一个问题，即使我知道答案、我和AI仔细检查过了。出乎意料的是，我接下来问的两三个问题都揭示了一些我不知道的东西。"
他强调了AI作为学习工具的重要性："我认为，人工智能是导师，是助手、AI作为我的合作伙伴，与我一起集思广益，反复检查我的工作。伙计们，这完全是革命性的。"
高飞的微博视频
BG2 PoD是两位硅谷投资人Bill Gurley和Brad Gerstner的一档播客节目。前几天，BG2采访了黄仁勋，这可能是黄仁勋今年以来，接受采访，关于英伟达自身，谈得信息量最大的一次。所以虽然不是第一时间，但还是做了一个整理发出来。
我觉得整期视频，最重要的一部分就是关于英伟达的护城河问题。大家知道，虽然英伟达的GPU是现在AI算力当之无愧的NO.1，但是英伟达不是没有对手，近的有AMD和英特尔这样的老牌对手，远的有Grok、Cerebras Systems这样的创业公司，甚至英伟达的客户也在和它竞争，谷歌、AWS等云厂商都有自己的训练和推理芯片。所以，英伟达如何稳固自身地位，不成为下一个被赶超的恐龙，并继续维持3万亿美金的市值？
对于这个问题，黄仁勋做了正面回答，不过他不是完全从英伟达自身竞争力角度，而是从AI算力的特点角度。他引用了阿姆达尔定律来解释，在并行加速计算中：即使你大幅加速了某个部分的计算，如果系统中还有其他部分没有被加速，整体性能的提升仍然是有限的。因此，整个系统的效率取决于不可加速部分的大小。
一个简单的例子：
假设你在一个任务中，有**80%的部分可以通过某种方式加速，剩下的20%**无法加速。即使你将那80%的部分加速得很快（比如提升10倍），因为剩下的20%无法加速，整个任务的速度提升不会达到你期望的程度。
自然，黄仁勋想表达的是，英伟达是具有全栈加速能力的计算公司，并非是只有一颗GPU芯片的公司。
节目最后，黄仁勋谈到了公司的管理问题，有两个信息量比较重要。一个是他认为英伟达的员工规模还会增长，但是幅度有限，可能是从3万到5万，但是与此同时，英伟达内部会运行超过1个亿的AI智能体（或者说代理）。而对黄仁勋自身而言，他有60个直线汇报的员工，但是他也是重度的AI使用者，几乎每天都会从模型中学习，和进行讨论。所以，某种程度上，英伟达这家AI公司的最高管理者，是“老黄+AI”。
时间轴：
***
00:00介绍
1:50 AGI 和个人助理的演变
06:03 英伟达的竞争优势
15:51 人工智能推理和训练的未来
19:01 构建人工智能基础设施
31:35 在人工智能的未来发明一个新市场
38:40 OpenAI的影响
43:25 人工智能模型的未来
46.44 X.ai和孟菲斯超集群
51:21 分布式计算和推理扩展
55:54 推理时间及其重要性
01:00:46 人工智能在发展业务和提高生产力方面的作用
01:08:00 确保安全的人工智能开发
01:12:31 开源与闭源人工智能的平衡
一些核心观点：
1、AI正在重塑整个计算堆栈
黄仁勋开篇就强调了AI对计算领域的革命性影响："在60年的计算历史之后，我们重新发明了整个计算堆栈。"他详细阐述了这一变革的方方面面：
软件编写方式：从传统编程转向机器学习
处理方式：从CPU为中心转向GPU加速
应用形式：从固定功能软件到灵活的AI应用
为了证明这一观点，黄仁勋举例说明了英伟达如何通过创新来推动这一变革："我们通过多种方式做到了这一点。我们引入了加速计算，将在CPU上效率不高的工作转移到GPU上。我们发明了新的数值精度。我们通过新的架构，发明了张量核心，重新设计了系统的构建方式。"
这一论述不仅展示了AI对计算的深远影响，还凸显了英伟达在这场变革中的核心角色。
2、AI基础设施投资的巨大潜力
在讨论AI的经济影响时，黄仁勋提出了一个令人瞠目结舌的预测："我们有价值万亿美元的数据中心必须进行现代化改造。此外，未来几年还将建设一个价值万亿美元的全新AI工作负载基础设施。"
为了论证这一观点，黄仁勋进行了一个思想实验：
"假设你有500亿美元的资本支出要花。方案A是为未来建立资本支出，方案B是像过去一样建立资本支出。现在，你已经拥有了过去的资本支出。它就在那里，而且也不会变得更好，摩尔定律已基本终结。那么，为什么要重建它呢？让我们拿出500亿美元，投入到生成式AI中。"
这个比喻展示了企业在资源分配决策中面临的战略选择。
3、英伟达的护城河：全栈解决方案
当被问及英伟达的竞争优势时，黄仁勋强调了公司的全栈方法："英伟达真正擅长的是算法。上层科学与下层架构之间的融合，这才是我们真正擅长的。"
他进一步解释道："我们有一个名为cuDNN的特定领域库。没有cuDNN，就没有人会谈论PyTorch和TensorFlow。"这一点突显了英伟达在AI软件生态系统中的关键作用。
黄仁勋还提到了英伟达在并行计算方面的优势："并行处理需要大量的晶体管，因此成本效益更高。我宁愿晶体管多10倍，速度慢20%，也不愿晶体管少10倍，速度快20%。"这种方法与传统的追求单线程性能的方式形成鲜明对比，体现了英伟达在AI计算方面的独特视角。
这些解释揭示了英伟达的核心竞争力不仅仅在于硬件，更在于其垂直整合的全栈解决方案。通过构建从底层硬件到上层软件库的完整生态系统，英伟达在AI领域建立了独特的优势。
4、AI推理的爆发性增长
在讨论AI的未来发展时，黄仁勋做出了一个惊人的预测："推理即将增长十亿倍。这就是我们所说的产业。这就是工业革命。这就是智能的生产。"
为了支持这一大胆预测，黄仁勋解释道："现在，你知道，我们今天40%以上的收入都来自推理。但由于推理链的存在，推理即将增长十亿倍。这就是大多数人还没有完全内化的部分。"
他进一步阐述了这种增长的原因："我们过去常说的是预训练模型，并在这个层面上进行扩展。我们是如何将模型规模扩大一倍，并将数据规模适当扩大一倍的。因此，每年所需的计算能力都在以四倍的速度增长。这可是件大事。但现在我们看到了后训练的扩展，也看到了推理的扩展。"
5、开源与闭源模型的共存
在讨论开源和闭源AI模型时，黄仁勋表达了一个平衡的观点："封闭与开放二选一是错误的。它应该是封闭的，也应该是开放的。"
他进一步解释了这种平衡的必要性："开放是许多行业激活的必要条件。现在，如果我们没有开放源代码，所有这些不同领域的科学能否在人工智能上激活？因为他们必须开发自己的特定领域人工智能，而且必须开发自己的人工智能、使用开源模型，创建特定领域的人工智能。"
同时，黄仁勋也认可了闭源模型的价值："使用封闭源代码模型绝对没有错，这些模型可以是维持创新所必需的经济模式的引擎。我衷心地为此庆祝。"
6、AI安全和监管的多层次方法
在讨论AI安全和监管时，黄仁勋强调了多层次方法的重要性："不要误解，也不要忽视压倒性的监管数量在这个世界上，人工智能必须被激活。不要仅仅依靠一个通用的银河系人工智能委员会，它可能能够做到这一点，因为所有这些不同机构的成立都是有原因的。"
黄仁勋认为，有效的AI监管需要结合现有的行业监管框架和新的AI特定规则。他指出："人工智能是一种可以应用的能力。对重要技术进行监管是必要的。但同时也要注意，不要越俎代庖，以至于有些监管工作不得不做、大部分监管应在应用时进行。"
他举例说明："美国联邦航空局（FAA）、美国国家公路交通安全管理局（NHTSA）、美国食品和药物管理局（FDA），你说得出来吧？所有已经对技术应用进行监管的不同生态系统现在都拥有以规范目前已注入人工智能的技术的应用。"
7、AI对生产力的革命性影响和未来工作模式
黄仁勋对AI提高生产力持乐观态度，同时也描绘了一幅未来工作场景的蓝图。他说道："当公司利用人工智能提高生产力时，这很可能表现为更好的收益或更好的增长，或两者兼而有之。当这种情况发生时，首席执行官的下一封电子邮件很可能就不是裁员公告了。"
他进一步解释道："因为我们有更多的想法，我们无法探索。在实现自动化之前，我们需要有人帮助我们进行思考。因此，人工智能可以帮助我们实现自动化。显然，这也有助于我们进行思考。但这仍然需要我们去弄清楚我想要解决什么问题。"
更引人注目的是，黄仁勋描绘了英伟达未来的员工结构："我希望有一天英伟达能成为一家拥有5万名员工、1亿AI助理的公司。" 这一大胆预测揭示了他对未来工作环境的设想，其中人类员工将与大量AI助理协同工作。
黄仁勋认为AI将创造新的机会和增长点，最终导致更多的就业和经济繁荣。同时，这种人机协作的模式也将极大地提高工作效率和创新能力。
8、AI在科研中的应用
黄仁勋强调了AI在各个科研领域的广泛应用："你去问电子游戏设计师、制造工程师、机器人专家，选择你最喜欢的、无论你想选择哪个行业。你要深入其中，与重要的人交谈，问他们，人工智能是否能解决这些问题？彻底改变了您的工作方式？"
他特别提到了一些具体领域："农业技术、材料技术、气候技术，你选择你的技术，你选择你的科学领域。他们正在前进。现在，人工智能正在帮助他们推进工作。每一个行业、每一家公司、每一所大学。"
9、AI模型的互动和进化
黄仁勋提出了一个有趣的观点，关于AI模型如何通过互动来进化："我的脑海中浮现的画面有点像你找来一个超级聪明的人，把他关进一间密室、关门一个月左右。出来的可能不是一个更聪明的人。但你可以让两三个人围坐在一起，我们有不同的人工智能、我们有不同的知识分布，我们可以来回进行质量保证，所有三个我们都能变得更聪明。"
他进一步解释了这一概念在AI中的应用："因此，你可以让人工智能模型进行交流、互动、来回穿梭、例如，辩论、强化学习、合成数据生成等，都是一种直观的表明这是有道理的。"
10、AI作为个人学习和工作助手
最后，黄仁勋分享了他个人使用AI的经验："我每天都在使用它。我没有一项研究与人工智能无关。没有一个问题，即使我知道答案、我和AI仔细检查过了。出乎意料的是，我接下来问的两三个问题都揭示了一些我不知道的东西。"
他强调了AI作为学习工具的重要性："我认为，人工智能是导师，是助手、AI作为我的合作伙伴，与我一起集思广益，反复检查我的工作。伙计们，这完全是革命性的。"
高飞的微博视频
