当地时间10月13日，
Bg2 Pod播客节目公布了其和
英伟达CEO黄仁勋
10月
4日的访谈。
黄仁勋盛赞马斯克是超人，
并称OpenAI是
这个时代最具影响力的公司之一，是专注于AI、致力于追求AGI愿景的公司。
他提到英伟达的“护城河”，即其十年积累的软硬件生态系统，使得竞争者很难通过单一的芯片改进超越，他并不在乎市场份额。
谈及AI对生产力的影响，黄仁勋乐观地表示，AI将极大提高生产力，并不会导致裁员的发生，反而可能需要
雇佣更多的人，
而人们却忘记了这一点。
投资作业本课代表总结了要点如下：
1、
（AGI助理）很快就会以某种形式出现…
…一开始它会非常有用，但并不完美。然后随着时间的推移，它会变得越来越完美。
2、我们重新发明了计算。很多事情之所以发生，是因为我们在10年内将计算的边际成本降低了100000倍。摩尔定律应该是100倍左右。我们通过多种方式实现了这一点。
3、
马斯克对大型系统的工程和建设以及资源调配的理解是独一无二的... 十万个GPU作为一个集群... 19天内完成...这就像超人一样。
4、我们将要现代化的基础设施之上，将会有一个新的基础设施——操作这些数字人的AI工厂
，
它们将全天候运行。
5
、现有数据中心将在未来 4 到 5 年内需要价值约 1 万亿美元的 GPU 来实现现代化。
6
、
我的目标是创建一个无处不在的计算平台......我们每年都在努力创造一台新的计算机，其性能提升两到三倍，成本降低两到三倍，能源效率提高两到三倍。
这太疯狂了。
7、
我希望英伟达有一天能成为一家拥有 50,000 名员工、1 亿名人工智能
助手的公司，并且人工智能助手在每个部门中。
8、
未来，我们会有代理，
会有数字员工
。
在你的收件箱里，你会看到这些低矮的面孔上的小点。
未来，事情意味着AIS的低矮图标。
我会把这些发给他们。
9、
人们忽视了一点，那就是当公司利用人工智能提高生产力时，它很可能会表现为更好的收益或增长，或两者兼而有之。
这时，
首席执行官的下一封电子邮件很可能不是裁员公告。
在今天联想集团于美国西雅图举办的Tech World科技盛会上，谈及AI，黄仁勋也同样表示，
未来将有数百万甚至数十亿的AI智能体，他称这些AI为“小Jensen玩偶”，它将帮助人们完成各种任务
。
他认为，从广义上来说，
人工智能本质上就是机器人。未来将会有两种人工智能——智能体AI和实体AI
。智能体AI本质是理解理解信息世界的信息
机器人
，实体AI本质是理解物理世界的实体
机器人
，
二者共同构成全球产业的基石。
以下黄仁勋对话实录来自华尔街见闻，课代表作了删减和编辑，分享给大家：
主持人:
今年的主题是将智能扩展到AGI。
两年前我们做这件事的时候，我们是在AI时代做的，那是在ChatGPT的两个月前，考虑到所有这些变化，这真是令人难以置信。所以我觉得我们可以用一个思想实验和一个预测来开始。
如果我把AGI通俗地想象成我口袋里的私人助理，如果我认为AGI就是那个口语助理，我已经习惯了。它知道我的一切。它对我有完美的记忆，可以和我交流。他们可以帮我预订酒店，或者帮我预约医生。
看看当今世界的变化速度，你认为我们什么时候才能拥有个人助理？
黄仁勋：
很快就会以某种形式出现
(soon，in some form)
。而且随着时间的推移，这个助理会越来越好。这就是我们所知道的美妙技术。所以我认为一开始它会非常有用，但并不完美。然后随着时间的推移，它会变得越来越完美。就像所有的技术一样。
主持人：当我们看看变化的速度时，我认为马斯克说过，真正重要的唯一事情就是变化的速度。我们确实感觉到变化的速度已经急剧加快，这是我们在这些问题上见过的最快变化速度，因为我们已经在AI领域摸爬滚打了十年，甚至更长。这是你职业生涯中见过的最快变化速度吗？
黄仁勋：
这是因为我们
重新发明了计算。很多事情之所以发生，是因为我们在10年内将计算的边际成本降低了100000倍。摩尔定律应该是100倍左右。我们通过多种方式实现了这一点。
首
先，我们引入了加速计算，将CPU上效率较低的工作放在GPU上。我们通过发明新的数值精度来实现这一点。我们通过新的架构来实现这一点，发明了张量核心，以系统的方式构建MV Link，以及非常非常快的内存、以及使用MV Link进行扩展并在整个堆栈上工作。基本上，我描述的关于英伟达如何做事的一切都导致了超摩尔定律的创新速度。
现在真正让人惊奇的是，从此之后，
我们从人工编程转向了机器学习。机器
学习的神奇之处在于，机器学习可以学得非常快，事实证明如此。
因此，当我们重新制定分配计算的方式时，我们做了很多，各种并行性。张量并行性，各种管道并行性。我们擅长在此基础上发明新算法和新训练方法，所有这些技术，所有这些发明都是相互叠加的结果。
回顾过去，如果你看看摩尔定律是如何运作的，软件是静态的。它是预编译的，就像放入商店的收缩筏一样。它是静态的，下面的硬件以摩尔定律的速度增长。
现在，我们整个堆栈都在增长，整个堆栈都在创新。所以我认为，现在我们突然看到了扩展。
这当然是非凡的。但我们过去谈论的是预训练模型和在那个层面上的扩展，以及我们如何将模型大小翻倍，因此相应地翻倍，数据大小也翻倍。结果，所需的计算能力每年增加四倍。
这是一件大事。但现在我们看到了后训练的扩展，我们看到了推理的扩展。所以人们过去认为预训练很难，推理很容易。现在一切都很难。这很有道理，但认为人类的所有思维都是一次性的想法有点荒谬。
所以，必须有一个快速思考、慢速思考、推理、反思、迭代和模拟等概念
。现在它正在出现。
主持人：本周早些时候和 Andy Jassy（亚马逊总裁兼CEO）一起吃饭，Andy说，我们有 Tranium、Inferentia 即将到来。我认为大多数人再次将这些视为英伟达的问题。但接下来，他说英伟达是我们的重要合作伙伴，并且将继续是我们的重要合作伙伴。就我所见，未来世界将依靠英伟达。
所以当你想到正在构建的定制ASIC时，它们将用于目标应用。也许是Meta的推理加速器，也许是亚马逊的训练，或者谷歌的TPU。然后你想想你今天面临的供应短缺，这些因素会改变这种动态吗？或者它们会补充他们从你那里购买的系统？
黄仁勋：
我们只是在做不同的事情。是的，我们试图完成不同的事情。现在英伟达正在尝试为这个新世界、这个机器学习世界、这个生成式AI世界、这个代理式AI世界
构建一个计算平台。
我们试图创造，在计算领域，如此深刻的一点是，经过60年的发展，
我们重新发明了整个计算堆栈。从编程到机器学习，从CPU到GPU，从软件到AI，应用程序从软件到AI。从软件工具到AI。
因此，计算堆栈和技术堆栈的每个方面都发生了变化。
我们想做的是创建一个随处可用的计算平台。
这确实是我们所做工作的复杂性，我们所做工作的复杂性在于，如果你仔细想想我们所做的事情，就会发现
我们正在构建整个AI基础设施，我们把它看作一台计算机。
我之前说过，数据中心现在是计算的单位。对我来说，当我想到计算机时，我考虑的不是芯片。我在考虑这个东西。这是我的思维模型，里面的所有软件、所有编排、所有机器，都是我的使命。这就是我的计算机。
我们每年都试图建造一台新的(计算机）。这太疯狂了
。以前从来没有人这样做过。我们提供两到三倍的性能。因此，每年，
我们都会将成本降低两到三倍。每年，我们都会将能源效率提高两到三倍。
因此，我们要求客户不要一次性购买所有东西，每年只买一点，这样做的原因是，我们希望它们的成本在未来保持平均水平。现在，
所有东西在架构上都是兼容的，所以以我们现在的速度单独构建这些东西是非常困难的。
现在，双重困难的部分是，我们接受所有这些，而不是将其作为基础设施或服务出售，我们不同意所有这些。我们将它集成到GCP、AWS、Azure、X 中。所以每个人的集成都不同。
我们必须将我们所有的架构库、所有算法和所有框架集成到他们的框架中。我们将我们的安全系统集成到他们的系统中，我们将我们的网络集成到他们的系统中，然后我们基本上进行10次集成，现在我们每年都这样做。这就是奇迹。
主持人：
我认为，当人们观察业务时，您最近表示对
Blackwell的需求非常疯狂
。您说，工作中最困难的部分之一就是在世界缺乏您能够生产和提供的计算能力的情况下，用情感工具对人们说“不”。
但批评者说了这些。他们说这就像2000年的思科一样，我们过度建设光纤。这将是繁荣与萧条的交替。我想到23年初我们吃饭的时候。23年1月的那顿晚餐上，英伟达的预测是，2023年的收入将达到260亿美元。你做到了600亿美元。
黄仁勋：
就让事实真相大白吧。
我们至少可以承认，
这是世界历史上最大的预测失败。
主持人：
那是我们在11月22日非常兴奋，因为我们有来自Inflection的Mustafa这样的人，而没有来自Character的人来我们办公室谈论投资他们的公司。他们说，好吧，如果你不能投资我们的公司，那就买英伟达，因为世界上每个人都在试图获得英伟达芯片来构建这些将改变世界的应用程序。当然，寒武纪时刻发生在ChatGPT上。
尽管如此，这25位分析师仍然专注于加密货币赢家，以至于他们无法想象世界上正在发生的事情。所以最终规模更大了。
用非常通俗的英语来说，对Blackwell的需求是疯狂的，而且只要你能预见，它就会一直这样下去。当然，未来是不可知的。但为什么批评者会错得这么离谱，认为这不会像思科在2000年那样过度建设。
黄仁勋：
思考未来的最佳方式是从第一原则出发，对于问题，我们正在做的事情的第一原则是什么？
我们刚才说过，
未来计算的方式将是高度机器学习的
。高度机器学习的。几乎我们所做的一切，几乎每一个应用程序，Word、Excel、Powerpoint、Photoshop、Premier，AutoCAD，你最喜欢的应用程序都是手工设计的。我向你保证
，未来它将高度机器学习。
所以所有这些工具都会如此，最重要的是，你会有机器，代理来帮助你使用它们。所以现在我们知道这是事实。我们已经重新发明了计算。我们不会回头了。
整个计算技术堆栈都在被重新发明。既然我们已经做到了这一点，我们说过软件会有所不同。软件能写的东西会有所不同。我们使用软件的方式也会有所不同。所以现在让我们承认这一点。所以这些就是我现在的基本事实。
现在的问题是会发生什么？让我们回顾一下过去的家庭计算。过去的计算机投入了1万亿美元。我们看看，只要打开门，看看数据中心，看看它。
这些计算机是你想要的未来吗？答案是否定的。你那里有所有这些CPU。我们知道它能做什么，不能做什么。如果我们要在未
来四五年内对旧的数据中心进行现代化改造，需要1万亿美元（的GPU资源）。
所以我们有一个趋势，你正在与那些必须对其进行现代化改造的人进行交谈。是的，他们正在GPU上对其进行现代化改造。就是这样。
聪明的人在做聪明的事情。
我们有1万亿美元的基础设施需要在未来四五年内建设。
我们观察到的第二件事是软件的编写方式不同，但软件的使用方式也不同。
未来，我们会有代理。
我们公司会有数字员工。
在你的收件箱里，你会看到这些低矮的面孔上的小点。未来，事情意味着AIS的低矮图标。我会把这些发给他们。
我不再用C++编程电脑了，我要用提示来编程AI。现在，这和我今天早上跟我聊天没什么不同。
我来这里之前写了很多电子邮件。我当然在提示我的团队。我会描述背景，描述我所知道的基本限制，描述他们的任务。我会留下足够的空间，我会给出足够的方向，让他们明白我需要什么。
我想尽可能清楚地说明结果应该是什么，但我留下了足够的模糊空间，一点创意空间，这样他们就可以给我惊喜。
这和我今天提示AI没什么不同。
我
们将
在
现代化基础设施之上，将会有一个新的基础设施，
是操作这些数字人的AI工厂，它们将全天候运行。
我们将为世界各地的所有公司提供这些设备。我们将在工厂中拥有它们，我们将在自主系统中拥有它们。所以有一整层计算结构。
这一整层我称之为AI工厂，世界必须制造，但今天根本不存在。
所以问题是，这有多大。目前还不知道。可能有几万亿美元。
我知道现在的情况，但当我们坐在这里建造时，美妙之处在于，这个新数据中心的现代化架构和AI工厂的架构是一样的。这是一件好事。
主持人：当然，有一家新进入者有钱、有智慧、有野心。那就是 xAI。是的，对。而且，有报道称你和 Larry Ellison（甲骨文创始人）和马斯克共进晚餐。他们说服你放弃 100000个H100芯片。他们去了孟菲斯，在几个月内就建立了一个大型连贯超级集群。
主持人：
你认为他们有能力建立这个超级集群吗？有传言说他们想要另外十万个 H200，来扩大这个超级集群的规模。首先，跟我们谈谈 X 和他们的野心以及他们取得的成就，但同时，我们已经到了20万到30万个GPU集群的时代了吗？
黄仁勋：
答案是肯定的。
然后首先，承认成就。从概念的那一刻到数据中心准备好让英伟达在那里安装我们的设备，再到我们启动它、连接好它并进行第一次训练的那一刻，这一切都值得。
在这么短的时间内建造一个巨大的工厂，水冷、通电、获得许可，这就像超人一样。
而且据我所知，世界上只有一个人能做到这一点。
马斯克对大型系统的工程和建设以及资源调配的理解是独一无二的。
当然，他的工程团队也很出色。软件团队很棒，网络团队很棒，基础设施团队很棒。
退一步想想，你知道 19 天是多少天? 是几周？如果你亲眼看看，技术的数量是令人难以置信的。所有的布线和网络，英伟达设备的网络与超大规模数据中心的网络非常不同。好的，一个节点需要多少根电线。计算机的背面全是电线，而将这一大堆技术和所有软件集成在一起，真是不可思议。
所以
我认为马斯克和X团队所做的，我非常感激他承认我们与他一起进行的工程工作以及规划工作等等。但他们取得的成就是独一无二的，以前从未有过
。只是从这个角度来看。
十万个 GPU，作为一个集群，这很容易成为地球上最快的超级计算机。
你建造的
超级计算机通常需要三年的规划时间
。
然后他们交付设备，需要一年的时间才能让它们全部运转起来。而我们现在谈论的是19天。
展望英伟达未来：
拥有50000名
员工，1 亿人工智能助手
主持人
：英伟达独树一帜，每位员工的收入约为400万美元，每位员工的利润或自由现金流约为 200万美元。
你建立了一种高效的文化，真正释放了创造力、创新、主人翁精神和责任感。你打破了职能管理的模式，下属可以直接谈论你。
利用人工智能是否能让你继续发挥超强创造力，同时又保持高效?
黄仁勋：毫无疑问,是的。英伟达今天有 32,000 名员工。
我希望 英伟达有一天能成为一家拥有 50,000 名员工、1 亿名人工智能助手的公司。并且人工智能助手在每个部门中。
我们将拥有一个完整的 AI 目录，这些AI通常擅长做事。我们的收件箱中也会装满与我们合作的 AI目录，
这些AI 非常擅长我们的技能，因此，
AI将招募其他 AI 来解决问题，并在 Slack 频道中相互交流。
