回复
@大灰爱投资
: 这段话我看到过,也知道CUDA有点像苹果的生态圈,但就是没办法理解这个moat到底有多宽。大家说的都是眼前的事情,这也是NVDA芯片能够卖得这么贵的原因。另外,NVDA的自动驾驶的芯片似乎也很厉害,而且进步也很快。不管如何,我卖了点put,开始保持近距离关注,对别人没有任何指导意义。ai是非常值得关注的现象,最后未必一定要老听在NVDA上。//
@大灰爱投资
:回复
@大道无形我有型
:下面这段话是从《黄仁勋-英伟达之芯》这本书中读到的,希望对大道有帮助
英伟达之所以成功,并非因为它的电路更出众,而是因为它的软件更优秀。现如今,性能的提升中仅有一小部分来源于经典策略——在芯片中塞入更多的晶体管,毕竟摩尔定律已不再适用。而其余的性能提升,则归功于比尔·戴利、伊恩·巴克以及其他英伟达的科学家们,他们通过精妙的数值计算加速了矩阵乘法。英伟达的工程师们为GPU赋予了新的指令,这些指令犹如解开魔方的诀窍。他们采用简单却高效的数据类型取代了处理器的原生语言,这好比是从书法转变为了速记。此外,他们还从矩阵中剔除了“无效”的突触,这本质上是在神经网络中清除无用信息,类似于电影《暖暖内含光》(Eternal Sunshine of the Spotless Mind)中的记忆抹除机器。2012—2022年,英伟达在单芯片AI推理性能上实现了惊人的千倍加速,这一成就远超摩尔定律以往的任何突破。其中,仅有2.5倍的加速来源于晶体管的增加,而高达400倍的加速则归功于英伟达的数学工具集。“说实话,AMD也能制造出与我们相媲美的芯片,”阿尔琼·普拉布坦言,“但他们就是无法让计算速度达到这么快。”
在这个强大的引擎基础上,英伟达还为专业程序员打造了一系列特定领域的工具。例如,针对汽车研究的“Drive”、助力药物发现的“BioNeMo”、应用于医学成像的“Clara”、保障网络安全的“Morpheus”,以及在游戏《堡垒之夜》(Fortnite)中捕捉精彩击杀瞬间的“Highlights”。21世纪第二个10年,英伟达已推出了近300种此类工具包,覆盖了游戏、动画、行星科学、气候学、数学、物理学、金融、生物化学以及量子计算等多个领域的产品组合。这些软件包是免费供所有人使用的,无须支付任何许可费。黄仁勋就像一位慷慨的祖母分发食物一样,将这些软件包送到科学家们的手中。他把这些工具包称为自己的“宝藏”。
当然,黄仁勋并非纯粹的利他主义者。他的长远策略是通过这些免费软件,将研究人员牢牢绑定在英伟达的硬件升级周期中。2024年初,加州理工学院数据中心的一位管理员向我透露,他们等待H100芯片交付的时间长达近18个月。他曾尝试鼓励学校的教授们转向其他供应商,但发现很少有人愿意这么做。“他们宁愿等待硬件,也不愿放弃CUDA。”他解释道。正是这些代码,使其他公司难以与英伟达抗衡。新兴公司或许能设计出新型芯片,但这还远远不够。
英伟达的软件工程主管德怀特·迪克斯手下拥有一支万名程序员的庞大团队。“我们其实是一家软件公司,这才是人们不理解的地方。”他说道。
![[呲牙] [呲牙]](http://assets.imedao.com/ugc/images/face/emoji_41.png?v=1)
英伟达之所以成功,并非因为它的电路更出众,而是因为它的软件更优秀。现如今,性能的提升中仅有一小部分来源于经典策略——在芯片中塞入更多的晶体管,毕竟摩尔定律已不再适用。而其余的性能提升,则归功于比尔·戴利、伊恩·巴克以及其他英伟达的科学家们,他们通过精妙的数值计算加速了矩阵乘法。英伟达的工程师们为GPU赋予了新的指令,这些指令犹如解开魔方的诀窍。他们采用简单却高效的数据类型取代了处理器的原生语言,这好比是从书法转变为了速记。此外,他们还从矩阵中剔除了“无效”的突触,这本质上是在神经网络中清除无用信息,类似于电影《暖暖内含光》(Eternal Sunshine of the Spotless Mind)中的记忆抹除机器。2012—2022年,英伟达在单芯片AI推理性能上实现了惊人的千倍加速,这一成就远超摩尔定律以往的任何突破。其中,仅有2.5倍的加速来源于晶体管的增加,而高达400倍的加速则归功于英伟达的数学工具集。“说实话,AMD也能制造出与我们相媲美的芯片,”阿尔琼·普拉布坦言,“但他们就是无法让计算速度达到这么快。”
在这个强大的引擎基础上,英伟达还为专业程序员打造了一系列特定领域的工具。例如,针对汽车研究的“Drive”、助力药物发现的“BioNeMo”、应用于医学成像的“Clara”、保障网络安全的“Morpheus”,以及在游戏《堡垒之夜》(Fortnite)中捕捉精彩击杀瞬间的“Highlights”。21世纪第二个10年,英伟达已推出了近300种此类工具包,覆盖了游戏、动画、行星科学、气候学、数学、物理学、金融、生物化学以及量子计算等多个领域的产品组合。这些软件包是免费供所有人使用的,无须支付任何许可费。黄仁勋就像一位慷慨的祖母分发食物一样,将这些软件包送到科学家们的手中。他把这些工具包称为自己的“宝藏”。
当然,黄仁勋并非纯粹的利他主义者。他的长远策略是通过这些免费软件,将研究人员牢牢绑定在英伟达的硬件升级周期中。2024年初,加州理工学院数据中心的一位管理员向我透露,他们等待H100芯片交付的时间长达近18个月。他曾尝试鼓励学校的教授们转向其他供应商,但发现很少有人愿意这么做。“他们宁愿等待硬件,也不愿放弃CUDA。”他解释道。正是这些代码,使其他公司难以与英伟达抗衡。新兴公司或许能设计出新型芯片,但这还远远不够。
英伟达的软件工程主管德怀特·迪克斯手下拥有一支万名程序员的庞大团队。“我们其实是一家软件公司,这才是人们不理解的地方。”他说道。