本文主要介绍了关于NVDA(英伟达)的芯片生产延迟和订单情况,以及不同芯片的性能特点和市场需求。文章包含三个主要消息:消息一介绍了NVDA芯片设计缺陷导致的大规模生产延误和影响范围,包括影响Meta、谷歌和微软等客户;消息二提供了关于设计问题、解决方案、订单情况等的进一步信息;消息三则是关于不同型号芯片的进展情况和市场反应。此外,文章还涉及调研纪要和研报数据,呼吁读者支持分享。
TSMC的工程师在准备大规模生产时发现设计缺陷,涉及连接两个Blackwell GPU的处理器芯片(晶粒)。影响范围包括Meta、谷歌和微软等客户。
虽然存在延迟,但需求确实强劲。谷歌已订购超过40万块GB200芯片,Meta下了价值至少100亿美元的订单,微软最近增加了其订单规模。
文章还提到了其他芯片型号如B100和GB200的性能特点、市场反应和订单情况。
更多一手调研纪要和研报数据,点击上面图片小程序
消息一:
NVDA 延误更新
information的报道,大概的Takeaway有四个:
-
确实是芯片设计的问题(design flaws),是TSMC的工程师在准备大规模生产时发现了设计缺陷,涉及连接两个Blackwell GPU的处理器芯片(晶粒);
“The GB200 chips contain two connected Blackwell GPUs alongside a Grace central processing unit. The problem involved a processor die—a piece of silicon that holds circuits for a chip—that connected the two Blackwell GPUs. The snag decreased the yield, or number of chips TSMC was able to produce for Nvidia. Such problems typically prompt companies to stop production.”
2. 影响范围:Meta | 谷歌 | 微软,大概Order的100亿美金的单子;
3. NVDA的主要芯片(B200|GB200)延迟3个月或更长时间,但是大量生产是明年1Q,因为在收到芯片后,云提供商通常需要大约三个月的时间才能将其大规模集群投入运行;
“As a result, big shipments aren’t expected until the first quarter. After receiving chips, it typically takes cloud providers about three months to get large clusters of them up and running”;
4. 会影响微软|OAI的AI开发,包括下一代LLM大语言模型,和其它软件;
消息二:
1)nv设计问题/
2)已有解决方案/
3)延迟不超过4个月/
4)12月以后出货列表不受影响/
5)需求旺盛
他们消息来源是微软!
1)设计缺陷,英伟达即将推出的人工智能芯片将推迟三个月或更长时间,这一混乱可能会影响 Meta Platforms、谷歌和微软等客户,这些客户总共订购了价值数百亿美元的芯片。
2)台积电的工程师在量产准备过程中发现了一些缺陷。GB200 芯片包含两个相连的 Blackwell GPU 以及一个 Grace 中央处理器。问题涉及一个处理器芯片(一块容纳芯片电路的硅片),该芯片连接了两个 Blackwell GPU。(这个不确定,我们消息渠道显示是一个std单元,触发器,高温下不稳定,但是也有人指出这两个消息来源说的是同一个问题)
3)芯片不能交付,服务器同样不行。影响 Nvidia NVLink 服务器机架的生产和交付,因为从事服务器业务的公司必须等待新的芯片样品才能完成服务器机架设计。
4)好消息是需求确实强,和我调研meta /openai结果一样。谷歌已经订购了超过 40 万块 GB200 芯片!Meta 还下了一份价值至少 100 亿美元的订单,而微软最近几周将其订单规模增加了 20%,尽管无法获悉其总订单规模。据一位直接了解订单情况的人士称,微软计划在 2025 年第一季度之前为 OpenAI 准备好 55,000 到 65,000 块 GB200 芯片。
消息三:
关于NVDA:
GB200现在还在工程机的阶段,还没实际出货,8月:36在广达出工程机,72在富联出工程机。
B100的8卡工程机已经出来了,性能上确实有点鸡肋。
B100与B200两者性能基本接近,以HGX B100和HGX B200进行比较,两者显存大小和带宽一致,仅在最大功耗和峰值算力上有区别。虽然和GB200在性能上存在差距,但B100/B200对中小客户自建算力仍有价格上的吸引力。考虑到GB200仍在工程机阶段,英伟达存在适当放缓B100/B200出货节奏,以增加GB200订单的可能性。