专栏名称: 科技晶选
招商计算机与互联网团队:勤奋、专注、深入,希望带给您思想与逻辑的启发!
目录
相关文章推荐
51好读  ›  专栏  ›  科技晶选

【华西计算机】行业跟踪 | 英伟达宣布AI主权,不断上调的GB200 预期

科技晶选  · 公众号  · 科技自媒体  · 2024-07-10 23:18

正文

请到「今天看啥」查看全文



核心观点




HGX到MGX,英伟达强调供应体系的绝对主权 :

HGX到DGX到现在MGX,英伟达已经成功转型,从芯片模组厂商转变到服务器厂商,其自身的商业价值进一步增强,此外由于其商业产品形态的改变,其供应链竞争格局也发生改变 MGX与 DGX的逻辑相似,英伟达自主设计服务器,然后通过OEM厂商代工,从而出货给CSP或非CSP厂商,OEM在此种的份额较大。此时产业链话语权由英伟达主导。 因此 OEM厂商迎来利好,在GB200具有跨时代意义的背景下, OEM厂商在英伟达体系代工份额会进一步提升。


供给端与需求端依旧乐观:
北美四云对 Capex预算乐观,坚定发力人工智能,英伟达预期业绩依旧乐观:微软预计2024年持续扩大人工智能的投资规模与产能,环比大幅增长,谷歌预计2024年剩下季度保持不低于120亿美元资本支出。Meta上调Capex指引从300亿美元-350亿美元至350亿至400亿美元,预计2025年资本支出持续增加。亚马逊预计2024年整体资本支出将大幅增长 供给侧: 台积电给与 AI今年乐观指引。2024年4月18日,公司公布2024年Q1季报,公司明确表明人工智能需求强劲,人工智能2024年收入占比有望达到十几个点,公司预计未来五年其收入复合增长率将达到50% 。HBM厂商同时给出乐观指引。

不断上调的GB200预期:
此外根据 Semianylasis的测算 在像 GPT-4 这样的大模型中,B200 在 GPT-4 推理中带来约 4 倍到 7 倍的性能提升,当量化公平设置时,具体取决于选择的交互性曲线点。相比之下,GB200 的提升范围从约 5 倍到 21 倍——更大的提升。模型生成方面落后于大公司的人 有望购买 GB200 用于他们的大模型训练和推理。 因此,在万亿参数 AIGC的大背景下,GB200的出货预期指引依旧乐观

投资建议



抓住核心供应链变化,把握弹性:1、供应链份额的变动,例如OEM份额的提升;2、新进入供应链体系厂商,例如铜链接、液冷、电源等。


受益标的:

代工 :工业富联、浪潮信息等;
电源 :麦格米特等;

PCB :沪电股份、胜宏科技等;

液冷检测设备 :淳中科技;

服务器运营 :协创数据。

风险提示


1、政策不及预期的风险;2、AI伦理风险;3、技术升级不及预期的风险;4、中美贸易摩擦升级的风险。


正文




1. 英伟达宣布AI主权,不断上调的GB200预期
从HGX到MGX,英伟达强调供应体系的绝对主权

什么是HGX? HGX是NVIDIA HGX 采用单一基板,配备 4 个 H200 或 H100 GPU 或是 8 个 H200、H100、B200 或 B100 GPU。这些强大的硬件和软件组合为打造强劲的 AI 超级计算平台奠定了基础。

简而言之, 我们判断HGX在于供应体系的开放,换句话说,英伟达供应链ODM厂商可以购买英伟达板卡然后自主设计服务器,然后售卖给CSP厂商或非CSP厂商,此时服务器话语权由ODM厂商主导。


什么是 DGX? 英伟达 官网给出的定义是NVIDIA DGX™ 系统针对企业大规模 AI 基础架构提供出色的解决方案。简而言之,我们判断DGX是英伟达一站式AI的解决方案,此时英伟达已经开始宣布AI的主权,简而言之,DGX在于供应体系的缩窄 ,英伟达自主设计服务器,然后通过OEM厂商代工,从而出货给CSP或非CSP厂商,OEM在此种的份额较大。此时产业链话语权由英伟达主导。


此外,由下图官网上的购买窗口,也能佐证我们的观点。



什么是MGX? 官网给出的解释是通向加速计算最快、最灵活的途径,MGX 通过提高 ROI 和缩短上市时间为模块化服务器设计提供了新标准。简而言之MGX是模块化的服务器,目前产品只有NVIDIA GB200 NVL,我们判断与DGX的逻辑相似,英伟达自主设计服务器,然后通过OEM厂商代工,从而出货给CSP或非CSP厂商,OEM在此种的份额较大。此时产业链话语权由英伟达主导。



重点强调,从HGX到DGX到现在MGX,英伟达已经成功转型,从芯片模组厂商转变到服务器厂商,其自身的商业价值进一步增强,此外由于其商业产品形态的改变,其供应链竞争格局也发生改变。

OEM厂商迎来利好:

1、 OEM 英文Original Equipment Manufacturer的缩写,也称为定点生产,俗称代工(生产),基本含义为品牌生产者不直接生产产品,而是利用自己掌握的关键的核心技术负责设计和开发新产品,控制销售渠道。对应的是Turnkey生产模式。

2、 ODM 英文是Original Design Manufacturer,直译就是“原始设计制造商”。ODM是指某制造商根据另一家厂商的规格和要求,设计和生产产品,并要求配上后者的品牌名称来进行销售。对应Buy and sell 生产模式
3、 JDM 英文是Joint Design Manufacturer,直译为共同设计制造。对应Cosign生产模式。
我们判断英伟达已经从芯片板卡公司转向服务器公司,并强调AI的绝对主权,因此在GB200具有跨时代意义的背景下,更利好英伟达以及其OEM厂商,OEM厂商在英伟达体系代工份额会进一步提升。

GB200的出货预期在持续上调指引

英伟达在今年的GTC大会上发布了其性能怪兽,而其中最重磅的代表为DGX GB200完整服务器: 根据机器之心公众号,基于 Blackwell 的 AI 算力将以名为 DGX GB200 的完整服务器形态提供给用户,结合了 36 颗 NVIDIA Grace CPU 和 72 块 Blackwell GPU。这些超级芯片通过第五代 NVLink 连接成一台超级计算机(后文简称GB200 NVL 72)。与相同数量的72个H100相比,GB200 NVL72的性能大幅提升,大模型推理性能可以提升30倍,并且成本和能耗只有前者的 1/25。

这是一个全机架解决方案,有 18个1U服务器。其提供的FP8性能为720 petaflops,FP4计算性能为1440 petaflops,可处理 多达27万亿个AI LLM参数模型。每台服务器里带有两个GB200 Grace Blackwell Superchip 这些计算节点带有 1.7TB的HBM3E内存、32TB/s的内存带宽,并且全部采用液冷MGX封装。 然而由于功耗过大,需要采用液冷。






从整机系统构造来说,英伟达发布全新的 Blackwell架构DGX SuperPOD,适用于万亿参数级的生成式AI超级计算 基于先进的 NVIDIA 网络、NVIDIA 全栈 AI 软件和存储技术,可将集群中 Grace Blackwell 超级芯片的数量扩展至数万个,通过 NVIDIA NVLink 可将多达 576 块 Blackwell GPU 连成一个整体,由 NVIDIA 系统专家加速即时 AI 基础设施的部署。 全新 DGX SuperPOD 采用新型高效液冷机架级扩展架构,基于 NVIDIA DGX GB200 系统构建而成,在 FP4 精度下可提供 11.5 exaflops 的 AI 超级计算性能和 240 TB 的快速显存,且可通过增加机架来扩展性能。 简而言之,它将八个 GB200 NVL72合 为一体 ,总共有288个CPU、576个GPU、240TB内存和11.5 exaflops的FP4计算能力。 黄仁勋 更是在GTC上直言“DGX Superpod就是AI的革命工厂!”



需求端:北美四云CAPEX指引依旧乐观, 我们认为互联网厂商 Capex预算决定英伟达业绩预期上限 原因在于北美四云的AI Capex受自身模型的商业化进程影响,同时北美四云在AI的市场中占据举足轻重的位置,原因是自身模型处于市场前沿,因此自身对于算卡的需求占据AI市场的半壁江山,而英伟达又是AI芯片的绝对龙头,因此我们判断北美四云的Capex指引对于AI算卡的需求具有重要意义,其自身需求的指引决定英伟达业绩预期的上限。
北美四云对 Capex预算乐观,坚定发力人工智能,英伟达预期业绩依旧乐观: 微软预计2024年持续扩大人工智能的投资规模与产能,环比大幅增长,谷歌预计2024年剩下季度保持不低于120亿美元资本支出。Meta上调Capex指引从300亿美元-350亿美元至350亿至400亿美元,预计2025年资本支出持续增加。亚马逊预计2024年整体资本支出将大幅增长。


供给端,CoWos 侧: 台积电给与AI今年乐观指引。 2024年4月18日,公司公布2024年Q1季报, 根据公司公开业绩交流会, 公司明确表明人工智能需求强劲,人工智能2024年收入占比有望达到十几个点,公司预计未来五年其收入复合增长率将达到50%,2028年有望占比20%以上。我们认为此指引背后寓意为公司对于CoWos产能持乐观态度,我们判断CoWos产能的乐观,为英伟达的产品的及时出货提供乐观预期,同时根据C114消息,2024年4月18日,台积电扩产嘉义先进封装 将投5000亿元新台币建六座厂。
HBM 侧: 2024年4月25日,公司公布2024年Q1季报, 根据公司一季度交流会, 2024年公司表示采用1b纳米工艺生产HBM3e,保持领先HBM市场的领先优势,同时计划与去年相比提高的产能来扩展公司的客户群,同时公司宣布将投资约5.3万亿韩元决定将韩国清州的M15X厂定为DRAM生产基地并加速建设,我们认为HBM的产能乐观同样为英伟达的产品的及时出货提供乐观预期。



不断上调的GB200的预期:无论是今年Csp厂商的Capex指引还是HBM厂商和CoWos厂商的预期依旧充分,因此如果在明年预期上述条件依旧乐观的预期情况下,GB200的出货量预期在不断上调。
根据Semianylasis的测算:对于大模型的训练, GB200 的性能提升约为 3.5 倍,而 B100 的提升较小,仅比 H100 高 1.5 倍。对于小模型,B100、B200 和 GB200 之间的性能提升基本上与 FLOPS 差异一致,范围从约 2 倍到 3 倍不等。
在像 GPT-4 这样的大模型中,B200 在 GPT-4 推理中带来约 4 倍到 7 倍的性能提升,当量化公平设置时,具体取决于选择的交互性曲线点。相比之下,GB200 的提升范围从约 5 倍到 21 倍——更大的提升。在模型生成方面落后于大公司的人 有望购买 GB200 用于他们的大模型训练和推理。
因此,在万亿参数 AIGC的大背景下,GB200的出货预期指引依旧乐观,同样也佐证了我们的观点。


2. 投资建议

1、抓住核心供应链变化,把握弹性:1、供应链份额的变动,例如OEM份额的提升;2、新进入供应链体系厂商,例如铜链接、液冷、电源等。
受益标 的:
代工: 工业富联、浪潮信息
电源: 麦格米特 等;
PCB: 沪电股份、胜宏科技
液冷检测设备: 淳中科技
服务器运营: 协创数据


3.风险提示
1、政策不及预期的风险;
2、AI伦理风险;
3、技术升级不及预期的风险;
4、中美贸易摩擦升级的风险。

相关报告



1、【华西计算机】行业跟踪 | 英伟达宣布AI主权,不断上调的GB200 预期
2、【华西计算机】行业跟踪|Kimi改变AI,迎国内AIG时代
3、 【华西计算机】行业跟踪 | NVIDIA GTC盛宴,产业链全面启动
4、 【华西计算机】行业跟踪|聚焦央国企和战略性新兴产业发展
5 、【华西计算机】行业跟踪|海外AI高景气度,A股科技静待花开
6 【华西计算机】行业跟踪|科技拐点已至,算力打响反击战
7、【华西计算机】行业跟踪|CES 2024展会震撼来袭,AI成为绝对关键词
8、【华西计算机】行业点评|英伟达持续加码AI,华为领先演绎国产崛起
9、【华西计算机】行业跟踪|训推一体,昇腾引领新世代
10 、【华西计算机】行业跟踪|昇腾量价齐升,华为引爆国产算力
11、【华西计算机】行业跟踪 | 美计划加紧对华芯片出口,华为领衔演绎国产崛起
12、【华西计算机】ChatGPT | 行业跟踪:国产华为迎风起,轻舟已过万重山
13、【华西计算机】ChatGPT | 行业跟踪:算力租赁空间测算





►   分析师承诺


西
西 使
使 使 使
使
西



团队成员




西
S 1 1 2 0 5 2 0 0 2 0 0 0 2
孟令儒奇
S1120524060001
《【华西计算机】行业跟踪 | 英伟达宣布AI主权,不断上调的GB200 预期
2 0 24 年7 月10


2 0 1 7 7 1 西 西 使 访 便


西 西 西 西
西 西 使
西 西 西









请到「今天看啥」查看全文