(参考
消息、作文、专家纪要、调研分享；提高认知及信息差
)
分享市场、行业及公司动态，包括投资策略、行业数据库、专家调研、公司纪要；信息超越
99%
的投资者）微信扫码加入体验）
Q: 英伟达的技术和产品迭代方向是什么？这对 AI大模型的开发和应用意味着什么？
A: 英伟达的技术和产品迭代方向强调了整个 AI 计算集群的综合性能，而不仅仅是 AI 芯片单位计算单元的性能。这意味着，未来 AI 大模型的开发和应用将更加依赖于 AI 服务器、高速网络连接设备以及算力调度优化软件的整体性能。英伟达基于
Blackwell 架构的芯片虽然在性能上有显著提升，但由于政策限制，可能难以进入中国市场。这一变化提示我们，AI 大模型的开发和应用需要综合考虑硬件、软件和网络等多个层面的协同效应，以实现最佳的性能表现。
Q: 英伟达的 Blackwell 芯片在性能上有哪些提升？这对中国市场有何影响？
A: Blackwell 芯片是英伟达基于最新 Blackwell 架构的高端 AI 芯 片 ， 它 在 计 算 和通 信 连 接 性 能上 有 显 著 提升 。 Blackwell 芯片采用 4N 制程工艺，实现了每秒 10TB 的交换速率 ， 晶 体 管 数 量 达 到 了 2080 亿 个 ， FP8 算 力 水 平 高达 20petaFLOPS 。 此 外 ， Blackwell 芯 片 还 支持 FP6 和 FP4 两种精度数据，并配备了 192GB 的 HBM 内存。然 而 ， 由 于 美 国 商 务 部 更 新 的 出 口 管 制 政 策 ， 性 能 高于 H800 的Blackwell 芯片被纳入限制，这对中国市场的营销构成了挑战。尽管如此，通过调整和修剪性能后，Blackwell 芯片向中国市场销售仍存在可能性，这为国产 AI 芯片企业带来了挑战和动力。
Q: 英伟达在软件层面对 AI 算法的计算效率做了哪些提升？
A: 英伟达在软件层面对 AI 算法的计算效率做了一系列提升。最 引 人 注 目 的 是 芯 片 中 嵌 入 的 第 二 代 Transformer 引 擎及 MicroTensor 技术，这些技术结合了精度范围动态管理算法，显著提升了对不同参数规模 Transformer 模型的加速效果。此外，为了提升 AI 大模型长时间训练的稳定性，Blackwell 芯片内置了 RAS 引擎，能够实现故障的自动预测和智能化预防。对于最新数据格式处理查询和分析的场景，英伟达引入了 D 压缩解压引擎，为数据处理和数据科学场景提供了强大的支持。
A: 在服务器层面，英伟达推出了超级芯片主板GB200 ，这是将自研的 Grace CPU 与两块Blackwell GPU 芯片结合的产品，通过第五代NVLink 技术进行高速连接。GB200 主板能够提供单节点 40petaFLOPS 的算力、864GB 的内存和3.6TB 每秒的带宽。当两块 GB200 芯片互联后，可以创建一个计算节点，提供 80petaFLOPS 的算力、1.7TB 的内存和 32TB 每秒的内存带宽，为 AI计算集群提供了强有力的核心单元。
A: 在网络连接设备方面， 英伟达推出了新一代网络交换机 X800 系列， 支持端到端 800GB 每秒的吞吐量。特别是 QuantumX800 InfiniBand 交换机和 SpectrumX800 交换机，它们分别适用于高性能 AI 基础设施和 AI 云及企业基础设施，实现了在网络性能方面的显著提升。第五代 NVLink 技术和X800 交换机的传输速率升级，有效解决了 AI 算力集群中数
据传输环节的潜在瓶颈问题，使得整个集群的性能得以最大化发挥。
Q: 英伟达的这些创新对国内 AI 芯片厂商有何影响？
A: 英伟达的这些创新对国内 AI 芯片厂商产生了深远的影响。首先，它们提供了一个技术发展的新标杆，刺激国内厂商加快产 品 升 级 的 步 伐 ， 以 追 赶 国 际 先 进 水 平 。 其 次 ， 由于 Blackwell 芯片可能难以进入中国市场，这为国产 AI 芯片企业提供了市场空间，促使它们加大研发投入，提升自主创新能力。最后，英伟达的技术进步也为国内 AI 芯片厂商提供了合作和学习的机会，有助于提升整个行业的技术水平和国际竞争力。
Q: 英伟达推出的 GB200NVL72AI 机柜和superpod 超大规模 AI 计算集群的主要特点是什么？
A: 英伟达推出的 GB200NVL72AI 机柜和superpod 超大规模 AI 计算集群是为了满足市场对 AI 大模型训练的巨大需求而设计的。GB200NVL72AI 机柜通过 NVLink 、NVSwitch 以及 InfiniBand 网络交换机等设备，将多个 GB200单服务器计算节点互联，形成一个强大的 AI 算力机柜。这一产品能够提供每 秒 高 达 一 exaFLOPS 的 算 力 和 30TB 的 存 储 能 力
， 由 36 个 Grace CPU和 72 个 Hopper GPU 组成，显著提升了多卡协同计算能力，极大提高了 AI 算力机柜的整体性能。
superpod 则是通过 InfiniBand 网络及 NVLink 高速连接多个 GB200NVL72 机柜， 扩展至 32,000 张GPU 的超大规模 AI 计算集群。这样的规模和性能使得 superpod 能够满足科技公司在开发和应用AI 大模型时对算力的极高要求，为 AI 模型的训练和部署提供了坚实的基础设施。
Q: 这些产品如何影响科技公司开发和应用 AI 大模型？
A: 英 伟达 的 GB200NVL72AI 机 柜和 superpod 超 大规模 AI 计算集群为科技公司提供了前所未有的计算能力，这对于开发和应用 AI 大模型至关重要。例如，亚马逊 AWS 在训练其 2 万亿参数的 AI模型时，使用了 14,000 张 A100 GPU ，训练周期长达 48 天；Meta 在训练 LM3 模型时，动用了两个各含 24,000 张 H100 GPU 的 AI 算力集群。这些例子表明，随着 AI 模型的规模和复杂性的增加，对算力的需求也在不断增长。英伟达的新推出的superpod GB200 计算集群，以其强大的算力和扩展能力，有望成为科技巨头们维护其 AI 大模型竞争力的关键基础设施。
Q: 英伟达的 Hopper 架构 GPU 及其相关硬件产品的商业化对产业格局有何影响？
A: Hopper 架构 GPU 的商业化为 AI 领域带来了显著的性能提升，这有望降低海外科技公司在开发和应用 AI 大模型时的成本。然而，由于美国的出口政策限制，这些高性能产品可能难以进入中国市场。2022 年 10 月，美国商务部更新了先进计算和超级 计 算 产 品 的 出 口 管 制 政 策 ， 增 设 了 'totalprocessing performance'和'performancedensity'两项性能指标，对超出特定阈值的产品实施出口许可要求。这意味着，性能高于 H100 的Hopper GPU 可能会受到限制，对中国市场的销售将面临挑战。
Q: 对国内科技厂商而言，英伟达的出口限制政策有何影响？
A: 对于国内科技厂商而言，英伟达的出口限制政策可能会对其 AI 大 模 型 的 开 发 节 奏 产 生 影 响 。 如 果 无 法 使用 Hopper GPU ，国内厂商可能需要承担更高的训练和应用算力成本，与国外厂商相比，这可能会影响其开发进度和商业化落地。此外，Hopper GPU 的性能提升也在进一步拉大与国产 AI 芯片的性能差距，这可能会激发国产芯片厂商加速技术升级和产品迭代。
Q: 面对美国的出口限制，国内互联网公司将如何调整其 AI 产品开发策略？
A: 面对美国的出口限制，国内互联网公司可能会大幅增强采用国产 AI 芯片的动力。在英伟达高端AI 芯片供应不稳定的情况下，国内公司可能会更多地依赖开源生态系统来开发 AI 应用，同时增加对国产 AI 系统级软件的适配和采购。长期来看，美国的出口限制可能会为国内互联网公司在开发和应用 AI 产品方面带来挑战，但也可能成为推动国产 AI 技术发展和自主创新的契机。Q: 国产 AI 芯片在商业客户中的生态拓展有哪些积极表现
A: 国产 AI 芯片在商业客户中的生态拓展取得了显著进展。去年 10 月，科大讯飞与华为联合发布的飞星一号大模型算力平台就是一个典型案例。这一平台基于华为的升腾生态，展示了国产 AI 芯片在商业应用中的潜力和成熟度。这表明国产 AI 芯片不仅在技术上持续迭代，追赶海外竞品，而且在市场推广方面也取得了实质性进展。随着互联网厂商等大客户的加入，国产 AI 算力的商业应用前景看好，预计将在未来转向更广泛的国产 AI 算力解决方案。Q: 国产 AI 芯片的发展对于相关产业链公司意味着什么？
A: 国产 AI 芯片的发展对于整个相关产业链公司来说是一个积极的信号。从 AI 芯片制造商如寒武纪，到 AI 服务器提供商如紫光股份、浪潮信息、高新发展、神州数码，再到 IDC 算力服务公司如宝信软件，都有望从国产 AI 算力的自主可控建设中受益。这些公司不仅能够提供基于国产 AI 芯片的解决方案，还能够推动整个行业的技术创新和市场竞争力提升。
