AI服务器、光模块和液冷技术的专家交流

(参考 消息、作文、专家纪要、调研分享；提高认知及信息差 )

分享市场、行业及公司动态，包括投资策略、行业数据库、专家调研、公司纪要；信息超越 99% 的投资者）微信扫码加入体验）

AI服务器市场情况

- 国内对英伟达推理卡（如A30、A40、L40）的需求量很大，至少有10万片以上。

- 英伟达训练卡和推理卡的主要产品为H20和L20，预计2024年能够满足市场需求。

- 英伟达显卡在国内价格较高，H100P3E约245,000元，L20约75,000元，H20约140,000元。

- 国内服务器市场竞争者包括浪潮、新华三、三超聚变、联想、戴尔和宁唱等，各有优劣势。

英伟达产品和价格

- H800和H100是国内市场能买到的高端英伟达产品，价格分别在300万和280万人民币左右。

- A7100 PCIe产品价格约25万人民币，L40和A40价格分别在110万和70万人民币左右。

- 浪潮公司AI服务器的毛利率显著高于通用计算服务器，估计在16%到20%之间。

液冷技术发展

- 液冷技术在数据中心中越来越受重视，浪潮等服务器厂商已经推出液冷产品。

- 液冷散热相比风冷散热效率更高，有助于降低数据中心能耗和改善PUE。

- 液冷散热技术包括浸没式和冷板式两种方案，英伟达NVL72系统采用了冷板式液冷。

光模块市场情况

- GB200系统内部GPU和1.6T光模块配比关系保持不变，而数据中心局域网连接时的具体数量关系取决于交换机构建层数。

- 光模块在GB200系统中的应用场景和潜在增长点包括单机柜内高集成度方案和跨机柜互联需求。

- 1.6T网络加速落地预计将在2025年实现，对光模块和交换机产业有积极影响。

英伟达技术升级

- 英伟达第五代NV link技术在双向带宽上实现了翻倍增长，提升了GPU之间的通信效率。

- NV switch芯片解决了初代架构中无法实现完全点对点连接的问题，提升了GPU集群连接的效率。

- GB200芯片组网方案中通过NV link 5.0技术实现高速互联，提升了对AI计算场景中显存需求较高的性能表现。

销售策略和市场竞争力

- 英伟达的销售策略转变为突出单机柜GPU的性能升级。

- 国内对于AI和深度学习计算需求的增加，推动了神农卡等产品的销量上升。