专栏名称: AGI Hunt
关注AGI 的沿途风景!
目录
相关文章推荐
每日豆瓣  ·  做梦笑醒了…30元的快乐谁懂啊!! ·  昨天  
每日经济新闻  ·  特朗普称将对所有输美钢铝征收25%关税 ·  昨天  
每日经济新闻  ·  优惠结束,DeepSeek涨价! ·  2 天前  
鸡西新闻网  ·  2月9日 | ... ·  2 天前  
鸡西新闻网  ·  2月9日 | ... ·  2 天前  
51好读  ›  专栏  ›  AGI Hunt

英伟达重磅推出「圣诞礼物」:新一代GB300

AGI Hunt  · 公众号  ·  · 2024-12-26 09:00

正文

英伟达的「圣诞礼物」来了!

新一代GB300和B300 GPU将在明年3月GTC大会上正式发布。

这次升级可不是简单的迭代,而是 一次真正的技术突破

新GPU在性能上有了质的飞跃:与前代B200相比, 浮点运算性能提升了50% ,显存容量更是 直接飙升至288GB

性能大幅提升的秘密

新一代GPU采用了 TSMC 4NP工艺 制程,在架构上进行了全新设计。

最令人惊叹的是,它的 TDP功耗达到了1.4KW ,比前代产品增加了整整200W。

在内存方面,GB300采用了 12-Hi HBM3E 内存技术,将单卡显存容量提升到了288GB,同时保持了每GPU 8TB/s的带宽。

LLM推理性能大幅提升

GB300在大语言模型推理方面的表现令人印象深刻:

批处理大小的优化带来了显著提升

  • 内存带宽提升带来43%的交互性能提升

  • 更大的内存容量实现了约3倍的成本降低

  • 72GPU内存共享解决了KVCache限制,支持10万+token的推理长度

供应链重组

GB300的发布也带来了供应链的重大变革。英伟达采用了全新的「 SXM Puck 」模块设计,这意味着:

  • 制造不再局限于纬创和FII

  • 电压调节模块(VRM)采购直接面向超算用户

  • 引入了美国初创公司Axiado的HMC替代Aspeed

  • 第二级内存采用LPCAMM模块,主要由美光供应

这次升级还包含了 全新的800G ConnectX-8网络接口卡 ,提供了双倍的带宽扩展能力。

对于亚马逊这样的超算用户来说,这次升级还意味着他们可以 自定义主板、散热等关键部件 ,从而实现更优的总体拥有成本(TCO)。

GTC 2025将于明年3月17日至20日举行,拭目以待这款重量级产品的正式亮相!

👇







请到「今天看啥」查看全文