GPU最多用3年智算中心要怎么建？

IDC圈 · 公众号 · · 2024-11-01 18:35

正文

11月1日消息，据TrendForce报道，GPU的使用年限最长为3年，其原因是GPU在AI训练和推理中承受相当大的负载，要比其他组件退化得更快。

这一结论来自于一位Alphabet（谷歌母公司）AI架构师的说法，该架构师表示， 云服务提供商运行的数据中心中 ，用于 AI工作负载的GPU利用率在60%到70%之间，在这样的利用率下，GPU通常 只能使用 1 到 2 年，即便较为理想的状态，最多 也就使用 3 年。

目前这一信息的准确性暂时无法完全确认，但GPU作为算力的核心部件，如果其使用寿命较短，对于服务器架构、智算中心建设运维都将产生重要影响，需要围绕这一特征制定更为匹配的方案，GPU的商业价值需要进一步评估，算力租赁等衍生出的商业生态或许也需要重新评定，AI自身产生的效益也将受到影响。

由此可见，智算的加速到来给智算中心建设带来深刻影响，相关探讨正不断增多。为推动智算中心高质量建设，提升绿色算力供给，“多元重构算力跃迁” 第十九届中国IDC产业年度大典（IDCC2024） 算力中心建设系列论坛 将于12月20日在北京·首钢园(四高炉)举办。

系列论坛分为 智算基础设施建设论坛、绿色可持续建设论坛、产业生态建设论坛 ，将邀请设计院专家、算力服务商、集成商、方案解决商、芯片厂商、设备方等，聚焦万卡智算集群、绿色节能、液冷应用、智能运维、模块化、大模型需求、国产生态等热点话题共同探讨算力中心建设的新发展、新机遇，分享面临的挑战及相应解决方案。 目前报名通道已开启，扫描以下二维码即可报名。