专栏名称: NVIDIA企业开发者社区

NVIDIA 英伟达开发者社区是NVIDIA GPU开发者交流平台，通过此平台可第一时间获取NVIDIA GPU 开发相关的新产品、新工具、线上/线下活动的资讯。

在线研讨会｜ NVIDIA AI 加速精讲堂 - FP8 在大型模型训练中的应用、挑战及实践

NVIDIA企业开发者社区 · 公众号 · · 2024-12-06 10:05

正文

在深度学习和人工智能的快速发展背景下，大语言模型 LLM（Large Language Model）模型的大小和计算复杂性不断增加，业界一直在寻求新的技术和方法在有限资源内提升模型训练和推理效率降低成本。

FP8 技术通过提升计算性能、优化内存使用、简化训练流程以及增强模型适应性，为深度学习领域带来了显著的进步。

本次在线研讨会，邀请来自 NVIDIA 和零一万物的技术专家，分享 FP8 技术加速 LLM 训练的最新进展以及业务实践中的宝贵经验。

参加此研讨会，您将获得以下信息：

> FP8 训练的原理，收益和收敛性

> FP8 训练挑战和解决思路

> FP8 训练 Debug 工具

> FP8 训练实践经验分享

︾

日期：2024 年 12 月 18 日，星期三

时间：19:30 ― 20:30

︾

= 嘉宾 =

黄雪 / NVIDIA 解决方案架构师

硕士，毕业于哈尔滨工业大学，主要负责深度学习训练方面工作，在深度学习框架、超大规模模型训练，分布式模型训练加速优化等技术方向有丰富的研究经验。

推荐文章

易观方舟AnalysysData · 分析师手记：游戏公司拍电影会怎么玩？

8 年前

爱卡爱羊毛 · 光大银行：味道千拉面满88减35

7 年前

思路网 · 手淘首页、人群标签、自然搜索的关系梳理

7 年前

中扑网 · 【Cash桌】CPF每日一手牌：手持口袋对9转牌击中葫芦对手过牌你怎么办？

7 年前

C114通信网 · GSMA全球移动物联网峰会：机遇与挑战同在

7 年前