专栏名称: 海西晨报
厦门都市社群生活读本
目录
相关文章推荐
龙岩发布  ·  2024胡润中国500强出炉!这两家龙岩人创 ... ·  11 小时前  
龙岩发布  ·  2024胡润中国500强出炉!这两家龙岩人创 ... ·  11 小时前  
Founder Park  ·  DeepSeek开源周第二天:DeepEP通 ... ·  17 小时前  
Founder Park  ·  DeepSeek开源周第二天:DeepEP通 ... ·  17 小时前  
海西晨报  ·  DeepSeek,重磅突发! ·  18 小时前  
海西晨报  ·  DeepSeek,重磅突发! ·  18 小时前  
AI范儿  ·  首发!清北 DeepSeek ... ·  昨天  
AI范儿  ·  首发!清北 DeepSeek ... ·  昨天  
51好读  ›  专栏  ›  海西晨报

DeepSeek,重磅突发!

海西晨报  · 公众号  · 互联网安全 科技自媒体  · 2025-02-25 11:53

主要观点总结

DeepSeek宣布推出新的开源代码库DeepEP,这是全球首个专门用于MoE模型训练和推理的开源EP通信库。

关键观点总结

关键观点1: DeepEP的特点与功能

DeepEP具有高效的全员沟通功能,支持节点内和节点间的NVLink和RDMA通信。它拥有用于训练和推理的高吞吐量内核以及用于推理解码的低延迟内核。此外,DeepEP还提供了原生FP8调度支持和灵活的GPU资源控制,能够实现计算与通信的重叠。

关键观点2: DeepEP的开源意义

作为首个用于MoE模型训练和推理的开源EP通信库,DeepEP的推出将促进MoE模型的研究和发展,加速人工智能领域的进步。

关键观点3: 消息来源与编辑审核

该消息来源于每日经济新闻,并由胡婧编辑,经过易福进、陈祥旺的审核,刘子纯进行校对。


正文

2月25日,DeepSeek官宣, 今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。


特点有高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。


图片





图片


※ 编辑:胡婧 ※ 审核:易福进 陈祥旺

※ 校对 :刘子纯

※ 来源:每日经济新闻


图片 和点 图片







请到「今天看啥」查看全文