专栏名称: 人工智能学派
人工智能学派专注于分享:GPT、AIGC、AI大模型、AI算力、机器人、虚拟人、元宇宙等AI+160个细分行业!
目录
相关文章推荐
中国基金报  ·  600亿芯片巨头,停牌! ·  2 天前  
中国基金报  ·  突发!特朗普下令:“关闭”! ·  2 天前  
煲都黎川  ·  紧急公告!抚州已出现! ·  2 天前  
煲都黎川  ·  紧急公告!抚州已出现! ·  2 天前  
51好读  ›  专栏  ›  人工智能学派

从推荐模型的基础特点看大规模推荐类深度学习系统的设计(附下载)

人工智能学派  · 公众号  ·  · 2023-11-24 18:53

正文

需要下载报告的朋友,可以扫下方二维码付费成为会员,6000+份完整版资料,随意下载,不受限制,资料涵盖AI、机器人、元宇宙、数字人、智能硬件、智能制造等。 星球针对各行业做了合集系列,合集系列保持更新。 (客服微信:kjxp002)

(公众号资源有限,仅能展示部分少数报告,加入星球获取海量精选)

就是你需要什么,我们就分享什么,群主1V1贴心服务!

今天分享的是 大规模系列 深度研究报告:《 从推荐模型的基础特点看大规模推荐类深度学习系统的设计 》。

(报告出品方:腾讯)

报告共计:21页

基于深度学习模型的推荐流程,场景与目标

推荐场景的重要性

  • PCG的图文,视频推荐 (腾讯视频,腾讯新闻,QQ看点,浏览器,微视, QQ小世界等)。

  • 腾讯系内容推荐: 阅文集团,QQ音乐。

  • Facebook推荐场景推理成本占AI推理成本的>72%[ISCA2020 RecNMP]。

千亿级推荐模型应用

  • 千亿级特征 (TB级) 的模型的在线/离线训练,在线推理服务和持续上线。

  • 针对推荐特点的深度优化,达到业界先进水平。

异步训练流水线和多级存储: 提升性能,降低内存成本

问题: Learner线程中参数拉取和参数更新对性能影响大。内存成为主要资源瓶颈。由于需要等待全部参数就绪,Parameter Server难以利用速度慢的存储介质。

效果: 在不影响训练效果的情况下,降低参数准备与更新耗时,提高训练速度。训练耗时下降超50%。异步storage线程,支持基于冷热数据的多级存储。内存消耗下降30%-70%。







请到「今天看啥」查看全文