专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  通过clustering based ... ·  2 天前  
字节跳动技术团队  ·  从0到1搭建 AI ... ·  4 天前  
字节跳动技术团队  ·  从0到1搭建 AI ... ·  4 天前  
爱可可-爱生活  ·  【Datago:Python友好的高性能数据 ... ·  4 天前  
宝玉xp  ·  挤牙膏了//@明风:大模型界的汪峰 ... ·  6 天前  
51好读  ›  专栏  ›  爱可可-爱生活

提出MaskLLM,一种可学习的方法,用于在大型语言模型中建立N-20240930055057

爱可可-爱生活  · 微博  · AI  · 2024-09-30 05:50

正文

2024-09-30 05:50

提出MaskLLM,一种可学习的方法,用于在大型语言模型中建立N:M稀疏性,实验表明其可显著提升压缩质量,并可无损迁移至下游任务。
[CL]《MaskLLM: Learnable Semi-Structured Sparsity for Large Language Models》G Fang, H Yin, S Muralidharan, G Heinrich... [NVIDIA] (2024) 网页链接 #机器学习##人工智能##论文#