专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  该论文提出了一种名为模型对齐搜索(MAS)的 ... ·  5 天前  
爱可可-爱生活  ·  [LG] The Future of ... ·  5 天前  
黄建同学  ·  下一个发展方向可能就是Agents服务化了/ ... ·  1 周前  
51好读  ›  专栏  ›  爱可可-爱生活

本文提出了一种基于低秩张量压缩和双向张量收缩的FPGA加速器,实-20250115064337

爱可可-爱生活  · 微博  · AI  · 2025-01-15 06:43

正文

2025-01-15 06:43

本文提出了一种基于低秩张量压缩和双向张量收缩的FPGA加速器,实现了在资源受限的边缘设备上高效训练大型Transformer模型,并取得了显著的内存和能耗节省,其中反直觉的双向收缩策略是性能提升的关键。
[LG]《Ultra Memory-Efficient On-FPGA Training of Transformers via Tensor-Compressed Optimization》J Tian, J Lu, H Li, X Wang... [University of California, Santa Barbara] (2025) 网页链接 #机器学习##人工智能##论文##AI创造营#