专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
51好读  ›  专栏  ›  爱可可-爱生活

【[84星]XAttention:一种高效的Transforme-20250323161402

爱可可-爱生活  · 微博  · AI  · 2025-03-23 16:14

正文

请到「今天看啥」查看全文


2025-03-23 16:14

【[84星]XAttention:一种高效的Transformer注意力机制,让长文本处理速度提升13.5倍!亮点:1. 基于对角线和的轻量级指标,精准识别重要注意力块;2. 在长文本、视频生成和理解等多个场景表现出色;3. 无需牺牲精度即可实现加速】
'XAttention: Block Sparse Attention with Antidiagonal Scoring'
GitHub: github.com/mit-han-lab/x-attention
#Transformer# #长文本处理# #视频生成# #AI创造营#






请到「今天看啥」查看全文