FFT的逆袭： 一种替代自注意力机制的高效方案
查看图片
//
@爱可可-爱生活
:本文创新性地提出了基于快速傅里叶变换的 FFTNet 框架，通过自适应频谱滤波和非线性激活，以 O(n log n) 的复杂度实现了与自注意力机制相媲美的长序列建模性能，有效解决了自注意力机制的计算瓶颈问题，为高效序列建模开辟了新方向，并揭示了频域分析在深度学习中的巨大潜力。
查看图片
//
@爱可可-爱生活
:本文创新性地提出了基于快速傅里叶变换的 FFTNet 框架，通过自适应频谱滤波和非线性激活，以 O(n log n) 的复杂度实现了与自注意力机制相媲美的长序列建模性能，有效解决了自注意力机制的计算瓶颈问题，为高效序列建模开辟了新方向，并揭示了频域分析在深度学习中的巨大潜力。
[LG]《The FFT Strikes Back: An Efficient Alternative to Self-Attention》J Fein-Ashley [University of Southern California] (2025)
