专栏名称: 学姐带你玩AI
这里有人工智能前沿信息、算法技术交流、机器学习/深度学习经验分享、AI大赛解析、大厂大咖算法面试分享、人工智能论文技巧、AI环境工具库教程等……学姐带你玩转AI!
目录
相关文章推荐
求是网  ·  健全科学完备、有效管用的制度体系 ·  昨天  
平安重庆  ·  重庆市公安局“辅警之星”事迹展播(一) ·  2 天前  
平安重庆  ·  重庆市公安局“辅警之星”事迹展播(一) ·  2 天前  
51好读  ›  专栏  ›  学姐带你玩AI

“王牌搭档”频域+MLP拿下CVPR屡试不爽!最新idea创新性超群!

学姐带你玩AI  · 公众号  ·  · 2024-10-12 18:19

正文

朋友们,时间序列预测领域又有一篇CVPR了!这次是一种新型域泛化架构ALOFT,结合了 频域+MLP ,实现了超91%的预测准确率和SOTA性能!

这类频域MLP模型其实是时序预测领域一种非常重要的方法,它通过独特的结合方式,给我们提供了一个新的研究视角, 不仅实现了更高的预测准确性,还拥有更简单的模型结构。

因此这个方法逐渐受到了广泛的关注和应用,NeurIPS上的新研究FreTS也验证了频域MLP是更好的时序预测方法,热门程度可见一斑。 目前频域+MLP还处于新兴阶段,没那么卷,想发论文的同学可以考虑。

为了帮同学们抓紧机会,我已经挑选好了 8篇 频域+MLP的优秀论文 分享,代码基本都有,想快点找idea发顶会的别错过啦~

扫码添加小享, 回复“ 频域MLP

免费获取 全部论文+开源代码

ALOFT: A Lightweight MLP-like Architecture with Dynamic Low-frequency Transform for Domain Generalization

方法: 论文介绍了一个名为ALOFT的新型域泛化架构。该架构结合了频域分析和类似多层感知器(MLP)的方法,通过动态低频变换来扰动局部纹理特征,同时保留全局结构特征,让模型能够更有效地从多个源领域中学习并泛化到未见的目标领域。

创新点:

  • 提出了一种轻量级的MLP样式架构,结合动态低频变换(ALOFT),在领域泛化任务中表现优于现有的CNN方法。
  • 从频率角度分析了MLP与CNN方法在领域泛化任务中的表现差异,发现MLP方法更能捕捉全局结构信息。
  • 通过模拟训练中潜在的领域变化,引入ALOFT模块,有效地利用多样的低频光谱特征,增强了模型的泛化能力。

Frequency-domain MLPs are More Effective Learners in Time Series Forecasting

方法: 论文提出了一种新的架构FreTS,它利用频域中的MLP来捕捉时间序列数据的全局模式和周期性特征,克服了传统MLP方法的局限性,广泛的实验验证了其在短期和长期预测任务中的优越性。

创新点:

  • 提出了一种在频域中应用多层感知机(MLP)的新方法,称为FreTS,能够有效捕捉时间序列的全局模式和能量压缩优势。
  • 通过频谱分析,使MLP能够获得信号的完整视图,更容易学习全局的空间/时间依赖性。
  • FreTS架构包括两个主要阶段:领域转换(从时域信号转换为频域的复数)和频率学习(重新设计的MLP用于学习频率成分的实部和虚部)。

扫码添加小享, 回复“ 频域MLP

免费获取 全部论文+开源代码

Speech Emotion Recognition Using RA-Gmlp Model on Time–Frequency Domain Features Extracted by TFCM

方法: 论文提出了一种结合了频域特征提取和MLP(多层感知器)的模型来处理语音情感识别任务,通过引入高维卷积(HDC)和时间频率域卷积模块(TFCM)改善情感识别精度,填补了GMLP在注意力机制方面的空白。

创新点:

  • 提出了基于残差注意力的门控多层感知机(RA-GMLP)结构,结合了多层感知机的全局特征识别能力和多头注意力机制的聚焦权重功能。
  • 首次将高维卷积(HDC)引入情感识别任务,显著扩大了神经元的感受野,提升了识别准确性。
  • 基于梅尔频率倒谱系数(MFCC)特征,创新性地提出时间-频率域卷积模块(TFCM)。







请到「今天看啥」查看全文