15篇开源论文，时间序列表示学习2024顶会方案汇总

时间序列表示学习 ，深度学习和机器学习领域的一个重要研究方向，是一种通过学习算法将时间序列数据转换为固定长度的向量表示的技术。

这种技术能够高效地从时间序列数据中提取关键信息，降低数据维度，同时捕捉时间依赖性，增强模型泛化能力，并支持多种下游任务。在实际应用（金融、医疗、工业等）中，可以显著提升多项时间序列任务的效果，如时间序列分类、预测以及异常检测问题等。

本文介绍了时间序列表示学习最新研究进展，主要包括 神经架构、以学习为中心、以数据为中心 这3个创新方向，以及 15篇 相关顶会论文 ，全部都已开源，帮助大家全面掌握时间序列表示学习方法。

扫码添加小享， 回复“ 时序表示 ”

免费获取 全部论文+开源代码

神经架构

ICML 24 Multi-Patch Prediction: Adapting LLMs for Time Series Representation Learning

方法： 本文提出了aLLM4TS框架，通过将大语言模型(LLMs)用于时间序列表示学习，利用自监督多补丁预测任务重构时间序列预测，采用两阶段训练策略(因果连续预训练和多补丁微调)，引入补丁解码机制，实现更有效的时间序列表示学习。

创新点：

• 提出了一种将时间序列预测重新构想为自监督多补丁预测任务的方法。
• 设计了一种创新的补丁级解码层，区别于传统的序列级解码方法。
• 为了进一步增强补丁优化过程，作者引入了位置感知注意力掩码。

ICLR 2024 CARD: Channel Aligned Robust Blend Transformer for Time Series Forecasting

方法： 论文提出了一种用于时间序列预测的新型Transformer模型，称为CARD，它通过独特的注意力机制和多尺度信息的利用，能够有效地捕捉时间序列中的复杂模式和依赖关系，从而生成有助于预测的高质量时间序列表示。

创新点：

• 设计了一种通道对齐注意力结构，使得模型能够同时捕捉信号间的时间相关性和多变量间的动态依赖。
• 提出了一种令牌融合模块，用于生成不同分辨率的令牌。
• 引入了一种新的损失函数，通过根据预测不确定性加权有限时间跨度内的预测，来缓解潜在的过拟合问题。

扫码添加小享， 回复“ 时序表示 ”