专栏名称: 深度之眼
入行人工智能,学算法公式,写毕业论文,看经典书籍,刷全球公开课,就来深度之眼
目录
相关文章推荐
药物临床试验网  ·  分享 ▎Human Failure: ... ·  昨天  
药渡  ·  医药二哥,率先亮剑 ·  4 天前  
51好读  ›  专栏  ›  深度之眼

Transformer和扩散模型引爆时序方向!

深度之眼  · 公众号  ·  · 2024-05-30 18:09

正文

时空预测引领了新的热点,时间序列预测领域的首个大模型 TimeGPT 引起业界热议,Transformer+时序,扩散模型+时序更是顶会新方向大热“种子”选手,时序+多方向正在成为这个AI界瞩目的黑马!


本文整理了时间序列的 时序预测 / 时序-Transformer / 时序-大模型 / 时序-扩散四大方向 的最新论文204篇。


扫码回复 “时序” 领204篇论文合集



时间序列预测论文



ICLR2024

ClimODE: Climate Forecasting With Physics-informed Neural ODEs


AAL2024

MSGNet: Learning Multi-Scale Inter-Serjes Correlations for Multivariate Time Series Forecasting


NeurIPS2023

Frequency-domain MLPs are More Effective Lea深度之眼整理rners in Time Series Forecasting


ICML 2023

Learning Deep Time-index Models for Time S深度之眼整理eries Forecasting


KDD 2023

TSMixer: Lightweight MLP-Mixer Model fo深度之眼整理r Multivariate Time Series Forecasting


因篇幅有限 仅展示前5篇


扫码回复 “时序” 领204篇论文合集




时间序列+transformer必读论文


1.iTransformer: InvertedTransformers Are Effective for Time Series Forecastina


2.Pathformer: Multi- Scale Transformers  With Adaptive Pathways For Time Series Forecasting


3.SCALEFORMER: ITERATIVE MULTI-SCALE REFINING TRANSFORMERS FOR TIME

SERIESFORECASTING


4.InParformer: Evolutionary Decomposition Transformers with Interactive Parallel Attentionfor Long Term Time Series Forecasting


5.ContiFormer: Continuous-Time Tansformer for Irreqular Time Series Modeling


因篇幅有限 仅展示前5篇

扫码回复 “时序” 领204篇论文合集




深度学习+时间序列预测必读论文



卷积神经网络方法(4种算法模型)


1.CNN

Recent advances in convolutional neural networks


2.WaveNet-CNN

Conditional time series forecasting with convolutional neural networks


3.Kmeans-CNN

Short-term load forecasting in smart grid: a combined CNN and K-means clustering approach


4.TCN

An empirical evaluation of generic convolutional and recurrent networks for sequence modeling

因篇幅有限 仅展示前4篇


循环神经网络方法 (3种算法模型)


1.RNN

Bidirectional recurrent neural networks


2.LSTM(长短期记忆网络)

Long short-term memory


3.GRU(门控循环单元)

Learning phrase representations using RNN encoder- decoder for statistical machine translation


Transformer方法(11种算法模型)


1.Transformer

Attention-based models for speech recognition


2.BERT

BERT: pre-training of deep bidirectional transformers for language understanding


3.AST

Adversarial sparse transformer for time series forecasting


4.Informer

Informer: beyond efficient transformer for long sequence time-series forecasting


因篇幅有限 仅展示部分


扫码回复 “时序” 领204篇论文合集






时间序列新突破:大模型+时间序列


大模型处时间序列


1.基于Promtpt的方法

Leveraging Language Foundation Models for HumanMobility Forecasting


2.将时间序列进行离散化处理

AudioLM: a Language Modeling Approach to Audio Generation


3.时间序列-文本对齐代表论文

Open Vocabulary Electroencephalography-To-Text Decoding and Zero-shot Sentiment Classification


4.引入视觉信息

Leveraging Vision-Language Models for Granul深度之眼整理tar Market Change Prediction


5.大模型工具

Unleashing the Power of  Shared Label Structures for Human Activity Recognition


训练时间序列领域大模型

TimetGPT-1


扫码回复 “时序” 领204篇论文合集




针对目前的大热时序,我们请来了顶会审稿人 chichi老师在 5月29日晚20:00 解读 时空时序 大模型 预备知识+论文


课程大纲:


- 时序预测

  • 时序预测研究内容

  • 时序数据编码

  • 时序预测解码

  • 损失函数


- 大语言模型 for 时序

  • LLM背景
  • LLM的优点

  • LLM与时序预测的关系


- LLM for time series 论文解读

  • 微调LLM做时空时序预测

  • 语言增强的时序/时空预测模型

  • LLM做时序预测的未来挑战与研究方向


- 核心代码


扫码解锁5月29日20:00

解读 时序大模型预备知识+论文


另外,我们准备了 32节时间序列系列课程 基础上 课程分为五个模块。


  • 模块一基础 认识数据科学家

  • 模块二进阶 时间序列预测概论+论文和代码讲解

  • 模块三项目实战 基于股价和零售的时序项目实战

  • 模块四比赛实战 数据科学入门赛+回答准确性预测赛

  • 模块五时序前沿 前沿机器学习与时序+ 时序分析任务与最新应用场景


0.01元 解锁《时间序列系列课》

32节课+37h+部分课件+部分课堂作业及代码




一、时序课程介绍







请到「今天看啥」查看全文