专栏名称: 轻松参会
回复会议名称获取交流群二维码,如“cvpr”
目录
相关文章推荐
51好读  ›  专栏  ›  轻松参会

发现了一个顶会2025投稿新风口,接受数量翻倍!

轻松参会  · 公众号  ·  · 2024-06-04 13:46

正文

顶会ICLR 2024刚刚落幕,官方便宣布下届将在亚洲举办,参考往年会议安排,ICLR 2025即将开放注册,9月下旬截止投稿 ,众多热门研究领域里,因近年大模型爆火,而再次 备受瞩目的时间序列方向,顶会收录数量逐年攀升,其中接受最多的ICLR,2024比2023足足翻了一倍, 将近50篇的研究成果,预测方向更是占了近一半。

为了帮助大家高效找idea,我们特为大家整理了 ICLR 2024、2023 收录论文 (时序 方向公开全部57篇 )!

👇 扫码加助教回复【时序】 免费领取

(时间序列预测、分类、异常检测、时空分析等10多个方向!)

另外,研梦非凡于 6月6日(周四) ,还邀请了大模型资深算法工程师魏导师,为大家独家详解 ICLR 2024收录论文 《Time-LLM: Time Series Forecasting By Reprogramming Large Language Models》 (AI前沿直播课系列 NO.45) 从时间序列预测的传统方法,到结合大模型的前沿工作,深入分析Time-LLM的模型结构、实验研究,为大家的科研idea提供灵感!

👇 扫描二维码找助教0元 预约 本周直播课!

凡预约还可 再领时序 预测 必读论文及书籍 (74篇+5本) 文末还有算力等科研福利!


直播课内容概览

01 论文摘要

  1. 时间序列预测的重要意义
  2. LLM激活了时间序列预测能力
  3. Time-LLM的创新点

02 论文引言

  1. 传统的时间序列预测方法
  2. LLM+时间序列预测方法的优势
  • 泛化性增强,无需从头重新训练
  • 数据效率提升,减少依赖历史数据
  • 推理能力强大,高精度预测
  • 多模态知识融合,协同预测
  • Time-LLM主要贡献
    • 重编程框架,同时保持骨干模型的完整
    • 将输入时间序列转为文本原型表示,并使用说明性提示
    • 主流预测任务表现SOTA,尤其是少样本和零样本场景

    03 过往工作

    1. 特定任务的学习
    • ARIMA模型、LSTM网络、时间卷积网络、Transformer
    • 缺点
  • 模态自适应
    • 时间序列预训练模型(TSPTMs)的开发、策略,预训练与微调
    • 缺点
  • 交叉模式适应
    • 时间序列编辑和模型微调
    • Time-LLM与以上方法的不同

    04 Time-LLM算法分析

    1. 整体模型结构
    • 输入变换
    • 预训练和冻结的LLM
    • 输出投影
  • 结构具体分析
    • Input Embedding:采用简单的线性层作为补丁嵌入器来创建维度dm
    • Patch Reprogramming:重新编程将补丁嵌入到源数据表示空间中,以对齐时间序列和自然语言的模态,以激活backbone的时间序列理解和推理能力
    • Prompt-as-Prefix:提示作为前缀,避免了patch作为前缀的限制
    • Output Projection

    05 Time-LLM实验研究

    1. TIME-LLM在多个基准和设置中,始终以较大幅度超过最先进的预测方法,特别是在少样本和零样本情况下
    2. Baselines(设置+结果)
    • LONG-TERM FORECASTING
    • SHORT-TERM FORECASTING
    • FEW-SHOT FORECASTING
    • ZERO-SHOT FORECASTING
  • MODEL ANALYSIS
    • Language Model Variants
    • Cross-modality Alignment
    • Reprogramming Interpretation
    • Reprogramming Efficiency

    06 总结和展望

    1. 将冻结LLM用于时间序列预测方面,显示出了希望
    2. 自适应LLM优于专门的专家模型,具有作为有效时间序列机器的潜力
    3. 时间序列预测可被视为另一个语言任务,由现成的LLM解决
    4. 后续研究应探索最佳的重编程表示,为LLM配备更广泛的时间序列分析能力或其他新能力

    直播福利

    参加本次直播的同学都将获得 1小时导师meeting 的福利(助教+导师)! 原价2999, 限时福利价9.9元! 活动时间为 6月6日到6月30日

    ps:研梦非凡开设的前沿论文系列直播,旨在帮助大家提升读论文技能,快速抓住重点,掌握有效方法,进而找到创新点,轻松完成论文报告。

    👇 扫描二维码找助教0元 预约 本周直播课!


    研梦非凡科研论文指导

    如果你的研究方向/方法/idea是属于 CV全方向/NLP全方向/机器学习/深度学习及AI+金融、医疗、交通等方向, 如果你需要发 CCF A-C、SCI一区-四区、EI会议/EI期刊、毕业大论文、毕业设计等, 都可以来研梦非凡,匹配合适的科研指导。

    研梦非凡可指导的研究方向

    主流方向科研论文常用方法

    研梦非凡现有idea

    👇 扫码加助教了解更多可指导方向


    研梦非凡科研论文指导方案

    idea并不是直接拍脑门拍出来的,是一遍一遍实验、跑代码、改模型、思路修正的过程中产生的。 研梦非凡1V1定制化论文指导,和研梦导师一起找idea,研梦导师指导实验,共同解决数据问题。 授之以渔——搭建论文写作框架,增删改查,针对性实验指导! 哪里薄弱补哪里!






    请到「今天看啥」查看全文