专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
宝玉xp  ·  话说现在有没有穿越小说主角带上 ... ·  6 天前  
微软亚洲研究院  ·  创新智能表面,解锁无线通信与无线感知的未来 ·  1 周前  
爱可可-爱生活  ·  本文提出了REST-PG框架,通过结合推理增 ... ·  1 周前  
51好读  ›  专栏  ›  爱可可-爱生活

本文提出了一种名为SFA的持续学习方法,通过在训练过程中对当前模-20250114055244

爱可可-爱生活  · 微博  · AI  · 2025-01-14 05:52

正文

2025-01-14 05:52

本文提出了一种名为SFA的持续学习方法,通过在训练过程中对当前模型和先前任务的模型检查点进行周期性平均,有效缓解了灾难性遗忘问题,并发现中间模型检查点能作为过往经验的良好代理,且该方法在多种任务中优于其他基线,同时揭示了模型合并与经典惩罚方法之间的深刻联系,最反直觉的观点是,在训练...
[LG]《Soup to go: mitigating forgetting during continual learning with model averaging》A Kleiman, G K Dziugaite, J Frankle, S Kakade... [Harvard University & Google DeepMind & Databricks] (2025) 网页链接 #机器学习##人工智能##论文##AI创造营#