专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  【[245星]PurrCrypt:用可爱的猫 ... ·  14 小时前  
爱可可-爱生活  ·  图神经网络的统计物理学分析 查看图片 ... ·  19 小时前  
爱可可-爱生活  ·  本文提出了 LADDER 和 TTRL ... ·  昨天  
爱可可-爱生活  ·  本文提出了一种名为 Q-Filters ... ·  昨天  
爱可可-爱生活  ·  【[476星]Volcengine ... ·  3 天前  
51好读  ›  专栏  ›  爱可可-爱生活

本文通过构建线性去噪器的分析理论框架,揭示了扩散模型学习过程中存-20250310053831

爱可可-爱生活  · 微博  · AI  · 2025-03-10 05:38

正文

2025-03-10 05:38

本文通过构建线性去噪器的分析理论框架,揭示了扩散模型学习过程中存在反直觉的幂律谱偏现象,即模型对高方差数据特征的学习速度远快于低方差特征,这解释了早期停止训练可能导致细节缺失的问题,并为改进扩散模型训练和数据预处理提供了深刻的理论启示。
[LG]《An Analytical Theory of Power Law Spectral Bias in the Learning Dynamics of Diffusion Models》B Wang [Harvard University] (2025) 网页链接 #机器学习#






请到「今天看啥」查看全文