专栏名称: 机器学习研究会
机器学习研究会是北京大学大数据与机器学习创新中心旗下的学生组织,旨在构建一个机器学习从事者交流的平台。除了及时分享领域资讯外,协会还会举办各种业界巨头/学术神牛讲座、学术大牛沙龙分享会、real data 创新竞赛等活动。
目录
相关文章推荐
51好读  ›  专栏  ›  机器学习研究会

【推荐】来自谷歌Batch Normalization原作者的论文Batch Renormalization

机器学习研究会  · 公众号  · AI  · 2017-02-14 19:06

正文


点击上方 “机器学习研究会” 可以订阅哦
摘要

转自:星空下的巫师

来自谷歌Batch Normalization原作者的论文《Batch Renormalization: Towards Reducing Minibatch Dependence in  Batch-Normalized Models》在训练的时候引入两个新的变换参数r和d,降低了对minibatch的dependence,以解决BN在处理batchsize小或者样本非iid情况下所存在的问题。







请到「今天看啥」查看全文