我 相 信 这 么 优秀 的 你
已 经
置 顶
了 我
翻译|崔嵐
选文|小象
转载请联系后台
滑铁卢大学的在读博士生。Terry分别于2008年和2010年在首尔国立大学机械与航空航天工程专业完成了他的学士学位和硕士学位。他在LIG Nex1和韩国科学技术研究所(KIST)一直工作到2014年。他之前的研究是机器人运动规划和助力外骨骼。在读博士期间,他专注于将李群几何学引入到学习人类/机器人运动的深度学习技术中。
我们相信存在经典的深度学习论文,无论其应用领域是什么,都值得阅读。
我们不提供大量的论文,而是提供一个精挑细选的清单
,清单上的这些非常棒的深度学习论文在某些研究领域被视为必读。
◇
◆
◇
◆
◇
背景
在这个清单之前,存在着其他很棒的深度学习清单,例如Deep Vision和Awesome Recurrent Neural Networks。此外,在此清单出来之后,另一个很棒的为深度学习初学者准备的清单-
深度学习论文阅读路线图(Deep Learning Papers Reading Roadmap)
-被创建出来并被许多深度学习研究者所喜爱。
虽然路线图清单包含了很多重要的深度学习的论文,但是对我来说,阅读所有这些论文是一个巨大的工程。正如我在前面介绍中所提到的那样,我认为,无论其应用领域如何,开创性的作品都可以使我们受益匪浅。因此,我想在这里介绍前100强深度学习论文,作为总览深度学习研究的一个很好的起点。
◇
◆
◇
◆
◇
精选清单准则
●推荐从2012年到2016年发表的前100篇深度学习论文。
●如果一篇论文被添加到清单中,则应删除另外一篇论文(通常来自“2016年更多论文”部分)以保留前100篇的论文。(因此,删除论文和添加论文一样,也是重要的贡献)
●不包括在清单中的重要的论文,将列在“更多论文”部分。
●最近6个月发表的论文请参阅“新论文”部分;2012年之前发表的论文请参阅“旧论文”部分。
◇
◆
◇
◆
◇
引用标准
●
●2016年:+60次引用或“2016年更多论文”
●2015年:+200次引用
●2014年:+400次引用
●2013年:+600次引用
●2012:+800次引用
●〜2012年:旧论文(通过讨论)
☞
☞
☞
请注意, 我们喜欢可以应用于各种研究的开创性的深度学习论文,而不是应用论文。因此,一些符合标准的论文可能不被接受,而另一些则被接受。
这取决于论文的影响,适用于其他研究领域的稀缺性
等。
小编:以下是由作者从这个清单里精选出来的论文,每个类别中选择一个。请点击
阅读原文
参阅原始的完整列表
1.
理解/泛化/迁移
Understanding / Generalization / Transfer
Distilling the knowledge in a neural network (2015), G. Hinton et al. [pdf]
2.
最优化/训练技术
Optimization / Training Techniques
Batch normalization: Accelerating deep network training by reducing internal covariate shift (2015), S. Loffe and C. Szegedy [pdf]
3.
无监督/生成模型
Unsupervised / Generative Models
Unsupervised representation learning with deep convolutional generative adversarial networks (2015), A. Radford et al. [pdf]
4.
卷积神经网络模型
Convolutional Neural Network Models