深度学习入门：如何从0到1

深度学习是什么？

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。

深度学习的概念源于人工神经网络（artificial neural network）的研究。深度学习是一种特征学习方法，把原始数据通过一些简单的但是非线性的模型转变成更高层次、更加抽象的表达形式。

深度学习前景如何？

深度学习之路挑战和机会并存，未来研究方向为：

1. 无监督学习（Unsupervised learning）；

2. 研究领域可能会继续从传统模式识别工作扩展到包括符号操作、记忆、规划和全面 AI 任务。这对于充分理解自然语言和与人类的对话（即通过图灵测试）非常重要。同样，未来深度学习将扩展到增强学习、控制和机器人领域；

3. 用机器学习来解释大脑的工作原理；

4. 改进最大似然估计（Maximum Likelihood），它不一定是在复杂高维域（complex high-dimensional domains）中学习时的最佳目标；

5. 开发专门硬件用于深度学习，增强其计算能力，应用到 AI 领域。

深度学习领域有哪些开放式研究？

通过开放式研究（open research areas），你可以迅速获取前人的研究成果，同时在此基础上贡献自己的价值。

1. 无监督学习：生成模型，在覆盖自然图像和声音的广泛变化上生成清晰的图像和声音；半监督学习，即使当标记的数据集不是微小时也能产生差异；学习数据的双向变换到变量被解开（或大部分独立）的空间；（迭代）推断回到深度学习来处理潜在变量上的非后代因素；

2. 引入更多的推理能力到数据模型中；

3. 自然语言理解和大规模的知识表示；

4. 提高我们对深度学习的理论理解，尤其是表达性/统计方面；

5. 开发专门的硬件，不只是从离线训练的模型构建消费产品，更是从科学的角度，培训更大的模型，捕获更多的知识，以便开辟人类水平 AI。

深度学习新手应读哪本书？

对深度学习新手而言，推荐一本《统计学习介绍》（Introduction to Statistical Learning），它有一些对频率统计数据概念的引用，不包括深度学习或图形模型等主题，但不妨碍它引领你进入深度学习的大门。

深度学习如何起步？

首先，你得深入学习 数学和计算机科学（包括实用部分，即编程），并阅读书籍和大量论文。

其次，你需要通过以下方式来发展你的直觉：自己编写一系列学习算法，例如尝试复制现有论文；参数和探索变体（在结构，目标函数等），一旦你已经能够重现，你就可以通过参加比赛或试图改进已发布的结果。

最后，找到合作者，集思广益，并一起分享探索和测试新想法，理想情况下是加入一个已有的研究小组；当然，如果你是老师，还可以招募学生与你一起探索。

来源：Quora
文章列表：

1. Kevin Murphy：How to learn machine learning？

2. Yoshua Bengio：Where is deep learning research going towards?

3. Yoshua Bengio：What are the open research areas in Deep Learning?

4. Yoshua Bengio：What advice would Yoshua Bengio give to young researchers entering the field of machine learning?

The End

开智学堂 2017 春季内测课

百度资深工程师童牧晨玄老师授课

「基于深度学习的自然语言处理」课程即将启动！

  戳原文，马上预约。