AI 三大教父齐聚深度学习峰会，讨论尖端研究进展

2017年10月12日，REWORK 深度学习峰会在蒙特利尔举办，出席本次会议有不少加拿大和美东地区的业界大咖，其中包括 Uber ATG 负责人 Raquel Urtasun，Google Brain 的 Jasper Snoek 和 Hugo Larochelle，百度的 Greg Diamos，以及超过 600 名地区从业者。

本次深度学习峰会是有史以来第一次3位AI教父：Yoshua Bengio、Yann LeCun以及 Geoffrey Hinton聚在了一起出席RE•WORK举办的一个专题讨论会。三人一起分享了AI各种尖端研究进展情况，同时讨论了AI的版图形势等。

Yann LeCun 在 1985 年慕名结识 Geoffrey Hinton，而 Yoshua Bengio 在读硕士时认识 LeCun。这三位科学家在相识的 32 年期间先后声名鹊起。Hinton 就此在讲台上调侃到:我的工作最先得到注意，随后是 Yann。如今 Yoshua 真正发力了，我每隔几个星期就能在 arXiv 上看到他的佳作，都有点追不上他的思路了。

目前的机器学习系统建立在监督式学习的基础上，不断地犯一些人类根本不会犯的错。系统依赖于肤浅的统计规律，并不能真正的理解世界。面对这个困境，Hinton 和 Bengio 分别在大会上宣讲了自己的新理论:Capsules 和意识先验(The Conscious Prior)。

针对目前人工智能基础研究的瓶颈，Bengio 举了两个例子说明:第一个是婴儿理解世界。婴儿通过不断的互动和玩耍理解周围的世界，这是个无监督、自发式学习过程。他(她)通过自己的观察，明白环境中潜在的因果关系。

第二个是人类自带的应急机制。Bengio 在 18 岁时曾遭遇车祸，并在危险时刻成功自救。这是他人生第一次发生事故，然而大脑却在「零数据」的基础上，正确地教导身体做出了一系列应急反应。

根据以上两个案例总结，Bengio 认为现在的智能系统对物理架构理解的很深，却忽略了与环境互动、和人的意识在学习中所发挥的作用。目前的无监督学习训练目标也集中在以图像为主的像素空间，而不是包涵语义、更高级别的抽象空间。

Hinton 也在会议上解释了自己最新的 Capsule 理论，意图代替传统的卷积神经网络。Capsule 把每一层神经元组合起来，装进「胶囊」(capsule)里面，在完成内部计算后输出每一层的压缩结果。这种结构的灵感来自于人脑的微柱体。一个「胶囊」有两个输出值:第一个对象的分类，第二个是对象的位置、朝向、大小、形状、体积和颜色等特征。

随后三人在台上重聚，再度聊起了彼此长达 30 多年的的学术友谊。在谈起三人之间最大的分歧时，LeCun 表示:我们在研究方向上一样，解决的方法则大同小异。不过我记得有一段时间 Geoff 很喜欢用概率。Bengio 立即披露了一个事实:Yann 对使用概率解决问题很不感冒，他管 Geoff 叫概率警察。

在对于未来人工智能研究的方向，LeCun 认为现在的研究将逐步被完善并且参数化，它的成果不会消失，但并不够用。我们需要新的架构，很多人看好动态架构(Dynamic Architecture)。自然语言处理研究也有很多有趣的进展。我们还需要训练超大学习系统，还需要将深度学习与更加离散，诸如推理的方法结合起来。