本文属于本次Emtech Digital人工智能峰会独家精选文章。
苹果公司人工智能总监Ruslan Salakhutdinov认为,近年来产生壮观成果的深层神经网络的能力可能将会在未来几年得到极大的强化,尤其是通过记忆、注意力和常识等方面的增长。
Salakhutdinov在《麻省理工科技评论》的EmTech Digital会议上表示,这些属性可以帮助解决人工智能中一些突出的问题。
目前,Salakhutdinov在卡内基梅隆大学(Carnegie Mellon University)仍然保留副教授的职位。在他的演讲中,他指出了深度学习驱动机器视觉和自然语言理解的局限性。
Ruslan Salakhutdinov
深度学习技术涉及使用大量模拟神经元,布置在许多相互连接的层次之中。近年来,深度学习在机器感知方面取得了显著的进步,但这些神经网络在很多方面是受限的。
举例而言,Salakhutdinov指出,基于该技术的图像字幕系统为何会错误地标记图像,因为它们倾向于关注图像中的所有内容。然后,他指出了所谓“注意机制”的一种解决方案,这是对过去几年迅速发展的深度学习所进行的调整。
当在字幕中应用不同的单词时候,该方法可以通过将系统集中关注图像的特定部分,从而来补救这些错误。同样的方法也可以通过让机器集中在句子的相关部分,从而来推断其意义,来帮助提高自然语言的理解。
深度学习过程中对图片进行标记
由Facebook研究人员开发的称为记忆网络的技术可以改善机器与人们的交流方式。顾名思义,该方法为神经网络增加了长期记忆的组成部分,以便他们记住聊天的历史。
同时,内存网络也已被证明可以改善另一种AI,也称为强化学习。例如,CMU的两名研究人员最近展示了如何创建一个更智能的游戏算法。谷歌DeepMind的研究人员也展示了深入学习系统构建和访问记忆形式的方法。
毫无疑问,强化学习正在迅速成为解决机器人和自动驾驶难以解决难题的有效途径——这项技术正是《麻省理工学院科技评论》在年初评出的2017年十大突破性技术之一。
Salakhutdinov表示,未来研究另一个令人激动的领域将是寻找如何将“手工建立”的知识来源与深度学习相进行结合的新方法。他指出,比如像Freebase这样的一般知识数据库,以及WordNet这样的单词存储库。
利用深度学习进行未知地图探索
正如人类在解析语言或解释视觉场景时,一般会很依赖常识,而这样将可以帮助AI系统更加智能。Salakhutdinov表示,人类如何才能将所有先前形成的知识体系纳入深度学习,这将一个很大的挑战。
Salakhutdinov也参与了讨论环节,其中一个共同主题则是如果通过对不同方法的探求,从而让人工智能能够达到一个新的水平。
华盛顿大学教授Pedro Domingos表示,还需要继续寻找全新的AI方法。他说:“机器学习中有一个流派认为,我们不需要花哨的新算法,只需要更多的数据。”他说。“但我认为,在我们真正解决AI之前,需要发现真正深刻的基础思想。”