两个黑箱问题 ——深度神经网络和脑神经网络

来源：科技导报

概要 ：谷歌DeepMind 团队的研究将认知心理学和深度神经网络结合在一起，并发现两者在小样本词汇学习过程中具有相似之处——DNN 和脑神经网络都具有形状偏好，相关研究论文《Cognitive psychology for deep neural networks: A shape bias case study》被国际机器学习学会（IMLS）收录。

谷歌DeepMind 团队的研究将认知心理学（cognitive psychology）和深度神经网络（deep neural network，DNN）结合在一起，并发现两者在小样本词汇学习（从一个示例中猜出一个单词的意思，one-shot word learning）过程中具有相似之处——DNN 和脑神经网络都具有形状偏好（shapebias），相关研究论文《Cognitive psychology for deep neural networks: A shape bias case study》被国际机器学习学会（IMLS）收录。深度学习和神经科学的学科交叉对未来的发展方向具有很强的指导意义，这项研究也为DNN 的机理以及脑神经网络的理论基础研究提供了一种可行的解决思路，而真正破解DNN 和脑神经科学的黑箱问题依然任重道远。

两个黑箱问题

DNN 在很多复杂任务上取得了前所未有的进展，如人脸识别、围棋以及Atari游戏，但是其解决方案也远远超出了我们的理解范围，成为了一个名副其实的黑箱。这种黑箱模型在很大程度上能够简单便捷地解决许多实际问题，但是从科学研究和实际应用的角度上看，我们需要理解并改变世界，只有破解DNN 的黑箱问题之后，才能更好地运用并改善该模型，同时提升实际应用中的可靠性。

在这种黑箱问题背景下，建立更加优秀而且可理解的神经网络系统成为一个热门的研究方向。许多研究者都认可：DNN 的图像处理模型与动物的视觉处理通路具有相似之处，动物的视觉处理通路存在感受野、方向选择性以及分级处理等特性，而模仿动物视觉信息处理的DNN 也具有类似的特性；此外，DNN的快速发展也促进了视觉神经科学方面的研究，形成了有效的正反馈；从更加宏观的角度来看，感受野、方向选择性、分级处理这些特性也会使DNN 和动物视觉信息处理在更高层次上具有一定的相似性。这种共同点以及两者相互促进的机制正是开展DNN 黑箱问题与认知心理学的交叉研究的基础。破解DNN 黑箱问题，首当其冲的是为该问题建立一套完整的问题描述方法及实验研究方法；由于DNN 与脑神经网络存在一定的共性，因此DNN 黑箱问题与脑神经科学的交叉研究正是一种行之有效的方法。尽管脑神经网络是一个更加庞大的黑箱，但是人们对于大脑的解码走在DNN黑箱问题的前面，对大脑的研究已经建立了一套系统的研究方法，这套研究方法也可以作为DNN 黑箱问题的基础。