论文梳理了五大类知识与深度神经网络的融合方法,包括数据级融合、特征级融合、网络级融合、学习级融合和决策级融合。这些方法旨在不影响网络自身抽象与泛化能力的基础上,将知识自然融入解译过程,提升了模型的解译能力和可解释性。
(1)数据级融合(Data Level Incorporation)是指利用知识生成、标记、或加工训练数据,将知识内化在训练数据中,使用这样的数据训练出的解译模型一般会倾向于得到知识所属意的结果。
(2)特征级融合(Feature Level Incorporation)是指将知识通过特征的形式加入到解译模型中,与原有的数据特征进行联合共同作为解译结果判别的依据。
(3)网络级融合(Network Level Incorporation)是指将知识反映在深度神经网络等模型的结构中,利用知识引导或启发网络结构的设计,从而较为直接的贯彻知识的内涵与意图。
(4)学习级融合(Learning Level Incorporation)是指通过各种机器学习模式将知识学习到所用的解译模型当中,实现知识的迁移、泛化、或强化,提升智能解译模型能力。
(5)决策级融合(Decision Level Incorporation)是指在最终的决策环节引入知识,利用已知的业务规范、行业惯例、判别规则等对结果进行判定、筛选过滤或二次加工处理。