【学习】深入浅出理解决策树算法（一）-核心思想

决策树（decision tree）是一个树结构（ 可以是二叉树或非二叉树 ）。

其每个非叶节点表示一个 特征属性 上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个 类别 。

使用决策树进行决策的过程就是从 根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。

总结来说 ：

决策树模型核心是下面几部分 ：

• 结点和有向边组成
  

• 结点有内部结点和叶结点俩种类型

• 内部结点表示一个特征，叶节点表示一个类

决策树表示如下 ：

（摘自周志华老师西瓜书）

决策树代表实例属性值约束的合取的析取式 。

从树根到树叶的每一条路径对应一组属性测试的合取，树本身对应这些合取的析取。理解这个式子，比如上图的决策树对应表达式为 ：

2 决策实例

假如我现在告诉你，我买了一个西瓜，它的特点是纹理是清晰，根蒂是硬挺的瓜，你来给我判断一下是好瓜还是坏瓜，恰好，你构建了一颗决策树，告诉他，没问题，我马上告诉你是好瓜，还是坏瓜？

判断步骤如下：

根据纹理特征，已知是清晰，那么走下面这条路，红色标记：