• 决策树和朴素贝叶斯算法简介

    本节主要介绍数据挖掘中常见的分类方法决策树和朴素贝叶斯算法。

    决策树算法

    决策树(Decision Tree,DT)分类法是一个简单且广泛使用的分类技术。

    决策树是一个树状预测模型,它是由结点和有向边组成的层次结构。树中包含3种结点:根结点、内部结点和叶子结点。决策树只有一个根结点,是全体训练数据的集合。

    树中的一个内部结点表示一个特征属性上的测试,对应的分支表示这个特征属性在某个值域上的输出。一个叶子结点存放一个类别,也就是说,带有分类标签的数据集合即为实例所属的分类。

    1. 决策树案例

    使用决策树进行决策的过程就是,从根结点开始,测试待分类项中相应的特征属性,并按照其值选择输出分支,直到到达叶子结点,将叶子结点存放的类别作为决策结果。

    图 1 是一个预测一个人是否会购买电脑的决策树。利用这棵树,可以对新记录进行分类。从根结点(年龄)开始,如果某个人的年龄为中年,就直接判断这个人会买电脑,如果是青少年,则需要进一步判断是否是学生,如果是老年,则需要进一步判断其信用等级。

    预测是否购买电脑的决策树
    图 1  预测是否购买电脑的决策树

更多...

加载中...