决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。
决策树法的几个关键步骤是：
1、画出决策树，画决策树的过程也就是对未来可能发生的各种事件进行周密思考、预测的过程，把这些情况用树状图表示出来．先画决策点，再找方案分枝和方案点．最后再画出概率分枝。
扩展资料
决策树的优点
1、决策树易于理解和实现. 人们在通过解释后都有能力去理解决策树所表达的意义。
2、对于决策树，数据的准备往往是简单或者是不必要的 . 其他的技术往往要求先把数据一般化，比如去掉多余的或者空白的属性。
3、能够同时处理数据型和常规型属性。其他的技术往往要求数据属性的单一。
4、 在相对短的时间内能够对大型数据源做出可行且效果良好的结果。
5、对缺失值不敏感
6、可以处理不相关特征数据
7、效率高，决策树只需要一次构建，反复使用，每一次预测的最大计算次数不超过决策树的深度。
决策树的缺点
1、对连续性的字段比较难预测。
2、对有时间顺序的数据，需要很多预处理的工作。
3、当类别太多时，错误可能就会增加的比较快。
4、一般的算法分类的时候，只是根据一个字段来分类。
5、在处理特征关联性比较强的数据时表现得不是太好
依据y坐标将六个点划分为两个子类，水平线上面的两个点是同一个分类，但是水平线之下的四个点是不纯净的。
对这四个点进行再次分类，以x左边分类，通过两层分类，现了对样本点的完全分类。
决策树是一种具有树状结构的分类和预测工具，其中每个内部节点表示对一个属性的测试，每个分支表示测试的结果，每个叶节点(终端节点)持有一个类标签。
扩展资料
决策树算法的关键
1、分裂属性的选择
即选择哪个自变量作为树叉，也就是在n个自变量中，优先选择哪个自变量进行分叉。
2、树剪枝
即在构建树叉时，由于数据中的噪声和离群点，许多分支反映的是训练数据中的异常，而树剪枝则是处理这种过分拟合的数据问题，常用的剪枝方法为先剪枝和后剪枝。
参考资料来源：百度百科-决策树法
决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。
决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。
决策树算法构造决策树来发现数据中蕴涵的分类规则．如何构造精度高、规模小的决策树是决策树算法的核心内容。决策树构造可以分两步进行。第一步，决策树的生成：由训练样本集生成决策树的过程。一般情况下，训练样本数据集是根据实际需要有历史的、有一定综合程度的，用于数据分析处理的数据集。第二步，决策树的剪枝：决策树的剪枝是对上一阶段生成的决策树进行检验、校正和修下的过程，主要是用新的样本数据集（称为测试数据集）中的数据校验决策树生成过程中产生的初步规则，将那些影响预衡准确性的分枝剪除。
决策树分析法是一种运用概率与图论中的树对决策中的不同方案进行比较，从而获得最优方案的风险型决策方法。图论中的树是连通且无回路的有向图，入度为0的点称为树根，出度为0的点称为树叶，树叶以外的点称为内点。决策树由树根（决策节点）、其他内点（方案节点、状态节点）、树叶（终点）、树枝（方案枝、概率枝）、概率值、损益值组成。
决策树法用于风险性决策，就是在比较和选择活动方案时未来情况不止一种，管理者无法确定那种情况将发生，但是知道每种情况发生的概率。
决策树法是用树状图来描述各种方案在不同情况(或自然状态）下的收益，据此计算每种方案的期望收益从而作出决策的方法。
举例：
某企业为了扩大某产品的生产，拟建设新厂。据市场预测，产品销路好的概率为0.7，销路差的概率为0. 30有三种方案可供企业选择：
方案1、新建大厂，需投资300万元。据初步估计，销路好时，每年可获利100万元；销路差时，每年亏损20万元。服务期为10年。
方案2、新建小厂，需投资140万元。销路好时，每年可获利40万元；销路差时，每年仍可获利30万元。服务期为10年。
方案3 、 先建小厂，三年后销路好时再扩建，需追加投资200万元，服务期为7年，估计每年获利95万元。
问哪种方案最好？
决策树中，
矩形结点称为决策点，从决策点引出的若干条树枝枝表示若干种方案，称为方案枝。圆形结点称为状态点，从状态点引出的若干条树枝表示若干种自然状态，称为状态枝。图中有两种自然状态：销路好和销路差，自然状态后面的数字表示该种自然状态出现的概率。位于状态枝末端的是各种方案在不同自然状态下的收益或损失。据此可以算出各种方案的期望收益。
决策树如下图：
方案1的期望收益为：
[0.7×100+0.3×(-20)]×10 - 300=340（万元）
方案2的期望收益为：
(0.7×40+0.3×30) - 140= 230（万元）
至于方案3，由于结点④的期望收益465(= 95×7- 200)万元，大于结点⑤的期望收益280(= 40×7)万元，所以销路好时，扩建比不扩建好。
方案3（结点③）的期望收益为：(0.7×40×3+0.7 X465 +0.3×30×10) - 140= 359.5（万元）
计算结果表明，在三种方案中，方案3最好
在复杂的决策树中还会将利率（货币的时间价值因素）考虑进去，简单建模做出决策树以后计算收益或损失即可。
ID3算法，最简单的决策树
c4.5 是最经典的决策树算法，选择信息差异率最大的作为分割属性。
CART算法，适合用于回归