决策树算法

决策树决策森林模型由决策树组成。决策森林学习算法例如随机森林至少在部分上依赖于决策树的学习。在本课程的这一部分中您将研究一个小型示例数据集并了解如何训练单个决策树。在下一部分中您将了解如何组合决策树来训练决策森林。YDF 代码在 YDF 中使用 CART 学习器训练各个决策树模型# https://ydf.readthedocs.io/en/latest/py_api/CartLearner import ydf model ydf.CartLearner(labelmy_label).train(dataset)模型决策树是一种由一系列以树形结构分层排列的“问题”组成的模型。这些问题通常称为条件、分块或测试。我们将在此类中使用“条件”一词。每个非叶节点都包含一个条件每个叶节点都包含一个预测结果。植物树通常是从根部向下生长然而决策树通常是从顶部的根第一个节点向下生长。图 1. 一个简单的分类决策树。绿色图例不属于决策树的一部分。决策树模型的推理是通过根据条件将示例从根节点位于顶部路由到某个叶节点位于底部来计算得出的。所到达叶子的值就是决策树的预测结果。访问过的节点集称为推理路径。例如请考虑以下地图项值num_legsnum_eyes42预测结果为狗。推理路径将如下所示num_legs ≥ 3 → 是num_eyes ≥ 3 → 否图 2. 在示例 *{num_legs : 4, num_eyes : 2}* 中以叶节点 *dog* 为终点的推理路径。在前面的示例中决策树的叶子包含分类预测也就是说每个叶子都包含一组可能的物种中的一种动物物种。同样决策树可以通过使用回归预测数值标记叶子来预测数值。例如以下决策树会预测动物的可爱程度得分介于 0 到 10 之间。