决策树标签_码道开发者社区

决策树

机器学习——决策树算法详解

本文以泰坦尼克号生存预测为实际案例，全面介绍了决策树算法的理论基础和实际应用。文章首先阐述了决策树的核心概念，包括信息增益、基尼不纯度、信息增益比等关键算法原理，以及预剪枝和后剪枝等优化策略。随后详细分析了泰坦尼克号数据集的特征构成和预处理方法，通过完整的代码实现展示了从数据加载、特征工程、模型训练到结果评估的全流程。在模型评估部分，重点介绍了混淆矩阵、精确率、召回率、F1值、AUC等关键指标的计

 lyx3313696759
2025-09-08 11:55:09

 711

 13

#机器学习 #算法 #决策树
机器学习04——决策树（信息增益、信息增益率、ID3、C4.5、CART、剪枝、连续值缺失值处理）

决策树是一种基于分而治之思想的监督学习模型，通过递归划分样本构建树状结构。核心流程包括选择最优划分属性（信息增益、增益率或基尼指数）、递归生成节点直至满足终止条件。为避免过拟合，可采用预剪枝或后剪枝处理。针对连续值使用二分法确定最优划分点，缺失值则通过修正信息增益和权重分配处理。多变量决策树通过属性线性组合实现更灵活的分类边界。经典算法包括ID3、C4.5和CART等，各有其适用场景和优缺点。

君名余曰正则
2025-09-09 09:16:31

 1249

 12

#机器学习 #决策树 #人工智能
【机器学习】通过决策树的视角看图像

众所周知，基于决策树的模型在各种分类和回归任务中表现优异，通常用于结构化的表格数据。但结合合适的工具后，决策树同样可以对非结构化数据（如文本、图像，甚至时间序列数据）发挥强大的预测作用。本文演示了如何通过将图像数据转化为结构化、有意义的特征，使决策树能够理解图像。具体来说，我们将展示如何把原始的像素级图像数据转化为更高层次的特征，这些特征描述了图像的属性，例如颜色直方图和边缘数量。随后，我们将利用

 秋说
2025-09-10 15:42:30

 3116

 32

#机器学习 #决策树 #人工智能
【机器学习】用决策树理解文本

基于决策树的模型在处理各类分类和回归任务时表现出色，尤其是针对结构化的表格数据。然而，当结合适当的工具时，决策树也能成为处理非结构化数据（如文本、图像，甚至时间序列数据）的强大预测工具。本文将展示如何针对文本数据构建决策树。具体而言，我们会在用于垃圾邮件分类的决策树中引入 TF-IDF 和嵌入等文本表示技术，评估其性能，并将结果与另一种文本分类模型进行比较——所有操作均借助 Python 的 Sc

秋说
2025-09-10 16:47:10

 3008

 16

#机器学习 #决策树 #人工智能
机器学习第四章：决策树

决策树就是来对问题进行判断的过程，类似于我们人的脑回路的流程。以二分类问题为例，一个样本有很多个属性，我们依次对每个属性进行判断，只有这个属性满足正类的特征，我们才判断下一个属性，最后得出最终结论：这个样本是不是正类。一个决策树包含一个根节点，多个叶节点，多个内部节点。根节点包含样本全集，内节点对应一个属性测试，。决策树学习的目的就是为了产生一棵泛化能力强的决策树，我们希望用它来帮我们做决策。那么

 Schnappi_cc
2025-09-11 20:47:17

 679

 16

#机器学习 #决策树 #人工智能
机器学习（9）：决策树

决策树是一种监督学习算法，通过递归分割构建树形结构（根节点、内部节点、叶节点）进行分类或回归。其核心是特征选择，常用信息增益（ID3）、信息增益率（C4.5）或基尼系数（CART）作为划分标准。构建过程会设置停止条件防止过拟合，并通过预剪枝（参数控制）或后剪枝（事后修剪）优化模型。决策树优势在于可解释性强、预处理简单，但存在过拟合风险和不稳定性。实践中常采用随机森林、梯度提升树等集成方法提升性能。

gsghxbr
2025-09-17 08:11:04

 1646

 37

#机器学习 #决策树 #人工智能
机器学习实战第六章决策树

文章摘要决策树是一种透明且强大的机器学习模型，本文深入解析其核心原理与应用。重点介绍了CART算法如何通过基尼杂质或信息熵指标构建分类与回归树，揭示了决策树作为"白盒"模型在解释性方面的独特优势。文章还详细探讨了max_depth、min_samples_split等关键正则化参数的使用技巧，帮助读者有效避免过拟合问题。最后客观分析了决策树对轴向敏感和高方差的局限性，为后续学

 hi0_6
2025-09-17 12:00:00

 1117

 18

#机器学习 #决策树 #人工智能 +1
吴恩达机器学习笔记五

机器学习中的偏差和方差是影响模型性能的关键因素：偏差反映模型未能学习数据核心规律，导致欠拟合；方差反映模型过度拟合噪声，导致过拟合。解决高方差可通过简化模型、数据增强或正则化，解决高偏差则需增加模型复杂度或补充特征。决策树通过信息增益选择最优划分特征，以降低熵值。模型评估中，准确率和召回率的平衡可通过F-score衡量。迁移学习可利用预训练模型提升小数据集上的表现。机器学习完整周期包括数据收集、模

 m0_72765463
2025-09-19 09:06:24

 1153

 43

#机器学习 #人工智能 #决策树
python文本评论情感分析预测 KNN算法SVM算法朴素贝叶斯算法决策树算法 MINIST数据机器学习大数据毕业设计（建议收藏）✅

python文本评论情感分析预测 KNN算法SVM算法朴素贝叶斯算法决策树算法 MINIST数据机器学习大数据毕业设计（建议收藏）✅

源码之家
2025-09-20 16:00:00

 1734

 49

#算法 #机器学习 #python +2
决策树算法的核心应用场景、概念原理、Python完整代码实现与参数设置、性能调优附小白零基础友好入门Python机器学习与数据分析学习教材

决策树是一种基于树状结构的监督学习算法，适用于分类和回归任务。其核心优势在于规则可解释性、混合数据处理能力及快速原型开发，广泛应用于金融风控、医疗诊断、电商运营等领域。算法通过递归划分特征（如信息增益、基尼指数）构建决策路径，支持预剪枝和后剪枝优化。Python实现示例展示了从数据准备到模型评估的全流程，并推荐通过集成学习（如随机森林）和参数调优提升性能。两本入门级图书《Python机器学习原理与

 数据科学作家
2025-09-23 09:34:42

 1175

 21

#算法 #决策树 #python +3
深度学习（神经网络、决策树）第一周——如何在神将网络进行推理

层（layer）：是一组或一个神经元，它们以相同的或相似的特征作为输入，并依次输出一些数字。以下是预测一种T恤成为畅销品的概率，有四个特征作为特征向量x来输入，它们会影响顾客的可负担性、认知度和感知质量，其中，输出的概率也叫激活值，其实这就是一个逻辑回归,输入特征向量后通过逻辑回归来预测成为畅销品的概率。黄色为输入层，中间蓝色为中间层，也叫隐藏层，右边粉色叫输出层。

m0_63314401
2025-09-24 11:49:46

 1178

 26

#深度学习 #神经网络 #决策树
【机器学习】从单棵树到森林：用集成方法提升房地产预测

本文深入探讨了基于树的建模技术，使用 Ames Housing 数据集作为示例。从基础的数据预处理开始，包括类别转换、缺失值处理和编码方法，然后逐步评估并改进决策树模型，最终引入 Bagging 和随机森林的集成方法进行比较分析。文章通过实例演示了随着树的数量变化，模型性能的增量改善与差异，为读者提供了完整的树模型预测建模理解框架。

秋说
2025-09-26 10:50:57

 1199

 26

#机器学习 #人工智能 #决策树 +2
机器学习——决策树详解

决策树算法比较与选择决策树是一种常用的机器学习算法，主要包括ID3、C4.5和CART三种主要类型。ID3树使用信息增益作为特征选择标准，但倾向于选择取值多的特征；C4.5树引入信息增益率来修正这一偏差；CART树则采用基尼指数，适用于分类和回归任务。算法选择应基于数据特点：ID3适用于离散特征，C4.5能处理连续值和缺失值，CART则更适合处理数值型数据。实际应用中需注意过拟合问题，可通过剪枝

 m0_74069207
2025-09-26 15:53:01

 850

 8

#机器学习 #决策树 #人工智能
【机器学习与实战】分类与聚类算法：决策树

【机器学习与实战】分类与聚类算法：决策树

 AI小云
2025-09-28 09:00:00

 738

 9

#机器学习 #算法 #分类 +3
学习总结：机器学习——决策树可视化

feature_names = cancer.feature_names,#feature_names 指定特征名称使用cancer.feature_names（乳腺癌数据集的30个特征名）class_names = ["malignant","benign"],#class_names定义类别标签 ["malignant","benign"]对应乳腺癌良恶性分类。#cancer.target_

Nmx246813579
2025-09-29 11:06:06

 309

 5

#机器学习 #学习 #决策树
机器学习破解疾病影响人体的密码

"这项工作的最大成果之一是发现了这组似乎通过级联网络效应起作用的药物，间接影响了病毒攻击的蛋白质，"Zitnik说。从她早期与生物医学社区的合作中，她深知获取和整理高质量医学数据以训练机器学习模型的困难。TDC的核心是专注于药物发现和开发的开源数据集和最先进的机器学习模型的集合，伴随着更广泛的资源和工具生态系统，包括尖端机器学习模型的基准测试和排行榜。"我们需要在许多不同类型的健康数据上反复训练我

 codeshare1135
2025-09-29 18:04:13

 765

 10

#机器学习 #人工智能 #AIGC +1
机器学习决策树与大模型的思维树

机器学习决策树与大模型的思维树

 缘友一世
2025-10-04 21:42:51

 1305

 20

#机器学习 #决策树 #人工智能
机器学习-决策树

决策树（Decision Tree）是机器学习中监督学习算法的经典代表，因其逻辑类似人类决策过程而得名。想象你判断 “是否出门野餐”：先看 “是否下雨”，再看 “温度是否适宜”，最后看 “有无同伴”—— 这种层层判断的逻辑链，就是决策树的核心思想。在机器学习中，决策树的结构包含三个关键部分：决策树的优势的是可解释性极强（能清晰看到决策过程）、无需特征归一化、对异常值不敏感，缺点是容易过拟合（后

 2401_87006183
2025-11-13 12:49:04

 955

 27

#机器学习 #决策树 #人工智能
计算机毕业设计Python+决策树模型房价预测系统房价可视化房源推荐系统大数据毕业设计(源码+LW+PPT+讲解+教程)

摘要：本文探讨了Python结合决策树模型在房价预测中的应用。传统线性回归难以捕捉房价的非线性特征，而决策树模型凭借其自动学习能力成为主流技术。研究聚焦数据预处理、模型优化和可解释性增强，采用随机森林、XGBoost等集成方法提升精度。Python生态（如Scikit-learn、Pandas）简化了开发流程，但面临数据质量、跨区域泛化和实时性挑战。未来趋势包括轻量化模型、自动化框架和多模态数据

 haochengxu2022
2025-11-15 06:10:19

 1061

 24

#python #大数据 #hadoop +3
机器学习之决策树

决策树是一种应用广泛的归纳推理算法。在分类问题中，基于特征对样本进行分类，构成一棵包含一系列if-then规则的树，在数学上可以看成特征空间与类空间的条件概率分布。

Ying.♪
2025-12-08 21:19:42

 586

 22

#机器学习 #决策树 #人工智能
机器学习中的决策树

机器学习中的决策树

 缘友一世
2025-10-05 11:53:18

 1201

 23

#机器学习 #决策树 #人工智能
机器学习决策树学习笔记（1）

仅作为个人课上笔记，如有纰漏请各位大佬指正

 焦河
2025-10-08 20:59:19

 408

 5

#机器学习 #决策树 #学习
机器学习入门（2）-KNN,朴素贝叶斯，决策树，随机森林

K值取很小：容易受异常点影响K值取很大，容易受K值数量（类别）波动fit(X, y)—— 训练（存储数据）作用：把训练集的特征值X和目标值y“喂”进模型。KNN 的特殊性：它不像逻辑回归、神经网络那样需要学习参数。fit本质上只是把训练数据存起来，后续预测时用。所以fit在 KNN 里非常快。相当于告诉模型：训练集中这些样本（X_train）对应的类别是这些（y_train）。predict(X

2301_80484013
2025-10-10 17:00:13

 861

 28

#机器学习 #决策树 #随机森林
基于机器学习的生态驾驶辅助

本文提出一种基于C4.5决策树的驾驶风格评价模型与学习路径规划（LPP）算法，用于手动变速公交车的生态驾驶辅助。通过分析驾驶行为特征，模型可评估燃油经济性并生成个性化改进路径。仿真结果表明，该方法能在不影响驾驶任务的前提下，降低燃油消耗6.25%，提升驾驶员对系统的接受度。

html8
2025-10-12 08:44:27

 713

 10

#决策树
Python机器学习实战：requests爬车主之家+多算法预测汽车销量分析 ARIMA 决策树回归算法 Ridge岭回归算法（Flask+可视化源码）✅

Python机器学习实战：requests爬车主之家+多算法预测汽车销量分析 ARIMA 决策树回归算法 Ridge岭回归算法（Flask+可视化源码）✅

q_3548885153
2025-10-12 11:22:47

 772

 16

#python #机器学习 #算法 +4
【机器学习入门】7.2 决策树的基本流程 —— 从递归逻辑到西瓜数据集实战

本文系统讲解了决策树的构建原理与核心逻辑。首先指出决策树构建的本质是递归选择最优属性划分样本，关键要解决"最优属性选择"和"停止条件"两个问题。详细拆解了决策树的递归构建流程，包括初始化节点、终止条件判断、选择最优属性和递归划分四个步骤。重点阐述了用信息熵衡量纯度、通过计算信息增益选择最优属性的方法，并以西瓜数据集为例演示了完整计算过程。最后强调了决策树需要

 zj51050_heartxy
2025-10-13 02:45:00

 1833

 41

#机器学习 #决策树 #人工智能
基于Django的社区设备报修住户反馈智能预测系统（可作为毕设使用，机器学习决策树算法）

本文提出了一种基于机器学习的社区设备报修住户反馈智能预测系统。针对传统人工报修方式效率低下的问题，系统采用Django框架和MySQL数据库构建，结合机器学习决策树算法实现维修预测和智能推荐。系统功能包括数据管理、可视化展示（Echarts）、住户反馈预测和维修资源优化配置，能有效提升社区维修效率和服务质量。通过数据分析和预测模型，为物业提供决策支持，推动社区管理信息化发展。系统测试表明，该方案可

 集美大bug
2025-10-15 19:30:00

 285

 5

#机器学习 #django #决策树
【机器学习入门】7.3 剪枝：一文读懂决策树剪枝的核心逻辑与实践

该文件围绕机器学习中决策树的剪枝技术展开，先介绍相关基础概念，包括错误率（m 个样本中 α 个错误时，E=α/m）、精度（1 - 错误率），以及训练误差（学习器在训练集上的误差）、泛化误差（学习器在新样本上的误差），指出目标是获得泛化性能好的学习器。接着阐述过拟合（将训练样本特点当作普遍性质致泛化下降）与欠拟合（未学好训练样本一般性质），并以树叶分类为例说明。核心部分讲解剪枝的两种基本策略：预剪枝

 zj51050_heartxy
2025-10-15 22:47:06

 777

 22

#机器学习 #人工智能 #决策树 +4
机器学习（决策树）

决策树是一种通过递归地选择最佳特征进行分裂，从而将数据集划分成更纯的子集，最终形成一棵树状结构的预测模型。核心：选择分裂特征的标准（信息增益、基尼指数）。关键：通过剪枝来平衡模型的复杂度和泛化能力，防止过拟合。价值：其可解释性在医疗、金融等需要决策透明的领域具有无可替代的优势。它是理解更复杂模型（如随机森林、梯度提升树GBDT/XGBoost）的基石，因为这些强大的算法正是由多棵决策树集成而来的。

weixin_43793703
2025-10-28 15:58:42

 818

 9

#机器学习 #决策树 #人工智能
计算机毕业设计Python+决策树模型房价预测系统房价可视化房源推荐系统大数据毕业设计(源码+LW+PPT+讲解+教程)

摘要：本文提出基于Python决策树的房价预测系统，通过特征工程优化和参数调优提升预测精度。系统采用五层架构处理房地产数据，使用CART算法构建回归树，在波士顿房价数据集上实现RMSE=2.8的预测性能，较线性回归提升35%。实验表明，系统能有效捕捉房价与面积、学区等特征的非线性关系，并提供可视化分析。未来可结合深度学习和时空特征进一步优化模型。（149字）

haochengxu2022
2025-11-15 06:10:32

 739

 26

#python #大数据 #决策树 +3
机器学习-决策树多种生成方法及实战代码详细讲解(C++/Python实现)

本文系统介绍了决策树算法的原理、代码实现。首先阐述了决策树的概念及其在分类问题中的应用，重点分析了三种核心算法：ID3(信息增益)、C4.5(信息增益率)和CART(基尼系数)，比较了它们的优缺点及适用场景。随后详细讲解了C++和Python的具体实现过程，包括数据结构设计、核心算法实现和可视化方法。文章最后展示了决策树模型在测试集上的评估结果，准确率达到较高水平，同时指出过拟合问题和剪枝优化的必

 saojiakre
2025-11-17 22:09:53

 1167

 29

#机器学习 #决策树 #python
机器学习-决策树剪枝处理(C++/Python实现)

本文介绍了决策树剪枝技术，重点分析了预剪枝和后剪枝两类方法。预剪枝包括限制树深度、基于验证集的早停法和信息增益阈值法，在树生成时同步处理；后剪枝则以错误率降低剪枝为代表，在树生成后进行优化。文章对比了两类方法的优缺点：预剪枝效率高但易欠拟合，后剪枝泛化能力强但计算量大。同时提供了C++和Python两种实现方案，核心思路都是通过比较剪枝前后的准确率来决定是否保留子树。实现中采用递归遍历和掩码技术优

 saojiakre
2025-12-02 22:31:01

 1320

 27

#机器学习 #决策树 #剪枝 +2
机器学习实验——决策树

决策树是监督学习中一类兼具分类与回归能力的模型，其核心思想是模拟人类决策逻辑 —— 通过对数据特征的层级化判断，逐步缩小决策范围，最终输出确定结果。因整个判断流程以 “根节点→内部节点→叶子节点” 的树形结构呈现（根节点为初始判断条件，内部节点为中间特征筛选，叶子节点为最终决策结果），故得名 “决策树与复杂算法相比，它无需依赖专业数学知识就能理解决策逻辑，是机器学习中可解释性最强的 “大众化算法”

2401_86931665
2025-12-11 19:13:23

 1120

 25

#机器学习 #决策树 #人工智能
机器学习之决策树

对于决策树的某个结点来说，对样本进行分类后可以使样本集尽可能有序，最大程度地降低样本数据的熵。决策树的关键是如何选择最优特征进行节点划分，目标是让划分后的子集尽可能 “纯净”（即同一子集内的数据类别尽量一致）。—— 通过对数据特征的层层判断，将复杂问题拆解为一系列简单的二元或多元判断，最终得出结论。对信息增益做了归一化修正，引入 “分裂信息”（衡量特征取值的均匀程度）。基于基尼不纯度（衡量数据被分

 Windfall213
2026-01-01 18:20:19

 694

 9

#机器学习 #决策树
机器学习-决策树

学习目标1.理解决策树算法的基本思想2.知道构建决策树的步骤决策树是什么？决策树是一种树形结构，树中每个内部节点表示一个特征上的判断，每个分支代表一个判断结果的输出，每个叶子节点代表一种分类结果决策树的建立过程1.特征选择：选取有较强分类能力的特征。2.决策树生成：根据选择的特征生成决策树。3.决策树也易过拟合，采用剪枝的方法缓解过拟合。Cart模型是一种决策树模型，它即可以用于分类，也可以用于回

 小刘哈哈哈
2026-01-04 12:57:40

 1114

 24

#机器学习 #决策树 #人工智能 +2
机器学习笔记_西瓜书_04（决策树）

决策树是一种树状监督学习模型，通过递归划分属性将复杂决策拆解为简单步骤。核心优势在于可解释性强、对数据要求低，适用于分类和回归任务。关键步骤包括：1）属性划分选择（信息增益、增益率或基尼指数）以提升纯度；2）剪枝处理防止过拟合。信息增益易偏好多值属性，增益率通过固有值修正这一问题，基尼指数则计算更高效。决策树广泛应用于医疗、金融等领域，也是集成学习的基础组件。

A_Sinon
2026-01-17 18:46:09

 743

 9

#机器学习 #决策树
决策树剪枝实战：从理论到C++/Python双语言实现

本文深入探讨决策树剪枝的必要性及实战技巧，涵盖预剪枝和后剪枝的多种方法，并提供C++和Python双语言实现方案。通过工业级案例展示剪枝如何有效解决过拟合问题，提升模型在嵌入式设备和高维数据场景下的性能，帮助开发者优化决策树模型的准确率和推理速度。

weixin_33734785
2026-04-03 02:33:04

 213

 1

#机器学习 #决策树 #剪枝
别再只会用pandas.cut了！金融风控实战：用决策树和卡方分箱提升模型效果的保姆级教程

本文深入解析金融风控中决策树分箱和卡方分箱的实战应用，帮助数据分析师超越基础的pandas.cut方法。通过详细的代码实现和评估流水线，展示如何利用有监督分箱技术提升模型效果，特别适合金融评分卡开发和风险预测场景。

巷中人
2026-05-18 05:30:44

 422

 3

#决策树
决策树实战：用Python手写ID3算法（附完整代码与数据集）

本文详细介绍了如何使用Python从零开始实现ID3决策树算法，包括信息熵与信息增益的计算、递归构建树结构等核心步骤。通过完整的代码示例和贷款审批数据集，帮助读者深入理解决策树算法的工作原理，并掌握实际应用中的优化技巧。

weixin_30879169
2026-03-26 03:04:26

 367

 7

#决策树 #机器学习