集成算法（Emseble Learning）是构建多个学习器，然后通过一定策略将这些学习器组合起来，让它们来完成学习任务的，通常可以获得比单一学习显著优越的学习器。
常见的集成算法模型有：Bagging、Boosting、Stacking。下面小编对这三种模型进行简单的介绍。
1.Bagging的原理首先是在自助采样法(bootstrap sampling)的基础上，随机得到一些样本集训练，分别对不同的基学习器进行训练，然后对不同的基学习器得到的结果投票，从而得出最终的分类结果。自助采样法得到的样本大概会有63%的数据样本被使用，剩下的可以用来做验证集。
Bagging最典型代表是：随机森林
随机森林，需要分为随机和 森林来进行理解
随机就是每个分类器的数据采样和选择特征都是随机的，但是数量都是一样的,而且都是有放回的选取
2.Boosting 串行：以一个弱分类器开始，然后不断增加分类器，以权重参数表示其重要性
本思想是“逐步强化”。计算过程为：
所有样本权重相同，训练得到第一个弱分类器。
根据上一轮的分类效果，调整样本的权重，上一轮分错的样本权重提高，重新进行训练。
重复以上步骤，直到达到约定的轮数结束。
由于处于分类边界的点容易分错，因此会得到更高的权重。
典型代表是AdaBoost、XgBoost算法。
3.Stacking 堆叠：聚合使用多个分类器
计算过程：
使用多个分类器各自独立进行第一轮的的训练，然后测试得到第一轮的结果，
紧接着将第一轮的训练结果作为第二轮的训练输入，得出结果
不断迭代，直到达到迭代的次数限制为止。
优点：
Stacking综合使用了多个分类器，准确率很高，
第一轮中多个分类器独立训练，较好地避免了过拟合的现象出现。
缺点：效率非常低
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
Pandas 选取特定值所在行：6 类核心方法与实战指南 在使用 pandas 处理结构化数据时，“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络（SCNN） 为解决这一痛点，球面卷积神经网络（Spherical Convolutional Neural Network, SCNN） 应运而生。它通 ...
2025-09-30在企业日常运营中，“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”，金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗？基础方法、进阶技巧与场景边界 在数据分析领域，聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树：原理、优化与工业级实战指南 在机器学习领域，决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中，“设计标签逻辑” 只是第一步，真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键，在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时，折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时，“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号（如 “北京 ...
2025-09-28在 CDA（Certified Data Analyst）数据分析师的技能工具箱中，数据查询语言（尤其是 SQL）是最基础、也最核心的 “武器”。无论 ...
2025-09-28Cox 模型时间依赖性检验：原理、方法与实战应用 在生存分析领域，Cox 比例风险模型（Cox Proportional Hazards Model）是分析 “ ...
2025-09-26检测因子类型的影响程度大小：评估标准、实战案例与管控策略 在检测分析领域（如环境监测、食品质量检测、工业产品合规性测试） ...
2025-09-26CDA 数据分析师：以数据库为基石，筑牢数据驱动的 “源头防线” 在数据驱动业务的链条中，“数据从哪里来” 是 CDA（Certified D ...
2025-09-26线性相关点分布的四种基本类型：特征、识别与实战应用 在数据分析与统计学中，“线性相关” 是描述两个数值变量间关联趋势的核心 ...
2025-09-25深度神经网络神经元个数确定指南：从原理到实战的科学路径 在深度神经网络（DNN）的设计中，“神经元个数” 是决定模型性能的关 ...
2025-09-25在企业数字化进程中，不少团队陷入 “指标困境”：仪表盘上堆砌着上百个指标，DAU、转化率、营收等数据实时跳动，却无法回答 “ ...
2025-09-25MySQL 服务器内存碎片：成因、检测与内存持续增长的解决策略 在 MySQL 运维中，“内存持续增长” 是常见且隐蔽的性能隐患 —— ...
2025-09-24人工智能重塑工程质量检测：核心应用、技术路径与实践案例 工程质量检测是保障建筑、市政、交通、水利等基础设施安全的 “最后一 ...
2025-09-24CDA 数据分析师：驾驭通用与场景指标，解锁数据驱动的精准路径 在数据驱动业务的实践中，指标是连接数据与决策的核心载体。但并 ...
2025-09-24在数据驱动的业务迭代中，AB 实验系统（负责验证业务优化效果）与业务系统（负责承载用户交互与核心流程）并非独立存在 —— 前 ...
2025-09-23CDA 业务数据分析：6 步闭环，让数据驱动业务落地 在企业数字化转型中，CDA（Certified Data Analyst）数据分析师的核心价值，并 ...
2025-09-23
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
