热线电话:13121318867

登录
2020-05-27 阅读量: 2180
xgboost是有放回抽样,这个怎么理解?

xgboost属于boosting算法,boosting算法和bagging算法的一个区别不就是boosting算法训练集样本是不变的,而bagging是有放回抽样,基训练器之间是相互独立的,但是xgboost却有有放回抽样,这个怎么理解

此图为xgboost 的原理图。

此图的理解为:

xgboost之前有放回抽样是因为xgboost是一种提升树模型,而所用到的树模型则是CART回归树模型。

我们都知道树模型是天生过拟合的模型,并且如果数

据量量太过巨 大,树模型的计算会非常缓慢,因此,我们要对我们的原始数据集进行有放回抽样(bootstrap)。

无论是装袋还是提升的集成算法中,有放回抽样都是我们防止过拟合。所以xgboost是有放回的抽样。

8.7217
1
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子