2020-05-27
阅读量:
2180
xgboost是有放回抽样,这个怎么理解?
xgboost属于boosting算法,boosting算法和bagging算法的一个区别不就是boosting算法训练集样本是不变的,而bagging是有放回抽样,基训练器之间是相互独立的,但是xgboost却有有放回抽样,这个怎么理解

此图为xgboost 的原理图。
此图的理解为:

xgboost之前有放回抽样是因为xgboost是一种提升树模型,而所用到的树模型则是CART回归树模型。
我们都知道树模型是天生过拟合的模型,并且如果数
据量量太过巨 大,树模型的计算会非常缓慢,因此,我们要对我们的原始数据集进行有放回抽样(bootstrap)。
无论是装袋还是提升的集成算法中,有放回抽样都是我们防止过拟合。所以xgboost是有放回的抽样。







评论(0)


暂无数据
推荐帖子
0条评论
0条评论
0条评论