热线电话:13121318867

登录
2020-03-30 阅读量: 1477
机器学习:boosting提升方法关于样本权重更新问题

问:为什么预测错的部分下一次反而增大他的权重呢?这样不是对结果的准确性影响更大吗?

答:集成算法boosting法中的权重,会自动使得每次预测错误的那些样本权重之和为1/2,剩下正确的之和也为1/2;模型每次会把预测错的样本的权重增加,突出这个样本,已达到对模型进行预警,模型就会自动进行调整,重点将预测错误的那部分样本进行关注,再次预测时达到尽量让其预测正确的目的,就这样逐步调整和优化直到最优。

这里增加的权重可以理解成增加的损失函数里的权重,要和特征列的权重区分开。

9.7892
1
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子