热线电话:13121318867

登录
2020-03-22 阅读量: 704
信息增益和特征熵的关系

一个属性的信息增益越大,表明属性对样本的熵减少的能力更强,这个属性使得数据由不确定性变成确定性的能力越强。

所以如果是取值更多的属性,更容易使得数据更“纯”(尤其是连续型数值),其信息增益更大,决策树会首先挑选这个属性作为树的顶点。结果训练出来的形状是一棵庞大且深度很浅的树,这样的划分是极为不合理的。

14.4016
1
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子