2020-03-17
阅读量:
584
方差变化跟交叉验证的折数有什么关系？
当k值很小时，这里不妨假设为2，那么每次训练集大小为n/2，每次训练的数据量会偏小，取平均值后，由于每次训练的数据量比较小，所以会导致最终没有办法很好地学习到样本的分布，会导致偏差较大，不过方差较小。或者这么理解，由于k折交叉验证是使用k次训练的结果取平均值来进行预测的，如果只有两折交叉验证，每次对训练集的预测结果是使用一半的数据训练一半的数据预测，当数据集少时如果只针对本数据集预测，那么偏差会很小，但是该模型对两个不同的数据集进行了拟合，那么最后对同一个数据集的预测，一个会比较好，一个会比较差，平均以后的偏差就会比较大。相应的，由于拟合的不充分，方差就会比较小。
当k值很大时，假设为n折，那么每次训练集的大小为n-1，几乎等于原始数据集的大小了，可以更好地学习到样本的整体分布，这种情况下模型的偏差会偏小，但是方差偏大。可以这么理解，n折交叉验证那么训练数据就会有n份，每份之间的数据差异并不大，所以他们拟合出的平均值结果对训练数据集进行预测，偏差会比较小，但是由于对于给定的数据集充分地进行了学习，导致整体的方差会偏大。
0.0000
0
2
关注作者
收藏
评论(0)
发表评论
暂无数据
推荐帖子
赵娜0418
2020-09-07
0条评论
赵娜0418
2020-09-07
0条评论
赵娜0418
2020-08-09
3条评论