
偏差与方差是我们在机器学习中经常遇到的两个概念,而且在有关机器学习的面试中,偏差与方差也经常拿来考验面试者的机器学习的基础知识。偏差与方差这两者看似简单,但要真正弄清楚两者之间的联系与区别,必须要下大功夫才可以。今天小编就为大家整理、分享偏差与方差的那些联系与区别。希望对大家有所帮助。
机器学习中,当我们用训练数据集去训练一个模型时,一般的做法就是定义一个误差函数,通过将这个误差的最小化过程,以此来提高模型的性能。但是,我们学习一个模型通常是为了解决训练数据集这一领域中的一般化问题,因此单纯地将训练数据集的损失最小化,并不能保证在解决更为一般的问题时,模型仍然是最优的,甚至连保证模型是否可用都不能保证。这个训练数据集的损失,与一般化的数据集的损失之间的差异,也就是泛化误差generalization error。而泛化误差又可以分解为以下三项:
偏差(Biase)、方差(Variance)和噪声(Noise)。
偏差Biase:描述的是所有可能的训练数据集训练出的所有模型的输出的平均值与真实模型的输出值之间的差异。偏差越大,越偏离真实数据,如上图第二行所示。
方差Variance:描述的是不同的训练数据集训练出的模型输出值之间的差异,也就是离其期望值的距离。方差越大,数据的分布越分散,如上图右列所示。
噪声Noise:是学习算法所无法解决的问题,数据的质量决定了学习的上限。假设在数据已经给定的情况下,此时学习的上限已经确定,而这时我们需要做的就是尽可能的接近这个上限。
泛化误差
以回归任务为例, 学习算法的平方预测误差期望为:
在一个训练集 D 上模型 f 对测试样本 x 的预测输出为 f(x;D), 那么学习算法 f 对测试样本 x 的 期望预测 为:
上面的期望预测也就是针对 不同 数据集 D, f 对 x 的预测值取其期望, 也被叫做 average predicted。
使用样本数相同的不同训练集产生的方差为:
噪声
噪声为真实标记与数据集中的实际标记间的偏差:
期望预测与真实标记的误差称为偏差(bias), 为了方便起见, 我们直接取偏差的平方:
我们回忆下刚才提到的泛化误差:
现在对该期望泛化误差进行分解:
对最终的推导结果稍作整理:
三、学习曲线
我们通常用使用代价函数J,也就是平方差函数,来评价数据拟合程度好坏。在只关注Jtrain(θ)(训练集误差)的情况下,通常会导致过拟合,因此也必须要关注Jcv(θ)也就是交叉验证集误差。学习曲线 的横轴是样本数,纵轴为 训练集 和 交叉验证集 的 误差。
高偏差:高偏差情况下,Jtrain(θ)和Jcv(θ)误差都很大,并且Jtrain很接近Jcv(θ)。对应欠拟合。
高方差:Jtrain(θ)较小,Jcv(θ)误差很大。对应过拟合。
在实际优化情况下,更多的是对防止过拟合参数λ的调整,λ对应的是正则化系数,λ越大,代表着对过拟合的限制越强。下图就是λ和,Jtrain(θ)和Jcv(θ)理想曲线。
推荐学习书籍
《CDA一级教材》适合CDA一级考生备考,也适合业务及数据分析岗位的从业者提升自我。完整电子版已上线CDA网校,累计已有10万+在读~
免费加入阅读:https://edu.cda.cn/goods/show/3151?targetId=5147&preview=0
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA 数据分析师报考条件全解析:开启数据洞察之旅 在当今数字化浪潮席卷全球的时代,数据已成为企业乃至整个社会发展的核心驱 ...
2025-07-01深入解析 SQL 中 CASE 语句条件的执行顺序 在 SQL 编程领域,CASE语句是实现条件逻辑判断、数据转换与分类的重要工 ...
2025-07-01SPSS 中计算三个变量交集的详细指南 在数据分析领域,挖掘变量之间的潜在关系是获取有价值信息的关键步骤。当我们需要探究 ...
2025-07-01CDA 数据分析师:就业前景广阔的新兴职业 在当今数字化时代,数据已成为企业和组织决策的重要依据。数据分析师作为负责收集 ...
2025-06-30探秘卷积层:为何一个卷积层需要两个卷积核 在深度学习的世界里,卷积神经网络(CNN)凭借其强大的特征提取能力 ...
2025-06-30探索 CDA 数据分析师在线课程:开启数据洞察之旅 在数字化浪潮席卷全球的当下,数据已成为企业决策、创新与发展的核心驱 ...
2025-06-303D VLA新范式!CVPR冠军方案BridgeVLA,真机性能提升32% 编辑:LRST 【新智元导读】中科院自动化所提出BridgeVLA模型,通过将 ...
2025-06-30LSTM 为何会产生误差?深入剖析其背后的原因 在深度学习领域,LSTM(Long Short-Term Memory)网络凭借其独特的记忆单元设 ...
2025-06-27LLM进入拖拽时代!只靠Prompt几秒定制大模型,效率飙升12000倍 【新智元导读】最近,来自NUS、UT Austin等机构的研究人员创新 ...
2025-06-27探秘 z-score:数据分析中的标准化利器 在数据的海洋中,面对形态各异、尺度不同的数据,如何找到一个通用的标准来衡量数据 ...
2025-06-26Excel 中为不同柱形设置独立背景(按数据分区)的方法详解 在数据分析与可视化呈现过程中,Excel 柱形图是展示数据的常用工 ...
2025-06-26CDA 数据分析师会被 AI 取代吗? 在当今数字化时代,数据的重要性日益凸显,数据分析师成为了众多企业不可或缺的角色 ...
2025-06-26CDA 数据分析师证书考取全攻略 在数字化浪潮汹涌的当下,数据已成为企业乃至整个社会发展的核心驱动力。数据分析师作 ...
2025-06-25人工智能在数据分析的应用场景 在数字化浪潮席卷全球的当下,数据以前所未有的速度增长,传统的数据分析方法逐渐难以满足海 ...
2025-06-25评估模型预测为正时的准确性 在机器学习与数据科学领域,模型预测的准确性是衡量其性能优劣的核心指标。尤其是当模型预测结 ...
2025-06-25CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-06-24金融行业的大数据变革:五大应用案例深度解析 在数字化浪潮中,金融行业正经历着深刻的变革,大数据技术的广泛应用 ...
2025-06-24Power Query 中实现移动加权平均的详细指南 在数据分析和处理中,移动加权平均是一种非常有用的计算方法,它能够根据不同数据 ...
2025-06-24数据驱动营销革命:解析数据分析在网络营销中的核心作用 在数字经济蓬勃发展的当下,网络营销已成为企业触达消费者 ...
2025-06-23随机森林模型与 OPLS-DA 的优缺点深度剖析 在数据分析与机器学习领域,随机森林模型与 OPLS-DA(正交偏最小二乘法判 ...
2025-06-23