京公网安备 11010802034615号
经营许可证编号:京B2-20210330
对于机器学习或者是深度学习模型来说,我们既希望这个模型能在训练数据中表现良好(训练误差),又希望这个模型在测试集中也能有良好的表现(泛化误差)。而过拟合和欠拟合就是用来描述泛化误差的。欠拟合问题与过拟合问题,一直是模型训练中的难题,我们常常需要对这二者进行权衡,今天小编给大家整理、分享的就是欠拟合问题产生的原因以及解决办法,希望对大家有所帮助。
一、什么是欠拟合
欠拟合underfiting / high bias,就是指模型不能在训练集上获得足够低的误差,在训练集、验证集以及测试集上均表现不佳的情况。用偏差和方差来解释就是,欠拟合的时候为高偏差(偏差描述的是模型的期望输出与真实输出之间的差异)。
出现欠拟合的原因是模型尚未学习到数据的真实结构。因此欠拟合可以简单理解为:模型对训练数据的信息提取不充分,并没有学习到数据背后的规律,导致模型应用在测试集上时,无法做出正确的判断。
欠拟合,模型拟合程度不高,数据距离拟合曲线较远,不能够很好地拟合数据。
二、欠拟合解决办法
1、做特征工程,添加其他特征项,有时候欠拟合出现的原因是:特征项不够,没有足够的信息支持模型做判断。这时候我们可以通过添加其他特征项来解决。例如,“组合”、“泛化”、“相关性”、“上下文特征”、“平台特征”等等,都能够作为特征添加的首选项。
2、添加多项式特征,这种做法在机器学习算法里面很常用,举个例子,比如将线性模型通过添加二次项或者三次项使模型泛化能力更强。
3、减少正则化参数,正则化的目标是:防止过拟合的,现在模型是欠拟合,就需要减少正则化参数。
4、增加模型复杂度。模型如果太简单,就不能应对复杂的任务。我们可以通过使用更加复杂的模型,来减小正则化系数。比如可以使用核函数,集成学习方法(集成学习方法boosting(如GBDT)能有效解决high bias),深度学习等。
以上就是小编今天跟大家分享的一些欠拟合的相关知识,希望对大家处理和解决欠拟合问题有所帮助。其他机器学习和深度学习的知识,小编也会继续整理,希望大家多多关注。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
【核心关键词】知识、设备、工程师、数字化、建模、算法、工业大数据、数据分析、控制算法、机器学习、深度学习、业务目标、工 ...
2026-08-05增长率是数据分析、业务报表、可视化看板中最核心的指标之一,常用于衡量营收、销量、用户量、流量等业务数据的涨跌幅度与发展趋 ...
2026-08-05小陈是某电商平台的数据分析师。老板交给他一个任务:“我们平台的注册用户已经突破1000万了,想了解一下用户的平均月消费金额。 ...
2026-08-05在机器学习建模、数据预处理、抽样划分、模型初始化训练的全流程中,随机种子是控制实验随机性、保证结果可复现、提升模型稳定性 ...
2026-08-04Python作为面向对象的主流编程语言,核心编程体系由变量、方法、类三大基础要素构成。三者层层递进、相互协作,支撑起所有基础代 ...
2026-08-04 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-08-04为什么学习数据分析? 当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运 ...
2026-08-03CDA等级认证证书有效期为三年,三年进行一次年审,主要考察CDA持证人的职业发展情况;学历、工作单位及职业变更情况;继续教育 ...
2026-08-03【核心关键词】金融、岗位、企业、算法、知识、专业、理论、课程、软件、数据分析、业务类型、应用场景、经营管理、大型企业、 ...
2026-08-03在日常数据分析、业务报表复盘、业绩预测工作中,平均增长率是衡量数据长期变化趋势的核心指标,广泛用于营收增长、用户增长、销 ...
2026-08-03很多人把统计学理解为“一堆公式和计算”,却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手,不是会算平 ...
2026-08-03在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中,“先检验信效度,再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高,后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29