热线电话：13121318867

登录
热搜话题:
ai长文生成
Scikit-learn
Python
大数据
数据分析师
统计学
微积分
线性代数
Excel
Power BI
R语言
SPSS
Mysql
快速发帖
我要提问
liting李
2020-04-03 阅读量: 893
梯度提升和梯度下降有什么区别？

梯度提升，沿着残差减少的方向来构造树模型

梯度下降，沿着在任意点连续且可求导的损失函数的梯度反方向尝试逼近全局最小的损失函数值

6.7258
4
关注作者
收藏
评论(0)

发表评论

暂无数据
CDA考试动态
考试介绍
考试大纲
考试内容
考试地点
CDA报考指南
报考流程
考试时间
报名费用
联系我们
热门栏目
考试动态
报考指南
复习备考
职业发展
直播公开课
经验分享
推荐帖子
0条评论
CDA数据分析学习之机器学习中损失函数、代价函数和目标函数的区别
损失函数（Loss Function ）是定义在单个样本上的，算的是一个样本的误差。代价函数（Cost Function ）是定义在整个训练集上的，是所有样本误差的平均，也就是损失函数的平均。目标函数（Object Function）定义为：最终需要优化的函数。等于经验风险+结构风险（也就是Cost Function + 正则化项）。PS：关于目标函数和代价函数的区别还有一种通俗的区别：目标函数是
0条评论
自助法验证
自助法验证不管是 Holdout 检验还是交叉检验 ， 都是基于划分训练集和测试集的方法进行模型评估的 。 然而，当样本规模比较小时，将样本集进行划分会让训练集进一步减小 ，这可能会影响模型训练效果。有没有能维持训练集样本规模的验证方法呢？自助法可以比较好地解决这个问题 。自助法是基于自助采样法的检验方法 。 对于总数为 n 的样本集合 ，进行 n 次有放回的随机抽样 ，得到大小为 n 的训练集
0条评论
留一验证
留一验证：每次留下1个样本作为验证集， 其余所有样本作为测试集 。样本总数为 n ，依次对 n 个样本进行遍历，进行 n次验证 ，再将评估指标求平均值得到最终的评估指标 。 在样本总数较多的情况下，留一验证法的时间开销极大 。 事实上，留一验证是留 p 验证的特例 。 留 p 验证是每次留下 p 个样本作为验证集，而从 n 个元素中选择 p 个元素有C种可能, 因此它的时间开销更是远远高于留一验证
0条评论
k-fold 交叉验证
k-fold 交叉验证：首先将全部样本划分成 k 个大小相等的样本子集；依次遍历这 k 个子集，每次把当前子集作为验证集，真余所有子集作为训练集，进行模型的训练和评估；最后把 k 次评估指标的平均值作为最终的评估指标 。 在实际实验中， k 经常取 10。
Copyright © 2015-2020, www.pinggu.com All Rights Reserved. CDA数据分析师(北京国富如荷网络科技有限公司) 版权所有 京ICP备18052299号-1