数据科学专业问答社区，好文章，一字千金--CDA答疑社区

热线电话：13121318867

登录

赵娜0418

梯度提升和梯度下降的区别和联系是什么？

梯度提升和梯度下降的区别和联系是什么？答：如下图是梯度提升算法和梯度下降算法的对比情况。可以发现，两者都是在每一轮迭代中，利用损失函数相对于模型的负梯度方向的信息来对当前模型进行更新，只不过在梯度下降中，模型是以参数化形式表示，从而模型的更新等价于参数的更新。而在梯度提升中，模型并不需要进行参数化表示，而是直接定义在函数空间中，从而大大扩展了可以使用的模型种类。

0.0000

0

1

0

关注作者

收藏

赵娜0418

什么是偏差和方差？

什么是偏差和方差？答：在有监督学习中，模型的泛化误差来源于两个方面——偏差和方差，具体来讲偏差和方差的定义如下：偏差指的是由所有采样得到的大小为m的训练数据集训练出的所有模型的输出的平均值和真实模型输出之间的偏差。偏差通常是由于我们对学习算法做了错误的假设所导致的，比如真实模型是某个二次函数，但我们假设模型是一次函数。由偏差带来的误差通常在训练误差上就能体现出来。方差指的是由所有采样得到的大

0.0000

0

6

0

关注作者

收藏

读童话的狼

在考虑确定性因素是到均值,而不是到水平的地方?

这是由回归直线决定的，参看下面公式：

0.0000

0

2

0

关注作者

收藏

赵娜0418

可否将随机森林中的基分类器由决策树替换为线性分类器或K-近邻

可否将随机森林中的基分类器，由决策树替换为线性分类器或K-近邻？为什么？答：随机森林属于Bagging类的集成学习。Bagging的主要好处是集成后的分类器的方差，比基分类器的方差小。Bagging所采用的基分类器，最好是本身对样本分布较为敏感的（即所谓不稳定的分类器），这样Bagging才能有用武之地。线性分类器或者K-近邻都是较为稳定的分类器，本身方差就不大，所以以它们为基分类器使用Bagg

0.0000

0

3

0

关注作者

收藏

赵娜0418

常用的基分类器是什么？

常用的基分类器是什么？答：最常用的基分类器是决策树，主要有以下3个方面的原因。（1）决策树可以较为方便地将样本的权重整合到训练过程中，而不需要使用过采样的方法来调整样本权重。（2）决策树的表达能力和泛化能力，可以通过调节树的层数来做折中。（3）数据样本的扰动对于决策树的影响较大，因此不同子样本集合生成的决策树基分类器随机性较大，这样的“不稳定学习器”更适合作为基分类器。此外，在决策树节点分

0.0000

0

3

0

关注作者

收藏

赵娜0418

集成学习分哪几种？他们有何异同？

集成学习分哪几种？他们有何异同？答：1、 BoostingBoosting方法训练基分类器时采用串行的方式，各个基分类器之间有依赖。它的基本思路是将基分类器层层叠加，每一层在训练的时候，对前一层基分类器分错的样本，给予更高的权重。测试时，根据各层分类器的结果的加权得到最终结果。Boosting的过程很类似于人类学习的过程，我们学习新知识的过程往往是迭代式的，第一遍学习的时候，我们会记住一

0.0000

0

3

0

关注作者

收藏

读童话的狼

老样本预测模型和新样本预测模型区别是什么？

对于一个贷款问题，老样本预测就是你在这个银行贷过款，判断要不要给你贷款，新样本预测就是你之前没有贷过款

0.0000

0

6

0

关注作者

收藏

赵娜0418

降维算法可以用在什么地方？

降维算法可以用在什么地方？答：主成分分析（Principal Component Analysis (PCA)）主成分回归（Principal Component Regression (PCR)）偏最⼩⼆乘回归（Partial Least Squares Regression(PLSR)）Sammon 映射（Sammon Mapping）

0.0000

0

1

0

关注作者

收藏

田齐齐

线性回归中ZPRED和ZRESID指的是什么？

ZPRED 指的是预测值的标准值，ZRESID 指的是残差。

0.0000

0

2

0

关注作者

收藏

读童话的狼

R方是哪些变量计算出来的？

R方是所有变量计算出来的公式如下：

29.6471

1

4

0

关注作者

收藏

赵娜0418

使用Hopfield ⽹络有什么优势吗？

使用Hopfield ⽹络有什么优势吗？答：优点：在语⾳、语义、视觉、各类游戏（如围棋）的任务中表现极好。算法可以快速调整，适应新的问题。缺点：需要⼤量数据进⾏训练训练要求很⾼的硬件配置模型处于「⿊箱状态」，难以理解内部机制元参数（Metaparameter）与⽹络拓扑选择困难。

0.0000

0

5

0

关注作者

收藏

田齐齐

变量的理解

变数或变量，是指没有固定的值，可以改变的数。变量以非数字的符号来表达，一般用拉丁字母。变量是常数的相反。变量的用处在于能一般化描述指令的方式。结果只能使用真实的值，指令只能应用于某些情况下。变量能够作为某特定种类的值中任何一个的保留器。

0.0000

0

4

0

关注作者

收藏

读童话的狼

残差图怎么看？

一般来说，标准化残差落随机的在正负3之间，图形大致呈现为长轴为0的椭圆，就可以认为残差是正态的

0.0000

0

2

0

关注作者

收藏

田齐齐

线性回归中分类变量为X轴的偏回归图为什么是连续的坐标

这是因为线性回归模型中，分类型自变量也受到了其他变量的影响，将它连续化表示了，不影响。

0.0000

0

4

0

关注作者

收藏

田齐齐

残差的分布

一个好的残差，基本成正态分布。

0.0000

0

4

0

关注作者

收藏

田齐齐

新样本预测和老样本预测举例

例如银行客户贷款问题，预测一个老客户在未来贷款后能不能按时还钱就是老样本预测，而预测一个不属于本行客户的人假如未来在本行借了贷款会不会按时还，就是新样本预测。

0.0000

0

3

0

关注作者

收藏

赵娜0418

回归算法有哪些？

回归算法有哪些？答：普通最⼩⼆乘回归（Ordinary Least Squares Regression，OLSR）线性回归（Linear Regression）逻辑回归（Logistic Regression）逐步回归（Stepwise Regression）多元⾃适应回归样条（Multivariate Adaptive Regression Splines，MARS）本地散点平滑估

0.0000

0

1

0

关注作者

收藏

读童话的狼

内生性问题如何处理？

常见的内生性问题有样本选择偏差、遗漏变量、反向因果等等，处理这方面的技术手段一般常用的有工具变量法、倾向得分匹配、双重差分(三重差分)、heckman两阶段、断点回归

0.0000

0

4

0

关注作者

收藏

读童话的狼

异常值需要删除吗？

以场景而定，统计学中往往会删除，业务中不删除，异常值不是错误值，需要单独分析

0.0000

0

3

0

关注作者

收藏

读童话的狼

如何去除截距项建回归模型？

在建立模型时，去掉在模型中包含截距项前的对号

29.6471

1

1

0

关注作者

收藏

<1…771772773…1217>

CDA考试动态

CDA报考指南